使用面向可观测性的 Elastic AI Assistant，获取感知上下文的见解

作者

Bahubali Shetti

2023年9月19日

Elastic^® 正在着力扩展 Elastic AI Assistant，这是一个开放的、生成式 AI 助手，由 Elasticsearch Relevance Engine™ (ESRE) 提供支持，致力于增强可观测性分析并使各种技能水平的用户都能使用。Elastic AI Assistant（在可观测性中处于技术预览阶段）可通过交互式助手为 SRE 提供感知上下文的信息，帮助他们转变识别和解决问题的方式，并消除在数据孤岛中手动追踪数据的过程。

Elastic AI Assistant 可增强对应用程序错误、日志消息解释、告警分析以及优化代码效率建议的理解。此外，借助 Elastic AI Assistant 的交互式聊天界面，SRE 无需切换任何窗口，在一个位置就能聊天并可视化所有相关的遥测数据，同时还可利用专有数据和运行手册了解更多的上下文信息。

虽然 AI Assistant 被配置为连接到您选择的 LLM，如 OpenAI 或 Azure OpenAI，但 Elastic 也允许用户向 AI 助手提供私人信息。私人信息可包括运行手册、过往事件的历史记录、案例历史记录等等。通过使用由 Elastic Learned Sparse EncodeR (ELSER) 提供支持的推理处理器，AI Assistant 可以访问最相关的数据，以回答特定问题或执行任务。

AI Assistant 可以通过持续使用来学习和扩展自己的知识库。SRE 可以向 AI Assistant 教授有关特定问题的知识，这样它就能在未来为相关场景提供支持，并帮助编写停机报告、更新运行手册和增强自动化根本原因分析。SRE 可以将 Elastic AI Assistant 强大功能与 Machine Learning 功能相结合，消除在数据孤岛中手动检索数据的过程，并有效提升 AIOps 速度，从而更快、更主动地查明和解决问题。

在这篇博客中，我们将回顾 8.10 版中在技术预览阶段提供的部分初始功能：

聊天功能 — 可在 Elastic 的任何屏幕上使用。
特定的预构建 LLM 查询 — 可针对以下方面获取更多上下文信息：
- 理解日志中消息的含义
- 从 Elastic APM 管理的服务中获得更好的错误管理选项
- 确定更多的上下文，以及如何针对日志告警进行潜在管理
- 了解如何在 Universal Profiling 中优化代码
- 了解在 Elastic 中监测的主机中有哪些特定进程

此外，您可以观看以下视频，了解我们在这种特定场景下使用的功能。

面向可观测性的 Elastic AI Assistant

作为一名 SRE，您会收到与日志条目数量超过阈值有关的告警。在 Elastic 可观测性中，您不仅会收到告警，而且 Elastic 可观测性还会实时添加相关的日志峰值分析，以帮助您更好地了解问题。

使用 AI Assistant 分析问题

不过，作为一名 SRE，您不一定要深入了解所负责的所有系统，也不需要更多帮助来解析日志峰值分析，因为 AI Assistant 可在这方面大显身手。

Elastic 会预构建一个提示，发送到您配置的 LLM，您不仅可以获得问题的描述和上下文，还可以获得有关后续操作的一些建议。

另外，您可以启动与 AI Assistant 的聊天，并深入进行调查。

正如您在上图的片段中看到的，您不仅可以获得关于“pgbench”问题的更多信息，还可以通过获取内部组织信息来调查这个问题对业务的影响。在这个案例中，我们了解到了：

交易吞吐率的显著变化如何影响我们的收入
出现日志峰值时收入下降的情况

这两个信息组件都是通过使用 ELSER 获得的；通过 ELSER，可帮助用户检索组织（私人）数据，以回答一些特定问题，而这些数据永远不会用于训练 LLM。

AI Assistant 聊天界面

那么，新的 AI Assistant 聊天界面可帮助您实现什么操作呢？通过聊天功能，您可与 Elastic AI Assistant 进行会话/对话，从而让您能够：

在查明问题和分析根本原因的过程中，使用自然语言界面，例如“今天是否有与这个服务相关的告警？”或者“您能解释一下这些告警具体是什么吗？”
根据内部私有数据（由 ELSER 提供）以及所连接 LLM 中的可用信息提供后续步骤和建议
分析来自查询的回复和 Elastic AI Assistant 执行的分析输出
回顾并总结整个对话中的信息
通过对话生成 Lens 可视化
通过聊天界面代表用户执行 Kibana^® 和 Elasticsearch^® API
使用特定 APM 函数执行根本原因分析，例如：get_apm_timeseries、get_apm_service_summary、get_apm_error_docuements、get_apm_correlations、get_apm_downstream_dependencies 等。

其他可访问 AI Assistant 的位置

面向可观测性的 Elastic AI Assistant 中的聊天功能最初将可在 Elastic 可观测性 8.10 版中的多个位置进行访问，未来版本中还将添加更多访问点。

所有可观测性应用程序的顶部操作菜单中都有一个按钮，可打开 AI Assistant 并开始对话：

用户既可通过单击 AI Assistant 中的“前往对话”链接来访问现有对话，也可创建新对话。

面向可观测性的 Elastic AI Assistant 中的新聊天功能增强了在 Elastic 可观测性 8.9 版中引入的功能，能够就 Elastic AI Assistant 在 APM、日志记录、主机、告警和分析中已提供的见解启动相关对话。

例如：

在 APM 中，它解释了特定错误或异常的含义，并提供了常见的原因和可能的影响。此外，您还可以通过对话进行深入调查。

在日志记录中，AI Assistant 会获取日志并利用上下文信息帮您理解消息；此外，您还可以通过对话进行深入调查。

配置 AI Assistant

有关如何配置 Elastic AI Assistant 的详细信息，请参阅 Elastic 文档。

AI Assistant 是基于连接器来工作的，最初会支持针对 OpenAI 和 Azure OpenAI 的配置。请注意，建议使用 GPT-4，并要求支持函数调用。如果您直接使用 OpenAI，您将自动拥有这些功能。如果您使用的是 Azure 版本，请确保根据 Azure 文档部署其中一个最新的模型。

此外，它还可以使用 yaml 作为预配置的连接器来进行配置：

xpack.actions.preconfigured:
  open-ai:
    actionTypeId: .gen-ai
    name: OpenAI
    config:
      apiUrl: https://api.openai.com/v1/chat/completions
      apiProvider: OpenAI
    secrets:
      apiKey: <myApiKey>
  azure-open-ai:
    actionTypeId: .gen-ai
    name: Azure OpenAI
    config:
      apiUrl: https://<resourceName>.openai.azure.com/openai/deployments/<deploymentName>/chat/completions?api-version=<apiVersion>
      apiProvider: Azure OpenAI
    secrets:
      apiKey: <myApiKey>

这项功能仅适用于拥有企业许可证的用户。面向可观测性的 Elastic AI Assistant 处于技术预览阶段，是一项需要许可才能使用的企业级功能。如果您不是 Elastic 企业用户，请进行升级，以访问面向可观测性的 Elastic AI Assistant。

您的反馈对我们非常重要！请使用 Elastic AI Assistant 中提供的反馈表单、讨论论坛（标记为 AI Assistant 或 AI 操作）和/或 Elastic 社区 Slack (#observability-ai-assistant) 为我们提供反馈。

最后，我们想说明的是，这项功能目前仍处于技术预览阶段。由于大型语言模型的特性，AI Assistant 有时可能会做出意想不到的回复。即使情况相同，它的回复也可能不一样。有时，即使它能够回答您提出的问题，它还是会告诉您，它无能为力。

我们正在努力让助手更可靠地应对故障，更具可预测性，并全面提高其性能，因此请务必关注未来的版本。

立即试用

有关这些功能以及其他更多信息，请参阅 Elastic AI Assistant 页面或发行说明。

Elastic Cloud 的现有客户能够直接从 Elastic Cloud 控制台访问其中的许多功能。没有在云上利用 Elastic？开始免费试用。

本博文所描述的任何特性或功能的发布及上市时间均由 Elastic 自行决定。当前尚未发布的任何特性或功能可能无法按时提供或根本不会提供。

在本博文中，我们可能使用或提到了第三方生成式 AI 工具，这些工具由其各自所有者拥有和运营。Elastic 对第三方工具没有任何控制权，对其内容、操作或使用不承担任何责任或义务，对您使用此类工具可能造成的任何损失或损害也不承担任何责任或义务。在 AI 工具中使用个人、敏感或机密信息时，请务必谨慎。您提交的任何数据都可能用于 AI 训练或其他目的。Elastic 不保证您所提供信息的安全性或保密性。在使用任何生成式 AI 工具之前，您都应自行熟悉其隐私惯例和使用条款。

Elastic、Elasticsearch、ESRE、Elasticsearch Relevance Engine 及相关标志为 Elasticsearch N.V. 在美国和其他国家/地区的商标、徽标或注册商标。所有其他公司和产品名称均为其相应所有者的商标、徽标或注册商标。

Elasticsearch Platform

ELK Stack

Elastic Cloud

可观测性

安全性

搜索

按行业

按解决方案

客户聚焦

开发人员

保持联系

学习

帮助

使用面向可观测性的 Elastic AI Assistant，获取感知上下文的见解