首页  >  文章  >  科技周边  >  如何提高人工智能的可观测性?

如何提高人工智能的可观测性?

WBOY
WBOY转载
2023-11-01 08:13:10628浏览

在当前的时代背景下,我们可以理解对过去的怀念,但是我们必须意识到我们正身处于一个不同的环境中。因此,可观测性永远不会再和以前一样了

AI如何提升可观测性

最近,可观测性变得越来越复杂,肯定比IT监控的早期阶段要复杂得多,那时所有的事物都是在大型主机上运行,日志和所有可用的监控数据都可以轻松地收集和可视化。

即使在更近期应用成为大多数组织的核心之后,情况也简单得多。然而,在我们当前的Kubernetes、微服务和无服务器的世界,情况看起来大不相同。想象一下用锤子击碎过去那可以轻松观测的流动,看着它分解成上百块碎片;但是,所有这些小碎片仍必须保持紧密相连并持续交流。

从本质上讲,这种情况是由最初引入的抽象化和虚拟化造成的。当Kubernetes出现时,其短暂而快速的变化和分布式特性增加了许多复杂性。在这种情况下,一切都变得更加难以管理,监控和故障排除也更加困难;许多人感到茫然不知所措,不知道自己陷入了什么局面。我们可能会问自己——是否真的需要让一切变得如此复杂呢?

我们可以理解人们对过去的怀念,但是由于我们现在所处的环境,可观测性永远不会再和从前一样了

重新审视“现代”可观测性的界限

首先,让我们回退一步,介绍一些基本原则,从定义开始。在我们的云基础设施和应用程序的背景下,可观测性是一种艺术,它通过检查软件并基于数据做出决策来监控和修复生产系统。关键是要注意,这些决策应该专注于特定的结果和服务级别目标,而不仅仅是持续的监控、报警和故障排除

接下来,我们来思考在当今世界中设计一个可靠的可观测性系统的艺术。特别是在编码或基础设施问题已经发展成大数据问题的领域,我们需要找到方法来提高这些现代可观测性系统的计算、网络和存储效率需求。需要注意的是,更多的数据并不表示一定会有更好的洞见

事实证明,抽象化、虚拟化和微服务只是冰山一角。随着人工智能工具的出现和持续采用,比如Copilot、Code Whisperer等,人类处理、分析和关联数十亿个不同的事件来理解他们编写的代码是否按预期运行,这实际上成为一个无法解决的问题。再次,可观测性成为一个迫在眉睫的大数据难题。

即使工程师具有理解可观测性信号以及如何分析遥测数据的技能——这是难以获取的人才——要分类的海量数据也是不现实的,甚至是惊人的。事实是,大量数据中绝大部分对洞察关键业务系统的性能没有特别大的用处。

更多并不意味着更好。与此同时,大多数流行的可观测性解决方案表明,为了解决庞大的数据流和复杂性这一大数据问题,需要使用大量复杂的功能和额外的工具——所有这些都需要一个昂贵的价格标签来应对数据的膨胀。但仍然存在希望

迎接人工智能可观测性时代

在微服务和人工智能生成代码的现代可观测性时代,我们不需要过于复杂或昂贵的可观测性。是的,随着人工智能应用的不断增长,我们看到了巨大的希望。驱动人工智能驱动代码的大语言模型(LLM)为可观测性提供了一种新的方法

这是如何工作的?LLM正在变得善于处理、学习和识别大规模重复文本数据中的模式——这正是高度分布式和动态系统中的日志数据和其他遥测的本质特征。LLM知道如何回答基本问题并得出有用的推断、假设和预测。

这种方法并不完美,因为LLM模型还不是为实时设计的,在确定完整的上下文范围以解决所有可观测性难题方面也不够准确。然而,与人类在合理的时间内理解和建立大量机器生成的数据的上下文相比,首先用LLM建立一个基线,了解发生了什么并获得有益的建议要容易得多。

因此,LLM对解决可观测性问题非常相关。它们旨在用于基于文本的系统,以及分析和提供见解。这可以通过集成轻松地应用于可观测性,以提供有意义的建议。

重写后的内容是:我们认为,在这个领域中,LLM的最大价值之一是更好地支持那些可能没有很高技术熟练度的从业者,并使他们能够处理大量复杂的数据问题。大多数需要解决的生产问题都有足够的时间让LLM根据历史上下文数据提供帮助。通过这种方式,LLM可以使可观测性更简单、更经济高效

与此同时,尽管人工智能在可观测性方面正在变得日益强大,但未来还有更有趣、更具颠覆性的机会。接下来的是可以用自然语言书写和调查的LLM,而不是晦涩难懂的查询语言——这对所有级别的用户来说都是巨大的福音,但对那些比较缺乏实践经验的人尤其如此,包括业务部门的管理人员。

现在,用户不再需要成为所有相关信息的专家,他们可以编写与常见参数相关的查询,并使用业务部门主管使用的自然语言,而不仅仅是生产工程师。这使得广泛的新流程和利益相关者都能够获得可观测性,而不仅仅是生产工程师

在Logz.io,我们已经开始与LLM集成,并且正在努力在平台上开发令人兴奋的新功能,旨在充分利用这些新兴的人工智能能力。我们相信,这将为那些面对大数据挑战并寻求必要的可观测性的组织带来关键的创新。尽管市场上仍然存在着成本和复杂性的紧迫问题,但我们相信这给每个人带来了许多保持乐观的理由

以上是如何提高人工智能的可观测性?的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文转载于:51cto.com。如有侵权,请联系admin@php.cn删除