Wie kann die Beobachtbarkeit künstlicher Intelligenz verbessert werden?

Im Kontext der aktuellen Zeit können wir die Nostalgie für die Vergangenheit verstehen, aber wir müssen erkennen, dass wir uns in einer anderen Umgebung befinden. Infolgedessen wird die Beobachtbarkeit nie wieder die gleiche sein

Wie KI die Beobachtbarkeit verbessert

In letzter Zeit ist die Beobachtbarkeit immer komplexer geworden, sicherlich viel komplexer als in den Anfängen der IT-Überwachung, als alles auf dem Mainframe läuft. und Protokolle sowie alle verfügbaren Überwachungsdaten können einfach gesammelt und visualisiert werden.

Selbst nachdem neuere Anwendungen zum Kern der meisten Organisationen wurden, war die Situation viel einfacher. In unserer aktuellen Welt von Kubernetes, Microservices und Serverless sieht die Sache jedoch ganz anders aus. Stellen Sie sich vor, Sie nehmen einen Hammer, brechen den leicht erkennbaren Fluss der Vergangenheit auf und sehen zu, wie er in Hunderte von Fragmenten zerfällt. Allerdings müssen all diese kleinen Fragmente immer noch eng miteinander verbunden sein und ständig kommunizieren.

Im Wesentlichen wird diese Situation durch die anfängliche Einführung von Abstraktion und Virtualisierung verursacht. Als Kubernetes aufkam, sorgten seine kurzlebigen, schnellen Änderungen und seine verteilte Natur für viel Komplexität. In dieser Situation wird es schwieriger, alles zu verwalten und zu überwachen und Fehler zu beheben; viele Menschen fühlen sich ratlos und wissen nicht, worauf sie sich eingelassen haben. Wir fragen uns vielleicht: Muss es wirklich so kompliziert sein?

Wir können die Nostalgie der Menschen für die Vergangenheit verstehen, aber aufgrund der Umgebung, in der wir uns jetzt befinden, wird die Beobachtbarkeit nie wieder dieselbe sein.

Die Grenzen der „modernen“ Beobachtbarkeit erneut untersuchen.

Zunächst gehen wir zurück. Machen wir einen Schritt Gehen Sie zurück und führen Sie einige Grundprinzipien ein, beginnend mit Definitionen. Im Kontext unserer Cloud-Infrastruktur und -Anwendungen ist Observability die Kunst, Produktionssysteme zu überwachen und zu beheben, indem Software überprüft und Entscheidungen auf der Grundlage von Daten getroffen werden. Der Schlüssel liegt darin, zu beachten, dass sich diese Entscheidungen auf bestimmte Ergebnisse und Service-Level-Ziele konzentrieren sollten, nicht nur auf laufende Überwachung, Alarmierung und Fehlerbehebung. Insbesondere in Bereichen, in denen sich Codierungs- oder Infrastrukturprobleme zu Big-Data-Problemen entwickelt haben, müssen wir Wege finden, die Anforderungen an die Rechen-, Netzwerk- und Speichereffizienz dieser modernen Observability-Systeme zu verbessern. Es ist wichtig zu beachten, dass mehr Daten nicht unbedingt bessere Erkenntnisse bedeuten

Es stellt sich heraus, dass Abstraktion, Virtualisierung und Microservices nur die Spitze des Eisbergs sind. Mit dem Aufkommen und der kontinuierlichen Einführung von KI-Tools wie Copilot, „Code Whisperer“ usw. wird es für Menschen praktisch unmöglich, Milliarden verschiedener Ereignisse zu verarbeiten, zu analysieren und zu korrelieren, um zu verstehen, ob der von ihnen geschriebene Code wie erwartet funktioniert. Problem gelöst. Wieder einmal ist die Beobachtbarkeit zu einem dringenden Big-Data-Problem geworden.

Selbst wenn Ingenieure die Fähigkeiten hätten, Beobachtbarkeitssignale zu verstehen und Telemetriedaten

zu analysieren – ein Talent, das schwer zu finden ist –, wäre die schiere Datenmenge, die es zu sortieren gilt, unrealistisch, ja sogar atemberaubend. Tatsache ist, dass die überwiegende Mehrheit dieser riesigen Datenmengen nicht besonders nützlich ist, um Erkenntnisse über die Leistung geschäftskritischer Systeme zu gewinnen.

Mehr bedeutet nicht besser. Gleichzeitig weisen die gängigsten Observability-Lösungen darauf hin, dass zur Lösung des riesigen Datenflusses und der Komplexität dieses Big-Data-Problems viele ausgefeilte Funktionen und zusätzliche Tools erforderlich sind – und diese alle mit einem hohen Preis verbunden sind mit Datenerweiterung. Aber es gibt immer noch Hoffnung Wir läuten das Zeitalter der KI-Beobachtbarkeit ein

Im modernen Observability-Zeitalter von Microservices und KI-generiertem Code brauchen wir keine übermäßig komplexe oder teure Observability. Ja, wir sehen großes Potenzial, da KI-Anwendungen weiter zunehmen. Large Language Models (LLMs), die KI-gesteuerten Code vorantreiben, bieten einen neuen Ansatz zur Beobachtbarkeit

Wie funktioniert das? LLM wird immer besser darin, Muster in großen, sich wiederholenden Textdaten zu verarbeiten, zu lernen und zu identifizieren – die eigentliche Natur von Protokolldaten und anderen Telemetriedaten in stark verteilten und dynamischen Systemen. LLM weiß, wie man grundlegende Fragen beantwortet und nützliche Schlussfolgerungen, Hypothesen und Vorhersagen zieht.

Dieser Ansatz ist nicht perfekt, da LLM-Modelle noch nicht für Echtzeit konzipiert sind und nicht genau genug bei der Bestimmung des gesamten Kontextbereichs sind, um alle Observability-Herausforderungen zu lösen. Es ist jedoch viel einfacher, mit LLM zunächst eine Ausgangslage festzulegen, zu verstehen, was vor sich geht, und hilfreiche Empfehlungen zu erhalten, als es für einen Menschen ist, große Mengen maschinengenerierter Daten in angemessener Zeit zu verstehen und einen Kontext für sie zu erstellen.

Daher ist LLM für die Lösung von Observability-Problemen sehr relevant. Sie sind für den Einsatz in textbasierten Systemen sowie für die Analyse und Bereitstellung von Erkenntnissen gedacht. Dies kann durch Integration leicht auf die Beobachtbarkeit angewendet werden, um aussagekräftige Empfehlungen bereitzustellen.

Umgeschriebener Inhalt: Wir glauben, dass einer der größten Werte von LLM in diesem Bereich darin besteht, Praktiker, die möglicherweise nicht über hohe technische Kenntnisse verfügen, besser zu unterstützen und sie in die Lage zu versetzen, große und komplexe Datenfragen zu bearbeiten. Bei den meisten Produktionsproblemen, die gelöst werden müssen, hat LLM genügend Zeit, um auf der Grundlage historischer Kontextdaten Unterstützung zu leisten. Auf diese Weise kann LLM die Beobachtbarkeit einfacher und kostengünstiger machen

Gleichzeitig gibt es in Zukunft interessantere und disruptivere Aspekte, obwohl künstliche Intelligenz bei der Beobachtbarkeit immer leistungsfähiger wird. Was folgt, ist ein LLM, das in natürlicher Sprache statt in arkanen Abfragesprachen geschrieben und untersucht werden kann – ein großer Segen für Benutzer aller Ebenen, insbesondere aber für diejenigen mit weniger praktischer Erfahrung, einschließlich Geschäftsbereichsleitern.

Jetzt müssen Benutzer nicht mehr Experten für alle relevanten Informationen sein, sie können Abfragen zu allgemeinen Parametern schreiben und die natürliche Sprache verwenden, die von Geschäftsbereichsleitern und nicht nur von Produktionsingenieuren verwendet wird. Dies ermöglicht die Beobachtbarkeit für ein breites Spektrum neuer Prozesse und Interessengruppen, nicht nur für Produktionsingenieure.

Bei Logz.io haben wir mit der Integration mit LLM begonnen und arbeiten hart daran, spannende neue Funktionen auf der Plattform zu entwickeln, mit dem Ziel, diese neuen Funktionen voll auszunutzen Fähigkeiten der künstlichen Intelligenz. Wir glauben, dass dies entscheidende Innovationen für Unternehmen mit sich bringen wird, die sich den Herausforderungen von Big Data gegenübersehen und eine wesentliche Beobachtbarkeit anstreben. Auch wenn es auf dem Markt immer noch drängende Kosten- und Komplexitätsprobleme gibt, glauben wir, dass dies allen viele Gründe gibt, optimistisch zu sein

Das obige ist der detaillierte Inhalt vonWie kann die Beobachtbarkeit künstlicher Intelligenz verbessert werden?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!