Wie man generative KI verwaltet

Autor: Dom Couldwell: Zusammenstellung: Noah: Produziert | global Wirtschaft jedes Jahr Billionen bis 4,4 Billionen US-Dollar an wirtschaftlichen Vorteilen. Diese Prognose basiert auf 63 neuen Anwendungsszenarien, die Kunden in mehreren Märkten Verbesserungen, Effizienzsteigerungen und neue Produkte bringen sollen. Dies ist zweifellos eine große Chance für Entwickler und IT-Führungskräfte.

Der Kern der generativen KI liegt in Daten. Daten verleihen der generativen KI nicht nur die Fähigkeit, die Welt um sie herum zu verstehen und zu analysieren, sondern fördern auch ihr transformatives Potenzial. Um im Bereich der generativen KI erfolgreich zu sein, müssen Unternehmen Daten effektiv verwalten und aufbereiten.

Um groß angelegte KI-Dienste erfolgreich aufzubauen und zu betreiben und generative KI-Projekte zu unterstützen, müssen Sie sicherstellen, dass Sie Ihre Hausaufgaben bei der Datenaufbereitung machen und eine intelligente und nachhaltige Finanzierungsstrategie verfolgen. Ein langsames Tempo und ein nachlassender Unterstützungsansatz werden nicht zu einem Vorteil in der künstlichen Intelligenz führen. Daher ist es neben der Ausweitung des Umfangs der KI-Dienste auch notwendig, stabile Finanzierungsquellen für Projekte sicherzustellen, um eine langfristige Entwicklung und kontinuierliche Innovation zu fördern.

Wenn wir die Art und Weise, wie wir Daten verwalten, nicht verbessern oder nicht den richtigen Ansatz zur Bewältigung von Skalierungs- und Kostenkontrollproblemen wählen, wird das enorme Potenzial generativer KI verschwendet. Hier einige Gedanken, wie wir unseren Ansatz im Datenmanagement verbessern und generative KI-Projekte langfristig unterstützen können.

1. Woher kommen die Daten?

Daten gibt es in verschiedenen Formen. Bei richtiger Verwendung kann jede Datenform den Reichtum und die Qualität generativer KI-Erkenntnisse verbessern.

Die erste Form besteht aus strukturierten Daten, die regelmäßig, geordnet und konsistent organisiert sind und Elemente wie Produktinformationen, Kundendemografien oder Lagerbestände umfassen. Diese Art von Daten bietet eine organisierte Faktenbasis, die zu generativen KI-Projekten hinzugefügt werden kann, um die Qualität der Antworten zu verbessern.

Darüber hinaus verfügen Sie möglicherweise über externe Datenquellen, die Ihre internen strukturierten Datenquellen ergänzen, wie z. B. Wetterberichte, Aktienkurse oder Verkehrsströme usw. Diese Daten können Echtzeit-Kontexte aus der realen Welt in den Entscheidungsprozess einbringen, und ihre Integration in ein Projekt kann zusätzliche qualitativ hochwertige Daten liefern, aber es ist möglicherweise nicht notwendig, diese Daten selbst zu generieren.

Ein weiterer häufiger Datensatz sind abgeleitete Daten, die Daten umfassen, die durch Analyse- und Modellierungsszenarien erstellt wurden. Zu diesen Erkenntnissen können Kundenabsichtsberichte, saisonale Verkaufsprognosen oder Segmentanalysen gehören.

Die letzte gängige Datenform sind unstrukturierte Daten, die sich von den regulären Berichts- oder Datenformaten unterscheiden, die Analysten gewohnt sind. Zu dieser Art von Daten gehören Formate wie Bilder, Dokumente und Audiodateien. Diese Daten erfassen die Nuancen der menschlichen Kommunikation und des menschlichen Ausdrucks. Generative KI-Programme arbeiten oft mit Bildern oder Audio, die übliche Ein- und Ausgaben für generative KI-Modelle sind.

2. Um eine groß angelegte Anwendung generativer KI zu erreichen

Alle diese unterschiedlichen Datensätze existieren jeweils in ihrer eigenen Umgebung. Um sie für generative KI-Projekte nutzbar zu machen, liegt der Schlüssel darin, diese vielfältige Datenlandschaft in Echtzeitsituationen zugänglich zu machen. Bei einer derart großen Menge an potenziellen Daten muss jeder Ansatz in der Lage sein, sich bei steigender Nachfrage dynamisch zu skalieren und Daten global zu replizieren, um sicherzustellen, dass die Ressourcen bei Bedarf in der Nähe der Benutzer sind, um Ausfallzeiten zu vermeiden und die Latenz bei Transaktionsanfragen zu reduzieren.

Darüber hinaus müssen diese Daten auch vorverarbeitet werden, damit das generative KI-System sie effektiv nutzen kann. Dabei handelt es sich um die Erstellung von Einbettungen, also mathematischen Werten oder Vektoren, die eine semantische Bedeutung darstellen. Durch die Einbettung können generative KI-Systeme über den spezifischen Textabgleich hinausgehen und stattdessen die in den Daten eingebettete Bedeutung und den Kontext berücksichtigen. Unabhängig von der ursprünglichen Datenform bedeutet die Erstellung von Einbettungen, dass die Daten von generativen KI-Systemen verstanden und verwendet werden können, während ihre Bedeutung und ihr Kontext erhalten bleiben.

Mit diesen Einbettungen können Unternehmen Vektor- oder Hybridsuchen in allen ihren Daten unterstützen und gleichzeitig Wert und Bedeutung kombinieren. Diese Ergebnisse werden dann gesammelt und an ein groß angelegtes Sprachmodell (LLM) zurückgegeben, das zur Integration der Ergebnisse verwendet wird. Indem Sie mehr Daten aus mehreren Quellen bereitstellen, anstatt sich ausschließlich auf LLM selbst zu verlassen, können Ihre generativen KI-Projekte den Benutzern genauere Ergebnisse liefern und das Risiko fiktionaler Inhalte verringern.

Um dies in der Praxis zu erreichen, muss die richtige zugrundeliegende Datenarchitektur gewählt werden. Während dieses Prozesses sollten Daten so weit wie möglich vermieden werden, indem sie in verschiedenen Lösungen zu einem fragmentierten Flickenteppich verteilt werden, da jede dieser Lösungen eine Dateninsel darstellt, die eine langfristige Unterstützung, Abfrage und Verwaltung erfordert. Benutzer sollten in der Lage sein, schnell LLM-Fragen zu stellen und schnell Antworten zu erhalten, anstatt darauf zu warten, dass mehrere Komponenten antworten und ihre Ergebnisse vom Modell gewichtet werden. Eine einheitliche Datenarchitektur sollte eine nahtlose Datenintegration ermöglichen und es der generativen KI ermöglichen, das gesamte verfügbare Datenspektrum vollständig zu nutzen.

3. Vorteile des modularen Ansatzes

Um generative KI-Implementierungen zu skalieren, muss ein Gleichgewicht zwischen der Beschleunigung der Einführung und der Aufrechterhaltung der Kontrolle über kritische Assets bestehen. Ein modularer Ansatz zum Aufbau generativer KI-Agenten kann diesen Prozess vereinfachen, da er den Implementierungsprozess aufschlüsselt und potenzielle Engpässe vermeidet.

Ähnlich wie bei der Anwendung des Microservices-Designs in Anwendungen fördert ein modularer Ansatz für KI-Dienste auch Best Practices rund um das Anwendungs- und Softwaredesign, wodurch Fehlerquellen beseitigt und die Technologie mehr potenziellen Benutzern zugänglich gemacht wird. Dieser Ansatz erleichtert auch die Überwachung der Leistung von KI-Agenten im gesamten Unternehmen und ermöglicht eine genauere Lokalisierung von Problemen.

Der erste Vorteil der Modularität ist die Interpretierbarkeit, da die an einem generativen KI-System beteiligten Komponenten voneinander getrennt sind, was es einfacher macht, zu analysieren, wie der Agent arbeitet und Entscheidungen trifft. KI wird oft als „Black Box“ betrachtet und die Modularität erleichtert die Verfolgung und Interpretation von Ergebnissen.

Der zweite Vorteil ist die Sicherheit, da einzelne Komponenten durch optimale Authentifizierungs- und Autorisierungsmechanismen geschützt werden können und so sichergestellt wird, dass nur autorisierte Benutzer auf sensible Daten und Funktionen zugreifen können. Modularität erleichtert auch Compliance und Governance, da personenbezogene Daten (PII) oder geistiges Eigentum (IP) geschützt und vom zugrunde liegenden LLM getrennt aufbewahrt werden können.

4. Bereitstellung eines kontinuierlich flexiblen Finanzierungsmodells

Zusätzlich zur Einführung eines Microservices-Ansatzes sollte in allgemeinen generativen KI-Projekten eine Plattform-Denkweise übernommen werden. Dies bedeutet, dass das traditionelle projektbasierte Finanzierungsmodell für Softwareprojekte durch ein Modell ersetzt wird, das ein fortlaufendes und flexibles Finanzierungsmodell bietet. Dieser Ansatz ermöglicht es den Teilnehmern, wertebasierte Entscheidungen zu treffen, auf sich bietende Chancen zu reagieren und Best Practices zu entwickeln, ohne durch starre Finanzierungszyklen oder Geschäftsfälle eingeschränkt zu werden.

Eine solche Budgetverwaltung ermutigt Entwickler und Geschäftsteams auch dazu, generative KI als Teil der bereits vorhandenen Infrastruktur des Unternehmens zu betrachten, was es einfacher macht, die Höhen und Tiefen der Planungsarbeitslasten zu glätten und auf „Exzellenz“ zu reagieren „Center“-Ansatz verfolgen und langfristig Konsistenz wahren.

Ein ähnlicher Ansatz besteht darin, generative KI als ein vom Unternehmen selbst betriebenes Produkt und nicht als reine Software zu betrachten. KI-Agenten sollten als Produkte verwaltet werden, da dies den von ihnen geschaffenen Wert besser widerspiegelt und Supportressourcen für Integrationen, Tools und Tipps leichter verfügbar macht. Die Vereinfachung dieses Modells trägt dazu bei, das Verständnis für generative KI im gesamten Unternehmen zu verbreiten, fördert die Einführung bewährter Verfahren und schafft eine Kultur des gemeinsamen Fachwissens und der Zusammenarbeit bei der generativen KI-Entwicklung.

Generative KI hat ein enormes Potenzial und Unternehmen sind bestrebt, neue Tools, Agenten und Hinweise in ihre Abläufe zu implementieren. Um diese potenziellen Projekte in die Produktion zu bringen, sind jedoch ein effektives Datenmanagement, eine Grundlage für die Skalierung des Systems und ein geeignetes Budgetmodell zur Unterstützung des Teams erforderlich. Wenn Sie Ihre Prozesse richtig gestalten und Prioritäten setzen, können Sie und Ihr Team das transformative Potenzial dieser Technologie ausschöpfen.

Referenzadresse: https://www.infoworld.com/article/3713461/how-to-manage-generative-ai.html

Das obige ist der detaillierte Inhalt vonWie man generative KI verwaltet. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!