Neues TextGrad-Framework: Verwendung von GPT-4o als Engine zur automatischen Optimierung von End-to-End-Aufgaben

Die AIxiv-Kolumne ist eine Kolumne, in der diese Website akademische und technische Inhalte veröffentlicht. In den letzten Jahren sind in der AIxiv-Kolumne dieser Website mehr als 2.000 Berichte eingegangen, die Spitzenlabore großer Universitäten und Unternehmen auf der ganzen Welt abdecken und so den akademischen Austausch und die Verbreitung wirksam fördern. Wenn Sie hervorragende Arbeiten haben, die Sie teilen möchten, können Sie gerne einen Beitrag leisten oder uns für die Berichterstattung kontaktieren. E-Mail-Adresse für die Einreichung: liyazhou@jiqizhixin.com; zhaoyunfeng@jiqizhixin.com , Zhi Huang

Mert Yuksekgonul ist Doktorand an der Stanford University und studiert bei den Professoren James Zou und Carlos Guestrin. Zu den Forschungsrichtungen gehören die Selbstoptimierung von KI-Systemen sowie deren Sicherheit und Zuverlässigkeit.

Federico Bianchi, Xyla-KI-Ingenieur, Postdoc an der Stanford University, studierte bei den Professoren Dan Jurafsky und James Zou. Seine Forschungsrichtung ist maschinelles Lernen und die Entwicklung großer Sprachmodelle. Joseph Boen ist Doktorand an der Stanford University und studiert bei James Zou. Sein Forschungsschwerpunkt ist die Anwendung von KI in der Wissenschaft.

Liu Sheng ist Postdoc an der Stanford University in den Vereinigten Staaten. Er studierte bei den Professoren James Zou und Lei Xing. Er schloss sein Studium mit einem Doktortitel in Datenwissenschaft und künstlicher Intelligenz ab. Zu den Forschungsrichtungen gehören die Sicherheit und Zuverlässigkeit von Deep Learning, multimodale große Sprachmodelle und die Anwendung von KI in der Biomedizin.

Huang Zhi, derzeit Professor an der University of Pennsylvania und Postdoc an der Stanford University. Doktortitel an der Purdue University. Die Forschungsrichtung liegt in der Biomedizintechnik und der Anwendung von KI in der Pathologie.

                                                         Cent? ! Kürzlich haben Forscher der Stanford University ein neues TextGrad-Framework auf den Markt gebracht, um KI-Systeme, die aus großen Sprachmodellen (LLM) und anderen Komponenten bestehen, effizient zu koordinieren und zu optimieren und die Leistung von End-to-End-Aufgaben automatisch zu optimieren.

Derzeit kann das optimierte KI-System mit TextGrad und GPT-4o als Engine Folgendes erzielen:

LeetCode-Hard beste Ergebnisse

GPQA SoTA

Neu entdecken des Moleküls berücksichtigt gleichzeitig mehrere Optimierungsziele wie Arzneimittelwirksamkeit und Toxizität.

• Entwerfen Sie einen Plan für die Strahlentherapie bei Krebs, der die künstliche Intelligenz übertrifft /
• TextGrad-Papier: https://arxiv.org/abs/2406.07496
• TextGrad Github: https://github.com/zou-group/textgrad

Generative KI ist aktiviert der Weg von einem einzelnen Modell Im Paradigmenwechsel vom Training zur komplexen Systemoptimierung ist die Entwicklung prinzipieller automatischer Optimierungsmethoden für synthetische KI-Systeme derzeit zu einer der wichtigsten neuen Herausforderungen geworden. Die effiziente Koordinierung und Optimierung von KI-Komponenten wie großen Sprachmodellen (LLM) und die automatische Optimierung der End-to-End-Aufgabenleistung ist heute zu einer der dringendsten Herausforderungen geworden. Um zu sagen, wie viele Bände es in der KI-Welt gibt, muss man sich die Stanford University ansehen. In den letzten zwei Tagen haben Forscher der Stanford University einen weiteren großen Schritt gemacht und ein neues TextGrad-Framework auf den Markt gebracht, das eine neue Lösung für dieses Problem bietet. Es basiert auf DSPy, ebenfalls von Stanford veröffentlicht, und integriert die leistungsstarke Gradienten-Backpropagation-Funktion von PyTorch, um komplexe KI-Systeme automatisch zu optimieren. In diesem Artikel werden die Kernkonzepte und Optimierungsmechanismen von TextGrad eingehend analysiert, seine breiten Anwendungsaussichten untersucht und ein Ausblick auf die Zukunft der sprachgesteuerten Optimierung gegeben.

• Kernidee
• TextGrad behandelt die LLM-Anwendung als Berechnungsdiagramm (Computation Graph) und verwendet natürliche Sprache als Medium, um eine „Gradienten“-Übertragung zwischen verschiedenen Komponenten zu implementieren. Optimieren Sie verschiedene Variablen in verschiedenen Systemen, indem Sie textuelles Feedback von der Ausgabe des Sprachmodells an alle möglichen frühen Komponenten weitergeben. In TextGrad ist alles Text, was bedeutet, dass wir Sprachmodelle verwenden, um 1) die Ausgabe zu bewerten, 2) die Ausgabe zu kritisieren und 3) die Eingabe zu aktualisieren. Dieser Prozess ähnelt in gewisser Weise der Backpropagation von PyTorch, mit der Ausnahme, dass statt numerischer Verläufe Feedback in Form von Text verbreitet wird.

Diese einheitliche Sprachinteraktionsschnittstelle verleiht TextGrad eine starke Universalität. Sie behandelt Eingabeaufforderungen, Fragen, Ausgaben usw. als Variablen, ohne dass diese differenzierbar sein müssen, und weist eine hohe Kompatibilität auf. TextGrad funktioniert nahtlos mit jedem LLM oder anderen API, das I/O in natürlicher Sprache unterstützt, und erfordert nicht, dass andere Funktionen im Rechendiagramm differenzierbar sind. Dadurch eignet es sich sehr gut für die Integration von Plug-and-Play-Funktionen wie Abruf und Tool-Aufruf, um eine flexible und vielseitige zusammengesetzte KI-Pipeline aufzubauen. TextGrad erfordert außerdem keine manuelle Gestaltung von Eingabeaufforderungen und sucht automatisch nach den besorgniserregendsten Aufgabenbeschreibungen, um direkt an der Optimierung teilzunehmen. Dies befreit Entwickler von der sofortigen Entwicklung und soll automatisch bessere kontextbezogene Lernparadigmen finden.

Was kann TextGrad?

1. Prompt-Projekt Durch die von TextGrad optimierte Eingabeaufforderung kann die QS-Genauigkeitsrate von GPT-3.5-turbor von 78 % auf 92 % verbessert werden, und es sind nur wenige Optimierungsiterationen erforderlich. Wenn Sie dieses Ergebnis reproduzieren und TextGrad weiter erkunden möchten, hat das TextGrad-Team ein einfaches Tutorial für Sie vorbereitet.

                                            ^{TextGrad kann sehr einfach und bequem auf Prompt Engineer angewendet werden.}

2. Modellausgabe optimieren Zusätzlich zur Aktualisierung der Eingabeaufforderung des Modells können auch die Antwort (Antwort) und die Textdarstellungsausgabe des Modells durch TextGrad optimiert werden. Oben optimiert TextGrad den Code für das von LLM generierte LeetCode-Problem.

Es gibt weitere Anwendungen von KI für die Wissenschaft!

Arzneimittelentdeckung

Mit TextGrad können wir zwei Schlüsselattribute chemischer Strukturen optimieren: Arzneimittelähnlichkeit (d. h. wie leicht das Arzneimittel vom Körper absorbiert wird) und Bindungsaffinität (d. h. wie stark das Medikament bindet an das Zielprotein). Die Arzneimittelähnlichkeit wird anhand des QED-Scores gemessen, der zwischen 0 und 1 liegt, wobei 1 die beste Übereinstimmung für die Arzneimitteleigenschaften darstellt. Die Bindungsaffinität des Arzneimittels wird anhand des Vina-Scores gemessen, wobei negativere Scores besser sind.

^{Links: Molekulare Arzneimittelähnlichkeit und Bindungsaffinitätsverteilung vor und nach 10 Iterationen der TextGrad-Optimierung im Vergleich zu klinisch zugelassenen Arzneimitteln, die auf dasselbe Zielprotein abzielen. Rechts: Beispielverlauf von 10 Iterationen der TextGrad-Optimierung, Vergleich der Eigenschaften klinisch zugelassener Medikamente.}

Strahlentherapie-Behandlungsplanung

TextGrad kann auch zur Optimierung von Strahlenbehandlungsplänen verwendet werden, die die für die Strahlentherapie erforderliche Dosis bestimmen und die Bereiche bestimmen, die behandelt werden müssen. Das Ziel der Behandlungsplanung besteht insbesondere darin, dem Tumor eine vorgeschriebene Strahlendosis zuzuführen und gleichzeitig kritisches normales Gewebe vor unsicheren Dosen zu schützen. Ärzte passen und optimieren den Behandlungsplan in der Regel wiederholt durch Versuch und Irrtum, bis der Plan den klinischen Anforderungen entspricht. Dies macht den gesamten Prozess ineffizient, zeitaufwändig und kostspielig. TextGrad stellt KI-gesteuerten Planungssystemen automatisch Farbverläufe zur Verfügung, um Bestrahlungspläne zu optimieren und den Tumor automatisch im Vergleich zu nahegelegenem gesundem Gewebe abzuwägen.

TextGrad nutzt Sprache, um die Barrieren zwischen verschiedenen kognitiven Modulen zu öffnen. Es ermöglicht LLM, an seiner eigenen iterativen Optimierung teilzunehmen und durch kognitive Fähigkeiten auf hohem Niveau wie Selbstbeobachtung, Urteilsvermögen und Kreativität eine kontinuierliche Weiterentwicklung zu erreichen. Im Wesentlichen geht die Bedeutung von TextGrad weit über die Optimierung der Leistung der Pipeline hinaus. Es zeigt uns die Möglichkeit, KI-Selbsterkennung und Selbstkorrektur durch Sprache zu realisieren. Dieser Weg der „Sprachgesteuerten Optimierung“ kann auch eine gute Medizin für viele aktuelle „Illusionsprobleme“ sein. TextGrad wurde zur Lösung vieler wissenschaftlicher und medizinischer Probleme eingesetzt! Weitere Anwendungen warten darauf, von Ihnen erkundet und entdeckt zu werden!

Das obige ist der detaillierte Inhalt vonNeues TextGrad-Framework: Verwendung von GPT-4o als Engine zur automatischen Optimierung von End-to-End-Aufgaben. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!