Heim >Technologie-Peripheriegeräte >KI >Offizielle Ankündigung von Baidu: Wenxinyiyan erscheint bald und ist möglicherweise stärker als ChatGPT!
Autor |. Es versteht sich, dass Wen Xinyiyan ein ChatGPT-ähnlicher Chatbot ist, der intern von Baidu entwickelt wurde, und sein englischer Name ist ERNIE Bot.
Laut Baidu-Insidern: Wen Xinyiyan wurde von Baidu vorgeschlagen Eine Reihe von fortgeschrittene große Modelle, die vom wissenserweiterten großen Modell (Ernie) erweitert wurden und ein breites Spektrum an Aufgaben erfüllen können, darunter Sprachverständnis, Sprachgenerierung (ERNIE 3.0 Titan) und Bildgenerierung aus Text (ERNIE-ViLG). Im Vergleich zu anderen Sprachmodellen kann Wenxinyiyan umfangreiches Wissen mit umfangreichen Daten kombinieren, um außergewöhnliche Verständnis- und Generierungsfähigkeiten zu erzeugen. Das Unternehmen plant, die internen Tests von Wen Xinyiyan im März abzuschließen und es dann offiziell der Öffentlichkeit zugänglich zu machen.
Obwohl wir die tatsächliche Leistung von Wen „Pre-Training for Language Understanding and Generation“-Papier können wir derzeit einige allgemeine Informationen über das Sprachmodell ERNIE 3.0 Titan erhalten, für das es gilt.
Laut dem Papier: ERNIE 3.0 Titan ist ein von Baidu auf der PaddlePaddle-Plattform trainiertes 100-Milliarden-Parameter-Modell, das bis zu 260 Milliarden Parameter enthält (ChatGPT verwendet 175 Milliarden). Parameter des GPT3.5-Modells). Darüber hinaus hat Baidu auch einen selbstüberwachten gegnerischen Verlust und einen kontrollierbaren Sprachmodellierungsverlust entwickelt, um ERNIE 3.0 Titan in die Lage zu versetzen, vertrauenswürdigen und kontrollierbaren Text zu generieren.
Um den Rechenaufwand und die CO2-Emissionen zu reduzieren, schlug Baidu außerdem ein Online-Destillationsframework für ERNIE 3.0 Titan vor, bei dem das Lehrermodell gleichzeitig Schüler unterrichtet und sich selbst trainiert . ERNIE 3.0Titan ist das bisher größte chinesische Modell für intensives Vortraining. Relevante experimentelle Ergebnisse zeigen, dass die Leistung von ERNIE 3.0 Titan bei 68 NLP-Datensätzen zu diesem Zeitpunkt besser ist als die der fortschrittlichsten Sprachmodelle, einschließlich des von ChatGPT angewendeten GPT3.5-Modells.
ERNIE 3.0 Titan-ModellarchitekturdiagrammEs wird berichtet, dass Wen Xinyiyan nun die Endspurtphase erreicht hat, bevor er online geht, und die Veröffentlichung relevanter Nachrichten führte auch dazu, dass der Aktienkurs von Baidu in Hongkong um mehr als 17 % stieg und sein Marktwert um etwa 70 Milliarden HK$ stieg. Spekulationen einiger Brancheninsider zufolge könnte das Projekt Baidu Wenxin Yiyan bereits im September 2022 mit der Forschung und Entwicklung begonnen haben. Damals sagte Baidu-CEO Robin Li auf der Weltkonferenz für künstliche Intelligenz: Egal auf technischer Ebene oder kommerzieller Anwendung Ebene, künstliche Intelligenz Es gab enorme Fortschritte, und einige haben sogar die Richtung geändert.
Angesichts der aktuellen Popularität der generativen KI durch ChatGPT wird Baidu in Zukunft sicherlich mehr als nur inländische Unternehmen sein, die den Markt in diesem Bereich begehren. Aus Marktsicht ist Baidus Hauptsuchgeschäft das offensichtlichste Wert- und Implementierungsszenario von ChatGPT-ähnlichen Chatbots. Unter diesem Gesichtspunkt wird Baidu zweifellos die Führung übernehmen, wenn in diesem Bereich wirklich die nächste technologische Revolution ausbricht. Darüber hinaus glauben viele Leute in der Branche, dass der Fortschritt der offenen internen Tests von Wen Xinyiyan angesichts des Tempos der Fortschritte von Google und Microsoft möglicherweise weiter voranschreitet.
Das obige ist der detaillierte Inhalt vonOffizielle Ankündigung von Baidu: Wenxinyiyan erscheint bald und ist möglicherweise stärker als ChatGPT!. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!