Heim  >  Artikel  >  Technologie-Peripheriegeräte  >  Zuckerberg unterstützt nachdrücklich Open-Source-AGI: Llama 3 wird vollständig trainiert und soll bis Ende des Jahres 350.000 H100 erreichen

Zuckerberg unterstützt nachdrücklich Open-Source-AGI: Llama 3 wird vollständig trainiert und soll bis Ende des Jahres 350.000 H100 erreichen

WBOY
WBOYnach vorne
2024-01-19 17:48:17909Durchsuche

Xiao Zha gab ein neues Ziel bekannt: Alles in Open-Source-AGI.

Ja, Xiao Zha ist wieder All-in, und hier müssen OpenAI und Google konkurrieren.

Aber vor AGI wurde betont, dass es Open Source sei.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

Dieser Schritt hat viel Lob erhalten, genau wie damals, als die LIama-Serie großer Modelle Open Source war.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

Aber dieses Mal gibt es eine weitere All-in-Welle, und Internetnutzer müssen an die vorherige All-in-Welle denken: Wo ist das Metaverse geblieben? ? ?

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

Aber es muss gesagt werden, dass die diesmal aufgeführte Flagge tatsächlich spezifischer ist und sogar einige Eckdaten preisgibt.

Zum Beispiel:

  • Bis Ende des Jahres wird es 350.000 H100 geben, und einschließlich anderer GPUs wird die gesamte Rechenleistung 600.000 H100 entsprechen.
  • Das FAIR-Team wird enger mit dem GenAI-Team zusammenarbeiten.
  • LIama 3 kommt bald.

Am Ende hat er sogar eine kleine Anzeige aufgehängt. Sie bauen neue KI-zentrierte Computergeräte wie die Ray Ban Meta-Datenbrille.

Sieht so aus, als ob das Metaverse immer noch im Gange ist.

Xiao Zha ist wieder All-in

Jetzt hat Xiao Zha offiziell seine Teilnahme am AGI-Battle angekündigt.

Obwohl es keinen klaren Zeitplan gibt, werden als langfristige Vision zwei Kernpunkte klar formuliert:

Quelle verantwortungsvoll öffnen und weithin verfügbar machen, damit jeder davon profitieren kann.

Um dieses Ziel zu erreichen, gibt es vor allem zwei Dinge:

Erstens die beiden bestehenden KI-Forschungsarbeitsteams (FAIR und GenAI) eng integrieren.

Laut LeCun wurden die beiden Brüder.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

und sagte, Lama-3 kommt!

Zweitens: Bauen Sie eine groß angelegte Computerinfrastruktur auf: Bis Ende dieses Jahres wird es 350.000 H100 geben, mit einer Gesamtrechenleistung, die 600.000 H100 entspricht.

Bezogen auf den Verkaufspreis von 25.000 bis 30.000 US-Dollar wird der Gesamtwert der Rechenleistung 15 bis 18 Milliarden US-Dollar erreichen.

Einige Organisationen haben zuvor vorhergesagt, dass die H100-Lieferungen von Nvidia an Meta im Jahr 2023 150.000 Einheiten erreichen werden, was dem Wert von Microsoft und mindestens dem Dreifachen des Wertes anderer Unternehmen entspricht.

Aus diesem Grund sagte Xiao Zha, dass wir solche Fähigkeiten aufgebaut haben, die möglicherweise größer sind als jedes andere einzelne Unternehmen.

Einige Internetnutzer berechneten die Rechenleistung und sagten: Modelle in Gehirngröße kommen bald.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

Einige Leute bezweifeln jedoch, dass Nvidia nicht in der Lage sein sollte, so viele zu produzieren.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

Aber ein Meta-Anführer kam heraus und sagte: H100 kostet insgesamt 350.000 Yuan, einschließlich des aktuellen.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

Darüber hinaus werden auch die Fortschritte bei der Hardware-Ausstattung hervorgehoben.

Was die Großen über AGI sagten

Bevor Xiao Zha die Neuigkeit bekannt gab, äußerten sich viele Große auf dem Weltwirtschaftsforum in Davos viel über AGI.

LeCun betonte beispielsweise im Forum „The Expanding Universe of Generative Models“ die Bedeutung von Open Source im AGI-Implementierungspfad.

Der Grund, warum wir auf dem Gebiet der künstlichen Intelligenz so schnelle Fortschritte sehen, ist die offene Forschung.

Auch wenn er oft Zweifel äußerte, dass AGI bald kommen würde (sicherlich nicht in den nächsten fünf Jahren), kam AGI.

小扎All in 开源AGI:正训练Llama 3,年底将有35万块H100Bilder

Und Transformer-Schöpfer Aidan Gomez sagte:

Aktuell haben wir die Erweiterung noch nicht abgeschlossen, wir müssen noch hart weiterarbeiten.

Der CEO von OpenAI, Altman, sagte, dass künstliche Intelligenz auf menschlicher Ebene bald eintreffen werde, die Veränderung der Welt jedoch weitaus geringer ausfallen werde, als wir es uns vorgestellt hätten.

Künstliche Allgemeine Intelligenz (AGI) könnte in „ziemlich naher Zukunft“ entwickelt werden.

Was halten Sie von der Entwicklung von AGI?

Das obige ist der detaillierte Inhalt vonZuckerberg unterstützt nachdrücklich Open-Source-AGI: Llama 3 wird vollständig trainiert und soll bis Ende des Jahres 350.000 H100 erreichen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Dieser Artikel ist reproduziert unter:51cto.com. Bei Verstößen wenden Sie sich bitte an admin@php.cn löschen