Meta-Entwicklungsfehler bei künstlicher Intelligenz: Die nicht rechtzeitige Nutzung der GPU führte dazu, dass man hinter den Gegnern zurückblieb

Aus einem internen Memo geht hervor, dass Meta-CEO Mark Zuckerberg im Spätsommer 2022 ein Team von Unternehmensleitern einberufen hat, um die Rechenkapazitäten des Unternehmens von bis zu fünf Stunden zu analysieren. insbesondere die Fähigkeit, mit modernster künstlicher Intelligenz umzugehen.

Das Memo weist darauf hin, dass Meta trotz der hohen Investitionen in die Forschung im Bereich der künstlichen Intelligenz und der zunehmenden Abhängigkeit des Unternehmens von künstlicher Intelligenz zur Unterstützung seines Wachstums keine teuren Software- und Hardwaresysteme zur Optimierung künstlicher Intelligenz in seinem Unternehmen eingeführt hat Hauptgeschäft Das langsame Tempo des Social-Media-Riesen hat es ihm erschwert, bei seiner Skalierung mit der Innovation Schritt zu halten. Meta muss „unser physisches Infrastrukturdesign, unsere Softwaresysteme und unseren Ansatz zur Bereitstellung stabiler Plattformen grundlegend ändern“, wenn es seine KI-Bemühungen unterstützen will.

Die Umstrukturierung erhöhte die Investitionsausgaben von Meta um etwa 4 Milliarden US-Dollar pro Quartal, fast doppelt so viel wie im Jahr 2021, und führte dazu, dass die Datenerstellung an vier Standorten unterbrochen oder abgebrochen wurde, gab das Unternehmen bekannt.

Meta steht vor großen finanziellen Schwierigkeiten. Seit November letzten Jahres führt das Unternehmen beispiellose Entlassungen durch.

Gleichzeitig löste das Aufkommen von ChatGPT im November letzten Jahres einen Wettbewerb zwischen Technologiegiganten aus, die generative KI-Produkte auf den Markt gebracht haben. Fünf Quellen sagten, dass generative KI viel Rechenleistung erfordert, was die Dringlichkeit der Meta-Erweiterung erhöht.

Quellen enthüllten, dass Metas langsamer Einsatz von GPUs in der künstlichen Intelligenz eines der Hauptprobleme ist. GPU-Chips sind ideal für die KI-Verarbeitung, da sie eine große Anzahl von Aufgaben gleichzeitig ausführen können und so die Zeit verkürzen, die für die Verarbeitung von Milliarden von Daten erforderlich ist. Allerdings seien GPU-Chips teurer, und der Chiphersteller Nvidia kontrolliere 80 % des Marktes und sei bei entsprechender Software führend, hieß es aus Quellen.

Bis letztes Jahr nutzte Meta hauptsächlich große Mengen regulärer CPUs, um KI-Workloads auszuführen. Die CPU ist der Arbeitschip in der Computerwelt. Obwohl sie Rechenzentren seit Jahrzehnten dominiert, schneidet sie bei der Arbeit mit künstlicher Intelligenz nicht gut ab.

Dies hat dazu geführt, dass die Konkurrenz Meta im Bereich KI überholt hat. Sie nutzen GPU-Chips und verfügen über eine bessere KI-Software, sodass sie neue KI-Produkte und -Dienste schneller entwickeln können.

Laut zwei Quellen hat Meta auch damit begonnen, eigene, eigens entwickelte Chips zum Trainieren von KI zu verwenden. Aber im Jahr 2021 erweist sich dieser zweigleisige Ansatz als langsamer und weniger effizient als einer, der im Kern auf GPUs basiert. GPU-Chips seien außerdem flexibler als die Chips von Meta beim Betrieb verschiedener Modelltypen, sagten die beiden Quellen.

Später, als Zuckerberg das Unternehmen in das Metaverse überführte, war das Unternehmen aufgrund mangelnder Rechenleistung nicht in der Lage, auf Bedrohungen zu reagieren, einschließlich des Aufkommens von TikTok und der von Apple angeführten Änderungen beim Datenschutz in der Werbung.

Diese Themen erregten die Aufmerksamkeit des ehemaligen Meta-Vorstandsmitglieds Peter Thiel. Anfang 2022 trat er ohne Angabe von Gründen von seinem Amt zurück. Laut zwei mit der Angelegenheit vertrauten Personen wies Thiel während einer Vorstandssitzung vor seinem Abgang darauf hin, dass Zuckerberg und seine Führungskräfte sich zu sehr auf die Entwicklung des Metaversums konzentrierten und Metas Kerngeschäft in den sozialen Medien vernachlässigten, was das Unternehmen anfällig für Herausforderungen durch Konkurrenten machte wie TikTok.

Meta hatte geplant, im Jahr 2022 einen maßgeschneiderten Chip auf den Markt zu bringen, gab aber später auf und bestellte stattdessen im selben Jahr Milliarden von Dollar an Nvidia-GPU-Chips. Zu diesem Zeitpunkt ist Meta hinter Konkurrenten wie Google zurückgeblieben, das 2015 mit der Bereitstellung einer eigenen angepassten Version der GPU namens TPU begann.

Als nächstes begann Meta mit der Neuorganisation der Abteilung für künstliche Intelligenz und ernannte zwei neue Ingenieure zu deren Leitung. In dieser Zeit haben Dutzende Führungskräfte Meta verlassen und fast alle haben die Führung des Unternehmens im Bereich KI-Infrastruktur übernommen.

Als nächstes begann Meta mit der Umgestaltung seiner Rechenzentren, um der Einführung von GPUs gerecht zu werden. Diese Chips benötigen mehr Strom und erzeugen mehr Wärme und müssen eng beieinander und mit einer dedizierten Netzwerkverbindung verbunden werden. Die Arbeiten erfordern erhebliche Netzwerkkapazitäten und neue Flüssigkeitskühlsysteme, um die Wärme des Clusters zu verwalten, was eine „komplette Neugestaltung“ dieser Systeme erfordert.

Mit fortschreitender Arbeit beginnt Meta mit internen Plänen zur Entwicklung eines ehrgeizigeren neuen Chips, ähnlich einer GPU, der sowohl Modelle der künstlichen Intelligenz trainieren als auch Inferenzen durchführen kann. Zwei Quellen sagten, das Projekt werde etwa 2025 abgeschlossen sein.

Meta-Sprecher Jon Carvill lehnte eine Stellungnahme zum Chip-Projekt ab.

Obwohl Meta GPUs skaliert, fördern Unternehmen wie Microsoft und Google kommerzielle generative künstliche Intelligenzprodukte, und Meta hat in dieser Hinsicht keine wesentlichen Fortschritte gemacht.

Der Finanzvorstand von Meta gab im Februar zu, dass das Unternehmen derzeit nicht den Großteil seiner Rechenleistung für generative Arbeit aufwendet. „Im Grunde werden alle unsere Fähigkeiten der künstlichen Intelligenz in Werbung, Newsfeeds und Reels eingesetzt“, sagte sie. Reels ist Metas TikTok-ähnliches Kurzvideoformat, das bei jungen Nutzern beliebt ist.

Laut vier Quellen begann Meta erst mit der Einführung von ChatGPT im November letzten Jahres, der Entwicklung generativer KI-Produkte Priorität einzuräumen. Obwohl die KI-Forschungsabteilung des Unternehmens seit Ende 2021 Technologieprototypen herausbringt, hat sie sich nicht darauf konzentriert, diese in Produkte umzuwandeln. Da das Interesse der Anleger jedoch weiter zunimmt, kündigte Zuckerberg im Februar die Gründung eines neuen hochrangigen generativen KI-Teams an, das seiner Meinung nach die Arbeit des Unternehmens in diesem Bereich „beschleunigen“ würde.

Chief Technology Officer Andrew Bosworth sagte diesen Monat auch, dass generative künstliche Intelligenz der Bereich ist, in dem er und Zuckerberg die meiste Zeit verbringen, und sagte voraus, dass Meta in diesem Jahr neue Produkte auf den Markt bringen wird.

Zwei mit dem neuen Team vertraute Personen sagten, die Arbeit des Teams befinde sich in einem frühen Stadium und konzentriere sich auf den Aufbau eines Basismodells, eines Kernprogramms, das später verfeinert und an verschiedene Produkte angepasst werden könne.

Meta-Sprecher Carvill sagte, das Unternehmen entwickle seit mehr als einem Jahr in verschiedenen Teams Produkte für generative künstliche Intelligenz. Er bestätigte, dass sich diese Arbeit in den Monaten seit dem Start von ChatGPT beschleunigt hat.

Das obige ist der detaillierte Inhalt vonMeta-Entwicklungsfehler bei künstlicher Intelligenz: Die nicht rechtzeitige Nutzung der GPU führte dazu, dass man hinter den Gegnern zurückblieb. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!