Lama wird zum Topmodel unter den großen Models, Zuckerberg löst eine Debatte aus: Open Source spielen, die Zeiten haben sich geändert

Der Streit zwischen Open Source und Closed Source dauert schon lange und könnte nun einen neuen Höhepunkt erreicht haben. Wenn es um Open-Source-Großmodelle geht, ist die Llama-Serie seit ihrer Geburt ein typischer Vertreter. Ihre hervorragende Leistung und Open-Source-Funktionen haben die Anwendbarkeit und Zugänglichkeit der Technologie der künstlichen Intelligenz erheblich verbessert. Jeder Forscher und Entwickler kann davon profitieren und Forschung und Anwendungen breiter verbreiten. Jetzt ist Meta Llama 3.1 405B offiziell veröffentlicht. Im offiziellen Blog sagte Meta: „Bis heute sind große Open-Source-Sprachmodelle hinsichtlich Funktionalität und Leistung größtenteils hinter geschlossenen Modellen zurückgeblieben. Jetzt läuten wir eine neue Ära ein, die von Open Source angeführt wird.“ Gründer Zach Berg erklärt die Bedeutung von Open Source für KI

Open Source ist eine notwendige Voraussetzung für die Entwicklung von KI

1. Meta-Gründer und CEO Zuckerberg sagte, dass Open Source für die positive Entwicklung von KI von entscheidender Bedeutung ist. Als Beispiele nennt er die Entwicklung von Unix und Linux und glaubt, dass Open-Source-KI Innovation, Datenschutz und Kosteneffizienz fördern wird.

Open-Source-Lama-Modell zum Aufbau eines vollständigen Ökosystems

2. Zuckerberg ist davon überzeugt, dass das Open-Source-Lama-Modell ein vollständiges Ökosystem aufbauen kann, um den technologischen Fortschritt sicherzustellen und den Verlust von Vorteilen aufgrund des Wettbewerbs zu vermeiden.

Metas Open-Source-Geschichte und Vision

3. Meta hat eine erfolgreiche Open-Source-Geschichte. Zuckerberg hofft, durch Open-Source-KI-Modelle eine gleichberechtigte und sichere Anwendung globaler Technologie zu fördern.

Originallink: https://about.fb.com/news/2024/07/open-source-ai-is-the-path-forward/
Das Folgende ist der Originalinhalt:
Zuckerberg injiziert Open-Source-Gene in Meta
In den Anfängen des Hochleistungsrechnens investierten große Mainstream-Technologieunternehmen stark in die Entwicklung ihrer eigenen Closed-Source-Versionen von Unix. Damals war es schwer, sich eine andere Möglichkeit vorzustellen, solch fortschrittliche Software zu entwickeln.
Allerdings wurde Open-Source-Linux nach und nach populär: Anfangs, weil es Entwicklern erlaubte, den Code frei zu ändern, und weil es erschwinglicher war, aber später wurde es fortschrittlicher, sicherer und verfügte über ein breiteres Unterstützungsökosystem als jedes Closed-Source-Unix. Mehr Funktionen. Heute ist Linux die branchenübliche Grundlage für Cloud Computing und das Betriebssystem, auf dem die meisten mobilen Geräte laufen, und jeder profitiert von seinen überlegenen Produkten.
Ich glaube, dass die Entwicklung der künstlichen Intelligenz einen ähnlichen Verlauf nehmen wird. Heutzutage entwickeln einige Technologieunternehmen führende Closed-Source-Modelle, aber Open Source schließt die Lücke schnell.
Letztes Jahr war der Llama 2 nur mit einem Generation älteren Modell vergleichbar. Und in diesem Jahr konkurriert der Llama 3 in einigen Bereichen bereits mit den führenden Modellen der Branche oder ist ihnen sogar voraus. Wir gehen davon aus, dass die künftigen Llama-Modelle ab dem nächsten Jahr die fortschrittlichsten Großmodelle der Branche sein werden. Zuvor war Llama auch bereits führend in Sachen Offenheit, Modifizierbarkeit und Kosteneffizienz.
Heute machen wir den nächsten Schritt – wir machen Open-Source-KI zum Industriestandard. Wir haben das erste hochmoderne Open-Source-KI-Modell, Llama 3.1 405B, sowie verbesserte Versionen der Modelle Llama 3.1 70B und 8B veröffentlicht. Diese Open-Source-Modelle sind deutlich kostengünstiger als Closed-Source-Modelle, insbesondere der Open-Source-Charakter des 405B-Modells, was es zur besten Wahl für die Feinabstimmung und Destillation kleiner Modelle macht.
Zusätzlich zur Veröffentlichung dieser Modelle arbeiten wir auch mit mehreren Unternehmen zusammen, um das breitere Ökosystem zu erweitern. Amazon, Databricks und Nvidia bringen komplette Servicepakete auf den Markt, die es Entwicklern ermöglichen, ihre eigenen Modelle zu verfeinern und zu destillieren. Innovatoren wie Groq haben für alle neuen Modelle kostengünstige Inferenzdienste mit geringer Latenz entwickelt.
Diese Modelle werden auf allen wichtigen Cloud-Plattformen verfügbar sein, einschließlich AWS, Azure, Google, Oracle usw. Scale.AI, Dell, Deloitte und andere sind bereits bereit, Unternehmen bei der Einführung von Llama zu unterstützen und benutzerdefinierte Modelle mithilfe ihrer eigenen Daten zu trainieren. Während die Community wächst und immer mehr Unternehmen neue Dienste entwickeln, können wir gemeinsam Llama zu einem Industriestandard machen und allen die Vorteile der KI zugänglich machen.
Meta engagiert sich für Open-Source-KI. Hier sind die Gründe, warum ich glaube, dass Open-Source die beste Entwicklungsplattform ist, warum Open-Source-Llama gut für Meta ist und warum Open-Source-KI gut für die Welt ist und noch lange bestehen bleiben wird Zeit.
Open-Source-KI für Entwickler
Wenn ich mit Entwicklern, CEOs und Regierungsbeamten auf der ganzen Welt spreche, höre ich normalerweise ein paar Themen:
Wir müssen unsere eigenen Modelle trainieren, verfeinern und destillieren. Jede Organisation hat unterschiedliche Anforderungen, die am besten durch den Einsatz von Modellen erfüllt werden, die in unterschiedlichen Maßstäben und mit spezifischen Daten trainiert oder verfeinert werden. Geräteinterne Aufgaben und Klassifizierungsaufgaben erfordern kleine Modelle, während komplexere Aufgaben große Modelle erfordern. Jetzt können Sie hochmoderne Llama-Modelle verwenden, sie weiterhin anhand Ihrer eigenen Daten trainieren und sie dann auf die Modellgröße destillieren, die Ihren Anforderungen am besten entspricht – ohne dass wir oder jemand anderes Ihre Daten sieht.
Wir müssen unser eigenes Schicksal kontrollieren, anstatt von Closed-Source-Lieferanten „eingesperrt“ zu werden. Viele Organisationen möchten sich nicht auf ein Modell verlassen, das sie nicht selbst verwalten und kontrollieren können. Sie möchten nicht, dass Anbieter von Closed-Source-Modellen das Modell ändern, die Nutzungsbedingungen ändern oder den Dienst sogar ganz einstellen können. Sie möchten auch nicht an eine einzige Cloud-Plattform mit exklusiven Rechten für ihre Modelle gebunden sein. Open Source ermöglicht ein breites Ökosystem kompatibler Toolchains, zwischen denen Sie problemlos wechseln können.
Wir müssen unsere Daten schützen. Viele Organisationen verarbeiten sensible Daten, die geschützt werden müssen und nicht über Cloud-APIs an ein Closed-Source-Modell gesendet werden können. Manche Organisationen vertrauen den Anbietern von Closed-Source-Modellen ihre Daten einfach nicht an. Open Source löst diese Probleme, da es Ihnen ermöglicht, das Modell überall auszuführen, wo Sie möchten. Es ist bekannt, dass Open-Source-Software sicherer ist, weil der Entwicklungsprozess transparenter ist.
Wir brauchen ein effizientes und wirtschaftliches Modell. Entwickler können Llama 3.1 405B für Inferenzzwecke auf ihrer eigenen Infrastruktur ausführen, und zwar zu etwa 50 % der Kosten für die Verwendung von Closed-Source-Modellen wie GPT-4, das sowohl für clientseitige als auch Offline-Inferenzaufgaben geeignet ist.
Wir wollen in ein Ökosystem investieren, das langfristig zum Standard wird. Viele sehen eine schnellere Weiterentwicklung von Open Source als geschlossene Modelle und möchten ihre Systeme auf einer Architektur aufbauen, die langfristig die größten Vorteile bietet.
Open-Source-KI für Meta
Das Geschäftsmodell von Meta besteht darin, die besten Erlebnisse und Dienste für Menschen zu schaffen. Um dies zu erreichen, müssen wir sicherstellen, dass wir immer Zugriff auf die beste Technologie haben und nicht in ein geschlossenes Ökosystem von Wettbewerbern eingebunden sind, sodass diese unsere Entwicklung nicht einschränken können.
Ich möchte eine wichtige Erfahrung teilen: Obwohl Apple uns erlaubt, Inhalte auf seiner Plattform zu erstellen, sind wir beim Erstellen von Diensten immer noch eingeschränkt.Ob es um die Steuern geht, die sie Entwicklern auferlegen, um die willkürlichen Regeln, die sie auferlegen, oder um all die Produktinnovationen, die sie verhindern: Wenn wir die beste Version unseres Produkts entwickeln können, ist es klar, dass die Konkurrenz nicht einschränken kann, was wir entwickeln, Meta und viele andere Unternehmen werden in der Lage sein, den Menschen bessere Dienstleistungen anzubieten. Auf philosophischer Ebene ist dies ein wichtiger Grund, warum ich so stark an den Aufbau eines offenen Ökosystems für die nächste Generation von Computern in den Bereichen KI und AR/VR glaube.
Leute fragen mich oft, ob ich mir Sorgen mache, dass ich durch das Open-Sourcing von Llama technische Vorteile verliere, aber ich denke, das geht aus mehreren Gründen am Gesamtbild vorbei:
Erstens, um sicherzustellen, dass wir langfristig die Technologieführerschaft behalten und nicht sein werden Da Llama in ein Closed-Source-Ökosystem eingebunden ist, muss es sich zu einem vollständigen Ökosystem entwickeln, das Tools, Effizienzverbesserungen, Hardwareoptimierungen und andere Integrationen umfasst. Wenn unser Unternehmen das einzige wäre, das Llama nutzt, würde das Ökosystem nicht wachsen und wir wären nicht besser dran als mit Closed-Source-Varianten von Unix.
Zweitens erwarte ich, dass die KI-Entwicklung weiterhin hart umkämpft sein wird, was bedeutet, dass wir zu keinem Zeitpunkt durch die Open-Source-Bereitstellung eines Modells einen großen Wettbewerbsvorteil gegenüber dem nächstbesten Modell verlieren. Der Weg von Llama zum Industriestandard besteht darin, Generation für Generation wettbewerbsfähig, effizient und offen zu bleiben.
Drittens besteht ein wesentlicher Unterschied zwischen Meta- und Closed-Source-Modellanbietern darin, dass der Verkauf des Zugangs zu KI-Modellen nicht unser Geschäftsmodell ist. Das bedeutet, dass die öffentliche Veröffentlichung von Llama unseren Umsatz, unsere Nachhaltigkeit oder unsere Fähigkeit, in die Forschung zu investieren, nicht beeinträchtigt, während dies bei Closed-Source-Anbietern der Fall wäre. (Dies ist einer der Gründe, warum einige Closed-Source-Anbieter Lobbyarbeit bei öffentlichen Verwaltungen gegen Open Source betrieben haben.)
Schließlich kann Meta auf eine lange Erfolgsgeschichte mit Open-Source-Projekten zurückblicken. Wir haben Milliarden von Dollar gespart, indem wir unsere Server-, Netzwerk- und Rechenzentrumsdesigns mit dem Open Compute Project geteilt und die Lieferkette standardisiert haben. Durch die Open-Source-Bereitstellung führender Tools wie PyTorch, React und mehr profitieren wir stark von Innovationen im Ökosystem. Dieser Ansatz ist seit langem äußerst effektiv.
Open-Source-KI für die Welt
Ich glaube, dass Open-Source für die Zukunft der KI notwendig ist. KI hat das Potenzial, die menschliche Produktivität, Kreativität und Lebensqualität stärker als jede andere moderne Technologie zu steigern, die medizinische und wissenschaftliche Forschung voranzutreiben und gleichzeitig das Wirtschaftswachstum zu beschleunigen. Open Source wird dafür sorgen, dass mehr Menschen auf der ganzen Welt von den Vorteilen und Chancen der Entwicklung der KI profitieren können, dass die Macht nicht in den Händen einiger weniger Unternehmen konzentriert wird und dass Technologie gleichmäßiger und sicherer in der Gesellschaft eingesetzt werden kann.
Es gibt eine anhaltende Debatte über die Sicherheit von Open-Source-KI-Modellen. Mein Punkt ist, dass Open-Source-KI sicherer ist als die Alternativen. Ich denke, dass die Regierungen irgendwann zu dem Schluss kommen werden, dass sie Open Source unterstützen, weil es die Welt wohlhabender und sicherer machen wird.
In dem Sicherheitsrahmen, den ich verstehe, müssen wir uns vor zwei Arten von Schaden schützen: unbeabsichtigt und absichtlich.
Unbeabsichtigter Schaden bezieht sich auf die Möglichkeit, dass ein KI-System beim Laufen unbeabsichtigt Schaden anrichten kann. Beispielsweise können moderne KI-Modelle versehentlich falsche Gesundheitsratschläge geben. Oder es besteht in Zukunftsszenarien die Sorge, dass Modelle sich unbeabsichtigt replizieren oder Ziele zum Nachteil des Menschen überoptimieren könnten.
Vorsätzlicher Schaden liegt vor, wenn böswillige Akteure KI-Modelle mit der Absicht nutzen, Schaden anzurichten.
Es ist erwähnenswert, dass unbeabsichtigter Schaden die meisten Bedenken der Menschen in Bezug auf KI abdeckt – von den Auswirkungen von KI-Systemen auf Milliarden von Benutzern bis hin zu den wahrhaft katastrophalen Science-Fiction-Szenarien. In diesem Zusammenhang ist die Sicherheit, die Open Source bietet, umso bedeutsamer, da das System transparenter und umfassender überprüfbar ist.
Historisch gesehen war Open-Source-Software aus diesem Grund sicherer. Ebenso wird die Verwendung von Llama und seinen Sicherheitssystemen wie Llama Guard wahrscheinlich sicherer und zuverlässiger sein als ein Closed-Source-Modell. Daher konzentrieren sich die meisten Diskussionen über die Sicherheit von Open-Source-KI auf vorsätzlichen Schaden.
Zu diesem Zweck umfasst unser Sicherheitsprozess strenge Tests und eine Red-Team-Bewertung, um zu überprüfen, ob unsere Modelle das Potenzial haben, erheblichen Schaden anzurichten

Das obige ist der detaillierte Inhalt vonLama wird zum Topmodel unter den großen Models, Zuckerberg löst eine Debatte aus: Open Source spielen, die Zeiten haben sich geändert. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!