Heim  >  Artikel  >  Technologie-Peripheriegeräte  >  Alibaba Cloud unterstützt die Bereitstellung von Llama2-Schulungen vollständig und hilft Unternehmen, schnell ihre eigenen großen Modelle zu erstellen

Alibaba Cloud unterstützt die Bereitstellung von Llama2-Schulungen vollständig und hilft Unternehmen, schnell ihre eigenen großen Modelle zu erstellen

王林
王林nach vorne
2023-08-04 22:33:111304Durchsuche

Alibaba Cloud übernahm am 25. Juli die Führung bei der Einführung einer umfassenden Palette an Schulungs- und Bereitstellungslösungen für Llama2. Dieses Open-Source-Projekt unterstützt die kostenlose kommerzielle Nutzung, was in der Branche große Aufmerksamkeit auf groß angelegte Open-Source-Modelle gelenkt hat. Entwickler sind herzlich eingeladen, ihre eigenen maßgeschneiderten großen Modelle auf Alibaba Cloud zu erstellen

Kürzlich wurde das große Sprachmodell Llama2 als Open Source angekündigt, einschließlich 7 Milliarden, 13 Milliarden und 70 Milliarden Parameterversionen. Llama2 kann kostenlos in Forschungs- und kommerziellen Szenarien mit weniger als 700 Millionen aktiven Nutzern pro Monat verwendet werden und bietet Unternehmen und Entwicklern neue Tools für groß angelegte Modellforschung. Die Neuschulung und Bereitstellung von Llama2 stellt jedoch immer noch einen hohen Schwellenwert dar, insbesondere für die leistungsstärkere Großversion Konfiguration und brachte Best-Practice-Lösungen auf den Markt, die für leichte Feinabstimmung, vollständige Parameter-Feinabstimmung, Inferenzdienste und andere Szenarien geeignet sind, um Entwicklern dabei zu helfen, schnell auf Llama2 umzuschulen und ihre eigenen benutzerdefinierten großen Modelle zu erstellen

ModelScope, Eine von Alibaba Cloud angeführte KI-Modell-Community hat sofort die Modellreihe Llama2

auf den Markt gebrachtAlibaba Cloud unterstützt die Bereitstellung von Llama2-Schulungen vollständig und hilft Unternehmen, schnell ihre eigenen großen Modelle zu erstellen

. Entwickler können auf der Llama2-Modellseite der Magic Community auf „Notebook Rapid Development“ klicken, um die Alibaba Cloud-Plattform für maschinelles Lernen mit einem Klick zu starten und das Modell in der Cloud zu entwickeln und bereitzustellen. Llama2-Modelle können auch von anderen Plattformen heruntergeladen werden Alibaba Cloud. Entwickelt von PAI.

Um den Anforderungen spezieller Szenarien gerecht zu werden, müssen Entwickler in der Regel eine Feinabstimmungsschulungsmethode verwenden, um das Modell anzupassen und berufliche Fähigkeiten und Kenntnisse in bestimmten Bereichen zu erwerben. Zu diesem Zweck bietet PAI Unterstützung für eine einfache Lora-Feinabstimmung oder eine tiefere Vollparameter-Feinabstimmung in der Cloud. Sobald die Feinabstimmung des Modells abgeschlossen ist, können Entwickler Llama2 über die Web-Benutzeroberfläche und API bereitstellen, sodass das Modell mit Benutzern über Webseiten oder eingebettete Anwendungen interagieren kann

Alibaba Cloud unterstützt die Bereitstellung von Llama2-Schulungen vollständig und hilft Unternehmen, schnell ihre eigenen großen Modelle zu erstellen

auf Alibaba Cloud über PAI Lingjun Intelligent Computing The Die vom Dienst bereitgestellte verteilte Rechenleistung kann die tiefgreifende Entwicklung des ultragroßen Modells Llama2 problemlos abschließen. Die voreingestellte Umgebung eliminiert den Aufwand für Betrieb und Wartung und macht die Bedienung einfach und bequem. Darüber hinaus können sich Entwickler über umfangreiche KI-Rechenressourcen und extreme Flexibilität freuen. Im Gegensatz dazu kann die lokale Einzelkarten-GPU nur die leichte Lora-Feinabstimmung und -Inferenz der 7-Milliarden-Parameterversion von Llama2 verarbeiten, und es ist schwierig, die größere Version und das tiefere Training zu unterstützen der dritte in Asien Als führender Cloud-Anbieter ist Alibaba Cloud ein wichtiger Marktführer und Dienstleister in Chinas KI-Welle. Das Unternehmen hat einen vollständig integrierten IaaS+PaaS+MaaS-KI-Dienst aufgebaut. Auf der Infrastrukturebene verfügt Alibaba Cloud über die stärkste intelligente Rechenleistungsreserve in China. Der Lingjun Intelligent Computing Cluster verfügt über die Skalierbarkeit von bis zu 100.000 GPU-Karten und kann mehrere große Modelle mit Billionen Parametern für gleichzeitiges Online-Training unterstützen Auf der Plattformebene bietet die Alibaba Cloud-Plattform für maschinelles Lernen PAI technische Funktionen für den gesamten Prozess der KI-Entwicklung. Der intelligente Computerdienst PAI Lingjun unterstützt das Training und die Anwendung sehr großer Modelle wie Tongyi Qianwen, wodurch die Trainingsleistung großer Modelle verbessert werden kann Fast das Zehnfache und eine Steigerung der Inferenzeffizienz um 37 %. Auf der Modelldienstebene hat Alibaba Cloud die aktivste KI-Modell-Community in China aufgebaut und unterstützt Unternehmen bei der Umschulung auf Basis der großen Modelle von Tongyi Qianwen oder Sanparty.

Alibaba Cloud unterstützt die Bereitstellung von Llama2-Schulungen vollständig und hilft Unternehmen, schnell ihre eigenen großen Modelle zu erstellen

Anfang Juli dieses Jahres kündigte Alibaba Cloud an, dass das Hauptziel darin besteht, den Wohlstand des großen Modellökosystems Chinas zu fördern und großen Modell-Startups umfassende Dienstleistungen anzubieten, darunter Modellschulung, Inferenz, Bereitstellung und Feinabstimmung. Optimierung, Evaluierung und Produktimplementierung sowie Bereitstellung ausreichender Finanzmittel und kommerzieller Explorationsunterstützung

Das obige ist der detaillierte Inhalt vonAlibaba Cloud unterstützt die Bereitstellung von Llama2-Schulungen vollständig und hilft Unternehmen, schnell ihre eigenen großen Modelle zu erstellen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Dieser Artikel ist reproduziert unter:51cto.com. Bei Verstößen wenden Sie sich bitte an admin@php.cn löschen