MediaTek verwendet das Sprachmodell Meta Llama 2, um die Fähigkeiten generativer KI-Anwendungen für Endgeräte zu verbessern

Am 24. August 2023 gab MediaTek bekannt, dass es das Open-Source-Large-Language-Modell (LLM) Llama 2 der neuen Generation von Meta sowie den fortschrittlichen KI-Prozessor (APU) und die vollständige KI-Entwicklungsplattform (NeuroPilot) von MediaTek verwenden wird, um das komplette Terminal zu etablieren. Das Side-KI-Computing-Ökosystem beschleunigt die Entwicklung von KI-Anwendungen für Smartphones, das Internet der Dinge, Automobile, Smart Homes und andere Edge-Geräte und sorgt für ein sichereres, zuverlässigeres und differenzierteres Benutzererlebnis für Endgeräte. Es wird erwartet, dass bis Ende des Jahres Smartphones mit MediaTeks Flaggschiff-Mobilchip Dimensity der neuen Generation KI-Anwendungen unterstützen werden, die vom Modell Llama 2 entwickelt wurden, und Benutzern ein aufregendes generatives KI-Anwendungserlebnis bieten werden

Dr von Llama 2, das aufregendere Innovationsmöglichkeiten und Produkterlebnisse im Bereich der künstlichen Intelligenz bietet. Durch die Partnerschaft mit Meta kann MediaTek leistungsstärkere Hardware- und Software-Gesamtlösungen anbieten, die weit über die bisherigen Fähigkeiten und Möglichkeiten hinausgehen.“

Derzeit basieren die meisten generativen KIs auf Cloud Computing. Durch die erfolgreiche Anwendung des Llama-2-Modells hat MediaTek jedoch die Funktion erkannt, generative KI-Anwendungen direkt auf Endgeräten auszuführen. Das Aufkommen dieser Technologie bringt einzigartige Vorteile für Entwickler und Benutzer. Erstens können Benutzer ein nahtloses Benutzererlebnis genießen und gleichzeitig eine höhere Sicherheit und Zuverlässigkeit der Benutzerinformationen erzielen. Zweitens kann diese Technologie eine geringere Latenz erreichen und die Möglichkeit bieten, Offline-Vorgänge durchzuführen. Darüber hinaus können durch diese Technologie auch die Betriebskosten im Vergleich zum Einsatz von Cloud Computing gesenkt werden. Kurz gesagt: Durch die Innovation von MediaTek kann jeder problemlos den Komfort und die Innovation generativer KI genießen

Um das Potenzial generativer KI voll auszuschöpfen, müssen Endgerätehersteller KI-Prozessoren (APUs) mit hoher Rechenleistung und geringem Stromverbrauch einführen und die Gesamtrechenleistung des Geräts durch schnellere und zuverlässigere Netzwerkverbindungen steigern. Derzeit ist jeder SoC eines MediaTek 5G-Smartphones mit einem KI-Prozessor ausgestattet, der erfolgreich in generativen KI-Anwendungen wie KI-Rauschunterdrückung (AI-NR), KI-Superauflösung (AI-SR) und KI-Bewegungskompensation (AI-NR) eingesetzt wird. MEMC) usw.

MediaTek plant, bis Ende des Jahres eine neue Generation von Flaggschiff-Mobilchips auf den Markt zu bringen. Der Chip wird einen für das Llama 2-Modell optimierten Software-Stack (NeuroPilot) verwenden und mit einem aktualisierten AI-Prozessor (APU) ausgestattet sein, um das Transformer-Modell als Backbone-Netzwerkbeschleunigung zu unterstützen. Dieses Design kann den Lese- und Schreibverbrauch sowie die Bandbreitennutzung des dynamischen Direktzugriffsspeichers (DRAM) reduzieren und die Leistung großer Sprachmodelle und generativer KI-Anwendungen weiter verbessern. Dies wird Entwicklern dabei helfen, erstaunliche KI-Anwendungen zu erstellen und die Implementierung und Entwicklung von KI-Anwendungen auf Endgeräten zu beschleunigen

Das obige ist der detaillierte Inhalt vonMediaTek verwendet das Sprachmodell Meta Llama 2, um die Fähigkeiten generativer KI-Anwendungen für Endgeräte zu verbessern. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!