ONNX Runtime Web stellt WebGPU vor: Maschinelles Lernen in Webbrowsern macht einen Leistungssprung

Microsoft hat kürzlich die Hinzufügung der WebGPU-Technologie zu seinem ONNX Runtime Web angekündigt, die dazu beitragen wird, die Leistung bei der Ausführung komplexer Modelle für maschinelles Lernen in Webbrowsern zu verbessern. Derzeit haben Chrome- und Edge-Browser damit begonnen, diese Technologie zu unterstützen, obwohl sie sich noch in einem frühen Stadium befindet.

ONNX-Laufzeit Web ist eine von Microsoft gestartete Javascript-Bibliothek, die Webentwicklern dabei hilft, Modelle für maschinelles Lernen direkt in Webbrowsern bereitzustellen und mehrere Backend-Unterstützung basierend auf Hardwarebeschleunigung bereitzustellen. WebGPU ist eine aufstrebende Netzwerk-Anwendungsprogrammierschnittstelle (API), die Hardwarebeschleunigung für Modelle des maschinellen Lernens bereitstellen und so einen effizienteren Betrieb in Webbrowsern ermöglichen kann. Aufgrund der begrenzten Rechenleistung von Webbrowsern war bisher die Effizienz komplexer Modelle des maschinellen Lernens, insbesondere großer generativer Modelle, in Webbrowsern begrenzt. Mit der Einführung der WebGPU-Technologie dürfte dieses Problem jedoch gelöst werden. WebGPU erschließt die Leistung von Geräte-GPUs, sodass diese komplexen Modelle für maschinelles Lernen effizient in Webbrowsern ausgeführt werden können, was die Leistung erheblich verbessert.

Nach Ansicht des Herausgebers gab Microsoft an, dass WebGPU mithilfe erweiterter Funktionen wie Compute-Shader komplexe maschinelle Lernaufgaben effizienter bewältigen kann. Darüber hinaus reduziert die WebGPU-Unterstützung für halbe Präzision (FP16) auch die GPU-Speichernutzung und die Bandbreitenanforderungen, was die Rechenleistung weiter beschleunigt. Durch diese Optimierungen soll WebGPU effizientere und skalierbarere Anwendungen für maschinelles Lernen direkt im Webbrowser ableiten.

Derzeit Chrome 113 und Edge 113 für Mac, Windows, ChromeOS und Chrome für Android 121 WebGPU-Unterstützung ist standardmäßig enthalten. Dies bedeutet, dass Entwickler die ONNX Runtime ausprobieren können Web ruft WebGPU-Beschleunigungsressourcen auf, um die Laufleistung seines maschinellen Lernmodells in Webbrowsern zu verbessern. Da sich diese Technologie ständig weiterentwickelt und verbessert, wird erwartet, dass in Zukunft effizientere und bequemere Anwendungen für maschinelles Lernen in Webbrowsern implementiert werden.

Das obige ist der detaillierte Inhalt vonONNX Runtime Web stellt WebGPU vor: Maschinelles Lernen in Webbrowsern macht einen Leistungssprung. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!