Heim  >  Artikel  >  Hardware-Tutorial  >  AMD Ryzen AI-CPUs und Radeon RX 7000-GPUs unterstützen jetzt die native Ausführung von LLM- und AI-Chatbots

AMD Ryzen AI-CPUs und Radeon RX 7000-GPUs unterstützen jetzt die native Ausführung von LLM- und AI-Chatbots

WBOY
WBOYnach vorne
2024-03-08 08:30:12438Durchsuche

Laut Nachrichten dieser Website vom 7. März gab AMD heute bekannt, dass Benutzer GPT-basierte Large Language Models (LLM) lokal ausführen können, um exklusive KI-Chatbots zu erstellen.

AMD sagt, dass Benutzer LLM- und KI-Chatbots nativ auf Geräten ausführen können, darunter APUs der Serien Ryzen 7000 und Ryzen 8000, die von AMDs neuer XDNA NPU angetrieben werden, sowie GPU-Geräten der Radeon RX 7000-Serie mit integrierten KI-Beschleunigungskernen.

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD hat die laufenden Schritte in der Ankündigung detailliert beschrieben, z. B. die Ausführung von Mistral mit 7 Milliarden Parametern, die Suche und den Download von „TheBloke / OpenHermes-2.5-Mistral-7B-GGUF“; wenn LLAMA v2 mit 7 Milliarden Parametern ausgeführt wird , suchen und laden Sie „TheBloke/Llama-2-7B-Chat-GGUF“ herunter.

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD Ryzen AI CPU 和 Radeon RX 7000 GPU 现支持本地运行 LLM 和 AI 聊天机器人

AMD ist nicht das erste Unternehmen, das dies tut. NVIDIA hat kürzlich auch „Chat with RTX“ gestartet, der von GPUs der GeForce RTX 40- und RTX 30-Serie unterstützt wird. Chatbot mit künstlicher Intelligenz. Es wird mit dem TensorRT-LLM-Feature-Set beschleunigt, um schnell generierte KI-Ergebnisse basierend auf lokalisierten Datensätzen zu liefern.

Die Originaladresse der Ankündigung ist dieser Website beigefügt.

Das obige ist der detaillierte Inhalt vonAMD Ryzen AI-CPUs und Radeon RX 7000-GPUs unterstützen jetzt die native Ausführung von LLM- und AI-Chatbots. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Dieser Artikel ist reproduziert unter:ithome.com. Bei Verstößen wenden Sie sich bitte an admin@php.cn löschen