Unterstützt den chinesischen Dialog! NEU NVIDIA ChatRTX aktualisiert

Bereits im Februar hat NVIDIA den LLM-basierten Chatbot ChatwithRTX auf den Markt gebracht. Im Mai wurde der Chatbot aktualisiert, neue Modelle und neue Funktionen hinzugefügt, das Verpackungspaket wurde ebenfalls von 35G auf 11G reduziert und die Software wurde offiziell in ChatRTX umbenannt.

Im vorherigen Artikel und Video über Chatwith RTX haben wir erwähnt, dass ChatwithRTX keine integrierte chinesische Antwort hat. Wenn Sie chinesische Antworten implementieren möchten, müssen Sie Ihre eigene Umgebung, große Sprachmodelle usw. installieren. Dieser Schritt stellt jedoch eine relativ hohe Hürde für Benutzer dar und sie müssen viele komplizierte Schritte durchlaufen, um chinesische Fragen und Antworten zu erhalten.

Lassen Sie uns vor der Einführung kurz darüber sprechen, was ChatRTX ist. ChatRTX nutzt RAG-Technologie und wird durch NVIDIATensorRT-LLM und NVIDIARTX beschleunigt, um Chatbot-Funktionen auf RTXWindows-PCs und Workstations zu bringen. Voraussetzung für die Nutzung von ChatRTX ist daher, dass Sie über eine Grafikkarte der RTX30- oder RTX40-Serie mit 8 GB Videospeicher oder mehr verfügen.

Das Hauptmerkmal von ChatRTX besteht darin, dass es lokal ausgeführt wird, wenn es in die Cloud hochgeladen wird. Das lokale Computing ist hinsichtlich der Datenspeicherung sicherer, und dank des Segens von NVIDIATensorRT-LLM ist dies auch bei der Verarbeitung der Fall Dies ist schneller und vermeidet die Situation, dass das Laden der Eingabefrageergebnisse lange dauert und dann eine Antwort zurückgehalten wird.

Zusätzlich zum ursprünglichen Gemma-Modell erweitert dieses ChatRTX-Update auch ein ChatGLM3-Modell, das zweisprachig Chinesisch und Englisch unterstützt, sodass es bequemer zu verwenden ist und keine Installation der Umgebung wie bei der Vorgängerversion erforderlich ist Das Update erleichtert außerdem die Verwendung für mehr Benutzer und der chinesische Dialog ist ebenfalls flüssig. Nach dem Importieren des Dokuments können Sie die benötigten Inhaltsinformationen im Ordner schnell abrufen und dem Benutzer präsentieren.

Zusätzlich zum neuen großen Sprachmodell hat ChatRTX dieses Mal auch die Funktion zum Abrufen von Bildaufforderungswörtern hinzugefügt. Nach dem Importieren eines Ordners mit Bildern kann ChatRTX die Schlüsselwörter des Bildes über OpenAICLIP extrahieren, sodass Sie das eingeben können Schlüsselwörter des Bildes, wie zum Beispiel Bergsteigen, und ChatRTX stellt Ihnen Bilder zum Thema Bergsteigen im Ordner zur Verfügung. Man kann sagen, dass es die Suche nach lokalen Bildern erheblich erleichtert. Selbst wenn Sie es vergessen, können Sie nach Schlüsselwörtern suchen suchen.

Darüber hinaus hat ChatRTX auch eine Spracherkennungsfunktion hinzugefügt, die Sprache innerhalb von 30 Sekunden erkennen und in das Dialogfeld eingeben kann, einschließlich der Erkennung von Chinesisch und Englisch, egal ob Sie Ihre Hände bei der Arbeit frei haben möchten Erweitern Sie die Funktionen später, und die Spracherkennung ist für Benutzer von Vorteil, aber das Problem der vorherigen Version besteht immer noch, das heißt, ChatRTX kann keine Verbindung zum Kontext herstellen, das heißt, jedes Mal, wenn eine Frage gestellt wird, wird der Speicher gelöscht Jede Frage kann nur eine „einmalige“ Frage sein.

Ich glaube jedoch, dass ChatRTX auch in Zukunft aktualisiert wird und zu einem lokalisierten Chat- und Dateiabrufroboter mit schnellem Feedback wird. Voraussetzung dafür ist jedoch, dass Sie über eine Grafikkarte der NVIDIARTX 30-Serie verfügen Wie das Sprichwort sagt: Kaufen Sie eine neue, kaufen Sie nicht die alte. Die neu erschienene Grafikkarte der RTX40 SUPER-Serie ist Ihre beste Wahl.

Das GALAXY RTX4070 SUPER Metal Master OC nutzt die NVIDIA Ada Lovelace-Architektur, verfügt über eine leistungsstarke Leistung und 12 GB Videospeicherkapazität, die die Hardwareanforderungen von LLM problemlos erfüllen kann, das GALAXY RTX4070 SUPER Metal Master OC ist, dass ich kompetent bin, also können Freunde, denen es gefällt, gerne zum offiziellen GALAXY-Store gehen, um es auszuwählen und zu kaufen~

Das obige ist der detaillierte Inhalt vonUnterstützt den chinesischen Dialog! NEU NVIDIA ChatRTX aktualisiert. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!