支持中文对话了!全新 NVIDIA ChatRTX 已更新

胖萱君_1230

胖萱君_1230

2024-05-22

763人浏览

转载

早在2月份,nvidia就推出了基于llm的聊天机器人chatwithrtx。而在5月份的时候,这个聊天机器人更新了,添加了新的模型和新的功能,包装包也从35g缩小为11g,并且软件正式改名为了chatrtx。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

在上一篇关于 Chatwith RTX 的文章和视频中,我们提到 ChatwithRTX 并没有自带的中文答复。想要实现中文回答,就需要动手进行自行安装环境、大语言模型等。但这一步对用户来说有着比较高的门槛,得经过许多繁杂得步骤,才能实现中文问答。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

在介绍前,我们先简单说下 ChatRTX 是什么,ChatRTX 使用 RAG 技术,经由 NVIDIATensorRT-LLM 和 NVIDIARTX 加速,为 RTXWindowsPC 和工作站带来聊天机器人功能。所以使用 ChatRTX 的前提条件是,你得拥有一张 RTX30、RTX40 系显卡,并且达到 8GB 显存及以上。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

ChatRTX 的特色主要是运行于本地,与上传至云端的各家 AI 聊天机器人不同,本地运算在数据保存方面更加的安全,并且得益于 NVIDIATensorRT-LLM 的加持,在处理上也更为迅速,避免输入问题结果加载半天才憋出一句答案的情况出现。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

此次 ChatRTX 的更新除了具有原先的 Gemma 模型外,还拓展了一款支持中英双语的 ChatGLM3 模型,所以在使用上要更为方便,不必像上一版一样进行环境等安装,这次更新后也让更多用户易上手,中文对话也是对答如流,在导入文档后,能在文件夹内快速检索你所需的内容资料,并呈现给用户。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

除了新的大语言模型外,此次 ChatRTX 还加入了图像提示词检索的功能,在导入一个包含图片的文件夹后,ChatRTX 可以通过 OpenAICLIP 将图片的关键词提取出来,这样你输入图片的关键词,比如爬山,那么 ChatRTX 会将文件夹里关于爬山的图片提供给你,可以说是极大方便了本地图片的搜索,哪怕忘记了也可通过关键词检索搜到。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

另外,ChatRTX 还加入了语音识别功能,能识别 30s 内的语音并输入到对话框,其中也包括识别中英文,无论是工作中解放双手,还是后续拓展功能,语音识别都是有利于用户的,不过上一版的问题还是存在的,就是 ChatRTX 并不能联系上下文,也就是每问一个问题,他就会清空记忆,每次提问都只能是 " 一次性 " 问题。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

不过相信 ChatRTX 在后续也会持续更新,成为一个反馈快速的本地化聊天、文件检索的机器人,但这一切的前提,是你得拥有一张 NVIDIARTX 30 系显卡,正所谓买新不买旧,影驰 RTX4070 SUPER 金属大师 OC 这张新出不久的 RTX40 SUPER 系显卡,就是你的最佳选择。

 支持中文对话了!全新 NVIDIA ChatRTX 已更新

影驰 RTX4070 SUPER 金属大师 OC 采用了 NVIDIAAda Lovelace 架构,拥有强大的性能,并且 12GB 的显存容量,能轻松满足 LLM 的硬件需求,无论是游戏还是 AI 方面,影驰 RTX4070 SUPER 金属大师 OC 都能胜任,所以喜欢的朋友,欢迎前往影驰官方商城挑选与购买 ~

相关专题

更多
Tailwind CSS 响应式布局怎么写
Tailwind CSS 响应式布局怎么写

Tailwind CSS 响应式布局通常从移动端样式写起,再用 sm、md、lg 等前缀调整不同屏幕宽度下的网格、间距和导航。本专题整理断点配置、Grid 与 Flex 自适应布局及常见溢出问题,帮助你逐步完成多设备适配。

2026.11.03

0

19

Tailwind CSS 常用类名怎么记
Tailwind CSS 常用类名怎么记

Tailwind CSS 类名很多,先按布局、间距、文字、颜色和状态分组记忆,再通过官方文档检索具体写法。本专题结合类名排序、动态拼接失效、自定义实用类等问题,帮助你建立常用类名的速查方法。

2026.11.03

0

12

码上飞入口地址合集
码上飞入口地址合集

本专题汇总了码上飞(CodeFlying)的官方入口地址合集,涵盖官网主站及网页版在线使用入口,支持注册登录后直接在线体验零代码AI应用生成。同时整理了APP端下载渠道与小程序入口,助你快速访问平台,通过自然语言描述需求即可生成应用、小程序或网站。

2026.11.03

0

10

Uvicorn 报错与问题解决教程
Uvicorn 报错与问题解决教程

本专题汇总了Uvicorn服务器常见问题与报错解决的教程合集,涵盖启动失败、端口占用、模块导入错误、事件循环冲突及热重载失效等典型故障的排查思路。同时整理了多进程与Worker配置、SSL/HTTPS证书报错、跨域与代理配置等实战解决方案,助你快速定位并解决Uvicorn运行中的各类问题。

2026.11.02

20

14

Uvicorn使用教程
Uvicorn使用教程

本专题汇总了Uvicorn使用教程与启动运行指南,涵盖其作为Python ASGI服务器的定位与特点,以及命令行启动(uvicorn main:app --reload)、参数配置(host/port/workers)、程序内嵌运行与Gunicorn结合部署等核心用法。同时整理了热重载调试、日志配置与生产环境部署优化等技巧,助你快速掌握Uvicorn的运行与配置。

2026.11.02

20

17

Uvicorn安装配置教程
Uvicorn安装配置教程

本专题汇总了Uvicorn的安装配置教程与部署指南,涵盖通过pip安装Uvicorn、启动FastAPI/Starlette应用、开发模式热重载(--reload)及多进程工作模式配置等核心操作。同时整理了结合Gunicorn的生产部署方案、HTTPS与反向代理配置及性能调优技巧,助你快速完成Uvicorn服务的安装与上线部署。

2026.11.02

20

17

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

2026.10.28

120

16

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

2026.10.28

100

15

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

2026.10.28

300

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程