중국어 대화를 지원합니다! 새로운 NVIDIA ChatRTX 업데이트됨

이르면 2월에 NVIDIA는 LLM 기반 챗봇인 ChatwithRTX를 출시했습니다. 5월에는 챗봇이 업데이트되어 새로운 모델과 새로운 기능이 추가되었으며, 패키징 패키지도 35G에서 11G로 축소되었으며, 소프트웨어 이름이 공식적으로 ChatRTX로 변경되었습니다.

Chatwith RTX에 대한 이전 기사와 동영상에서 ChatwithRTX에는 중국어 답장이 내장되어 있지 않다고 언급했습니다. 중국어 답변을 구현하려면 자체 환경, 대규모 언어 모델 등을 설치해야 합니다. 하지만 이 단계는 사용자에게 상대적으로 높은 문턱을 가지고 있으며, 중국어 질문과 답변을 얻기 위해서는 많은 복잡한 단계를 거쳐야 합니다.

소개하기 전에 ChatRTX가 RAG 기술을 사용하고 NVIDIATensorRT-LLM 및 NVIDIARTX에 의해 가속화되어 RTXWindowsPC 및 워크스테이션에 챗봇 기능을 제공하는지 간략하게 설명하겠습니다. 따라서 ChatRTX를 사용하기 위한 전제 조건은 비디오 메모리 8GB 이상의 RTX30 또는 RTX40 시리즈 그래픽 카드가 있어야 한다는 것입니다.

ChatRTX의 주요 특징은 클라우드에 업로드되는 다양한 AI 챗봇과 달리 로컬 컴퓨팅이 데이터 저장 측면에서 더 안전하며 NVIDIATensorRT-LLM의 축복 덕분에 처리도 가능하다는 것입니다. 답변을 찾기 위해 오랫동안 질문을 입력한 결과를 로드하는 상황을 방지하고 속도도 더 빨라졌습니다.

이번 ChatRTX 업데이트는 원래 Gemma 모델 외에도 중국어 및 영어 이중 언어를 지원하는 ChatGLM3 모델도 확장하므로 사용하기가 더 편리하고 이전 버전과 같은 환경을 설치할 필요가 없습니다. 업데이트를 하면 더 많은 사용자가 더 쉽게 사용할 수 있고, 중국어 대화도 유창하게 문서를 가져온 후 폴더에 필요한 콘텐츠 정보를 빠르게 가져와 사용자에게 제시할 수 있습니다.

ChatRTX는 새로운 대형 언어 모델 외에도 이미지 프롬프트 단어 검색 기능도 추가했습니다. 이미지가 포함된 폴더를 가져온 후 ChatRTX는 OpenAICLIP을 통해 이미지의 키워드를 추출할 수 있습니다. 등산 등 사진의 키워드와 ChatRTX가 폴더에 등산에 관한 사진을 제공해 주므로, 잊어버린 경우에도 키워드를 통해 검색이 가능하다고 할 수 있습니다. 찾다.

또한 ChatRTX에는 음성 인식 기능도 추가되어 직장에서 손을 떼거나 업무를 볼 때나 중국어, 영어 인식을 포함하여 30초 이내에 음성을 인식하여 대화 상자에 입력할 수 있습니다. 향후 기능 확장, 음성인식은 사용자에게는 유리하지만 이전 버전의 문제는 여전히 존재합니다. 즉, ChatRTX는 컨텍스트에 연결할 수 없습니다. 즉, 질문을 할 때마다 메모리를 지웁니다. , 모든 질문은 "일회성" 질문만 가능합니다.

ChatRTX는 앞으로도 계속 업데이트되어 빠른 피드백을 제공하는 현지화된 채팅 및 파일 검색 로봇이 될 것이라고 믿습니다. 그러나 이 모든 것의 전제는 NVIDIARTX 30 시리즈 그래픽 카드가 있어야 한다는 것입니다. 오래된 제품을 사지 마십시오. 새로 출시된 RTX40 SUPER 시리즈 그래픽 카드인 GALAXY RTX4070 SUPER Metal Master OC가 최선의 선택입니다.

GALAXY RTX4070 SUPER Metal Master OC는 NVIDIA Ada Lovelace 아키텍처를 채택하고 강력한 성능과 12GB의 비디오 메모리 용량을 갖추고 있어 게임이든 AI이든 LLM의 하드웨어 요구 사항을 쉽게 충족할 수 있습니다. OC는 제가 실력이 있으니 마음에 드는 친구들은 GALAXY 공식 매장에 가서 선택해서 구매해보세요~

위 내용은 중국어 대화를 지원합니다! 새로운 NVIDIA ChatRTX 업데이트됨의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!