Tongyi Qianwen은 320억 개의 매개변수 모델을 오픈 소스로 보유하고 있으며 7가지 주요 언어 모델을 모두 오픈 소스로 실현했습니다.

4월 7일, Alibaba Cloud는 Qianwen에 오픈 소스 320억 매개변수 모델 Qwen1.5-32B를 통보했습니다. 이 모델은 성능, 효율성 및 메모리 사용의 균형을 극대화하여 기업과 개발자에게 보다 비용 효율적인 모델 선택을 제공할 수 있습니다. 현재 공지 Qianwen은 총 6개의 대형 언어 모델을 오픈소스화했으며, 국내외 오픈소스 커뮤니티의 누적 다운로드 수는 300만 건을 넘어섰습니다.

일반 질문 Qianwen은 이전에 5억, 18억, 40억, 70억, 140억 및 720억 개의 매개변수 모델을 개발했으며 모두 버전 1.5로 업그레이드되었습니다. 그 중 몇몇 소형 모델은 장치 측에서 쉽게 배포할 수 있으며, 720억 개의 매개변수 모델은 업계 최고의 성능을 가지며 HuggingFace 및 기타 모델 목록에 여러 번 나열되었습니다. 오픈 소스 320억 매개변수 모델은 성능, 효율성 및 메모리 사용 간의 보다 이상적인 균형을 달성할 것입니다. 예를 들어, 14B 모델과 비교하여 32B는 72B에 비해 에이전트 시나리오에서 더 강력한 기능을 가지며 32B는 추론 비용이 더 낮습니다. 일반 문제 팀은 32B 오픈 소스 모델이 다운스트림 애플리케이션에 더 나은 솔루션을 제공할 수 있기를 바라고 있습니다.

기본 기능 측면에서 Qianwen 320억 매개변수 모델은 MMLU, GSM8K, HumanEval, BBH 등과 같은 여러 테스트에서 좋은 성능을 보였습니다. 성능은 Qianwen 720억 매개변수 모델에 가깝고, 300억 개의 매개변수 모델.

Chat 모델의 경우 Qwen1.5-32B-Chat 모델이 MT-Bench 평가에서 8점 이상을 기록했으며, Qwen1.5-72B-Chat과의 격차가 상대적으로 적습니다.

어학력이 풍부한 사람은 아랍어, 스페인어, 프랑스어, 일본어, 한국어 등 12개 언어를 평가한 후 시험, 독해, 수학, 번역 등 다양한 영역에서 할 수 있습니다. Qwen1.5-32B의 다중 언어 기능은 일반 Qwen 720억 매개변수 모델로 제한됩니다.

위 내용은 Tongyi Qianwen은 320억 개의 매개변수 모델을 오픈 소스로 보유하고 있으며 7가지 주요 언어 모델을 모두 오픈 소스로 실현했습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!