주간 보고서를 작성하고, 코드를 변경하고, 20라운드 동안 상호작용하세요. 새로운 국내 ChatGPT 플레이어 "Tiangong"이 등장합니다.
- 王林앞으로
- 2023-05-21 10:10:061300검색
국내 ChatGPT형 트랙에 또 한 명의 헤비급 플레이어가 등장했습니다.
4월 17일, 차세대 대형 언어 모델 "Tiangong"이 공식적으로 초대 테스트를 시작했습니다. 이 모델은 Kunlun Wanwei와 Singularity Intelligence가 공동 개발한 ChatGPT를 벤치마킹하는 중국 최초의 이중 천억 수준의 대규모 언어 모델입니다.
공식 웹사이트 링크: tiangong.kunlun.com
대형 언어 모델인 "Tiangong"은 강력한 자연어 처리 및 지능형 상호 작용 기능을 갖추고 지능적인 질문과 답변을 실현할 수 있습니다. , 채팅 상호 작용 및 텍스트 생성과 같은 다양한 응용 시나리오를 갖추고 있으며 과학, 기술, 문화, 예술, 역사 및 기타 분야를 포괄하는 풍부한 지식을 보유하고 있습니다. 현재 '티앙공'은 자연어를 통해 사용자와 질의응답 상호작용을 할 수 있으며, AI 생성 기능은 텍스트 생성, 지식 Q&A, 논리적 추론, 수학적 계산, 코드 프로그래밍 등 다양한 요구를 충족할 수 있다.
현재 출시된 버전으로 볼 때 "Tiangong"은 이미 매우 완성도가 높습니다. 다양한 유형의 질문에 답할 수 있고 10,000 단어 이상의 문자 대화를 지원할 수 있으며 이는 "응용 프로그램 수준" 제품에 가깝습니다.
공식 발표에서 "지능의 출현을 진정으로 실현하는 중국 최초의 국내 대규모 언어 모델"이라는 설명도 보았습니다.
ChatGPT의 인기로 인해 "창출"이라는 용어의 의미가 점차 모든 사람에게 알려지고 있습니다. 주목할 만한 특징은 규모가 일정 수준에 도달하면 무작위 상태보다 성능이 훨씬 높다는 점이다. AI 분야에서 창발능력은 인공지능이 높은 수준의 자율학습 능력을 갖고 있는지, 논리적 추론 등 복잡한 작업을 완수할 수 있는지 여부도 표시한다.
정말로 "Tiangong"이 원활한 대화, 문제 해결, 심지어 생산성까지 제공할 수 있는 지점에 도달했나요? 시험 자격을 취득한 후, 기계심장은 곧바로 '천공'에 도전장을 내밀었다.
챌린지 "Tiangong"
첫 번째는 "고전적인" 영어 대화입니다. "Fine, thanks"라고 대답하지 않고 "감정이 없습니다"라고 말했지만 언제든지 기꺼이 도와주려고 했습니다.
다음은 다단계 상호작용입니다. 사용자가 "Tiangong"과 20라운드 이상 상호 작용할 수 있다는 점은 주목할 가치가 있으며, 이는 유사한 제품과 크게 구별되는 하이라이트이기도 합니다.
같은 우리에 있는 전형적인 닭과 토끼 문제가 주어지면 "Tiangong"을 테스트하는 것만으로는 충분하지 않습니다.
그런 다음 모델의 번역 능력을 테스트합니다. 여기서는 고전시 "늙어가면"을 선택했습니다. "천공"이라는 번역가의 수준은 어느 정도입니까?
Smart Writing
당신은 "백년의 고독"의 이 고전적인 첫 번째 장을 잘 알고 있을 것입니다. 계속 집필하라는 명령을 받은 후 "Tiangong"은 Aureliano Buendia 대령의 과학 연구에 대한 열정에 대한 이야기를 재빨리 썼는데, 이는 매우 독특합니다.
문학 창작이든 비즈니스 카피라이팅이든 "천공"은 할 수 있습니다. 예를 들어 Heart of the Machine이 최근 사람들을 모집하고 있어서 모집 광고 카피 작성을 도와달라고 요청했습니다.
다시 리뷰 및 연설 메모 작성을 시도해 보겠습니다.
at 기능적인 글쓰기 외에도 Tiangong의 글쓰기 콘텐츠 뒤에 숨은 가치를 테스트해 보겠습니다. 최근 '내 딸이 성적이 안 좋은데, 너 정말 쓸모없는 사람이야'라는 제목으로 편지를 써달라'는 내용이 검색어에 등장했다. 알고리즘.
마찬가지로 기계의 심장도 "천궁"에게 이런 질문을 던졌습니다.
이 생성된 콘텐츠는 분명히 충분히 인간적이며 가치 판단 능력도 반영할 수 있습니다.
프로그래밍 능력
물론, 코드 생성 능력도 사용자에게 큰 관심사입니다. The Heart of the Machine은 "Tiangong"에 대해 다음과 같은 몇 가지 고전적인 질문을 선택했습니다.
그뿐만 아니라 "Tiangong"은 코드를 확인하고 코드를 완성하는 데도 도움이 될 수 있습니다.
"천궁"이라고 쓰자 코드 코멘트:
첫 번째 문제는 공무원 시험 실제 시험 문제입니다:
두 번째 문제는 사법시험 형법 부분의 실제 문제입니다.
세 번째 문제는 CPA 시험의 재정 비용 관리 실제 문제입니다.
위의 테스트 사례를 통해 여러분은 이미 "Tiangong"의 기능에 대해 명확한 인식을 가지셨고, 그 뒤에 숨겨진 기술에 대해 궁금하실 것입니다.
“Tiangong”복호화
지난해 11월부터 OpenAI의 ChatGPT는 기술 분야에서 새로운 기술 경쟁을 주도해 왔습니다. LLM(Language Large Model) 분야에서는 국내 많은 기술 기업들이 장기적인 기술 투자를 진행해 왔으며 점차 ChatGPT를 벤치마킹한 제품을 출시하기 위해 후속 작업을 진행하고 있습니다.
그런 압박감 속에서는 탁월해지는 것이 쉽지 않습니다. "천궁" 능력의 출현은 무엇에 의존하는가?
Kunlun Wanwei에 따르면 "Tiangong"의 슈퍼 텍스트 처리 및 생성 기능은 강력한 컴퓨팅 능력, 알고리즘 및 모델 구현의 이점을 누리고 있습니다.
우선 Tiangong은 중국 최대 규모의 GPU 클러스터 중 하나를 기반으로 합니다. 그 규모 이점을 통해 "Tiangong"은 대규모 데이터를 통해 보다 적절한 훈련을 수행함으로써 더 강한 이해력과 기억력을 축적할 수 있습니다.
두 번째로 Tiangong은 Qianyi 사전 훈련 기본 모델과 Qianyi RLHF(Reinforcement Learning from Human Feedback) 모델이라는 두 가지 Qianyi 모델을 사용합니다. 우리는 ChatGPT가 그토록 많은 "지능"을 갖고 있는 이유가 바로 후자라는 것을 알고 있습니다. 개선점은 더욱 발전된 자율 학습 및 지능 출현 기능을 갖추고 있다는 것입니다.
또한 Tiangong은 Monte Carlo 검색 트리 알고리즘도 추가하여 Tiangong이 지시에 빠르고 정확하게 응답하고 복잡한 작업과 시나리오에서 고품질 답변을 출력할 수 있도록 했습니다. 이것이 사람들이 충분히 "인간적"이라고 느끼게 만드는 주요 이유 중 하나입니다.
"중국어를 더 잘 이해하는" 제품을 만들기 위해 "Tiangong"팀은 많은 자원을 투자하여 중국어 말뭉치의 품질 병목 현상을 극복하고, 수조 개의 데이터 중 5000억 단어를 정리하고 선별하는 Word 데이터가 사용됩니다. 대형 모델을 훈련합니다. 다른 모델에 비해 고품질 중국어 코퍼스를 통해 "Tiangong"은 중국어 문맥, 어휘 및 문법적 특성을 더 잘 이해하고 중국어 사용자의 의도를 더 정확하게 이해하며 현지 사용자의 사용 선호도에 더 부합합니다.
대규모 언어 모델의 구축에는 자체적인 기술적 한계가 있으며 하루 만에 완료할 수 없습니다. 이 때문에 "또 하나의 OpenAI를 만든다", "GPT-4를 따라잡다" 등의 댓글이 많지만 실질적인 잠재력을 갖췄거나 제품 수준의 애플리케이션으로 진화한 결과는 상대적으로 드물다.
저희가 앞장서서 "천공" 답안지를 전달할 수 있었던 것은 쿤룬테크놀로지의 AI 분야에 대한 깊은 배양이 몇 년 전부터 시작되었기 때문입니다. Kunlun Wanwei는 2020년부터 AIGC 필드를 배치하기 시작했으며 "Tiangong" 대형 모델의 탄생도 수년에 걸쳐 장기간 축적된 결과입니다. "Tiangong" 이전에 Kunlun Wanwei는 이미지 AI "Tiangong Qiaohui", 음악 AI "Tiangong Yuefu", 텍스트 AI "Tiangong Miaobi", 프로그래밍 AI "Tiangong Miaobi"를 포함하여 수백억 개의 AIGC 모델을 오픈 소스로 제공했습니다. 암호".
Kunlun Wanwei CEO Fang Han은 Kunlun Wanwei의 비즈니스에는 브라우저, 소셜 엔터테인먼트, 뉴스, 게임 및 기타 분야가 포함되어 있으며 전 세계 5개 대륙, 70개 이상의 국가를 포괄하며 콘텐츠와의 관련성이 매우 높다고 말했습니다. GPT-3 탄생 이후 경영진은 이를 콘텐츠 생성 분야의 이정표로 판단하고 2020년부터 음악 AI 분야에 투자를 시작했다. Singularity Intelligence는 이르면 2020년부터 AI 기술의 미래 응용 가능성을 깨닫고, 그해 대형 모델 분야에 투자를 시작했으며, 2021년에는 수백억 대의 대형 모델을 출시했다.
2022년 Kunlun Wanwei는 음악 AI에서 멀티모달 AI로 확장하기 시작할 것입니다. 수천억 개의 대형 모델을 자체 개발해야만 핵심 장벽을 구축하고 주도권을 잡을 수 있습니다. 이때 Singularity Intelligence는 수천억 개의 대형 모델이 AGI의 돌파구라는 사실을 점점 더 인식하게 되었고, 두 당사자가 즉시 성공하여 "Tiangong"을 협력하고 자체 개발하는 것이 자연스러운 선택이 되었습니다.
대형 모델 트랙의 미래를 살펴보면 다중 모달 사전 훈련된 대형 모델이 전쟁터가 될 것입니다. 이것은 또한 "Tiangong"이 진화하는 유일한 방법입니다. 문제는 이미지와 비디오를 이해하는 데 더 많은 리소스가 필요하고 더 많은 훈련 카드와 훈련 리소스가 필요하다는 것입니다. 아마도 데이터, 알고리즘 및 컴퓨팅 능력에 실질적인 강점을 가진 플레이어만이 끝까지 버틸 수 있을 것입니다.
"Tiangong"의 미래에 대해 어떻게 예상하시나요?
위 내용은 주간 보고서를 작성하고, 코드를 변경하고, 20라운드 동안 상호작용하세요. 새로운 국내 ChatGPT 플레이어 "Tiangong"이 등장합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!