Tencent Hunyuan, 모델 매트릭스를 업그레이드하여 클라우드에서 256,000개의 긴 기사 모델 출시​

대형 모델의 구현이 가속화되고 있으며, "산업적 실용성"이 개발의 합의가 되었습니다.

2024년 5월 17일, Tencent Cloud Generative AI Industry Application Summit이 베이징에서 개최되어 일련의 대형 모델 개발 및 application 제품의 진행 상황을 발표했습니다.

Tencent의 Hunyuan 대형 모델 기능은 다양한 버전의 hunyuan-pro, hunyuan-standard 및 hunyuan-lite 모델이 Tencent Cloud를 통해 외부 세계에 공개되어 다양한 분야의 기업 고객과 개발자의 모델 요구 사항을 충족합니다. 시나리오, 최고의 비용 효율적인 모델 솔루션.

Tencent Cloud는 대형 모델 지식 엔진, 이미지 생성 엔진, 동영상 생성 엔진의 세 가지 주요 도구를 출시하여 대형 모델 시대의 기본 도구 체인 생성, 데이터 액세스 단순화, 모델 미세 조정 및 애플리케이션 개발을 수행했습니다. PaaS 서비스를 통해 프로세스를 통해 기업이 보다 효율적으로 효율적이고 간단하게 대규모 모델을 사용하여 AI 기본 애플리케이션을 개발하고 생산 시나리오에 빠르게 액세스할 수 있습니다.

"산업적 실용성"을 대형 모델 개발의 핵심 전략으로 삼은 Tencent Group 수석 부사장 겸 클라우드 및 스마트 산업 그룹 CEO Tang Daosheng은 고성능 모델, 효율적인 도구 플랫폼을 만들어 고도로 민첩한 시나리오 애플리케이션, 고가용성 컴퓨팅 인프라, 보안성이 뛰어난 모델 환경을 통해 업계에 가장 가까운 AI를 구축합니다.

(Tencent Group 수석 부사장, 클라우드 및 스마트 산업 그룹 CEO Tang Daosheng)

Tencent Hunyuan Open Cloud 256k 긴 텍스트 모델, 지능을 켜는 강력한 신체 생태계의 보편적인 대형 모델과 낮은 임계값 개발 도구는 개발자의 생산성을 향상시키고 대형 모델 생태계의 발전을 촉진할 수 있습니다.

이번 업계 서밋에서 Tencent Hunyuan은 다중 크기 LLM 모델 매트릭스를 선보였습니다. 그중 가장 큰 모델은 1조 수준의 매개변수 규모로 확장되었으며 1B, 3B, 7B 및 7B와 같은 다양한 매개변수 크기를 갖습니다. 13B 아래에는 레이아웃이 있습니다.

업그레이드된 Tencent Hunyuan은 중국 최초로 MoE(혼합 전문가 모델) 구조를 채택했습니다. 모델의 전반적인 성능이 이전 세대에 비해 50% 향상되었습니다. GPT와 동일합니다. -4

. "현재" 질문에 대한 답변 성능은 물론 수학, 추론 및 기타 능력도 크게 향상되었습니다. Tencent Cloud에서는 Hunyuan Large Model이 1조 매개변수를 가진 hunyuan-pro, 1000억 매개변수를 가진 hunyuan-standard, 100억 매개변수를 가진 hunyuan-lite 등 다양한 규모의 모델 서비스도 제공합니다. 기업 및 개인 모두에게 공개됩니다.

(Tencent Hunyuan 모델 서비스는 Tencent Cloud를 통해 공개됩니다)

그 중 hunyuan-standard에서는 최근 256k 초장문맥락을 지원하는 긴 텍스트 모델을 출시했습니다. windows, with Single-shot 380,000자 이상의 초장문 텍스트 처리 능력을 보유하여 장문 문서 독해 및 대용량 데이터 분석에 강력한 성능을 발휘하며, 금융, 의료 분야 전문가들의 강력한 업무 지원이 가능합니다. , 교육, 여행 및 기타 산업에서 업무 효율성이 크게 향상됩니다.

다중 모드 기능 측면에서 대형 하이브리드 모델도 계속해서 반복적으로 업그레이드되고 있습니다. 원시 그래픽 분야에서 Tencent Hunyuan Wenshengtu 인프라는 Sora와 동일한 DiT 아키텍처로 완전히 업그레이드되어 중국어와 영어의 이중 언어 입력 및 이해를 지원하고 다중 라운드 드로잉 기능을 갖추고 있으며 분야에서 국내 평가 결과를 선도합니다. 원시 비디오, Tencent Hunyuan 텍스트 비디오, 그림 비디오, 그림 텍스트 비디오, 비디오 비디오 등과 같은 다양한 비디오 생성 기능을 지원합니다. 16s 비디오 생성을 지원했습니다

, Tencent Hunyuan은 텍스트/그림을 배치했습니다. 3D, 싱글 3D 모델을 생성하는 데 30초 밖에 걸리지 않습니다. Sullivan의 평가 결과에 따르면 Tencent Hunyuan의 일반적인 기본 역량과 전문적인 응용 역량은 모두 국내 대형 모델 중 최고 수준이며 국제 대형 모델 평균보다 높습니다. 권위 있는 평가 기관인 SuperCLUE의 보고서에 따르면 Tencent의 Hunyuan 대형 모델은 국내 대형 모델 중 1위를 차지하며 기본 및 장면 응용 분야 모두에서 선두 위치를 차지하고 있으며 우수 리더 쿼드런트(Excellent Leaders Quadrant)에 위치하고 있습니다.

회의에서 Tencent 그룹의 부사장 Jiang Jie는 Tencent의 Hunyuan 모델이 오픈 소스를 수용할 것이라고 발표했습니다. 이전에는 Hunyuan Wenshengtu의 대형 모델이 완전히 오픈 소스화되었으며 단 3일 만에 Github에서 천 명이 넘는 개발자의 관심을 받았습니다. 다양한 규모의 Tencent의 하이브리드 MoE 모델도 외부 세계에 오픈 소스로 공개될 예정이며 휴대폰, PC, 클라우드/데이터 센터 등과 같은 다양한 배포 시나리오를 지원할 수 있습니다.

(Tencent 그룹 부사장 Jiang Jie)

실용 수준의 대형 모델인 Hunyuan 대형 모델은 600개 이상의 Tencent 내부 비즈니스 및 시나리오에서 구현되었습니다. . Tencent의 풍부한 생태계에서 기능을 테스트하고 지속적으로 반복합니다. WeChat Reading은 Hunyuan 대형 모델을 기반으로 AI 도서 질문, AI 개요 등 새로운 기능을 출시하여 사용자의 독서 효율성과 경험을 크게 향상시켰습니다. Tencent 고객 서비스 팀은 Hunyuan 대형 모델을 기반으로 지능형 고객 서비스 시스템을 업그레이드하고 지능형 고객 서비스의 수직 분야에서 독창적인 미세 조정 모델을 만들어 지능형 대화의 의도를 이해하는 정확도를 크게 향상시켰습니다. 여러 라운드의 질문과 답변의 유창함은 기존의 소규모 모델과 비교하여 인간 고객 서비스 도우미가 여러 게임 고객 서비스 시나리오에서 사용되며 평균 일일 사용자 요청이 1.5에 도달합니다. 백만. Tencent Meeting은 Hunyuan이 출시한 AI 도우미를 기반으로 하며, 회의 안팎의 질문에 즉시 답변할 수 있어 회의 효율성을 크게 향상시킵니다. 지난 4개월 동안 Tencent의 회의 AI 도우미에 대한 일일 통화 수가 20배 증가했습니다. Enterprise WeChat 및 Tencent Documents와 같은 협업 SaaS 제품도 Tencent Hunyuan에 완전히 통합되었습니다. Tencent Advertising은 광고 제작 및 전달의 효율성을 향상시키기 위해 TencentHunyuan - Tencent Advertising Miaosi를 기반으로 한 원스톱 AI 광고 크리에이티브 플랫폼을 출시했습니다.

Jiang Jie는 외부적으로도 Tencent Hunyuan이 지능형 에이전트 생태계를 개방하고 원스톱 AI 에이전트 생성 및 배포 플랫폼 "Tencent Yuanqi"를 출시할 것이라고 말했습니다. 앞으로 사용자는 플랫폼에서 전용 AI 에이전트를 생성하고 Tencent의 공식 플러그인과 지식 기반을 사용할 수 있을 뿐만 아니라 클릭 한 번으로 이러한 에이전트를 QQ, WeChat 고객 서비스, Tencent Cloud 및 기타 채널에 배포할 수도 있습니다. ㅋㅋㅋ

)

Tencent Cloud, 3대 AI 대형 모델 엔진 출시해 5분 만에 지식 서비스 애플리케이션 제작대형 모델 기술을 핵심으로 인공지능이 디지털 발전의 핵심 원동력이 되었습니다. 의 기업

. 연구에 따르면 중국 기업의 60% 이상이 향후 12~24개월 내에 생성 AI를 배포할 계획인 것으로 나타났습니다.

그러나 어떻게 정확한 시나리오를 파악하고, 신속하게 배포하며, 기본 모델에서 산업용 애플리케이션까지의 거리를 단축할 수 있을까요? 지난 1년 동안 Tencent는 업계 고객에게 서비스를 제공하면서 모델에 대한 업계의 수요가 끊임없이 변화하고 있다는 사실을 발견했습니다. 한편, 산업 정보 매체의 다양화에 따라 모델은 단순한 텍스트뿐만 아니라 사진, 비디오 및 기타 정보도 처리해야 합니다. 대형 모델의 역량 경쟁은 단일 텍스트 기반 모델에서 텍스트 기반 사진, 텍스트 기반 비디오, 사진 기반 사진, 사진 기반 비디오 등 다중 모드 역량으로 확대되었습니다. 반면, 비용 절감 및 효율성 향상 환경에서 기업은 "비용 효율성"에 대한 요구 사항이 더 높으며 더 간단한 대형 모델 도구를 사용하여 애플리케이션 개발을 가속화하고 신속한 생산을 달성하며 지속 가능한 입출력을 충족할 것으로 기대합니다. 비율.

이러한 요구 사항을 더 잘 해결하기 위해 Tencent Cloud

새로운 출시

세 가지 PaaS 제품인 "대형 모델 지식 엔진", "대형 모델 기본 도구 체인" 모델 지식 엔진 "모델 이미지 생성 엔진" 및 "대형 모델 비디오 생성 엔진"은 기업이 지식 서비스, 이미지 및 비디오 생성의 품질과 효율성을 향상시키는 데 도움이 됩니다.

(Tencent Cloud는 모델 적용 임계값을 낮추기 위해 세 가지 주요 AI 엔진 도구를 출시했습니다.) 그 중 대형 모델 지식 엔진은 RAG를 통해 기업 지식 서비스 시나리오에 중점을 둡니다. (검색 강화 생성) 기술 아키텍처를 기반으로

OCR 문서 구문 분석, 벡터 검색, 대형 언어 모델, 다중 모드 대형 모델 및 기타 기술을 통합하여 "낮은 임계값" 및 "고성능" 모델 응용 프로그램 개발 플랫폼을 만듭니다. 기업,

"모듈형" 애플리케이션 템플릿을 통해 기업은 자연어를 사용하고,

지식 서비스 애플리케이션을 5분 만에 개발할 수 있으며, 고객 서비스 마케팅, 기업 지식 등 사람을 연결하는 다양한 비즈니스 시나리오에서 신속하게 구현합니다. 커뮤니티.

현재 Tencent Cloud의 대규모 모델 지식 엔진은 정부 업무, 금융, 교육, 여행, 소매 등 다양한 산업에서 구현되었습니다. 금융 업계에서 Yuanxin Huibao는 대형 모델 기술의 도움을 받아 보험 대리인을 위한 효율적이고 사람에게 도움이 되는 싱크 탱크를 개발하여 제품 지식 질문과 대답, 위로의 말을 자동으로 생성하여 1인당 효율성을 50% 향상시켰습니다. 교육 업계에서 Henan Digital Education Development Co., Ltd.는 지식 엔진을 사용하여 허난성에서 수백만 개의 초중등 학교 교과서 문서를 가져오고 지식 정렬 및 구성을 수행하며 7×24시간 대형 모델 지식을 생성합니다. 조교.

Tencent 내에서는 지식 엔진을 기반으로 여러 SaaS 애플리케이션이 업그레이드됩니다. 고객 서비스 시나리오에서 Qidian 고객 서비스 대형 모델 텍스트 로봇은 대형 모델 다단계 작업 엔진에 연결되어 청구서 조회, 반품 및 교환과 같은 작업을 수행하며 구성 비용은 기존보다 50% 저렴합니다. 텍스트 로봇. 디지털 휴먼 서비스 시나리오에서 디지털 휴먼은 대형 모델 지식 엔진에 연결된 후 사용자 의도를 더 잘 이해하고 식별할 수 있으며 대형 모델을 사용하여 보다 전문적이고 개인화된 답변을 생성할 수 있습니다. 기업 지식 서비스 시나리오에서 Tencent Enjoy는 지식 생산 측면에서 '지능형 글쓰기 및 생성' 기능을 제공하는 지식 엔진과 지식 소비 측면에서 '지능형 질문 및 답변' 기능을 결합하여 기업 직원의 지식 생산 및 생성을 보다 효율적으로 학습하고 조직 기술을 향상시킵니다.

대형 모델 지식 엔진 외에도 이미지 및 동영상 생성 엔진이 대형 모델을 통해 자료 생성의 효율성을 종합적으로 향상시킵니다. "이미지 생성 엔진"은 Tencent Hunyuan이 자체 개발한 이미지 생성 기본 모델을 기반으로 고품질AI 이미지 생성 및 편집 기능을 출력하며 기업 고객에게 AI 초상화, 선화, 이미지 스타일화 등을 제공합니다. . 능력. 예를 들어, 설계 시나리오에서 기업 고객은 "선 초안 도면" 기능을 사용하여 제품 라인 초안 설계 도면을 업로드하고 프롬프트 단어 및 매개변수 설정을 통해 물리적 설계 도면을 빠르게 생성하여 생성 및 생산 주기를 크게 단축합니다. "동영상 제작 엔진"은 멀티모달 알고리즘 기술을 기반으로 고품질의 동영상 생성 및 처리 기능을 출력하고, 동영상 번역,

동영상 스타일화, 캔버스 확장 및 기타 기능을 제공합니다. 기업의 해외 진출 요구에 직면한 '동영상 번역'은 기업 고객이 원클릭으로 원본 영상을 다국어 영상 출력용으로 번역해 신속하게 해외 시장에 진출하고 판매 기회를 포착할 수 있도록 돕는다.

(

Tencent Cloud 부사장, Tencent Cloud Intelligence 책임자, Youtu Lab 책임자, Tencent Enterprise 책임자 Wu Yunsheng)

Tencent Cloud 부사장, Tencent Cloud 정보 책임자 Wu Yunsheng은 Tencent Cloud가 업계의 실제 요구에서 시작하여 대형 모델 시대에 기본 도구 체인을 만들었다고 말했습니다. 세 가지 주요 AI 대형 모델 엔진 도구를 사용하여 데이터 엔지니어링, 모델 프로세스를 단순화합니다. 미세 조정 및 애플리케이션 개발을 통해 기업이 보다 효율적이고 편리하게 대형 모델을 사용할 수 있도록 지원합니다.

제너레이티브 AI의 개발을 지원하는 컴퓨팅 성능 및 보안 이중 기반 업그레이드

제너레이티브 AI는 "스마트 출현"을 주도하여 기업에 성장 기회를 제공하고 또한 새로운 것을 제공합니다

보안 문제. 업계 실무 과정에서 Tencent는 기업이 생성 AI를 채택하는 데 있어 두 가지 주요 장애물이 컴퓨팅 리소스 부족과 보안 문제라는 점을 발견했습니다. 보안 규정 준수는 엔터프라이즈 애플리케이션 인공 지능 기술의 핵심입니다. Tencent Security는 20년 이상의 보안 기술 축적을 바탕으로 AIGC 시나리오를 위한 체계적인 보안 솔루션을

업그레이드

출시했습니다. 데이터 보안 측면에서 Tencent Security는 키 관리 시스템, 요새 시스템, 데이터 보안 거버넌스 센터(API 보안 모니터링) 및 기타를 통해 엔터프라이즈 모델 교육 및 미세 조정을 제공하는 풀 링크 데이터 보안 솔루션을 출시했습니다. 도구는 게시, 게시 및 운영의 전체 수명 주기에 걸쳐 데이터 보안 보호를 제공하여 기업이 민감한 데이터를 보호하고 데이터 수집 보안 및 규정 준수를 보장하도록 돕습니다. 콘텐츠 보안 측면에서 대형 모델이 제작한 콘텐츠는 허위 정보, 콘텐츠 침해, 유도된 위험, 개인정보 보호 등 상식적인 위험에 직면하는 경우가 많습니다. Tencent Cloud AIGC 콘텐츠 규정 준수 솔루션은 전문가 서비스, 데이터 서비스, 저작권 서비스, 기계 검토 서비스, CEM(고객 경험 관리) 서비스 등 5가지 서비스 시스템을 통해 AIGC 애플리케이션

을 해결합니다. 모델 교육, 콘텐츠 생성, 사후 운영

등

콘텐츠 보안 문제.

현재 Tencent Yuntianyu는 AI Q&A, 디지털 인력, 크리에이티브 어시스턴트, Vincentian 다이어그램, 코드 생성, 엔터테인먼트 및 소셜 네트워킹, AI 고객 서비스 및 기타 시나리오를 다루는 다양한 AIGC 비즈니스 형식을 안내했습니다.

컴퓨팅 성능 측면에서 Tencent Cloud는 대형 모델의 산업 교육을 위한 원스톱 AI 인프라를 제공합니다. Tencent Cloud는 자체 개발한 Xingmai 네트워크 3.2T 통신 대역폭과 통합 액세스 레이어 기능을 통해 100,000개 이상의 카드 병렬 컴퓨팅을 지원할 수 있고 다양한 GPU 생태계와 호환되는 컴퓨팅 클러스터를 만들었습니다. Tencent Cloud는 또한 최대 1000억 개의 벡터 규모를 지원하는 중국 최초의 AI 기반 벡터 데이터베이스를 출시했습니다. 이는 정보통신기술원(Academy of Information and Communications Technology)의 벡터 데이터베이스 기능 평가를 통과한 최초의 국내 제품입니다.

산업 지능적 변화를 주도하는 번영하는 생태계를 구축하기 위한 생성적 AI 생태 계획이 출시되었습니다.

대형 모델의 산업적 구현은 광범위한 시장이자 복잡한 프로세스이기도 합니다. 대형 모델이 필요한 제조업체, 실제 산업, 환경 파트너로 구성된 전체 산업 체인은 주요 문제를 해결하는 데 중점을 두고 있습니다. 2023년부터 Tencent Cloud는 선도적이고 풍부한 생성 AI 제품을 사용하여 1,500개 파트너와 긴밀히 협력했으며, 처음에는 생성 AI 제품을 중심으로 생태계를 구축하면서 총 20,000개 이상의 기업 고객에게 서비스를 제공했습니다.

이번 서밋에서 Tencent Cloud는 생성적 AI 생태 계획을 공식적으로 발표했습니다. Tencent Cloud 부사장이자 산업 생태 협력 책임자인 Yang Chen은 Tencent Cloud가 생성 AI 기술과 플랫폼 기반 강화에 중점을 두고 있으며 플랫폼 기능과 서비스를 개방하고 기술 제공을 통해 향후 수천 개의 솔루션을 통합할 것이라고 말했습니다. 및 시장 지원 제공자, 수천 명의 서비스 제공자 및 수만 명의 에이전트를 양성하고, 생성 AI 기술을 공동으로 홍보하여 ​​전체 산업 체인에 침투하고 업계의 지능형 업그레이드를 가속화합니다.

(Tencent Cloud는 생성적 AI 생태학적 계획을 발표하기 위해 17개 파트너와 합류)

기능 개방 측면에서 Tencent Cloud는 모든 범위의 생성적 AI 제품을 솔루션 제공업체에 공개할 예정입니다. PaaS, aPaaS, iPaaS 등과 같은 플랫폼 및 원자적 기능은 물론 파트너가 애플리케이션 측면에서 차별화되고 경쟁력 있는 솔루션을 구성할 수 있도록 지원합니다. 서비스 개방 측면에서 Tencent Cloud는 생성 AI 제품을 위한 수천 명의 전문 서비스 파트너를 양성하는 데 중점을 둘 것입니다. 파트너는 체계적인 역량 인증을 통해 전체 프로세스 서비스 역량 매트릭스를 형성하여 업계 구현을 위한 품질 제공을 향상할 것입니다. 기술 및 시장 지원 측면에서 Tencent Cloud는 파트너에게 지식 엔진, 벡터 데이터베이스, 디지털 인텔리전스 등 7가지 주요 생성 AI 핵심 제품에 대한 특별 테스트 자금을 제공하고 100명의 대형 모델 설계자, 제품 전문가, 알고리즘 전문가 및 데이터 전문가가 동행하여 파트너가 고객 시나리오에서 구현 및 복제를 가속화하도록 돕습니다. 동시에 파트너가 시장을 개발하는 데 효과적으로 도움을 주기 위해 생성적 AI 마케팅 승수 기금이 마련되었습니다.

회의에서 Tencent Cloud는 Gartner와 공동으로 "생성 AI 산업 구현 경로 연구 보고서"(이하 "보고서")를 공동 발표하여 기업에 생성 AI 애플리케이션 시나리오 매트릭스와 생성 AI 응용 프로그램을 제공했습니다. AI 애플리케이션 구현 로드맵은 기업이 시나리오 가치 및 구현 타당성과 같은 문제를 해결하도록 돕습니다.

Tang Daosheng은 지능형 미래에 직면하여 Tencent는 항상 "산업 실용성"이라는 전략적 방향을 고수하고 기술을 사용하여 실질적인 문제를 해결하는 것을 고집하며 업계 및 파트너와 협력하여 이를 실현할 것이라고 말했습니다.

산업이 지능형 미래를 수용하도록 돕습니다.

위 내용은 Tencent Hunyuan, 모델 매트릭스를 업그레이드하여 클라우드에서 256,000개의 긴 기사 모델 출시​의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!