Tokens of Doubao 모델의 일일 평균 사용량이 5,000억 개를 초과하고 모델 제품군이 다시 업그레이드되었습니다.

7월 25일, 화산 엔진 2024 'AI 혁신 투어'의 첫 번째 정류장인 청두역에서 바이트 빈바오(Byte Beanbao) 모델의 최신 진행 상황이 공개되었습니다. 7월 현재 빈바오 모델의 일일 평균 토큰 사용량이 5,000억 개를 넘었습니다. , 각 회사에서 평균 5,000억 개의 토큰을 사용하고 있으며, 고객의 일일 평균 토큰 사용량은 모델 출시 기간인 5월 15일에 비해 22배 증가했습니다.

1. Doubao 대형 모델은 이전에 "Skylark"로 알려진 ByteDance가 자체 개발한 것으로, 현재 ByteDance의 클라우드를 통해 기업에 서비스를 제공하고 있습니다. 서비스 플랫폼 볼케이노 엔진.

2. Doubao Big Model은 출시 이후 대규모 사용량과 풍부한 애플리케이션 시나리오에 중점을 두었습니다.
3. Volcano Engine 부사장 Zhang Xin에 따르면 Byte 내에서는 협업 사무실, 데이터 분석, 카피라이팅 작성, 보조 프로그래밍, 콘텐츠 리뷰, 고객 서비스, 게임 NPC, 다양한 분야에서 50개 이상의 기업이 beanbao 모델을 사용하고 있습니다. 캐릭터 대화 및 교육과 같은 시나리오, Doubao Big Model을 기반으로 한 신기술 엔진은 비즈니스 혁신을 가속화하고 있으며 Doubao Big Model의 외부 고객은 휴대폰, 자동차, 금융, 소비 및 인터랙티브 엔터테인먼트 등 30개 이상의 산업을 다루고 있습니다. OPPO, vivo, Honor, Xiaomi, Samsung, Asus 등 잘 알려진 단말기 제조업체와 Geely Automobile, Great Wall Motors, Jietu Motors, Cyrus, Zhiji Automobile 등 20개 이상의 자동차 제조업체와 함께 스마트 단말기 대형 모델 연합과 자동차 대형 모델 연합을 각각 설립했습니다.

   

   캡션: 2024년 'AI 혁신 투어' 행사에 참석한 Volcano Engine 부사장 Zhang Xin
   이번 행사에서는 빈백 모델 남서부 지역의 대표적인 기업 고객으로 블루칼라 채용 플랫폼 Yupao Technology와 지능형 고객 서비스 회사 Xiaoduo Technology도 각자의 견해를 공유했습니다. Doubao 대형 모델에 액세스하여 비즈니스 성장을 달성한 사례 경험을 제공합니다. 그 중 Yupao Technology의 beanbao 대형 모델은 일일 평균 호출량이 1억 개 이상의 토큰이며 적용 시나리오에는 직무 요구 사항 식별, 직무 유형 식별, 구직 의도 식별, 추천 시스템 유사성 식별 등이 포함됩니다.
   Volcano Engine 대형 모델 서비스의 알고리즘 설계자인 Sun Fan은 대형 모델을 사용할 때 기업이 직면하는 주요 과제는 "모델 효과", "사용 비용" 및 "구현의 어려움"이라는 세 가지 측면이라고 지적했습니다. Doubao Big Model과 Volcano Engine은 "더 강력한 모델", "저렴한 가격" 및 "구현하기 쉬운" 관점에서 시작하여 기업의 문제 해결을 지원합니다.
   지난 5월 Doubao 모델 패밀리가 공식 출시되었을 때 일반 모델 Pro, 일반 모델 Lite, 음성 인식 모델, 음성 합성 모델, Vincentian 등 9개 모델을 중심으로 멀티 모달 기능을 갖춘 모델 패밀리를 제공했다고 합니다. 다이어그램 모델. 메인 모델인 Doubao Universal Model Pro는 지난 5월 출시 이후 다수의 공개 평가 세트와 전문적인 제3자 평가에서 뛰어난 성적을 거두며 국내 대형 모델 중 최고 점수를 받았습니다.
   이번 Doubao 모델 제품군은 Vincentian 그래프 모델과 음성 모델을 업그레이드했습니다. 업그레이드된 Doubao·Vensen 사진 모델은 중국어와 영어의 긴 텍스트를 더 정확하게 이해하는 능력을 갖추고 있으며 일관된 그래픽과 텍스트로 심미적인 사진을 생성할 수 있습니다. 업그레이드된 Doubao·Speech 합성 모델은 텍스트 감정의 지능적인 인식과 역동적인 음성 속도를 실현합니다. 음성 재생 모델은 단 5초 만에 사람의 목소리를 충실하게 재현할 수 있으며 다양한 작은 언어를 지원합니다.
   Doubao 모델 패밀리가 이번에 새로운 멤버인 Doubao Tushengtu 모델을 공식적으로 발표했다는 점을 언급할 가치가 있습니다. Wenshengtu 모델을 기반으로 하는 Doubao·Tushengtu 모델은 높은 수준의 캐릭터 특성 복원, 50개 이상의 스타일 장면의 자유로운 변환, 다양하고 창의적인 확장 편집을 제공할 수 있습니다. 이 모델 기능은 Douyin, Jianying, Doubao 및 Xinghui와 같은 바이트 기반 앱에 구현되었으며 Volcano Engine을 통해 Samsung 및 Nubia와 같은 기업 고객에게 서비스를 제공했습니다. 현재 하루 평균 생성되는 사진 수는 수천만 장에 이릅니다. .
   모델 가격 측면에서 공개 보고서에 따르면 Doubao 메인 모델의 추론 입력 가격은 0.0008위안/천 토큰에 불과하며 이는 업계보다 99.3% 저렴합니다. Volcano Engine의 Tan Dai 사장은 이전 인터뷰에서 대형 모델의 초저가 가격은 기술에 대한 자신감에서 비롯된다고 밝혔습니다. Volcano Engine은 기술적 수단을 통해 대형 모델의 추론 비용을 최적화할 수 있습니다.
   "지금 창업을 하면 대형 모델을 부르는데 10,000위안을 써야 한다면 좀 비싸다고 생각할 수도 있겠네요. 가격을 1% 미만으로 낮춰서 100달러로 쓸 수 있게 됐습니다. 그의 아이디어는 더 쉬울 것입니다." Tan Dai는 기업의 AI 변환은 불확실성으로 가득 차 있으며 대형 모델의 적용을 실현하려면 시행착오 비용이 최대한 낮아야 한다고 말했습니다. 더 빠르고 더 많은 혜택을 제공하여 전체 산업에 이익이 됩니다. ”
   좋은 효과와 저렴한 가격 외에도 Doubao 대형 모델은 동일한 계층 모델보다 몇 배나 많은 분당 토큰 처리 한도를 제공하여 모델 서비스의 운반 능력을 더욱 강화합니다.
   Sun Fan에 따르면, Doubao 일반 모델 Pro는 기업이 높은 동시성 시나리오에서 비즈니스를 구현하는 데 도움이 되는 업계 최고 수준의 초기 TPM(분당 토큰) 및 RPM(분당 요청)을 제공합니다.
   현재 ByteDance는 지원을 계속 늘리고 있습니다. 대형모델 기술 연구에 대한 투자를 통해 최근 시각, 음성 등 여러 분야에서 눈부신 성과를 거두고 있으며, 그 역량 중 일부는 빈백 대형모델 관련 제품에도 적용되고 있습니다
   “우리의 탄탄한 기술력을 바탕으로 고객에게 더욱 혁신적인 제품을 제공합니다. 좋은 선택은 기업이 비용 부담을 덜어주고, 고객이 보다 적극적이고 과감하게 시도하고 반복할 수 있도록 하며, 대규모 모델 애플리케이션이 한 단계 더 발전할 수 있도록 돕습니다. "Sun Fan은 말했습니다.
   Volcano Engine은 또한 Toutiao 및 Douyin에 대한 동일한 플러그인 서비스를 업그레이드하고 웹 페이지 구문 분석 및 계산기와 같은 플러그인을 추가하여 모델 기능의 경계를 더욱 넓히고 다양한 애플리케이션 요구 사항을 지원합니다.
   Zhang Xin은 Volcano 엔진이 자체적으로 빠른 속도로 반복되어 더욱 지능화되고 산업화되고 지역화되고 있다고 말했습니다. 그는 “타겟팅된 산업 솔루션, 제품, 최적화된 서비스를 통해 앞으로 더 많은 남서부 지역 기업들이 빈백 모델과 화산 엔진의 힘을 활용해 비즈니스 혁신을 이뤄내며 새로운 혁신을 창출할 것이라고 믿는다”고 말했다. 경제발전에 활력을 불어넣습니다. ”

위 내용은 Tokens of Doubao 모델의 일일 평균 사용량이 5,000억 개를 초과하고 모델 제품군이 다시 업그레이드되었습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!