Heim  >  Artikel  >  Technologie-Peripheriegeräte  >  Die tägliche durchschnittliche Nutzung der Token des Doubao-Modells übersteigt 500 Milliarden, und die Modellfamilie wird erneut aktualisiert

Die tägliche durchschnittliche Nutzung der Token des Doubao-Modells übersteigt 500 Milliarden, und die Modellfamilie wird erneut aktualisiert

王林
王林Original
2024-08-14 10:02:31286Durchsuche

Am 25. Juli enthüllte die Chengdu Station, die erste Station der „AI Innovation Tour“ der Volcano Engine 2024, die neuesten Fortschritte des Byte-Beanbao-Modells: Seit Juli übersteigt die durchschnittliche tägliche Nutzung von Tokens im Beanbao-Modell 500 Milliarden , mit durchschnittlich 500 Milliarden Tokens, die von jedem Unternehmen verwendet werden. Die durchschnittliche tägliche Nutzung von Tokens durch Kunden stieg im Vergleich zum Modelleinführungszeitraum am 15. Mai.

Die tägliche durchschnittliche Nutzung der Token des Doubao-Modells übersteigt 500 Milliarden, und die Modellfamilie wird erneut aktualisiert

1. Das große Doubao-Modell wurde von ByteDance selbst entwickelt, früher bekannt als „Skylark“. Es ist eines der ersten großen Modelle in China, das bei dem Algorithmus registriert ist. Derzeit werden Dienste für Unternehmen über die Cloud bereitgestellt Serviceplattform Volcano Engine.
  1. Seit seiner Veröffentlichung konzentriert sich Doubao Big Model auf große Nutzungsszenarien und umfangreiche Anwendungsszenarien.
  2. Laut Zhang In Szenarien wie Charakterdialog und Bildung beschleunigt die auf Doubao Big Model basierende neue Technologie-Engine die Geschäftsinnovation. Darüber hinaus decken die externen Kunden von Doubao Big Model mehr als 30 Branchen ab, darunter Mobiltelefone, Automobile, Finanzen, Konsum und interaktive Unterhaltung , und zusammen mit namhaften Terminalherstellern wie OPPO, vivo, Honor, Xiaomi, Samsung und Asus sowie mehr als 20 Automobilherstellern wie Geely Automobile, Great Wall Motors, Jietu Motors, Cyrus und Zhiji Automobile haben sie dies getan gründete die Smart Terminal Large Model Alliance bzw. die Automotive Big Model Alliance.

    Die tägliche durchschnittliche Nutzung der Token des Doubao-Modells übersteigt 500 Milliarden, und die Modellfamilie wird erneut aktualisiert

    Légende : Zhang Xin, vice-président de Volcano Engine, lors de l'événement « AI Innovation Tour » 2024
    Dans cet événement, en tant que clients d'entreprise typiques de la région sud-ouest du modèle de pouf, la plateforme de recrutement de cols bleus Yupao Technology et l'intelligent La société de service client Xiaoduo Technology a également partagé ses points de vue respectifs. L'expérience de cas d'accès au grand modèle Doubao pour réaliser la croissance de l'entreprise est présentée. Parmi eux, le grand modèle beanbao de Yupao Technology a un volume d'appels quotidien moyen de plus de 100 millions de jetons, et ses scénarios d'application couvrent l'identification des exigences du poste, l'identification du type de travail, l'identification des intentions de recherche d'emploi, l'identification de la similarité du système de recommandation, etc.
    Sun Fan, architecte d'algorithmes du service Volcano Engine Large Model, a souligné que les principaux défis auxquels sont confrontées les entreprises lors de l'utilisation de grands modèles sont trois aspects : « l'effet de modèle », le « coût d'utilisation » et la « difficulté de mise en œuvre ». Doubao Big Model et Volcano Engine partent de la perspective d'un « modèle plus solide », d'un « prix inférieur » et d'un « plus facile à mettre en œuvre » pour aider les entreprises à résoudre les problèmes.
    Il est rapporté que lorsque la famille de modèles Doubao a été officiellement lancée en mai, elle a fourni une famille de modèles avec des capacités multimodales, comprenant principalement neuf modèles, dont le modèle général pro, le modèle général lite, le modèle de reconnaissance vocale, le modèle de synthèse vocale et le modèle vincentien. modèle de diagramme. Depuis sa sortie en mai, le modèle principal Doubao Universal Model Pro a obtenu des performances exceptionnelles dans plusieurs ensembles d'évaluations publiques et évaluations professionnelles tierces, et est le grand modèle national ayant obtenu le score le plus élevé.
    Cette fois, la famille de modèles Doubao a mis à niveau le modèle de graphe vincentien et le modèle de parole. Le modèle d'image Doubao·Vensen amélioré a une capacité plus précise à comprendre les longs textes en chinois et en anglais et peut générer des images très esthétiques avec des graphiques et du texte cohérents ; le modèle de synthèse vocale Doubao·Speech amélioré réalise une reconnaissance intelligente des émotions du texte et une vitesse de parole dynamique. et l'intonation. Ajustez pour le rendre plus émotionnel ; le modèle de reproduction vocale peut reproduire les voix humaines avec une haute fidélité en seulement 5 secondes et prend en charge une variété de petites langues.
    Il convient de mentionner que la famille modèle Doubao a officiellement annoncé cette fois un nouveau membre - le modèle Doubao Tushengtu. Basé sur le modèle Wenshengtu, le modèle Doubao·Tushengtu peut atteindre un degré élevé de restauration des caractéristiques des personnages, une conversion gratuite de plus de 50 scènes de style et fournir une variété d'éditions créatives étendues. Cette capacité de modèle a été implémentée dans des applications basées sur les octets telles que Douyin, Jianying, Doubao et Xinghui, et a servi des entreprises clientes telles que Samsung et Nubia via le moteur Volcano. Le nombre moyen actuel d'images générées par jour atteint des dizaines de millions. .
    En termes de tarification du modèle, les rapports publics montrent que le prix d'entrée d'inférence du modèle principal de Doubao n'est que de 0,0008 yuans/millier de jetons, soit 99,3 % moins cher que l'industrie. Tan Dai, président de Volcano Engine, a déclaré dans une interview précédente que les prix ultra-bas des grands modèles proviennent de la confiance dans la technologie que Volcano Engine peut optimiser le coût d'inférence des grands modèles grâce à des moyens techniques.
    "Si une personne démarre une entreprise maintenant, si elle doit dépenser 10 000 yuans pour appeler un grand modèle, elle peut penser que c'est un peu cher. Nous avons réduit le prix à moins de 1%, et il peut l'utiliser pour 100 yuans, et son idée sera plus facile. Essayez. " Tan Dai a déclaré que la transformation des entreprises par l'IA est pleine d'incertitudes et que le coût des essais et des erreurs doit être aussi bas que possible afin de réaliser l'application de grandes modèles plus rapides et plus nombreux, bénéficiant ainsi à l'ensemble de l'industrie. "
    En plus de bons effets et de prix bas, le grand modèle Doubao offre également une limite de traitement de jetons par minute qui peut être plusieurs fois supérieure à celle du même modèle d'échelon, donnant au service de modèle une capacité de charge plus forte
    Selon Sun Fan, le modèle général Doubao Pro offre aux clients les normes initiales les plus élevées du secteur en matière de TPM (jetons par minute) et de RPM (requêtes par minute), ce qui aide les entreprises à mettre en œuvre leurs activités dans des scénarios à forte concurrence.
    Actuellement, ByteDance continue d'augmenter son support. L'investissement dans la recherche technologique sur les grands modèles a récemment abouti à un certain nombre de réalisations exceptionnelles dans les domaines de la vision, de la parole et dans d'autres domaines, et certaines de ses capacités ont été appliquées aux produits liés aux grands modèles de poufs
    « Nous espérons utiliser notre solide force technique pour fournir aux clients des produits plus innovants. De bons choix aident les entreprises à alléger le fardeau des coûts, permettent aux clients d'essayer d'itérer de manière plus active et plus audacieuse et de faire avancer les applications de modèles à grande échelle. ", a déclaré Sun Fan.
    Le Volcano Engine a également mis à niveau les mêmes services de plug-in pour Toutiao et Douyin, et ajouté des plug-ins tels que l'analyse de pages Web et des calculatrices, élargissant encore les limites des capacités du modèle, prenant en charge les divers besoins d'application de entreprises, et en même temps apportant des boutons Version professionnelle, plate-forme HiAgent et d'autres produits et les derniers progrès de l'infrastructure cloud
    Zhang Xin a déclaré que le moteur Volcano itère tout seul à grande vitesse, devenant plus intelligent, industrialisé et régionalisé. . Il a déclaré : « Grâce à des solutions industrielles ciblées, des produits et des services optimisés. Je crois qu'à l'avenir, davantage d'entreprises de la région du sud-ouest utiliseront la puissance du modèle du pouf et du moteur volcan pour réaliser l'innovation commerciale, injectant ainsi de nouvelles vitalité dans le développement économique. »

Das obige ist der detaillierte Inhalt vonDie tägliche durchschnittliche Nutzung der Token des Doubao-Modells übersteigt 500 Milliarden, und die Modellfamilie wird erneut aktualisiert. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn