Das große Bytedance Beanbao-Modell wurde veröffentlicht. Der Full-Stack-KI-Dienst Volcano Engine unterstützt Unternehmen bei der intelligenten Transformation

Volcan Engine-Präsident Tan Dai

Unternehmen müssen große Modelle gut implementieren, stehen aber vor drei zentralen Herausforderungen: Modelleffekt, Inferenzkosten und Schwierigkeit der Implementierung: Sie müssen über gute grundlegende große Modelle als Unterstützung zur Lösung komplexer Probleme verfügen Darüber hinaus muss es kostengünstige Inferenzdienste geben, um die breite Nutzung großer Modelle zu ermöglichen, und es werden mehr Tools, Plattformen und Anwendungen benötigt, um Unternehmen bei der Umsetzung von Szenarien zu unterstützen.

– Tan Dai, Präsident von Volcano Engine Implementierung. Tan Dai wies darauf hin, dass ein gutes Modell nur durch ausgiebigen Gebrauch poliert werden kann. Derzeit verarbeitet das Doubao-Modell 120 Milliarden Text-Tokens und generiert 30 Millionen Bilder pro Tag.

Um Unternehmen bei der Implementierung groß angelegter Modellszenarien zu unterstützen, wird das unabhängig entwickelte Doubao-Großmodell von ByteDance offiziell über die Volcano Engine der Außenwelt zur Verfügung gestellt. Unternehmen können entsprechend ihren eigenen Geschäftsszenarioanforderungen flexibel auswählen und schnell implementieren:

Doubao ist ein universelles Modell-Profi:

ByteDance selbst entwickelte LLM-Modell-Profiversion, unterstützt 128.000 Langtexte, die gesamte Serie kann fein abgestimmt werden, verfügt über stärkere umfassende Funktionen wie Verständnis, Generierung, Logik usw. und ist reich an Anpassungsmöglichkeiten für Fragen und Antworten, Zusammenfassung, Erstellung, Klassifizierung usw. Szenario;

Dubao Universal Model Lite:

ByteDance selbst entwickelte LLM-Modell-Lightweight-Version, die niedrigere Token-Kosten und geringere Latenz als die professionelle Version bietet Version, die Unternehmen eine flexible und wirtschaftliche Modellauswahl bietet;

Doubao·Rollenspielmodell:

Personalisierte Charaktererstellungsfunktionen, stärkere Kontexterkennung und Handlungsförderungsfunktionen, die flexible Rollenspielanforderungen erfüllen; Sprachsynthesemodell:

• Bietet natürliche und lebendige Sprachsynthesefähigkeit, ist gut darin, eine Vielzahl von Emotionen auszudrücken und eine Vielzahl von Szenen darzustellen; Doubao·Sprachreplikmodell:
• Sie können eine 1:1-Klonung der Stimme erreichen Stellen Sie in 5 Sekunden die Ähnlichkeit und Natürlichkeit der Klangfarbe wieder her und unterstützen Sie die sprachübergreifende Übertragung; Sprachen; Doubao·Vincent-Diagrammmodell:
• Genaueres Textverständnis, genauere Bild- und Textübereinstimmung, schönere Bildeffekte, gut bei der Erstellung chinesischer Kulturelemente; Doubao·Funktionsaufrufmodell:
• Bieten Sie genauere Funktionen zur Funktionsidentifizierung und Parameterextraktion. Geeignet für komplexe Werkzeugaufrufszenarien. Doubao·Vektorisierungsmodell:
• Konzentrieren Sie sich auf die Verwendungsszenarien des Vektorabrufs, stellen Sie Kernverständnisfunktionen für die LLM-Wissensdatenbank bereit und unterstützen Sie sie mehrere Sprachen. Tan Dai gab bekannt, dass bereits letztes Jahr das Doubao-Modell (ursprünglicher Name: Skylark) innerhalb von ByteDance eingeführt wurde und es auch eines der ersten großen Modelle war, das sicher über den großen Modelldienst registriert wurde. Mehr als 50 Unternehmen innerhalb von ByteDance haben das Doubao-Modell ausgiebig für KI-Innovationen genutzt, darunter Produkte mit Hunderten Millionen DAU wie Douyin und Toutiao. Die Doubao APP, die auf dem gleichnamigen großen Modell von Doubao basiert, steht hinsichtlich der Downloads im Apple APP Store und in den wichtigsten Android-Anwendungsmärkten an erster Stelle unter den AIGC-Anwendungen*.
• *Datenquelle: QuestMobile
• Zhu Jun, Vizepräsident für ByteDance-Produkte und -Strategie Zhu Jun, Vizepräsident für ByteDance-Produkte und -Strategien, stellte die Produkte von ByteDance vor, um native KI-Anwendungen auf Basis des Doubao zu erstellen große Modellidee. Er sagte, dass sich die Technologie schnell weiterentwickelt, die Kernbedürfnisse der Benutzer sich jedoch nicht geändert haben, wie z. B. die Notwendigkeit, Informationen effizient zu erhalten, die Notwendigkeit, die Arbeitseffizienz zu verbessern, das Bedürfnis nach Selbstdarstellung, das Bedürfnis nach sozialer Unterhaltung usw. ByteDance hat viele Studien und Erkundungen durchgeführt, in der Hoffnung, ein geeignetes Anwendungsformular für große Modelle zu finden, das Benutzern in natürlicher interaktiver Form dient und in das Leben und die Arbeit von mehr Menschen eindringt.
• Doubao APP ist eine groß angelegte Modellanwendung, auf die sich ByteDance konzentriert. Laut Zhu Jun haben die monatlich aktiven Benutzer der Doubao-Plattform 26 Millionen erreicht und es wurden mehr als 8 Millionen Agenten erstellt.

  Doubao Big Model betreut nicht nur die interne Arbeit von Byte, sondern arbeitet auch gemeinsam mit vielen Unternehmenskunden von Volcano Engine. Tan Dai ist davon überzeugt, dass Unternehmen Modelle mit unterschiedlichen Merkmalen in unterschiedlichen Geschäftsszenarien benötigen, um die besten Ergebnisse und die beste Kostenleistung zu erzielen. Zu diesem Zweck bietet Doubao Big Model eine multimodale Modellfamilie, die Unternehmen je nach den Anforderungen ihres eigenen Geschäftsszenarios flexibel auswählen können, um einen positiven Zyklus der Modellnutzung und Kostenkontrolle zu erreichen.

  02.

  Ein gutes Modell ist für jeden erschwinglich

  Tan Dai glaubt, dass Kostensenkung ein Schlüsselfaktor ist, um große Modelle in die „Wertschöpfungsphase“ zu bringen. Der Preis von Doubaos Hauptmodell auf dem Unternehmensmarkt beträgt nur 0,0008 Yuan/tausend Token. Es kann mehr als 1.500 chinesische Schriftzeichen zu 0,8 Cent verarbeiten, was 99,3 % günstiger ist als die Branche.

  Am Beispiel der Pro-32k-Version des Doubao-Universalmodells beträgt der Modellinferenz-Eingabepreis nur 0,0008 Yuan/tausend Token. Der Preis für Modelle mit den gleichen Spezifikationen auf dem Markt beträgt im Allgemeinen 0,12 Yuan/tausend Token, was dem 150-fachen Preis des Sitzsackmodells entspricht. Der Preis großer Modelle ist in die „Centi-Ära“ eingetreten.

  Tan Dai sagte, dass der „Rollerpreis“ großer Modelle Unternehmen dabei helfen wird, Geschäftsinnovationen zu geringeren Kosten zu beschleunigen.

  03.

  Ark 2.0-Upgrade

  Förderung der Wertschöpfung großer Modelle

  Letztes Jahr veröffentlichte Volcano Engine die One-Stop-Serviceplattform für große Modelle Volcano Ark, in der Hoffnung, Unternehmen durch das Konzept zu unterstützen Modell als Service Wenden Sie verschiedene Modelle in einer effizienten und sicheren Umgebung an. In diesem Jahr hat Volcano Engine die Ark-Plattform umfassend aktualisiert. Das aktualisierte Volcano Ark 2.0 wird Modelleffekte, Kern-Plug-Ins, Systemleistung und Plattformerfahrung erheblich verbessern und Unternehmen dabei helfen, die Wertschöpfung großer Modelle zu fördern.

  In Bezug auf Plug-ins und Toolketten hat Ark 2.0 das Internet-Plug-in aktualisiert und bietet dieselben Suchfunktionen wie Toutiao und Douyin, verbindet riesige, qualitativ hochwertige Daten in Echtzeit und nutzt gleichzeitig multimodale Interaktion Methoden wie Text, Bilder und Sprache sowie branchenführende Absichtserkennungsfunktionen, die die Informationserfassungsfunktionen des Modells erheblich verbessern, ein aktualisiertes Inhalts-Plug-in, das Toutiao und Douyin mit umfangreichen Inhalten aus derselben Quelle versorgt und mehrere unterstützt. Modale Interaktion, die einen vertikalen Abruf von Inhaltsinformationen basierend auf der Absicht und eine stärkere Aktualität des Abrufs von Inhalten ermöglicht, um großen Modellen dabei zu helfen, das Wissensbasis-Plug-in zu aktualisieren, um zig Milliarden hochpräzise Informationen auf Millisekundenebene bereitzustellen. Leistungsabruf, Aktualisierungen des Streaming-Wissensdatenbankindex der zweiten Ebene und eingebettete Beanbao-Vektorisierungsmodelle zur Verbesserung der Relevanz von Suchanfragen, Geschlecht und Genauigkeit.

  Zusätzlich zu den oben genannten Kern-Plug-in-Upgrades hat Volcano Ark 2.0 auch die Systemtragfähigkeit, die Sicherheitsschutzfunktionen und die Algorithmus-Servicefunktionen umfassend verbessert. In Bezug auf die Systemtragfähigkeit bietet es reichlich GPU-Rechenressourcen und eine enorme Elastizität bei der Erweiterung und Reduzierung der Kilokartenkapazität in wenigen Minuten, wodurch Geschäftsstabilität und Kostenkontrolle im Hinblick auf den Sicherheitsschutz gewährleistet werden. Durch eine Sicherheitssandbox wird eine vertrauenswürdige Ausführungsumgebung aufgebaut Eine mehrdimensionale Sicherheitsarchitektur gewährleistet die Datensicherheit. Darüber hinaus bietet Volcano Engine professionelle Algorithmen-Teamdienste, um Kunden dabei zu helfen, einzigartigen Datenwert zu erschließen und die einfache Implementierung großer Unternehmensmodellanwendungen zu ermöglichen.

  Button-Produktmanager Pan Yuyang

  Neben guten Modelleffekten, praktischen Plug-Ins und starker Systemleistung müssen wir auch eine einfache und benutzerfreundliche Entwicklungsplattform bereitstellen, damit jeder ein werden kann Entwickler von KI-Anwendungen. Coze-Produktmanager Pan Yuyang stellte vor, dass Coze als eine von ByteDance eingeführte KI-Anwendungsentwicklungsplattform der neuen Generation die Vorteile von niedrigem Schwellenwert, Personalisierung, Echtzeit, Multimodalität usw. bietet und umfangreiche KI-Ressourcen und umfangreiche Veröffentlichungskanäle integriert . Ein benutzerdefinierter API-Service mit nur einem Klick, um die letzte Meile von großen Modellen bis hin zu Benutzerszenarien zu bewältigen.

  Volcano Engine hat offiziell die professionelle Version von Buttons veröffentlicht. Basierend auf der Fähigkeit von Kouzi, intelligente Agenten flexibel zu orchestrieren, bietet die Kouzi Professional Edition außerdem SLA auf Unternehmensebene und eine Vielzahl erweiterter Funktionen, wodurch KI-Anwendungen einfacher zu implementieren sind und Unternehmen sich stärker auf die Förderung des Geschäftswachstums durch Agenteninnovation konzentrieren können.

  Tan Dai sagte, dass Volcano Engine sich zum Ziel gesetzt hat, die offenste und führende Cloud-Service-Plattform im KI-Zeitalter zu werden. Das neu aktualisierte Volcano Ark 2.0 wird durch stärkere Leistung, bessere Plug-Ins, bessere Dienste sowie sichere und vertrauenswürdige Lösungen bei der Implementierung groß angelegter Modellanwendungen helfen.

  04.

  In der Praxis weit verbreitet

  Fruchtbare Ergebnisse in mehreren Branchen

  Das Sitzsackmodell und Volcano Ark 2.0 werden derzeit in den Bereichen Finanzen, Automobile, Smart Terminals, E-Commerce-Einzelhandel und Bildung eingesetzt und wissenschaftliche Forschung usw. Die Industriepraxis wird umgesetzt. Auch Unternehmen wie China Merchants Bank, Haidilao Hotpot, Super Orangutan, Ctrip Travel, Feichangzhun und Liepin haben intelligente Körper auf Knöpfen gebaut. Berühmte Universitäten wie die Fudan-Universität und die Zhejiang-Universität haben ebenfalls „KI-Lehrassistenten“ für Kurse und Experimente gebaut.

  Gao Menschen und intelligente Datenassistenten. Gao Xulei, Direktor des Digital Finance Development Office der China Merchants Bank, sagte, dass das große Modell eine Transformation und Modernisierung der gesamten Geschäftskette der Bank mit sich bringen werde. In Zusammenarbeit mit Volcano Engine werden die beiden Parteien gemeinsam Anwendungsszenarien für große Modelle und eine leistungsstarke Infrastruktur aufbauen, bestehende Systeme und Produkte transformieren und eine große Anzahl KI-zentrierter intelligenter Agentenanwendungen generieren.

  Li Qijie, Vizepräsident und Chief Digital Intelligence Officer der Mengniu Group

  Li Qijie, Vizepräsident und Chief Digital Officer der Mengniu Group, stellte die Daten der Mengniu Group aus drei Aspekten vor: der Entwicklung der Produktionswerkzeuge, der Entwicklung von Produktionsmethoden und die Entwicklung organisatorischer Methoden. Die Mengniu Group arbeitet mit Volcano Engine zusammen, um die Technologiebasis zu konsolidieren und eine intelligente Matrix aus KI-Ernährungsexperten, KI-Kindermädchen, KI-Datenanalysten, Produktinnovationsassistenten, Hotspot-Kreativassistenten usw. aufzubauen, um das Front-End-Kundenerlebnis zu verbessern und den Rücken zu unterstützen -Endoperationen.

  Veröffentlichung der Smart Terminal Large Model Alliance

  Bei dem Treffen gaben Volcano Engine und OPPO, vivo, Honor, Xiaomi, Samsung und ASUS die Gründung der Smart Terminal Large Model Alliance bekannt. Anwendungen wie OPPO Xiaobu Assistant, YOYO Assistant von Honor MagicBook, Xiaomis „Xiao Ai Classmate“ und Douding AI Assistant von ASUS-Laptops wurden alle mit dem großen Modelldienst der Volcano Engine verbunden.

  Automobile Large Model Ecological Alliance veröffentlicht

  Gleichzeitig hat Volcano Engine zusammen mit der China Electric Vehicles Association von 100 und mehr als 20 Herstellern wie Geely Automobile, Great Wall Motors, Jietu Motors, Cyrus und Zhiji Automobile gab die Gründung der Automobile Alliance bekannt. Die Model Ecological Alliance hat sich der Erforschung neuer Formen der Mensch-Fahrzeug-Interaktion und der Verbesserung des neuen KI-Erlebnisses in allen Automobilszenarien verschrieben.

  Die beiden großen Allianzunternehmen OPPO und Jietu Motors teilten jeweils auch ihre eigenen großen Modellpraktiken:
  Direktor der intelligenten Assistentenabteilung von OPPO, Xiaobu, stellvertretender Chefarchitekt Wan Yulong

  Direktor der intelligenten Assistentenabteilung von OPPO, Wan Yulong, Chefarchitekt von Xiaobu Assistant, teilte die groß angelegte Modellanwendungspraxis von OPPO AI-Mobiltelefonen mit. Er sagte, dass Xiaobu Assistant derzeit 350 Millionen Endgeräte abdeckt und mehr als 150 Millionen aktive Benutzer pro Monat hat. Auf Volcano Ark hat OPPO mithilfe von Absichtserkennungsmodellen, Netzwerkzusammenfassungsmodellen, personalisierten Charaktermodellen und Sitzsackmodellen intelligente Agenten wie „Universal Question and Answer“, „Smart Girl“ und „Interviewer“ entwickelt und so den Endbenutzern ein brandneues KI-Erlebnis geboten. Liu Hang, Leiter der Digitalisierung bei Jietu Automobile Vertriebseffizienz und -fähigkeiten. Gemeinsam mit Volcano Engine haben die beiden Parteien gemeinsam Kundenservice-Szenarien entwickelt, die nicht nur Arbeitskräfte einsparen, sondern auch dem Kundenservice-Personal helfen, schnell Informationen zu erhalten und Kunden zu bedienen. In Zukunft hofft Jietu Motors auch, durch große Modelle weitere intelligente Verbesserungen in den Bereichen Cockpit, Entscheidungsfindung und Marketing zu realisieren.

  05.

  Mehrere KI-Anwendungen veröffentlicht

  Schnell implementiert und sofort einsatzbereit

  Neben der großen Modelldienstplattform sind auch KI-Anwendungen eine Schlüsselkomponente der Volcano Engine Full-Stack-KI-Dienst.

  Letztes Jahr schlug Volcano Engine ein neues Modell für die Aufrüstung der digitalen Intelligenz von Unternehmen vor – das Datenschwungrad. Dieses Modell nutzt den Datenverbrauch als zentrale treibende Kraft, integriert den Unternehmensdatenfluss vollständig in den Geschäftsfluss und realisiert den Schwungradeffekt von Datenbeständen und Geschäftsanwendungen . Um den Datenverbrauch im Unternehmen umfassender und komfortabler zu gestalten, hat Volcano Engine Intelligent Data Insight DataWind offiziell den KI-Assistenten ChatBI veröffentlicht. Benutzer können Indikatoren für die Diagrammerstellung, Datenabfrage und detaillierte Datenanalyse generieren Es unterstützt die IM-Interaktion, kann auf mehreren Terminals angewendet werden und führt jederzeit und überall eine Self-Service-Analyse durch. Dadurch wird der Datenverbrauchsschwellenwert erheblich gesenkt, die Lese- und Datennutzungseffizienz verbessert und die Leistung für den beschleunigten Betrieb des Datenschwungrads bereitgestellt.

  Für Marketingszenarien wurde Volcano Engine auf Intelligent Creation Cloud 2.0 aktualisiert und ist damit eine Komplettlösung für das Content-Marketing für Unternehmen, die von der Content-Erstellung über die Matrixverteilung und Werbung bis hin zu Datenerkenntnissen reicht und nicht nur multimodale Verständnis- und Generierungsfunktionen bietet , was dazu beitrug, die Effizienz der Videoerstellung um das 25-fache zu steigern, und außerdem Douyin-Themen, POI, Miniprogramme und andere Marketingtools einführte, wodurch die Präsenz der Shop-Seiten um 600 % gesteigert wurde. Derzeit haben mehr als 3.000 Unternehmen mit dem AIGC-Videomarketing-Wachstum auf Volcano Engine begonnen.

  Für Vertriebsszenarien hat Volcano Engine Sales Copilot veröffentlicht, einen Vertriebs-KI-Assistenten, der Kundenbedürfnisse effizient verfolgen und den Vertrieb jederzeit bei der Beantwortung komplexer Produktfragen unterstützen kann. Darüber hinaus kann es durch Rollenspiele verschiedene Arten von Kundenübungen simulieren und hervorragende Sprechfähigkeiten vermitteln, um die Qualität der Vertriebskommunikation zu verbessern.

  Volcano Engine hat sich stets dem Aufbau eines offenen und gemeinsamen ökologischen Konzepts verschrieben. Seit der Veröffentlichung von Wanwan Plan im Jahr 2021 hat es über 100 SaaS-Unternehmen zu Geschäftswachstum verholfen und fast 10.000 Kundenverträge abgeschlossen. Doubao Enterprise Service Alliance ist ein spezieller Plan von Wanyou Plan für die Implementierung großer Modelle. Die Wanyou Plan Doubao Enterprise Service Alliance wird ein Paket von Supportplänen bereitstellen, um SaaS-Unternehmen bei KI-Upgrades zu unterstützen und Industriekunden mehr sofort einsatzbereite KI-Anwendungen bereitzustellen.

  06.

  Die KI-Infrastruktur wurde auf eine neue Dimension gebracht

  Zuverlässige Garantie der Cloud-Computing-Leistung

  Im Zeitalter großer Modelle sind die Komplexität des Clustermanagements, die Netzwerkleistung und die Stabilität zentrale Herausforderungen für Cloud-Infrastruktur. Um die oben genannten Herausforderungen zu bewältigen, bietet Volcano Engine eine Reihe branchenführender Lösungen rund um den Aufbau großer Cluster, das Management, die Leistungsoptimierung und die Stabilitätsgarantie auf der Grundlage der Ressourcenvorteile und internen Praktiken interner und externer gemeinsamer Pools.

  NVIDIA Vice President of Solutions and Engineering Lai Junjie

  Bei dem Treffen veröffentlichte Volcano Engine offiziell veOmniverse, das Unternehmen und Entwicklern eine neue Cloud-Entwicklungsplattform auf Basis von NVIDIA Omniverse bietet, um Unternehmen und Entwickler in der vernetzten virtuellen Welt zu unterstützen In der Welt können Sie Arbeitsabläufe effizient entwerfen und zusammenarbeiten, intelligente und realistische virtuelle Welten erkunden und erstellen.

  Zusätzlich zur Bereitstellung einer hochstabilen und leistungsstarken Cloud-Infrastruktur für Kunden hat Volcano Engine als Reaktion auf lokale Bereitstellungsanforderungen auch eine neue Hybrid-Cloud-Version von veStack Intelligent Computing veröffentlicht, die über Wanka-Cluster-Netzwerke und 3,2T-Hochleistung verfügt Verlustfrei Der extrem große Vorteil des Netzwerks; die ultimative Leistung, die durch End-to-End-Engineering unterstützt wird und eine Trainingsbeschleunigungsrate von 97,78 % sowie eine Fehlererkennung und Selbstheilung auf Minutenebene erreichen kann; Passt sich an mehr als zehn GPU-Typen an und unterstützt gängige inländische GPU-Produkte.

  Neben der intensiven Rechenleistung der GPU muss die gesamte KI-Anwendung auch weiterhin die Kosten senken und die Effizienz der vorhandenen CPU-Last steigern, um sicherzustellen, dass das Geschäft problemlos abgewickelt werden kann und Innovationen beschleunigt werden. Auf den vier Ebenen Computing, Storage, Netzwerk sowie Betrieb und Wartung unterstützt Volcano Engine vollständig den stabilen Betrieb der Cloud-Geschäfte der Kunden.

  Ende

  Von der technologischen Innovation bis zur kommerziellen Umsetzung haben große Modelle in verschiedenen Branchen starke Impulse für die KI-Transformation gegeben. Die Volcano Engine basiert auf der praktischen Erfahrung von ByteDance im Bereich der großen Modelle. Sie macht große Modelle für jedermann erschwinglich und begleitet Kunden durch ihre Umfangreiche Implementierungserfahrung und Algorithmendienste in verschiedenen Branchen. Wachsen Sie zusammen. Auch in Zukunft werden die Full-Stack-KI-Dienste von Volcano Engine Unternehmen bei der Umsetzung der KI-Transformation unterstützen und das Geschäftswachstumspotenzial fördern.

Das obige ist der detaillierte Inhalt vonDas große Bytedance Beanbao-Modell wurde veröffentlicht. Der Full-Stack-KI-Dienst Volcano Engine unterstützt Unternehmen bei der intelligenten Transformation. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!