Super KI-Leistung demonstriert, AndesGPT unterstützt Find X7

Ab Ende 2022 hat sich künstliche Intelligenz (KI) rasant auf der ganzen Welt verbreitet und ist zu einem Schwerpunkt globaler Aufmerksamkeit geworden. Als smarte Produkte müssen auch Mobiltelefone smarter werden. Daher arbeiten Mobiltelefonhersteller auch unermüdlich daran, die KI-Fähigkeiten von Mobiltelefonen zu verbessern. Am 8. Januar brachte OPPO feierlich die Find Industrie.

Wir haben bereits erfahren, dass die Find X7-Serie das erste 7-Milliarden-Parameter-Großmodell der Branche sein wird, das auf der Geräteseite eingesetzt wird. Durch die „Device-Cloud Collaboration“-Architektur kann diese Serie den lokalen und Cloud-kollaborativen Betrieb realisieren und so der Find X7-Serie neue intelligente Funktionen verleihen.

Das Andes Grand Model (AndesGPT) von OPPO ist ein benutzerzentrierter, groß angelegter intelligenter Agent. Es verfügt über drei wichtige Funktionen: Dialogverbesserung, Personalisierung und Zusammenarbeit zwischen Gerät und Cloud und bietet starke Unterstützung für die Anwendung von KI-Assistenten in intelligenten Terminals. Ziel dieses Modells ist es, Benutzern personalisiertere und intelligentere Dienste bereitzustellen und durch Dialog und Interaktion mit Benutzern einen Superzugang zu intelligenten Terminals zu erreichen.

Aufgrund der flexiblen Computerbereitstellung von Andes Cloud kann die Find X7-Serie große Modelle schnell in der Cloud iterieren. Unter anderem verbessert der immersive GPU + IB-Netzwerk-Trainingscluster die Trainingsleistung im Vergleich zur herkömmlichen Luftkühlung um mehr als 8 %, verbessert gleichzeitig die Energieeffizienz um 45 % und erhöht die Dichte der Rechenleistungsbereitstellung um mehr als 400 %. OPPOs selbstentwickelte Cloud-native Virtualisierungstechnologie SGPU reduziert die GPU-Nutzungskosten um bis zu 70 %. Darüber hinaus kann AndesGPT durch die ursprüngliche PagedAttention-Technologie die Verzögerung des ersten Wortes um 50 % reduzieren und den Inferenzdurchsatz um 30 % erhöhen.

Erwähnenswert ist, dass OPPO durch die intensive Zusammenarbeit mit MediaTek die Führung in der Branche bei der Einführung der 4-Bit-Quantisierungstechnologie (der branchenweit optimalen endseitigen Bereitstellungslösung für große Modelle) übernommen und gemeinsam die schrittweise Implementierung von AndesGPT Large vorangetrieben hat Sprachmodelle und visuelle große Modelle auf der Endseite, damit die Genauigkeit nicht abnimmt und die Leistung besser ist. Durch die Unterstützung der 4-Bit-Quantisierungstechnologie bietet AndesGPT eine schnellere Reaktion und eine bessere Sicherheit auf der Clientseite. Es kann mit zwei Optimierungslösungen berechnet werden, die auf demselben Modell basieren, wodurch die Inhaltsgenerierungszeit des Modells verbessert wird. Darüber hinaus hat OPPO gemeinsam mit MediaTek optimiert, um eine Hochleistungsbeschleunigung von HTP, APU und GPU zu erreichen.

Die Find Beispielsweise benötigt Find Für eine Zusammenfassung mit 2.000 Wörtern dauert es nur 2,9 Sekunden, was 2,5-mal schneller ist als bei anderen Mobiltelefonen. Aus diesen Daten geht hervor, dass die Find X7-Serie in Bezug auf die Al-Smart-Anrufzusammenfassungsfunktion mit 14.000 Wörtern das 3,5-fache des Niveaus anderer Mobiltelefone erreicht hat.

Darüber hinaus führt die Find Xiaobu Assistant wurde weiter verbessert und ist intelligenter geworden. Es kann nicht nur Ihre kreative Inspiration anregen, sondern auch eine SWOT-Analyse bereitstellen, die häufig in Geschäftsanalysetools verwendet wird, und Ihnen bei der Erstellung von PPT-Entwürfen und anderen Funktionen helfen. Darüber hinaus werden in Zukunft schrittweise weitere experimentelle Funktionen eröffnet, um das intelligente KI-Erlebnis der Benutzer kontinuierlich zu bereichern.

Ich muss sagen, dass die Find

Das obige ist der detaillierte Inhalt vonSuper KI-Leistung demonstriert, AndesGPT unterstützt Find X7. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!