Maison > Article > Périphériques technologiques > ChatGPT domestique est à nouveau open source ! L'effet a été considérablement amélioré et peut également être exécuté sur les téléphones mobiles.
Récemment, l'équipe Yuanyu Intelligence a ouvert un autre grand modèle de la série ChatYuan : ChatYuan-large-v2, qui prend en charge l'inférence sur une seule carte graphique grand public, un PC et même des téléphones mobiles.
Tout à l'heure, "Chinese ChatGPT" ChatYuan a publié une nouvelle version.
Le ChatYuan-large-v2 mis à jour prend non seulement en charge les langues bilingues chinois et anglais, mais prend également en charge une longueur totale d'entrée et de sortie allant jusqu'à 4k.
C'est également le résultat de la recherche de Yuanyu Intelligence en direction des grands modèles après les précédents modèles PromptCLUE-base, PromptCLUE-v1-5 et ChatYuan-large-v1.
Adresse du projet Open source :
https://github.com/clue-ai/ChatYuan
Huggingface :
https://huggingface.co/ClueAI/ChatYuan-large-v2
Modelscope :
https://modelscope.cn/models/ClueAI/ChatYuan-large-v2/summary
ChatYuan-large-v2 est un grand modèle de langage conversationnel fonctionnel qui prend en charge le bilinguisme chinois et anglais. ChatYuan-large-v2 utilise la même solution technique que la version v1, en termes de réglage fin des instructions, d'apprentissage par renforcement des commentaires humains et. chaînes de pensée optimisées.
ChatYuan-large-v2 est un modèle représentatif de la série ChatYuan qui permet d'obtenir des effets de haute qualité avec une conception légère. Il peut obtenir les effets de base du modèle 10B de l'industrie avec seulement 0,7B de paramètres, réduisant considérablement les coûts d'inférence et améliorant l'efficacité d'utilisation. . Les utilisateurs peuvent effectuer des inférences sur des cartes graphiques grand public, des PC et même des téléphones mobiles (INT4 ne nécessite qu'un minimum de 400 Mo).
Dans le même temps, afin de mieux améliorer l'expérience utilisateur, l'équipe a encapsulé des outils. Chatyuan-large-v2 a été implémenté localement et peut être exécuté localement. Après téléchargement, la version h5 peut être utilisée directement localement pour le web. interaction avec les pages.
Basé sur les fonctions originales de chatyuan-large-v1, le modèle v2 a été optimisé comme suit :
Génération de code
03 Limitations de la v2
Étant donné que Chatyuan-large-v1 est un grand modèle léger, il y aura toujours certaines limitations et lacunes. Il est conseillé aux développeurs d'en être conscients, notamment :.
En général, la v2 s'est grandement améliorée par rapport au modèle open source v1 en termes de compréhension du contexte, de génération de contenu, de génération de table de codes, etc. Elle peut atteindre la base de dizaines de milliards d'échelles de paramètres dans l'industrie avec une échelle de paramètres de seulement 0,7B. L'effet est de réduire considérablement le coût du raisonnement et d'améliorer l'efficacité de l'utilisation.
Yuanyu Intelligence a déclaré que l'équipe adhérerait fermement à la voie de l'open source et continuerait à ouvrir des grands modèles à usage général de meilleure qualité et de plus grande taille à l'avenir, continuerait à construire un écosystème de développeurs open source et promouvrait le développement open source. Des grands modèles nationaux. Nous espérons que tous les amis nous critiqueront et nous corrigeront.
Invitation à des tests internes du produit
En plus de ce modèle open source ChatYuan-large-v2, l'équipe Yuanyu a officiellement lancé les tests internes du produit KnowX KnowX est équipé des capacités de grand modèle de la dernière version. de ChatYuan en ligne et est capable de compréhension contextuelle. Il présente d'excellentes performances en matière de génération de contenu, de génération de code, de calculs de raisonnement logique, etc. Afin de garantir la fiabilité, la stabilité et l'optimisation ultérieure de la version, le produit a maintenant été lancé pour tests internes. Le nombre de places est limité. Les amis intéressés peuvent postuler via le lien ci-dessous.
Canal d'application bêta interne :
https://wj.qq.com/s2/11984341/e00b/
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!