Maison  >  Article  >  Périphériques technologiques  >  Un autre "acteur fort" a été ajouté dans le domaine de l'IA, Meta publie un nouveau modèle de langage à grande échelle LLaMA

Un autre "acteur fort" a été ajouté dans le domaine de l'IA, Meta publie un nouveau modèle de langage à grande échelle LLaMA

王林
王林avant
2023-04-25 12:52:061092parcourir

Depuis que ChatGTP est devenu populaire, les applications d'IA développées autour de ChatGTP ont vu le jour les unes après les autres ;

Récemment, la société mère de Facebook, Meta, a publié le Large Language Model d'intelligence artificielle (Large Language Model Meta AI), appelé LLaMA. Zuckerberg a déclaré sur les réseaux sociaux : « Le modèle LLaMA développé par l'équipe FAIR est actuellement le modèle de langage à grande échelle le plus avancé au monde. L'objectif est d'aider les chercheurs à faire progresser leurs travaux dans le domaine de l'intelligence artificielle !

Comme d'autres modèles à grande échelle, Meta LLaMA fonctionne en prenant une séquence de mots comme « entrée » et en prédisant le mot suivant pour générer du texte de manière récursive. AI 领域再添一员"猛将",Meta 发布全新大型语言模型LLaMA

Selon les rapports, Meta développe LLaMA avec plusieurs paramètres (7B, 13B, 33B et 65B). Parmi eux, LLaMA 65B et LLaMA 33B ont été formés sur 1 400 milliards de jetons, tandis que le plus petit modèle, LLaMA 7B, a également été formé sur 1 000 milliards de jetons.

De plus, le modèle LLaMA a été formé sur 20 langues, dont les langues latine et cyrillique, et nécessite beaucoup moins de puissance de calcul que les grands modèles lancés précédemment.

L'équipe FAIR a déclaré que LLaMA n'a encore été utilisée dans aucun produit Meta.

Différent de "DeepMind" et "OpenAI", LLaMA rendra public le code de formation

Meta prévoit également de rendre cette technologie ; est ouvert en priorité aux chercheurs en IA. Si vous souhaitez utiliser LLaMA, vous pouvez soumettre une candidature et vous pourrez l'utiliser après approbation.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration:
Cet article est reproduit dans:. en cas de violation, veuillez contacter admin@php.cn Supprimer