Défiez OpenAI ! Israel AI21 Labs lance son dernier modèle de langage : Jurassic-X

Récemment, AI21 Labs a finalisé un financement de série B de 64 millions de dollars américains, valorisant l'entreprise à 664 millions de dollars américains. Cette ronde de financement a été menée par Allen Innovation Capital Fund, avec la participation du PDG et co-fondateur de Mobileye, Amnon Shashua, Walden Catalyst, Pitango, TPY Capital et Mark Leslie, portant le financement total d'A21 Labs à 118,5 millions de dollars.

AI21 Labs a été cofondé en 2017 par Goshen, Shashua et le professeur Yoav Shoham de l'Université de Stanford. Le premier produit de la société est Wordtune, une aide à l'écriture basée sur l'IA conçue pour concurrencer Grammarly et qui suggère de nouveaux mots à mesure que les utilisateurs tapent. En août de l'année dernière, AI21 a lancé la plateforme AI Studio et a lancé un service "pay-as-you-go" pour le modèle Jurassic-1 - les développeurs peuvent personnaliser le modèle et l'affiner en fonction des ensembles de données uniques qu'ils exiger. Les modèles de la série Jurassic-1 peuvent être utilisés pour paraphraser (comme générer des noms de produits courts à partir de descriptions de produits), extraire des chiffres à partir de texte, marquer des e-mails et des notes par sujet ou catégorie. Ces modèles peuvent également résumer le contenu, notamment des extraits d'articles, de rapports et de fichiers PDF, grâce à une fonctionnalité de Wordtune appelée Wordtune Read.

Cependant, comme les modèles linguistiques sont formés sur de grandes quantités de données provenant d'Internet, y compris des médias sociaux, ils sont capables de générer des textes toxiques et biaisés basés sur un langage similaire rencontré lors de la formation. Le modèle d’AI21 Labs ne fait pas exception.

Bien que

AI21 Labs

exige que les clients acceptent une politique de conditions d'utilisation et des directives d'utilisation, il n'a pas mis en œuvre de filtrage du contenu potentiellement toxique généré par son API. En réponse, AI21 Labs a déclaré que son modèle est « légèrement moins biaisé » que GPT-3, et a déclaré qu'il examinait et ajustait manuellement le modèle pour lutter contre les abus.

Et selon Goshen, la dernière version du modèle Jurassic-1, Jurassic-X, utilise un soi-disant « système de connaissances de raisonnement modulaire » pour améliorer ses réponses avec des « experts en raisonnement discret » tels que des calculatrices en ligne et des devises. convertisseurs. Jurassic-X peut répondre à des opérations mathématiques « non triviales » exprimées en langage naturel et simplifier des problèmes « complexes » qui pourraient faire trébucher d'autres modèles de langage. Comparé à Jurassic-1, Jurassic-X surmonte les défauts du modèle précédent, tels qu'un raisonnement médiocre, une mise à jour coûteuse et une incapacité à traiter efficacement les données de séries chronologiques. Bien sûr, il convient de noter que

AI21 Labs

n'a pas encore commandé une comparaison de son modèle Jurassic-X avec d'autres modèles de langage commerciaux, donc toute la base repose actuellement uniquement sur des affirmations.

Les récents coups de marketing de l’entreprise n’inspirent pas une grande confiance, mais soulèvent plutôt des questions. En juin, AI21 Labs a lancé un chatbot inspiré des avis juridiques de feu la juge de la Cour suprême Ruth Bader Ginsburg. Cependant, certains experts en technologie de l’intelligence artificielle qualifient cela de trompeur. En réponse aux critiques, AI21 Labs a déclaré que le chatbot n'était "qu'une expérience" et a admis qu'il pouvait donner des réponses inexactes et qu'il devait être "traité avec prudence".

Concernant cette ronde de financement, Goshen a déclaré que les nouveaux fonds seront utilisés pour la recherche et le développement, notamment le développement de modèles linguistiques plus grands et plus complexes, ainsi que pour le recrutement de talents. AI21 Labs compte actuellement 120 employés et prévoit d'embaucher environ 50 employés supplémentaires d'ici la fin de l'année pour inverser les tendances macroéconomiques.

Interrogé sur les revenus, Goshen a refusé de divulguer les chiffres exacts, ainsi que les estimations de croissance. Il a déclaré que le studio comptait des centaines de « clients payants et partenaires de conception », mais il a refusé de les nommer. En outre, il a déclaré qu'il y avait plus de 10 000 utilisateurs du plan gratuit, tandis que Wordtune comptait « des millions » d'utilisateurs.

Compte tenu du coût de formation de modèles complexes, les investisseurs peuvent être confrontés à des pressions importantes pour se développer.

Les propres recherches d'AI21 Labs montrent qu'il en coûte jusqu'à 1,6 million de dollars pour développer un modèle de génération de texte avec 1,5 milliard de paramètres (c'est-à-dire les variables que le modèle utilise pour générer et analyser le texte). Le modèle Jurassic-1 contient 178 milliards de paramètres, sans compter les frais d'hébergement pour gérer le modèle ; AI21 Labs a déclaré qu'il conservait les services de "plusieurs" fournisseurs de cloud tiers aux États-Unis et à l'étranger.

« Le manque de connaissance du marché est dû au fait que la technologie des modèles linguistiques est encore naissante et vient d'être adoptée. » Goshen a déclaré : « Avec le nouveau financement, AI21 Labs continuera de remplir sa mission de développer une compréhension et une compréhension sans précédent du langage naturel. » capacités de génération. Des systèmes d'IA puissants. "

"À mesure que de plus en plus d'entreprises se tournent vers le travail à distance, les gens doivent communiquer par des mots ce qu'ils partageraient normalement verbalement. Les capacités de base de nos modèles linguistiques exclusifs à grande échelle permettent l'ingestion de. une grande quantité de données d'entreprise utilisant...Création, synthèse et classification de contenu personnalisé 》

Êtes-vous optimiste quant à l'IA21 ?

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!