Comment accéder à PHI-4 en utilisant le visage étreint?

Microsoft's PHI-4: un modèle de langue puissant sur le visage étreint

Ce guide fournit un didacticiel étape par étape sur l'accès et l'utilisation du modèle de langue avancée de Microsoft, PHI-4, disponible sur la face des câlins. PHI-4 excelle au raisonnement complexe et à la génération de texte de haute qualité, ce qui le rend idéal pour diverses applications. Nous couvrirons tout, de la configuration du compte à la génération de sorties, en mettant en évidence son efficacité pour les environnements limités aux ressources.

Table des matières

• PHI-4: fonctionnalités et capacités clés
• Prérequis pour accéder à PHI-4
• Accéder à PHI-4 via des câlins: un guide pratique
  • Étape 1: Création de compte de visage étreint
  • Étape 2: Authentification du compte de visage étreint
  • Étape 3: Installation des bibliothèques nécessaires
  • Étape 4: Chargement du modèle PHI-4
  • Étape 5: Préparation de votre invite d'entrée
  • Étape 6: Génération de sortie de texte
• Conclusion
• Les questions fréquemment posées

PHI-4: fonctionnalités et capacités clés

PHI-4 est un modèle de langage de pointe avec 14 milliards de paramètres. Son architecture est optimisée pour la mémoire et l'efficacité de calcul, ce qui le rend adapté aux développeurs avec des ressources limitées. Le modèle utilise une architecture de transformateur uniquement du décodeur et une fenêtre de contexte de jeton 16K (étendu à partir de 4K en milieu de formation), permettant des conversations étendues et une génération de texte détaillée. La formation impliquait un ensemble de données massif (environ 10 billions de jetons) comprenant diverses sources. Les caractéristiques de sécurité, y compris l'optimisation de réglage fin supervisée et de préférence, sont intégrées pour assurer une utilisation responsable.

Prérequis

Avant de commencer, assurez-vous d'avoir ce qui suit:

• un compte de visage étreint.
• Python 3,7 ou plus installé.
• les bibliothèques transformers, torch et huggingface_hub. Installez-les en utilisant:

pip install transformers torch huggingface_hub

Accéder à PHI-4 via le visage étreint

Explorons comment intégrer de manière transparente PHI-4 dans vos projets.

Étape 1: Création d'un compte de visage étreint

Visitez le site Web Hugging Face et inscrivez-vous à un compte gratuit. Cela accorde l'accès aux modèles publics et privés.

Étape 2: Authentification avec le visage étreint

Pour accéder à PHI-4, authentifiez votre compte en utilisant le CLI Face Hugging:

huggingface-cli login

Suivez les instructions à l'écran pour fournir vos informations d'identification.

Étape 3: Installation des bibliothèques requises (déjà couvertes dans les conditions préalables)

Étape 4: Chargement du modèle PHI-4

Utilisez la bibliothèque transformers pour charger le modèle:

import transformers

pipeline = transformers.pipeline(
    "text-generation",
    model="microsoft/phi-4",
    model_kwargs={"torch_dtype": "auto"},
    device_map="auto",
)

Étape 5: Préparation de votre entrée

PHI-4 est conçu pour les interactions de style chat. Former votre entrée comme une liste de dictionnaires:

pip install transformers torch huggingface_hub

Étape 6: Génération de sortie

Générer du texte à l'aide du pipeline chargé:

huggingface-cli login

Exemple de sortie:

Conclusion

La disponibilité de PHI-4 en étreignant le visage simplifie l'accès à ses puissantes capacités. Son efficacité et ses fonctionnalités avancées en font un atout précieux pour diverses applications nécessitant une compréhension et une génération sophistiquées du langage.

Questions fréquemment posées

Q1: Qu'est-ce que PHI-4? A: PHI-4 est un modèle de langue de pointe de Microsoft, conçu pour un raisonnement avancé et une génération de texte de haute qualité.

Q2: Quelles sont les exigences du système? a: python 3.7, transformers, torch et huggingface_hub bibliothèques, et des ressources de calcul suffisantes.

Q3: À quelles tâches PHI-4 convient-il? A: Génération de texte, raisonnement complexe, développement du chatbot et applications nécessitant une compréhension avancée du langage.

Q4: Quel format d'entrée utilise-t-il? a: invites de style chat, structurées comme une liste de dictionnaires (rôle et contenu).

Q5: Quelles sont les caractéristiques clés de PHI-4? a: 14 milliards de paramètres, une fenêtre de contexte de jeton 16K, des caractéristiques de sécurité robustes et des performances optimisées pour les environnements limités aux ressources.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!