Heim >Backend-Entwicklung >Python-Tutorial >Einreichen eines Feinabstimmungsauftrags: Organisation der Belegschaft

Einreichen eines Feinabstimmungsauftrags: Organisation der Belegschaft

DDD
DDDOriginal
2025-01-06 16:44:40781Durchsuche

Submitting a Fine-Tuning Job: Organising the Workforce

Die Six Triple Eight verließen sich bei der Ausführung ihrer Mission auf Disziplin und Koordination. Wir werden dies widerspiegeln, indem wir einen Feinabstimmungsauftrag erstellen und einreichen, der es dem LLM ermöglicht, aus unserem kuratierten Datensatz zu lernen.

Feinabstimmung mit OpenAI

Wenn Sie über client.fine_tuning.job.create() einen Feinabstimmungsjob erstellen, übermitteln Sie Ihre Konfiguration und Ihren Datensatz zur Schulung an OpenAI. Nachfolgend sind die wichtigsten Parameter und ihre Zwecke aufgeführt.


1. Parameterübersicht

Modell

  • Beschreibung: Das vorab trainierte GPT-Modell, das Sie verfeinern möchten.
  • Beispiele: „gpt-3.5-turbo“, „davinci“, „gpt-4-mini“ (hypothetisch).

Trainingsdatei

  • Beschreibung: Die Datei-ID einer hochgeladenen JSONL-Datei, die Ihre Trainingsdaten enthält.
  • Hinweis: Erhalten Sie diese ID, indem Sie Ihren Datensatz mit der Datei-API hochladen und die Datei-ID speichern.

Hyperparameter

  • Beschreibung: Ein Wörterbuch, das die Feinabstimmungs-Hyperparameter angibt.
  • Schlüsselfelder:
    • batch_size: Anzahl der Beispiele pro Batch (standardmäßig automatisch).
    • learning_rate_multiplier: Skalierungsfaktor für die Lernrate (standardmäßig automatisch).
    • n_epochs: Anzahl der Epochen (durchläuft den gesamten Datensatz).

Suffix

  • Beschreibung: Eine benutzerdefinierte Zeichenfolge (bis zu 18 Zeichen), die an den fein abgestimmten Modellnamen angehängt wird.

Samen

  • Beschreibung: Ganzzahl zur Reproduzierbarkeit.
  • Verwendung: Gewährleistet die gleiche Randomisierung und konsistente Trainingsergebnisse über alle Läufe hinweg.

Validierungsdatei

  • Beschreibung: Die Datei-ID einer JSONL-Datei, die Ihren Validierungssatz enthält.
  • Optional: Wird jedoch empfohlen, um Überanpassungen zu verfolgen und ein gut verallgemeinertes Modell sicherzustellen.

Integrationen

  • Beschreibung: Eine Liste der Integrationen (z. B. Gewichtungen und Verzerrungen), die Sie für den Job aktivieren möchten.
  • Felder: Enthält normalerweise typ- und integrationsspezifische Konfigurationen.

client.fine_tuning.job.create(
    model="gpt-3.5-turbo",
    training_file="train_id",
    hyperparameters={
        "n_epochs": 1
    },
    validation_file="val_id"
)

Fine-Tuning-Jobs verwalten
Ruft bis zu 10 Feinabstimmungsjobs ab.

client.fine_tuning.jobs.list(limit=10)


Einen bestimmten Job abrufen

client.fine_tuning.retrieve("job_id")



Ereignisse für einen Job auflisten

client.fine_tuning.list_events(
    fine_tuning_job_id="xxxx",
    limit=5
)

Zusammenfassung

  • Modellauswahl: Wählen Sie ein geeignetes GPT-Modell zur Feinabstimmung.

  • Datenvorbereitung: Laden Sie JSONL-Dateien hoch und notieren Sie sich deren IDs.

  • Hyperparameter: Passen Sie Batchgröße, Lernrate und Epochen für optimale Leistung an.

  • Überwachung: Verwenden Sie Validierungsdateien, Jobabruf und Ereignisprotokollierung, um sicherzustellen, dass Ihre Modelleisenbahnen effektiv trainieren.

  • Reproduzierbarkeit: Legen Sie einen Ausgangspunkt fest, wenn konsistente Ergebnisse für Ihren Arbeitsablauf wichtig sind.

  • Wenn Sie diese Schritte befolgen, haben Sie einen klaren Weg zur Übermittlung und Verwaltung Ihrer Feinabstimmungsaufträge in OpenAI und stellen sicher, dass Ihr Modell genau auf Ihre benutzerdefinierten Daten trainiert wird.

Das obige ist der detaillierte Inhalt vonEinreichen eines Feinabstimmungsauftrags: Organisation der Belegschaft. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Stellungnahme:
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn