Der Großsprachmodellkurs

In diesem umfassenden Kurs wird große Sprachmodelle (LLMs) untersucht und bietet zwei unterschiedliche Lernpfade: die LLM-Wissenschaftlerspur zum Aufbau optimaler LLMs und die LLM-Ingenieur-Spur für die Entwicklung und Bereitstellung von LLM-basierten Anwendungen. Eine interaktive Version ist über Huggingchat (empfohlen) oder Chatgpt erhältlich.

LLM Scientist Track: Dieser Weg konzentriert sich auf die Beherrschung der LLM-Konstruktion mithilfe von modernen Techniken.

1. LLM-Architektur: Während das Wissen der tiefen Transformatorarchitektur nicht obligatorisch ist, ist das Verständnis der Kernprozesse von entscheidender Bedeutung: Text-zu-Zahlen-Umwandlung (Tokenisierung), Token-Verarbeitung durch Aufmerksamkeitsmechanismen und Textgenerierung über verschiedene Stichprobenstrategien. Schlüsselbereiche sind das Verständnis der architektonischen Entwicklung, Tokenisierungsstrategien, Aufmerksamkeitsmechanismen (Selbstbekämpfung und Varianten) und Abtasttechniken der Textgenerierung.

2. Modelle vor dem Training: Obwohl rechnerisch intensiv, ist das Greifen vor dem Training von entscheidender Bedeutung. Dies beinhaltet die Datenvorbereitung (Kuration, Reinigung, Deduplizierung), verteilte Schulungen (Daten, Pipeline und Parallelität des Tensors), die Trainingsoptimierung (adaptive Lernraten, Gradientenausschnitten) und die sorgfältige Überwachung der Schlüsselmetriken.

3. Post-Training-Datensätze: Datensätze nach dem Training, strukturiert mit Anweisungen und Antworten (beaufsichtigte Feinabstimmung) oder Präferenzpaare (Präferenzausrichtung), sind entscheidend. Dieser Abschnitt behandelt Speicherformate, synthetische Datenerzeugung, Datenverbesserungstechniken und robuste Qualitätsfiltermethoden.

4. Überlebte Feinabstimmung (SFT): SFT verwandelt Basismodelle in hilfreiche Assistenten. Dies beinhaltet das Verständnis von Trainingstechniken (vollständige Finanzabstimmungen im Vergleich zu parametereffizienten Methoden wie Lora und Qlora), wichtige Trainingsparameter, verteilte Trainingsstrategien und effektive Überwachungstechniken.

5. Präferenzausrichtung: Diese Stufe ausspricht dem Modell aus menschlichen Vorlieben, mildernde Toxizität und Halluzinationen. Es konzentriert sich auf Ablehnungsstichproben, Direktpräferenzoptimierung (DPO), proximale Richtlinienoptimierung (PPO) und Leistungsüberwachung.

6. Bewertung: Zuverlässige LLM -Bewertung ist entscheidend. In diesem Abschnitt werden automatisierte Benchmarks, menschliche Bewertung, modellbasierte Bewertung und die Bedeutung der Analyse von Feedback-Signalen zur Verbesserung der Modellleistung untersucht.

.

7. Quantisierung:

Dieser Abschnitt befasst .

8. Emerging Trends: In diesem Abschnitt werden erweiterte Themen wie Modellverzinsung, multimodale Modelle, Interpretierbarkeitstechniken (einschließlich Abliteration) und Testzeit-Rechenskalierung untersucht.

.

LLM Engineer Track:

Dieser Pfad konzentriert

1. Ausführen von LLMs: Dieser Abschnitt deckt LLMs über APIs (sowohl private als auch open-source) mit Open-Source-LLMs aus dem Umarmungs-Face-Hub, der Beherrschung von Eingabeaufentwicklungstechniken und Strukturierung von Ausgaben für bestimmte Anwendungen.

verwendet.

. 2. Erstellen eines Vektorspeichers:

In diesem Abschnitt wird beschrieben

3. Abrufenvergrößerungsgeneration (RAG): In diesem Abschnitt wird erklärt

4. Advanced RAG: Dieser Abschnitt deckt erweiterte RAG-Techniken wie Abfragebonstruktionen für strukturierte Datenbanken, agentenbasierte Systeme, Nachbearbeitungsmethoden und programmatische LLM-Optimierung unter Verwendung von Frameworks wie DSPY ab. .

5. Inferenzoptimierung: Dieser Abschnitt untersucht Techniken zur Optimierung von LLM-Inferenz, einschließlich Flash-Aufmerksamkeit, Schlüssellanzahl und spekulatives Decodieren.

6. Bereitstellen von LLMs: Dieser Abschnitt behandelt lokale Bereitstellungsoptionen, das Erstellen von Demos mithilfe von Frameworks wie Gradio und Streamlit, serverseitige Bereitstellungsstrategien und Edge-Bereitstellung für eingeschränkte Umgebungen.

7. Sicherung von LLMs: Dieser Abschnitt befasst sich mit den einzigartigen Sicherheitsherausforderungen von LLMs, einschließlich schnellem Hacking, Hintertoors und defensiven Maßnahmen.

Schlussfolgerung: Der Kurs fördert praktisches Lernen und Erkundungen, was Experimente mit verschiedenen Werkzeugen und Techniken vorschlägt, um Fachwissen in einem ausgewählten Gebiet in der riesigen LLM-Landschaft zu entwickeln.

Das obige ist der detaillierte Inhalt vonDer Großsprachmodellkurs. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!