如何在本地微调PHI-4？

>本指南展示了使用低级适配器（LORA）适配器和拥抱脸的Microsoft PHI-4大语言模型（LLM）进行专门任务。 通过专注于特定域，您可以优化PHI-4的性能，以诸如客户支持或医疗建议之类的应用程序。 洛拉的效率使这个过程更快，更少的资源密集型。

>

键学习成果：

• >微软PHI-4使用LORA适配器用于目标应用程序。 通过4位量化有效配置和加载PHI-4。
准备和转换数据集，以通过拥抱的脸和
• 库进行微调。
>
• >使用拥抱face的unsloth。
监视GPU的使用情况，并保存/将微调模型保存到拥抱脸部以进行部署。
• SFTTrainer
• >先决条件：

开始之前，请确保您有：

python 3.8

pytorch（在CUDA支持GPU加速度）

• 库
• 拥抱脸
和
• 库unsloth>
• 使用：transformers安装必要的库 datasets

微调phi-4：逐步方法

>

pip install unsloth
pip install --force-reinstall --no-cache-dir --no-deps git+https://github.com/unslothai/unsloth.git

本节详细介绍了从设置到部署的微调过程。

步骤1：Model Setup

>

这涉及加载模型和导入基本库：>

from unsloth import FastLanguageModel
import torch

max_seq_length = 2048
load_in_4bit = True

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="unsloth/Phi-4",
    max_seq_length=max_seq_length,
    load_in_4bit=load_in_4bit,
)

model = FastLanguageModel.get_peft_model(
    model,
    r=16,
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],
    lora_alpha=16,
    lora_dropout=0,
    bias="none",
    use_gradient_checkpointing="unsloth",
    random_state=3407,
)

>步骤2：数据集准备

> >我们将以ShareGpt格式使用Finetome-100K数据集。

>有助于将其转换为拥抱面孔的格式：

unsloth

from datasets import load_dataset
from unsloth.chat_templates import standardize_sharegpt, get_chat_template

dataset = load_dataset("mlabonne/FineTome-100k", split="train")
dataset = standardize_sharegpt(dataset)
tokenizer = get_chat_template(tokenizer, chat_template="phi-4")

def formatting_prompts_func(examples):
    texts = [
        tokenizer.apply_chat_template(convo, tokenize=False, add_generation_prompt=False)
        for convo in examples["conversations"]
    ]
    return {"text": texts}

dataset = dataset.map(formatting_prompts_func, batched=True)

步骤3：模型微调

使用拥抱脸的微调

：

>

SFTTrainer

>

from trl import SFTTrainer
from transformers import TrainingArguments, DataCollatorForSeq2Seq
from unsloth import is_bfloat16_supported
from unsloth.chat_templates import train_on_responses_only

trainer = SFTTrainer(
    # ... (Trainer configuration as in the original response) ...
)

trainer = train_on_responses_only(
    trainer,
    instruction_part="user",
    response_part="assistant",
)

步骤4：GPU用法监视

> 监视GPU内存使用率：

步骤5：推理

import torch
# ... (GPU monitoring code as in the original response) ...

生成响应：

pip install unsloth
pip install --force-reinstall --no-cache-dir --no-deps git+https://github.com/unslothai/unsloth.git

>步骤6：保存和上传

>

>在本地保存或推到拥抱面孔：

from unsloth import FastLanguageModel
import torch

max_seq_length = 2048
load_in_4bit = True

model, tokenizer = FastLanguageModel.from_pretrained(
    model_name="unsloth/Phi-4",
    max_seq_length=max_seq_length,
    load_in_4bit=load_in_4bit,
)

model = FastLanguageModel.get_peft_model(
    model,
    r=16,
    target_modules=["q_proj", "k_proj", "v_proj", "o_proj", "gate_proj", "up_proj", "down_proj"],
    lora_alpha=16,
    lora_dropout=0,
    bias="none",
    use_gradient_checkpointing="unsloth",
    random_state=3407,
)

记住用实际的拥抱脸代币替换<your_hf_token></your_hf_token>>

>

结论：

>该简化的指南使开发人员有效地微调PHI-4的特定需求，利用洛拉的力量和拥抱的面孔进行优化的性能和易于部署。 请记住，请查阅原始响应以获取完整的代码片段和详细说明。

>

以上是如何在本地微调PHI-4？的详细内容。更多信息请关注PHP中文网其他相关文章！