찾다

집 >백엔드 개발 >파이썬 튜토리얼 >.NET Core, Python 및 Azure를 사용하여 LLM(대형 언어 모델) 미세 조정

.NET Core, Python 및 Azure를 사용하여 LLM(대형 언어 모델) 미세 조정

Susan Sarandon
Susan Sarandon원래의
2025-01-14 07:11:421028검색

Fine-Tuning Large Language Models (LLMs) with .NET Core, Python, and Azure

목차

  1. 소개
  2. 대규모 언어 모델을 미세 조정하는 이유는 무엇인가요?
  3. 솔루션 개요
  4. 환경설정
  5. Python을 사용한 학습 및 미세 조정
  6. .NET Core에 미세 조정된 모델 통합
  7. Azure에 배포
  8. 모범 사례
  9. 결론

  1. 소개

대규모 언어 모델(LLM)은 인간과 유사한 텍스트를 이해하고 생성하는 능력으로 인해 폭넓은 주목을 받아 왔습니다. 그러나 많은 조직에는 일반 모델로는 완전히 포착할 수 없는 고유한 도메인별 데이터 세트와 어휘가 있습니다. 미세 조정을 통해 개발자는 이러한 대형 모델을 특정 환경이나 산업에 맞게 조정하여 정확성과 관련성을 높일 수 있습니다.

이 문서에서는 확장성과 편의성을 위해 Python을 사용하여 LLM을 미세 조정한 다음 결과 모델을 .NET Core C# 애플리케이션에 통합 및 배포하는 방법을 설명합니다. 모든 작업은 Microsoft Azure에서 수행됩니다.

  1. 대규모 언어 모델을 미세 조정하는 이유는 무엇인가요?

  2. 도메인 특정성: LLM은 산업별 용어, 제품 이름 또는 전문 용어를 사용하도록 미세 조정할 수 있습니다.

  3. 성능 개선: 미세 조정은 고객 서비스, 조사, 분석 등의 사용 사례에서 오류를 줄이고 관련성을 높이는 경우가 많습니다.

  4. 비용 절감: 처음부터 모델을 구축하는 대신 기존의 강력한 LLM을 사용자 정의할 수 있습니다.

  5. 효율성 향상: 사전 훈련된 가중치를 활용하고 최종 레이어 또는 매개변수만 조정하여 프로세스 속도를 높입니다.

  1. 솔루션 개요

구성요소 및 기술

  1. 미세 조정을 위한 Python

    • 일반적으로 사용되는 라이브러리(예: Hugging Face Transformers, PyTorch)
    • 사전 훈련된 모델 로드 및 조정 프로세스 단순화

  2. 통합용 .NET Core C#

    • 모델 미세 조정을 위한 백엔드 서비스 또는 API 노출
    • 많은 기업 개발자에게 친숙한 강력한 형식의 언어

  3. Azure 서비스

      훈련 및 모델 관리를 위한
    • Azure Machine Learning
      • 데이터 및 모델 아티팩트를 위한
    • Azure Storage
      • .NET Core 애플리케이션 호스팅을 위한
    • Azure App Service 또는 Azure Function
      • 자격 증명 보호를 위한
    • Azure Key Vault(선택 사항)

  1. 환경설정

전제조건

  • Azure 구독: Machine Learning Workspace 및 App Service와 같은 리소스를 생성하는 데 필요합니다.
  • Python 3.8 : 모델 미세 조정을 위해 로컬에 설치됩니다.
  • .NET 6/7/8 SDK: .NET Core C# 애플리케이션을 만들고 실행하는 데 사용됩니다.
  • Visual Studio 2022 또는 Visual Studio Code: 권장 IDE.
  • Azure CLI: 터미널을 통해 Azure 서비스를 구성하고 관리하는 데 사용됩니다.
  • Docker(선택 사항): 필요한 경우 애플리케이션을 컨테이너화하는 데 사용할 수 있습니다.

  1. Python을 사용한 학습 및 미세 조정

이 예에서는 가장 널리 채택되는 LLM 미세 조정 라이브러리 중 하나인 Hugging Face Transformers를 사용합니다.

5.1 가상 환경 설정

<code>python -m venv venv
source venv/bin/activate  # 在 Windows 上：venv\Scripts\activate</code>

5.2 종속성 설치

<code>pip install torch transformers azureml-sdk</code>

5.3 Azure Machine Learning 작업 영역 만들기

  1. 리소스 그룹 및 작업 공간:
<code>   az group create --name LLMFinetuneRG --location eastus
   az ml workspace create --name LLMFinetuneWS --resource-group LLMFinetuneRG</code>
  1. 작업공간에 연결할 로컬 환경을 구성합니다(config.json 파일 또는 환경 변수 사용).

5.4 미세 조정 스크립트(train.py)

<code>import os
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments, Trainer
from azureml.core import Workspace, Run

# 连接到 Azure ML
ws = Workspace.from_config()
run = Run.get_context()

model_name = "gpt2"  # 示例模型
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name)

# 加载自定义数据集（本地或来自 Azure 存储）
# 示例：Azure ML 中的文本文件或数据集
train_texts = ["此处输入您的特定领域文本..."]  # 简化版
train_encodings = tokenizer(train_texts, truncation=True, padding=True)

class CustomDataset(torch.utils.data.Dataset):
    def __init__(self, encodings):
        self.encodings = encodings
    def __len__(self):
        return len(self.encodings["input_ids"])
    def __getitem__(self, idx):
        return {k: torch.tensor(v[idx]) for k, v in self.encodings.items()}

train_dataset = CustomDataset(train_encodings)

training_args = TrainingArguments(
    output_dir="./results",
    num_train_epochs=3,
    per_device_train_batch_size=2,
    save_steps=100,
    logging_steps=100
)

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=train_dataset,
)

trainer.train()

# 保存微调后的模型
trainer.save_model("./fine_tuned_model")
tokenizer.save_pretrained("./fine_tuned_model")</code>

5.5 Azure에 모델 등록

<code>from azureml.core.model import Model

model = Model.register(
    workspace=ws,
    model_path="./fine_tuned_model",
    model_name="myFineTunedLLM"
)</code>

이 시점에서 쉽게 액세스하고 버전을 제어할 수 있도록 미세 조정된 모델이 Azure Machine Learning에 저장됩니다.

  1. .NET Core에 미세 조정된 모델 통합

6.1 .NET Core 웹 API 프로젝트 생성

<code>dotnet new webapi -n FineTunedLLMApi
cd FineTunedLLMApi</code>

6.2 종속성 추가

    Azure 끝점 또는 로컬 추론 API 호출을 위한
  • HttpClient
  • Newtonsoft.Json(직렬화에 JSON.NET을 사용하려는 경우)
    • Azure 리소스에 대한 보안 액세스를 위한
  • Azure.Storage.Blobs 또는 Azure.Identity 
<code>dotnet add package Microsoft.Extensions.Http
dotnet add package Microsoft.Azure.Storage.Blob
dotnet add package Newtonsoft.Json</code>

6.3 ModelConsumerService.cs

세밀하게 조정된 모델을 웹 서비스로 배포했다고 가정합니다(예: Azure Container Instance 또는 Azure ML의 사용자 지정 엔드포인트 사용). 다음 코드 조각은 서비스를 호출하여 완료 결과를 얻습니다. 

<code>using Newtonsoft.Json;
using System.Net.Http;
using System.Text;
using System.Threading.Tasks;

public class ModelConsumerService
{
    private readonly HttpClient _httpClient;

    public ModelConsumerService(IHttpClientFactory httpClientFactory)
    {
        _httpClient = httpClientFactory.CreateClient("FineTunedModel");
    }

    public async Task<string> GetCompletionAsync(string prompt)
    {
        var requestBody = new { prompt = prompt };
        var content = new StringContent(
            JsonConvert.SerializeObject(requestBody),
            Encoding.UTF8, 
            "application/json");

        var response = await _httpClient.PostAsync("/predict", content);
        response.EnsureSuccessStatusCode();
        return await response.Content.ReadAsStringAsync();
    }
}</code>

6.4 LLMController.cs

<code>using Microsoft.AspNetCore.Mvc;
using System.Threading.Tasks;

[ApiController]
[Route("[controller]")]
public class LLMController : ControllerBase
{
    private readonly ModelConsumerService _modelService;

    public LLMController(ModelConsumerService modelService)
    {
        _modelService = modelService;
    }

    [HttpPost("complete")]
    public async Task<IActionResult> CompletePrompt([FromBody] PromptRequest request)
    {
        var result = await _modelService.GetCompletionAsync(request.Prompt);
        return Ok(new { Completion = result });
    }
}

public class PromptRequest
{
    public string Prompt { get; set; }
}</code>

6.5 .NET Core 애플리케이션 구성

Program.cs 또는 Startup.cs: 

<code>var builder = WebApplication.CreateBuilder(args);

// 注册 HttpClient
builder.Services.AddHttpClient("FineTunedModel", client =>
{
    client.BaseAddress = new Uri("https://your-model-endpoint/");
});

// 注册 ModelConsumerService
builder.Services.AddTransient<ModelConsumerService>();

builder.Services.AddControllers();
var app = builder.Build();

app.MapControllers();
app.Run();</code>

  1. Azure에 배포

  2. Azure 앱 서비스:

    • 많은 .NET Core 애플리케이션의 경우 이 방법이 가장 쉬운 방법입니다.
    • Azure Portal 또는 CLI를 통해 새로운 웹 앱을 만듭니다. 
<code>python -m venv venv
source venv/bin/activate  # 在 Windows 上：venv\Scripts\activate</code>

  1. Azure 기능 (선택 사항):

    • 사용이 간헐적이거나 예정된 경우 서버리스 이벤트 중심 논리를 실행하는 데 적합합니다.

  2. Azure Kubernetes Service(AKS) (고급):

    • 대규모 배포에 적합합니다.
    • Docker를 사용하여 애플리케이션을 컨테이너화하고 ACR(Azure Container Registry)에 푸시합니다.

  1. 모범 사례

  2. 데이터 개인정보 보호: 특히 모델 교육 중에 민감하거나 독점적인 데이터를 책임감 있게 처리합니다.

  3. 모니터링 및 로깅: Azure Application Insights와 통합하여 성능을 모니터링하고 사용량을 추적하며 이상 현상을 감지합니다.

  4. 보안: Azure Key Vault를 사용하여 키(API 키, 연결 문자열)를 저장합니다.

  5. 모델 버전 관리: 필요한 경우 Azure ML에서 미세 조정된 다양한 모델 버전을 추적하고 이전 버전으로 롤백합니다.

  6. 힌트 엔지니어링: 힌트를 구체화하여 미세 조정된 모델에서 최상의 결과를 얻으세요.

  1. 결론

Python 및 Azure Machine Learning을 사용하여 LLM을 미세 조정한 다음 이를 .NET Core 애플리케이션에 통합하여 강력한 도메인별 AI를 구축할 수 있습니다. 솔루션. 이 조합은 Azure의 확장성을 기반으로 하는 Python의 AI 에코시스템과 .NET의 엔터프라이즈 기능을 활용하려는 조직에 탁월한 선택입니다.

보안, 데이터 거버넌스, DevOps에 대한 신중한 계획을 통해 실제 요구 사항을 충족하는 프로덕션 지원 솔루션을 출시하고 강력하고 유지 관리하기 쉬운 프레임워크에서 정확한 도메인별 언어 기능을 제공할 수 있습니다.

위 내용은 .NET Core, Python 및 Azure를 사용하여 LLM(대형 언어 모델) 미세 조정의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

Python json 字符串 事件 ide visual studio docker visual studio code devops kubernetes pytorch microsoft azure
성명：
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
이전 기사：Python의 목록 이해다음 기사：Python의 목록 이해

관련 기사

더보기