고객 지원을위한 OpenAI 플랫폼의 모델을 미세 조정합니다
- Lisa Kudrow원래의
- 2025-03-04 10:07:09946검색
미세 조정 된 LLM은 위험 평가를위한 재무 분석, 개인화 된 응답에 대한 고객 지원 및 진단을위한 의료 연구와 같은 다양한 시나리오에 적용될 수 있습니다. 또한 코드 생성 및 디버깅을위한 소프트웨어 개발 및 계약 검토 및 판례법 분석을위한 법적 지원에도 사용할 수 있습니다. 이 안내서에서는 OpenAI의 플랫폼을 사용하여 미세 조정 프로세스를 진행하고 실제 응용 프로그램에서 미세 조정 모델의 성능을 평가할 것입니다.
Openai 플랫폼이란 무엇입니까? 추론 비용 -
Openai 플랫폼에서 모델을 미세 조정하는
Step 2 : 4 단계 : Openai 플랫폼에서의 미세 조정 -
GPT-4O vs Finetuned GPT-4O Performance check -
쿼리 1 -
query 2 Query 3
분석 -
자주 묻는 질문
- Openai 플랫폼에서 모델을 미세 조정하는
- GPT-4O vs Finetuned GPT-4O Performance check
- 쿼리 1
- query 2 Query 3
| Model | Pricing | Pricing with Batch API | Training Pricing |
| gpt-4o-2024-08-06 | .750 / 1M input tokens.000 / 1M output tokens | .875 / 1M input tokens.500 / 1M output tokens | .000 / 1M training tokens |
| gpt-4o-mini-2024-07-18 | .300 / 1M input tokens.200 / 1M output tokens | .150 / 1M input tokens.600 / 1M output tokens | .000 / 1M training tokens |
| gpt-3.5-turbo | .000 / 1M training tokens.000 / 1M output tokens | .500 / 1M input tokens.000 / 1M output tokens | .000 / 1M training tokens |
import pandas as pd
splits = {'train': 'data/train-00000-of-00001.parquet', 'test': 'data/test-00000-of-00001.parquet'}
df_train = pd.read_parquet("hf://datasets/charles828/vertex-ai-customer-support-training-dataset/" + splits["train"])
이것은 모델의 가중치를 업데이트하기 전에 한 번의 패스 (또는 단계)에 사용 된 교육 예 (데이터 포인트)의 수를 나타냅니다. 모든 데이터를 한 번에 처리하는 대신 모델은 한 번에 작은 청크 (배치)를 처리합니다. 더 작은 배치 크기는 더 많은 시간이 걸리지 만 더 나은 모델을 만들 수 있습니다. 여기에서 올바른 균형을 찾아야합니다. 더 큰 것이 더 안정적이지만 훨씬 더 빠를 수도 있습니다.
학습 속도 승수 : 
이것은 각 업데이트 후 모델의 가중치가 얼마나 많은지를 조정하는 요소입니다. 높이 설정되면 모델은 더 빠르게 학습 할 수 있지만 최상의 솔루션을 과도하게 수용 할 수 있습니다. 낮다면 모델은 더 천천히 배우지 만 더 정확할 수 있습니다.
"epoch"는 전체 교육 데이터 세트를 통한 전체 패스입니다. 에포크의 수는 모델이 전체 데이터 세트에서 몇 번이나 배울 수 있는지 알려줍니다. 더 많은 에포크는 일반적으로 모델이 더 잘 배울 수있게하지만 너무 많은 사람들은 과적으로 너무 많은 것을 이끌어 낼 수 있습니다.
3. 방법을 '감독'및 선택한 '기본 모델'으로 선택하십시오. GPT-4O를 선택했습니다 
5. 모델을 미세 조정하려는 작업과 관련된 '접미사'를 추가하십시오.
6. 하이퍼 파라미터를 선택하거나 기본값으로 남겨 둡니다.
7. 이제‘생성’을 클릭하면 미세 조정이 시작됩니다.
8. 미세 조정이 완료되면 다음과 같이 표시됩니다.
9. 이제 오른쪽 하단의 '놀이터'를 클릭하여 미세 조정 된 모델을 기존 모델과 비교할 수 있습니다.
중요한 참고 :
높은 비용이 주어지면 확장하기 전에 초기 테스트를위한 더 작은 데이터 세트로 시작하는 것이 좋습니다. 데이터 세트가 잘 구조화되고 관련성이 있는지 확인하는 것은 성능과 비용 효율성을 최적화하는 데 도움이 될 수 있습니다.
gpt-4o vs finetuned gpt-4o 성능 점검
이제 모델을 미세 조정 했으므로 성능을 기본 GPT-4O와 비교하고 두 모델의 응답을 분석하여 정확성, 선명도, 이해 및 관련성이 향상되는지 확인합니다. 이를 통해 미세 조정 모델이 특정 요구 사항을 충족하고 의도 된 작업에서 더 나은 성과를 거두는 지 확인하는 데 도움이됩니다. Brevity의 경우 3 개의 프롬프트의 샘플 결과를 보여줍니다. 미세 조정 및 표준 GPT-4O 모델이 모두 형성됩니다.
쿼리 1
쿼리 : “새 배달 주소를 제출하도록 도와주세요” Finetuned GPT-4O 모델에 의한 응답 :
GPT-4O에 의한 응답 :
비교 분석
“계정 카테고리 계정으로 변경하려면 도움이 필요합니다”
Finetuned GPT-4O 모델에 의한 응답 :GPT-4O에 의한 응답 :
비교 분석
미세 조정 된 모델은 기본 모델에 비해 사용자 참여와 명확성을 크게 향상시킵니다. GPT-4O는 구조적이지만 일반적인 응답을 제공하지만 미세 조정 된 버전은보다 대화적이고지지적인 톤을 채택하여 상호 작용을보다 자연스럽게 만듭니다.
.
쿼리 3 쿼리 :
“개인 정보를 업데이트하는 방법을 모르겠다” Finetuned GPT-4O 모델에 의한 응답 :GPT-4O에 의한 응답 :
비교 분석
결론
이 경우 모델을 미세 조정하여 고객에게 더 잘 응답하면 효과가 있습니다. 그것은 상호 작용이보다 개인적이고 친근하며지지를 느끼게하여 더 강력한 연결과 사용자 만족도를 높입니다. 기본 모델은 명확하고 정확한 정보를 제공하지만 로봇과 덜 매력적이라고 느낄 수 있습니다. OpenAI의 편리한 웹 플랫폼을 통해 모델을 미세 조정하면 도메인 특정 작업을위한 맞춤형 대형 언어 모델을 구축하는 좋은 방법입니다.
자주 묻는 질문
q1. AI 모델에서 미세 조정이란 무엇입니까?
a. 미세 조정은 미리 훈련 된 AI 모델을 조정하여 특정 작업을 수행하거나 더 작은 작업 별 데이터 세트에서 추가로 훈련하여 특정 동작을 보여주는 과정입니다. 이를 통해 모델은 작업의 뉘앙스를 더 잘 이해하고보다 정확하거나 맞춤형 결과를 생성 할 수 있습니다. 미세 조정은 AI 모델의 성능을 어떻게 향상 시키는가? 미세 조정은 고객 상호 작용에 공감을 추가하는 것과 같은 작업의 특정 요구 사항을 더 잘 처리하도록 가르쳐서 모델의 성능을 향상시킵니다. 모델이보다 개인화되고 상황을 인식하는 응답을 제공하여 상호 작용이 인간과 유사하고 매력적이라고 느끼게합니다. 미세 조정 모델을 사용하는 데 더 비싸다 미세 조정 모델에는 추가 자원과 교육이 필요할 수 있으며 비용이 증가 할 수 있습니다. 그러나보다 효과적이고 사용자 친화적 인 모델의 이점은 종종 고객 상호 작용 또는 복잡한 문제 해결과 관련된 작업의 경우 초기 투자보다 중요합니다. 나 자신의 모델을 미세 조정할 수 있습니까?
a. 예, 필요한 데이터와 기술 전문 지식이있는 경우 포옹 얼굴, OpenAI 또는 기타와 같은 기계 학습 프레임 워크를 사용하여 모델을 미세 조정할 수 있습니다. 그러나 일반적으로 AI, 데이터 준비 및 교육 프로세스에 대한 강력한 이해가 필요합니다. 모델을 미세 조정하는 데 얼마나 걸립니까?위 내용은 고객 지원을위한 OpenAI 플랫폼의 모델을 미세 조정합니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!