고객 지원을위한 OpenAI 플랫폼의 모델을 미세 조정합니다

LLMS (미세 조정 대형 언어 모델)는 특정 작업에서 성능을 최적화하는 데 필수적입니다. OpenAI는 미세 조정 모델을위한 강력한 프레임 워크를 제공하여 조직이 도메인 별 요구 사항에 따라 AI 동작을 조정할 수 있도록합니다. 이 프로세스는 LLM 사용자 정의에서 중요한 역할을하여 모델이보다 정확하고 관련성 있고 상황을 인식하는 응답을 생성 할 수있게합니다.

미세 조정 된 LLM은 위험 평가를위한 재무 분석, 개인화 된 응답에 대한 고객 지원 및 진단을위한 의료 연구와 같은 다양한 시나리오에 적용될 수 있습니다. 또한 코드 생성 및 디버깅을위한 소프트웨어 개발 및 계약 검토 및 판례법 분석을위한 법적 지원에도 사용할 수 있습니다. 이 안내서에서는 OpenAI의 플랫폼을 사용하여 미세 조정 프로세스를 진행하고 실제 응용 프로그램에서 미세 조정 모델의 성능을 평가할 것입니다. 목차

Openai 플랫폼이란 무엇입니까?

추론 비용
Openai 플랫폼에서 모델을 미세 조정하는
Step 2 : 4 단계 : Openai 플랫폼에서의 미세 조정
• GPT-4O vs Finetuned GPT-4O Performance check
  쿼리 1
  query 2 Query 3
분석

자주 묻는 질문

Openai 플랫폼이란 무엇입니까? OpenAI 플랫폼은 웹 기반 도구를 제공하여 모델을 쉽게 조정할 수 있도록하여 사용자가 특정 작업에 맞게 사용자 정의 할 수 있습니다. 데이터 준비, 교육 모델 및 결과 평가를위한 단계별 지침을 제공합니다. 또한이 플랫폼은 API와의 원활한 통합을 지원하므로 사용자가 미세 조정 된 모델을 빠르고 효율적으로 배포 할 수 있습니다. 또한 자동 버전 및 모델 모니터링을 제공하여 새로운 데이터를 사용할 수있게되면서 모델을 최적으로 수행 할 수 있도록 모델이 시간이 지남에 따라 최적으로 수행되도록합니다. 추론 비용 Openai 플랫폼에서 모델을 훈련시키는 데 드는 비용은 다음과 같습니다.

Model	Pricing	Pricing with Batch API	Training Pricing
gpt-4o-2024-08-06	.750 / 1M input tokens.000 / 1M output tokens	.875 / 1M input tokens.500 / 1M output tokens	.000 / 1M training tokens
gpt-4o-mini-2024-07-18	.300 / 1M input tokens.200 / 1M output tokens	.150 / 1M input tokens.600 / 1M output tokens	.000 / 1M training tokens
gpt-3.5-turbo	.000 / 1M training tokens.000 / 1M output tokens	.500 / 1M input tokens.000 / 1M output tokens	.000 / 1M training tokens

자세한 내용은이 페이지를 방문하십시오 : https://openai.com/api/pricing/ OpenAi 플랫폼에서 모델을 미세 조정합니다 모델 미세 조정을 통해 사용자는 특정 사용 사례에 대한 모델을 사용자 정의하고 정확성, 관련성 및 적응성을 향상시킬 수 있습니다. 이 안내서에서는 고객 서비스 상호 작용에 대한보다 개인화되고 정확하며 상황을 인식하는 응답에 중점을 둡니다. 실제 고객 쿼리 및 상호 작용에 대한 모델을 미세 조정하면 비즈니스는 대응 품질을 향상시키고 오해를 줄이며 전반적인 사용자 만족도를 향상시킬 수 있습니다. 또한 읽기 : 대형 언어 모델을 미세 조정하기위한 초보자 안내서 이제 OpenAI 플랫폼을 사용하여 모델을 훈련시키는 방법을 살펴 보겠습니다. 4 단계 로이 작업을 수행 할 것입니다

데이터 세트 식별 dfinetuning 데이터 다운로드 데이터 가져 오기 및 전처리 <ing> OpenAi 플랫폼에서 미세 조정 <h2> 시작하자! <identify identify> 1 단계 : 데이터 세트 식별 </identify> </h2> <une> 모델을 미세 조정하려면 먼저 사용 사례에 맞게 조정 된 고품질 데이터 세트가 필요합니다. 이 미세 조정 프로세스를 위해 AI 데이터 세트 및 모델에 인기있는 플랫폼 인 Hugging Face에서 데이터 세트를 다운로드했습니다. Hugging Face 데이터 세트를 방문하여 미세 조정에 적합한 광범위한 데이터 세트를 찾을 수 있습니다. 관련 데이터 세트를 검색하고 다운로드 한 다음 특정 요구 사항에 맞게 조정하기 위해 필요에 따라 전처리하십시오. 2 단계 : FinetUning 를위한 데이터 세트 다운로드 <data> 미세 튜닝 프로세스의 고객 서비스 데이터는 포옹 페이스 데이터 세트에서 가져옵니다. 여기에서 액세스 할 수 있습니다. <p> <llms gpt-4o gpt-4o-mini gpt-3.5-turbo> <next> 이제 다음 단계에서 우리는 필요한 형식이 아닌 경우 데이터의 모습을 확인하고 필요한 조정을 수행합니다. <p> </p> 3 단계 : 데이터 가져 오기 및 전처리 <import> 이제 우리는 데이터를 가져 와서 전처리를 필요한 형식으로 가져옵니다. <we>이를 위해 우리는 다음과 같은 단계를 따릅니다 <p> 1. 이제 우리는 Jupyter 노트북에 데이터를로드하여 필요한 형식과 일치하도록 수정합니다. <em> </em> </p> 여기에는 6 개의 다른 열이 있습니다. 그러나 우리는 고객 쿼리와 상대 응답이있는 열이므로“명령어”와“응답”이라는 두 가지만 필요합니다. <p>. <use> 이제 위의 CSV 파일을 사용하여 미세 조정에 필요한 JSONL 파일을 만들 수 있습니다. </use></p> 위에 표시된대로 데이터 프레임을 반복하여 JSONL 파일을 만들 수 있습니다. <stor> 여기서 우리는 JSON과 약간 다른 JSONL 파일 형식으로 데이터를 저장하고 있습니다. json <sson>는 데이터를 단일 파일로 계층 구조 (객체 및 배열)로 저장하므로 중첩이있는 구조화 된 데이터에 적합합니다. 아래는 JSON 파일 형식의 예입니다 <b> jsonl </b>는 배열 또는 중첩 구조가없는 별도의 라인에 여러 개의 JSON 객체로 구성됩니다. 이 형식은 스트리밍, 대형 데이터 세트 처리 및 데이터를 라인별로 처리하는 데 더 효율적입니다 .Below는 JSONL 파일 형식 </sson></stor></we></import></next></llms></p>. <pre class="brush:php;toolbar:false">{"messages": [{"role": "system", "content": "This is an AI assistant for answering FAQs."}, {"role": "user", "content": "What are your customer support hours?"}, {"role": "assistant", "content": "Our customer support is available 1 24/7. How else may I assist you?"}]} 4 단계 : Openai 플랫폼에서 미세 조정 이제이 'query_dataset'을 사용하여 GPT-4O LLM을 미세 조정합니다. 이렇게하려면 아래 단계를 따르십시오. 1. 이 웹 사이트로 이동하여 이미 로그인하지 않은 경우 로그인하십시오. 로그인하면 "자세한 내용"을 클릭하여 미세 조정 프로세스에 대해 자세히 알아보십시오.

2. ‘생성’을 클릭하면 작은 창이 나타납니다.

import pandas as pd
splits = {'train': 'data/train-00000-of-00001.parquet', 'test': 'data/test-00000-of-00001.parquet'}
df_train = pd.read_parquet("hf://datasets/charles828/vertex-ai-customer-support-training-dataset/" + splits["train"])

위의 이미지에서 초 파라미터의 고장이 있습니다. 배치 크기 :

이것은 모델의 가중치를 업데이트하기 전에 한 번의 패스 (또는 단계)에 사용 된 교육 예 (데이터 포인트)의 수를 나타냅니다. 모든 데이터를 한 번에 처리하는 대신 모델은 한 번에 작은 청크 (배치)를 처리합니다. 더 작은 배치 크기는 더 많은 시간이 걸리지 만 더 나은 모델을 만들 수 있습니다. 여기에서 올바른 균형을 찾아야합니다. 더 큰 것이 더 안정적이지만 훨씬 더 빠를 수도 있습니다.

학습 속도 승수 : 이것은 각 업데이트 후 모델의 가중치가 얼마나 많은지를 조정하는 요소입니다. 높이 설정되면 모델은 더 빠르게 학습 할 수 있지만 최상의 솔루션을 과도하게 수용 할 수 있습니다. 낮다면 모델은 더 천천히 배우지 만 더 정확할 수 있습니다.

epoch의 수 :

"epoch"는 전체 교육 데이터 세트를 통한 전체 패스입니다. 에포크의 수는 모델이 전체 데이터 세트에서 몇 번이나 배울 수 있는지 알려줍니다. 더 많은 에포크는 일반적으로 모델이 더 잘 배울 수있게하지만 너무 많은 사람들은 과적으로 너무 많은 것을 이끌어 낼 수 있습니다.

3. 방법을 '감독'및 선택한 '기본 모델'으로 선택하십시오. GPT-4O를 선택했습니다



4. 교육 데이터에 대한 JSON 파일을 업로드하십시오

5. 모델을 미세 조정하려는 작업과 관련된 '접미사'를 추가하십시오. 6. 하이퍼 파라미터를 선택하거나 기본값으로 남겨 둡니다.

.

7. 이제‘생성’을 클릭하면 미세 조정이 시작됩니다.

8. 미세 조정이 완료되면 다음과 같이 표시됩니다.

9. 이제 오른쪽 하단의 '놀이터'를 클릭하여 미세 조정 된 모델을 기존 모델과 비교할 수 있습니다. 중요한 참고 : 미세 조정 기간 및 비용은 데이터 세트 크기 및 모델 복잡성에 따라 다릅니다. 100 샘플과 같은 작은 데이터 세트는 비용이 크게 적지 만 모델을 충분히 미세 조정하지는 않지만 더 큰 데이터 세트는 시간과 돈 모두에서 더 많은 리소스가 필요합니다. 필자의 경우, 데이터 세트에는 약 24K 샘플이 있었으므로 미세 조정은 약 7 ~ 8 시간이 걸렸으며 약 $ 700. 주의

높은 비용이 주어지면 확장하기 전에 초기 테스트를위한 더 작은 데이터 세트로 시작하는 것이 좋습니다. 데이터 세트가 잘 구조화되고 관련성이 있는지 확인하는 것은 성능과 비용 효율성을 최적화하는 데 도움이 될 수 있습니다. gpt-4o vs finetuned gpt-4o 성능 점검 이제 모델을 미세 조정 했으므로 성능을 기본 GPT-4O와 비교하고 두 모델의 응답을 분석하여 정확성, 선명도, 이해 및 관련성이 향상되는지 확인합니다. 이를 통해 미세 조정 모델이 특정 요구 사항을 충족하고 의도 된 작업에서 더 나은 성과를 거두는 지 확인하는 데 도움이됩니다. Brevity의 경우 3 개의 프롬프트의 샘플 결과를 보여줍니다. 미세 조정 및 표준 GPT-4O 모델이 모두 형성됩니다. 쿼리 1

쿼리 :

“새 배달 주소를 제출하도록 도와주세요” Finetuned GPT-4O 모델에 의한 응답 :

GPT-4O에 의한 응답 :

비교 분석

미세 조정 된 모델은 표준 GPT-4O와 비교하여보다 상세하고 사용자 중심 응답을 제공합니다. GPT-4O는 기능적 단계별 안내서를 제공하지만 미세 조정 된 모델은 주소 추가 및 편집을 명시 적으로 구별하여 명확성을 향상시킵니다. 사용자에게 더 매력적이고 안심이되고 적극적인 지원을 제공합니다. 이는 미세 조정 모델의 고객 서비스 모범 사례와 일치하는 우수한 기능을 보여줍니다. 따라서 미세 조정 된 모델은 사용자 친화적이고 구조적이며지지적인 응답을 요구하는 작업에 더 강력한 선택입니다. 쿼리 2

쿼리 :

“계정 카테고리 계정으로 변경하려면 도움이 필요합니다”

Finetuned GPT-4O 모델에 의한 응답 :
GPT-4O에 의한 응답 :

비교 분석

미세 조정 된 모델은 기본 모델에 비해 사용자 참여와 명확성을 크게 향상시킵니다. GPT-4O는 구조적이지만 일반적인 응답을 제공하지만 미세 조정 된 버전은보다 대화적이고지지적인 톤을 채택하여 상호 작용을보다 자연스럽게 만듭니다.

. 쿼리 3

쿼리 :

“개인 정보를 업데이트하는 방법을 모르겠다” Finetuned GPT-4O 모델에 의한 응답 :
GPT-4O에 의한 응답 :

비교 분석 미세 조정 된 모델은보다 정확하고 구조화 된 응답을 제공하여 표준 GPT-4O를 능가합니다. GPT-4O는 기능적 답변을 제공하지만 미세 조정 된 모델은 주요 차이점을 명시 적으로 해결하고보다 일관된 방식으로 정보를 제시함으로써 명확성을 향상시킵니다. 또한 상황에 더 잘 적응하여보다 관련성이 높고 세련된 응답을 보장합니다. 전반적인 비교 분석

결론 이 경우 모델을 미세 조정하여 고객에게 더 잘 응답하면 효과가 있습니다. 그것은 상호 작용이보다 개인적이고 친근하며지지를 느끼게하여 더 강력한 연결과 사용자 만족도를 높입니다. 기본 모델은 명확하고 정확한 정보를 제공하지만 로봇과 덜 매력적이라고 ​​느낄 수 있습니다. OpenAI의 편리한 웹 플랫폼을 통해 모델을 미세 조정하면 도메인 특정 작업을위한 맞춤형 대형 언어 모델을 구축하는 좋은 방법입니다. 자주 묻는 질문

q1. AI 모델에서 미세 조정이란 무엇입니까?

a. 미세 조정은 미리 훈련 된 AI 모델을 조정하여 특정 작업을 수행하거나 더 작은 작업 별 데이터 세트에서 추가로 훈련하여 특정 동작을 보여주는 과정입니다. 이를 통해 모델은 작업의 뉘앙스를 더 잘 이해하고보다 정확하거나 맞춤형 결과를 생성 할 수 있습니다. 미세 조정은 AI 모델의 성능을 어떻게 향상 시키는가?  미세 조정은 고객 상호 작용에 공감을 추가하는 것과 같은 작업의 특정 요구 사항을 더 잘 처리하도록 가르쳐서 모델의 성능을 향상시킵니다. 모델이보다 개인화되고 상황을 인식하는 응답을 제공하여 상호 작용이 인간과 유사하고 매력적이라고 ​​느끼게합니다. 미세 조정 모델을 사용하는 데 더 비싸다 미세 조정 모델에는 추가 자원과 교육이 필요할 수 있으며 비용이 증가 할 수 있습니다. 그러나보다 효과적이고 사용자 친화적 인 모델의 이점은 종종 고객 상호 작용 또는 복잡한 문제 해결과 관련된 작업의 경우 초기 투자보다 중요합니다. 나 자신의 모델을 미세 조정할 수 있습니까?

a. 예, 필요한 데이터와 기술 전문 지식이있는 경우 포옹 얼굴, OpenAI 또는 기타와 같은 기계 학습 프레임 워크를 사용하여 모델을 미세 조정할 수 있습니다. 그러나 일반적으로 AI, 데이터 준비 및 교육 프로세스에 대한 강력한 이해가 필요합니다. 모델을 미세 조정하는 데 얼마나 걸립니까?

위 내용은 고객 지원을위한 OpenAI 플랫폼의 모델을 미세 조정합니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!