>  기사  >  기술 주변기기  >  OpenAI는 새로운 미세 조정 및 사용자 정의 옵션을 제공합니다.

OpenAI는 새로운 미세 조정 및 사용자 정의 옵션을 제공합니다.

王林
王林앞으로
2024-04-19 15:19:091017검색

미세 조정은 귀중한 AI 도구를 구축하는 데 중요한 역할을 합니다. 보다 타겟화된 데이터 세트를 사용하여 사전 훈련된 모델을 개선하는 이러한 프로세스를 통해 사용자는 전문 콘텐츠에 대한 모델의 이해를 크게 높일 수 있으며, 사용자는 특정 작업을 위해 모델에 미리 만들어진 지식을 추가할 수 있습니다.

OpenAI는 새로운 미세 조정 및 사용자 정의 옵션을 제공합니다.

이 프로세스는 시간이 걸릴 수 있지만 모델을 처음부터 훈련시키는 것보다 비용 효율성이 3배 더 높은 경우가 많습니다. 이 가치는 OpenAI가 최근 발표한 맞춤형 모델 프로그램 확장과 미세 조정 API를 위한 다양한 새로운 기능에 반영되어 있습니다.

셀프 서비스 미세 조정 API의 새로운 기능

OpenAI는 2023년 8월 GPT-3용 셀프 서비스 미세 조정 API 출시를 처음 발표했으며 AI 커뮤니티로부터 뜨거운 반응을 받았습니다. OpenAI는 수천 개의 그룹이 API를 활용하여 특정 프로그래밍 언어를 사용하여 코드를 생성하거나 텍스트를 특정 형식으로 요약하거나 사용자 행동을 기반으로 개인화된 콘텐츠를 생성하는 등 수만 개의 모델을 교육했다고 보고합니다.

채용 매칭 및 채용 플랫폼 인디드는 2023년 8월 출시 이후 상당한 성공을 거두었습니다. 구직자와 관련 구인 정보를 연결하기 위해 인디드는 사용자에게 맞춤형 추천을 보냅니다. GPT 3.5 Turbo는 프로세스에 대한 보다 정확한 설명을 제공하도록 미세 조정되었으며 경고의 토큰 수를 80%까지 줄일 수 있습니다. 이로 인해 회사가 매달 구직자에게 보내는 메시지 수가 100만 개 미만에서 약 2천만 개로 늘어났습니다.

새로운 미세 조정 API 기능은 이러한 성공을 기반으로 하며 향후 사용자를 위해 기능을 개선하기를 바랍니다.

에포크 기반 체크포인트 생성: 모든 교육 에포크에서 완전한 미세 조정 모델 체크포인트를 자동으로 생성하므로 필요성이 줄어듭니다. 특히 과적합의 경우 후속 재훈련을 위해.

Comparity Playground: 모델 품질과 성능을 비교하기 위한 새로운 병렬 플레이그라운드 UI로, 단일 프롬프트에 대해 여러 모델의 출력을 수동으로 평가하거나 스냅샷을 미세 조정할 수 있습니다.

타사 통합: 타사 플랫폼과의 통합을 지원하여(권한 및 편차로 시작) 개발자가 세부적인 미세 조정 데이터를 스택의 나머지 부분과 공유할 수 있습니다.

포괄적인 검증 지표: 모델 품질을 더 잘 이해하기 위해 전체 검증 데이터 세트에 대한 손실 및 정확도와 같은 지표를 계산하는 기능.

하이퍼파라미터 구성: 대시보드에서 사용 가능한 하이퍼파라미터를 구성하는 기능(API 또는 SDK를 통하지 않음)

대시보드 미세 조정 개선: 하이퍼파라미터 구성, 더 자세한 교육 지표 보기, 이전 구성에서 작업 다시 실행 등의 기능이 포함되었습니다.

과거의 성공을 바탕으로 OpenAI는 이러한 새로운 기능을 통해 개발자가 미세 조정 작업을 보다 세밀하게 제어할 수 있을 것이라고 믿습니다.

미세 조정 및 맞춤형 학습 모델 지원

OpenAI는 2023년 11월 DevDay 출시를 기반으로 맞춤형 모델 계획도 개선했습니다. 주요 변화 중 하나는 추가 하이퍼파라미터 및 다양한 PEFT(매개변수 유효 미세 조정) 방법을 더 큰 규모로 추가하는 등 API 미세 조정 이상의 가치 있는 기술을 활용하는 수단인 보조 미세 조정의 출현입니다.

SK텔레콤은 이 서비스의 잠재력을 최대한 실현한 사례입니다. 이 통신사는 국내 사용자가 3천만 명 이상이므로 통신 고객 서비스 전문가 역할을 할 수 있는 인공지능 모델을 맞춤화하고 싶었습니다.

OpenAI와 협업하여 GPT-4를 한국 통신 관련 대화에 집중하도록 미세 조정함으로써 SK텔레콤의 대화 요약 품질은 35% 향상되고 의도 인식 정확도는 33% 향상되었습니다. 새로운 미세 조정 모델을 일반화된 GPT-4와 비교할 때 만족도 점수도 5점 만점에 3.6에서 4.5로 향상되었습니다.

OpenAI에는 도메인별 지식 모델의 심층적인 미세 조정이 필요한 기업을 위한 맞춤형 모델을 구축하는 기능도 도입되었습니다. 법률 AI 회사인 Harvey와의 파트너십은 이 기능의 가치를 보여줍니다. 법률 업무에는 읽기 집약적인 문서가 많이 필요하며 Harvey는 LLM(Large Language Models)을 사용하여 이러한 문서의 정보를 합성하고 검토를 위해 변호사에게 제출하기를 원했습니다. 그러나 많은 법률은 복잡하고 상황에 따라 다르므로 Harvey는 OpenAI와 협력하여 새로운 지식과 추론 방법을 기본 모델에 통합할 수 있는 맞춤형 학습 모델을 구축하기를 희망합니다.

Harvey는 OpenAI와 파트너십을 맺고 이 판례 모델을 맞춤 학습하기 위해 100억 개의 토큰에 해당하는 데이터를 추가했습니다. 정보에 입각한 법적 판단을 내리는 데 필요한 상황적 깊이를 추가함으로써 결과 모델은 사실적 답변을 83% 향상시켰습니다.

AI 도구는 결코 "만병통치약" 솔루션이 아닙니다. 맞춤화 가능성은 이 기술의 유용성의 핵심이며, 교육 모델을 미세 조정하고 맞춤화하는 OpenAI의 작업은 이미 도구를 통해 얻은 조직을 확장하는 데 도움이 될 것입니다.

위 내용은 OpenAI는 새로운 미세 조정 및 사용자 정의 옵션을 제공합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
이 기사는 51cto.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제