GPT로 시작된 In-Context Learning의 개발 현황은 어떤가요? 이 리뷰를 통해 명확해졌습니다

언어 모델과 말뭉치의 크기가 점차 확대되면서 LLM(대형 언어 모델)의 잠재력이 더욱 커집니다. 최근 일부 연구에 따르면 LLM은 상황 내 학습(ICL)을 사용하여 수학적 추론 문제 해결과 같은 다양한 복잡한 작업을 수행할 수 있는 것으로 나타났습니다.

베이징 대학교, 상하이 AI 연구소, 캘리포니아 대학교 산타바바라 캠퍼스의 10명의 연구원은 최근 ICL 연구의 현재 진행 상황을 자세히 설명하는 상황 내 학습에 대한 리뷰 논문을 발표했습니다.

논문 주소: ​https://arxiv.org/pdf/2301.00234v1.pdf​

상황 내 학습의 핵심 아이디어는 유추 학습입니다. 언어 모델은 ICL을 사용합니다. 결정을 내립니다.

우선 ICL에서는 데모 컨텍스트를 구성하기 위해 몇 가지 샘플이 필요하며 이러한 샘플은 일반적으로 자연어 템플릿으로 작성됩니다. 그런 다음 ICL은 쿼리 질문을 프레젠테이션 컨텍스트와 연결하여 프롬프트를 형성하고 예측을 위해 이를 언어 모델에 제공합니다. 역그라디언트를 사용하여 모델 매개변수를 업데이트해야 하는 지도 학습의 훈련 단계와 달리 ICL은 사전 훈련된 언어 모델이 직접 예측 작업을 수행할 수 있도록 매개변수 업데이트가 필요하지 않으며 모델은 데모에서 숨겨진 패턴을 학습할 것으로 예상됩니다. 예를 들어보고 그에 따라 올바른 예측을 내리세요.

새로운 패러다임으로 ICL은 매력적인 장점이 많습니다. 첫째, 데모 예제는 자연어 형식으로 작성되어 대규모 언어 모델과 관련된 해석 가능한 인터페이스를 제공합니다. 이 패러다임을 사용하면 데모 예제와 템플릿을 변경하여 인간 지식을 언어 모델에 쉽게 통합할 수 있습니다(Liu et al., 2022; Lu et al., 2022; Wu et al., 2022; Wei et al., 2022c). 둘째, 맥락 내 학습은 유추를 통한 인간 학습의 의사결정 과정과 유사하다. 셋째, 지도 교육에 비해 ICL은 교육이 필요 없는 학습 프레임워크입니다. 이를 통해 모델을 새로운 작업에 적용하는 데 드는 계산 비용을 크게 줄일 수 있을 뿐만 아니라 서비스로서의 언어 모델(LMaaS, Sun et al., 2022)을 가능하게 만들고 대규모 실제 작업에 쉽게 적용할 수 있습니다.

ICL은 큰 가능성을 갖고 있지만 성능을 포함하여 아직 탐구할 가치가 있는 문제가 많이 있습니다. 예를 들어 원래 GPT-3 모델에는 특정 ICL 기능이 있지만 일부 연구에서는 사전 훈련 중 적응을 통해 이 기능이 크게 향상될 수 있음을 발견했습니다. 또한 ICL의 성능은 프롬프트 템플릿, 상황별 샘플 선택, 샘플 순서 등 특정 설정에 따라 달라집니다. 또한, ICL의 작동 메커니즘은 타당해 보이지만 아직 충분히 명확하지 않으며, 작동 메커니즘을 사전에 설명할 수 있는 연구도 많지 않습니다.

이 리뷰 논문에서는 ICL의 강력한 성능이 두 단계에 달려 있다는 결론을 내립니다.

• 대규모 언어 모델의 ICL 기능을 육성하기 위한 교육 단계
• 대규모 언어 모델은 특정 작업을 기반으로 예측합니다. 시연 추론 단계.

학습 단계에서는 왼쪽에서 오른쪽으로 세대 등 언어 모델링 목표에 따라 언어 모델을 직접 학습합니다. 이러한 모델은 상황 내 학습에 특별히 최적화되어 있지는 않지만 ICL의 기능은 여전히 ​​놀랍습니다. 기존 ICL 연구는 기본적으로 잘 훈련된 언어 모델을 기반으로 합니다.

추론 단계에서는 입력 및 출력 레이블이 해석 가능한 자연어 템플릿으로 표현되므로 ICL 성능을 다양한 관점에서 최적화할 수 있습니다. 이 검토 논문은 자세한 설명과 비교를 제공하고, 시연을 위한 적절한 예를 선택하고, 다양한 작업에 대한 구체적인 채점 방법을 설계합니다.

ICL의 형식적 정의(§3), 워밍업 방법(§4), 프롬프트 디자인 전략(§5) 및 채점 기능(§)을 포함하여 본 리뷰 논문의 일반적인 내용과 구조가 아래 그림에 나와 있습니다. 6) .

또한 §7에서는 ICL의 작동 원리를 밝히기 위한 현재 탐구에 대한 통찰력을 제공합니다. §8은 ICL에 대한 유용한 평가 및 리소스를 추가로 제공하고, §9는 ICL의 효율성을 입증하는 잠재적인 적용 시나리오를 소개합니다. 마지막으로 §10에서는 ICL 분야의 기존 과제와 잠재적인 방향을 요약하여 해당 분야의 추가 개발을 위한 참고 자료를 제공합니다.

관심 있는 독자는 논문 원문을 읽고 더 많은 연구 세부 사항을 알아볼 수 있습니다.

위 내용은 GPT로 시작된 In-Context Learning의 개발 현황은 어떤가요? 이 리뷰를 통해 명확해졌습니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!