NeurIPS 2023 검토: Tsinghua ToT는 대형 모델에 초점을 맞췄습니다.

최근 미국 10대 기술 블로그 중 하나인 Latent Space는 직전 NeurIPS 2023 컨퍼런스에 대한 엄선된 리뷰와 요약을 실시했습니다.

NeurIPS 컨퍼런스에서는 총 3586편의 논문이 접수됐고, 그 중 6편이 상을 받았습니다. 이러한 수상 경력의 논문들이 많은 주목을 받고 있는 반면, 다른 논문들도 마찬가지로 뛰어난 품질과 잠재력을 갖고 있습니다. 실제로 이 논문은 AI의 차세대 혁신을 예고할 수도 있습니다.

그럼 함께 살펴보시죠!

논문 제목: QLoRA: Efficient Finetuning of Quantized LLM

논문 주소: https://openreview.net/pdf?id=OUIFPHEgJU

본 논문에서는 QLoRA를 제안합니다. , 메모리를 절약하기 위해 여러 가지 최적화 트릭을 사용하는 메모리 효율성은 높지만 느린 버전의 LoRA입니다.

전체적으로 QLoRA를 사용하면 대규모 언어 모델을 미세 조정할 때 GPU 메모리를 덜 사용할 수 있습니다.

Guanaco라는 새로운 모델을 미세 조정하고 단 하나의 GPU로 24시간 동안 훈련한 결과, Vicuna 벤치마크에서 이전 모델보다 성능이 뛰어났습니다.

동시에 연구자들은 4비트 LoRA 정량화와 같은 유사한 효과를 갖는 다른 방법도 개발했습니다. 논문 제목: DataComp: 차세대 다중 모드 데이터 세트 검색

다중 모드 데이터 세트는 CLIP, Stable Diffusion 및 GPT-4와 같은 최근 혁신에서 핵심 역할을 하지만 해당 디자인은 모델 아키텍처만큼 연구 관심을 받지 못했습니다. 또는 훈련 알고리즘.

머신러닝 생태계의 이러한 단점을 해결하기 위해 연구원들은 Common Crawl의 새로운 후보 풀에서 약 128억 개의 이미지-텍스트 쌍을 실험하는 데이터세트 실험을 위한 테스트베드인 DataComp를 도입했습니다. 사용자는 DataComp를 실험하고, 새로운 필터링 기술을 설계하거나, 새로운 데이터 소스를 선별하고, 표준화된 CLIP 교육 코드를 실행하고 38개의 다운스트림 테스트 세트의 새로운 데이터 세트에서 결과 모델을 테스트하여 이를 평가할 수 있습니다.

결과에 따르면 CLIP ViT-L/14 모델을 처음부터 훈련할 수 있는 최고의 벤치마크 DataComp-1B는 ImageNet에서 79.2%의 제로 샘플 정확도를 달성했으며 이는 OpenAI의 CLIP ViT-L보다 우수합니다. /14 이 모델은 3.7% 포인트 성능이 향상되어 DataComp 워크플로가 더 나은 훈련 세트를 생성한다는 것을 입증합니다.

논문 제목: Visual Instruction Tuning

논문 주소:

https://www.php.cn/link/c0db7643410e1a667d5e 01 이 문서의 868827a9af

, 연구자들은 언어에만 의존하는 GPT-4를 사용하여 다중 모드 언어-이미지 지시 따르기 데이터를 생성하려는 최초의 시도를 제시합니다.

이 생성된 데이터에 대한 지침을 조정하여 일반적인 시각적 및 언어 이해를 위해 시각적 인코더와 LLM을 연결하고 엔드 투 엔드로 훈련된 대규모 다중 모드 모델인 LLaVA: Large Language and Vision Assistant를 소개합니다.

초기 실험에서는 LLaVA가 인상적인 다중 모드 채팅 기능을 보여주었으며 때로는 보이지 않는 이미지/지침에 다중 모드 GPT-4 동작을 보이고 데이터에 대한 합성 다중 모드 지침을 따르는 것으로 나타났습니다. 이 세트는 GPT에 비해 85.1%의 상대 점수를 달성했습니다. -4.

LLaVA와 GPT-4의 시너지 효과로 과학적 질문 답변을 미세 조정할 때 92.53%의 새로운 최첨단 정확도를 달성합니다.

논문 제목: 생각의 나무: 대규모 언어 모델을 사용한 고의적 문제 해결

논문 주소: https://arxiv.org/pdf/2305.10601.pdf

언어 모델은 광범위한 작업에서 일반적인 문제 해결에 점점 더 많이 사용되고 있지만 여전히 추론 중 토큰 수준의 왼쪽에서 오른쪽 의사 결정 프로세스로 제한됩니다. 이는 탐구, 전략적 예측이 필요한 작업 또는 초기 의사결정이 중요한 역할을 하는 작업에서 성과가 좋지 않을 수 있음을 의미합니다.

이러한 과제를 극복하기 위해 연구자들은 새로운 언어 모델 추론 프레임워크인 ToT(Tree of Thoughts)를 도입했습니다. ToT는 언어 모델을 유도하는 데 널리 사용되는 사고 사슬 접근 방식을 일반화하고 일관된 텍스트 탐색을 허용합니다. 단위(아이디어)에 대해 탐색이 수행됩니다. 문제 해결의 중간 단계 역할을 합니다.

ToT를 사용하면 언어 모델이 여러 가지 추론 경로와 자체 평가 옵션을 고려하여 다음 단계를 결정하고 전역 선택을 하기 위해 필요한 경우 앞이나 뒤를 살펴봄으로써 신중한 결정을 내릴 수 있습니다.

실험을 통해 ToT가 사소한 계획이나 검색이 필요한 세 가지 새로운 작업인 24포인트 게임, 창의적인 글쓰기, 미니 크로스워드 퍼즐에서 언어 모델의 문제 해결 능력을 크게 향상시키는 것으로 입증되었습니다. 예를 들어, 24포인트 게임에서 Chain of Thought 프롬프트를 사용하는 GPT-4는 작업의 4%만 해결한 반면 ToT는 74%의 성공률을 달성했습니다.

논문 제목: Toolformer: 언어 모델은 스스로 도구 사용 방법을 가르칠 수 있습니다

논문 주소: https://arxiv.org/pdf/2302.04761.pdf

언어 모델은 특히 대규모 상황에서 적은 수의 예나 텍스트 지침을 통해 새로운 작업을 해결하는 놀라운 능력을 보여주었습니다. 그러나 역설적이게도 단순하고 작은 전문 모델에 비해 산술이나 사실 찾기와 같은 기본 기능에 어려움을 나타냅니다.

이 논문에서 연구자들은 언어 모델이 간단한 API를 통해 외부 도구를 사용하도록 스스로 학습하고 둘의 최상의 조합을 달성할 수 있음을 보여줍니다.

어떤 API를 호출할지, 언제 호출할지, 어떤 매개변수를 전달할지, 결과를 향후 토큰 예측에 가장 잘 통합하는 방법을 결정하도록 훈련된 모델인 Toolformer를 도입했습니다.

이 작업은 자체 감독 방식으로 수행되므로 API당 소수의 데모만 필요합니다. 계산기, 질문 및 답변 시스템, 검색 엔진, 번역 시스템 및 달력을 포함한 다양한 도구를 통합합니다.

Toolformer는 핵심 언어 모델링 기능을 그대로 유지하면서 더 큰 모델과 경쟁하면서 다양한 다운스트림 작업에서 크게 향상된 제로샷 성능을 달성합니다.

논문 제목: Voyager: An Open-Ended Embodied Agent with Large Language Models

논문 주소: https://arxiv.org/pdf/2305.16291.pdf

이 문서에서는 Minecraft의 세계를 지속적으로 탐색하고 다양한 기술을 습득하며 독립적인 발견을 할 수 있는 대규모 언어 모델(LLM)을 기반으로 하는 최초의 학습 에이전트인 Voyager를 소개합니다.

Voyager는 세 가지 주요 구성 요소로 구성됩니다.

탐색을 극대화하도록 설계된 자동 수업,

복잡한 동작을 저장하고 검색하기 위한 실행 가능한 코드 기술 라이브러리로 성장하고 있습니다.

환경 피드백, 실행 오류 및 자체 검증을 통합하여 프로그램을 개선하는 새로운 반복 프롬프트 메커니즘입니다.

Voyager는 블랙박스 쿼리를 통해 GPT-4와 상호 작용하므로 모델 매개변수를 미세 조정할 필요가 없습니다.

실증적 연구를 바탕으로 Voyager는 환경적 맥락에서 강력한 평생 학습 능력을 보여주고 Minecraft 플레이에 탁월한 능력을 보여줍니다.

이전 기술 레벨보다 3.3배 높은 고유 아이템에 접근할 수 있고, 2.3배 더 오래 이동하며, 이전 기술 레벨보다 15.3배 빠르게 주요 기술 트리 마일스톤을 잠금 해제할 수 있습니다.

Voyager는 학습된 기술 라이브러리를 사용하여 새로운 Minecraft 세계에서 새로운 작업을 처음부터 해결할 수 있지만 다른 기술은 일반화하기 어렵습니다.

논문 제목: CogEval

논문 주소: https://openreview.net/pdf?id=VtkGvGcGe3

이 논문에서는 대규모 언어 모델의 인지 능력을 체계적으로 평가하기 위해 인지 과학에서 영감을 받은 프로토콜인 CogEval을 먼저 제안합니다.

두 번째로, 이 논문에서는 CogEval 시스템을 사용하여 8개의 LLM(OpenAI GPT-4, GPT-3.5-turbo-175B, davinci-003-175B, Google Bard, Cohere-xlarge-52.4B, Anthropic Claude-1)을 평가했습니다. - 52B, LLaMA-13B 및 Alpaca-7B) 인지 매핑 및 계획 기능. 작업 프롬프트는 인간 실험을 기반으로 하며 LLM 교육 세트에는 없습니다.

연구 결과에 따르면 LLM은 단순한 구조의 일부 계획 작업에서 확실한 기능을 보여주지만 일단 작업이 복잡해지면 LLM은 유효하지 않은 궤적에 대한 환각과 루프에 빠지는 등 사각지대에 빠지게 됩니다.

이러한 결과는 LLM에 플러그 앤 플레이 계획 기능이 있다는 생각을 뒷받침하지 않습니다. LLM은 계획 문제의 기본 관계 구조, 즉 인지 지도를 이해하지 못하고 기본 구조를 기반으로 목표 지향적인 궤적을 전개하는 데 문제가 있을 수 있습니다.

논문 제목: Mamba: Linear-Time Sequence Modeling with Selective State Spaces

논문 주소: https://openreview.net/pdf?id=AL1fq05o7H

저자는 선형 주의, 게이트 컨볼루션, 반복 모델은 물론 구조화된 상태 공간 모델(SSM)과 같은 현재의 많은 하위 선형 시간 아키텍처가 긴 시퀀스를 처리할 때 Transformer의 계산 비효율성을 해결하는 것을 목표로 한다고 지적했습니다. 그러나 이러한 모델은 언어와 같은 중요한 영역에서 Attention 모델만큼 성능을 ​​발휘하지 못합니다. 저자는 이러한

유형의 주요 약점은 콘텐츠 기반 추론을 수행하고 일부 개선을 수행할 수 없다는 점이라고 믿습니다.

먼저, SSM 매개변수를 입력의 함수로 만들기만 하면 이산 모드의 약점을 해결할 수 있으며, 모델이 현재 토큰에 따라 시퀀스 길이 차원을 따라 정보를 선택적으로 전파하거나 잊을 수 있습니다.

둘째, 이러한 변경으로 인해 효율적인 컨볼루션을 사용할 수 없지만 저자는 루프 모드에서 하드웨어 인식 병렬 알고리즘을 설계했습니다. 이러한 선택적 SSM을 단순화된 엔드투엔드 신경망 아키텍처에 통합하려면 주의 메커니즘이나 MLP 모듈(Mamba)도 필요하지 않습니다.

Mamba는 추론 속도(Transformers보다 5배 높음)가 뛰어나고 시퀀스 길이에 따라 선형적으로 확장되므로 최대 백만 길이 시퀀스의 실제 데이터 성능이 향상됩니다.

범용 시퀀스 모델 백본인 Mamba는 언어, 오디오, 유전체학을 포함한 다양한 분야에서 최첨단 성능을 달성했습니다. 언어 모델링 측면에서 Mamba-1.4B 모델은 사전 훈련 및 다운스트림 평가 모두에서 동일한 크기의 Transformers 모델보다 성능이 뛰어나며 크기가 두 배인 Transformers 모델과 경쟁합니다.

이 논문들은 Mamba와 같이 언어 모델 아키텍처에 혁명을 일으킬 수 있는 기술 모델로 2023년에 상을 받지는 못했지만 그 영향을 평가하기에는 아직 이르습니다.

내년에는 NeurIPS가 어떻게 될 것이며, 2024년에는 인공지능과 신경정보시스템 분야가 어떻게 발전할 것인가? 현재 많은 의견이 있지만 누가 확신할 수 있을까요? 기다려 보자.

위 내용은 NeurIPS 2023 검토: Tsinghua ToT는 대형 모델에 초점을 맞췄습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!