찾다
기술 주변기기일체 포함Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 '환상' 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

대형모델의 '환상' 문제 곧 해결될까?

University of Wisconsin-Madison의 연구원과 Google은 최근 대형 모델이 결과를 자체 평가할 수 있는 ASPIRE 시스템을 출시했습니다.

사용자가 모델이 생성한 결과의 점수가 낮다는 것을 알게 되면 해당 답변이 환상일 수 있음을 깨닫게 됩니다.

Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

시스템이 평가 결과를 기반으로 출력 콘텐츠를 추가로 필터링할 수 있는 경우(예: 평가가 낮을 때) 대형 모델은 "이 질문에 답할 수 없습니다"와 같은 문을 생성할 수 있습니다. 환각 문제의 개선을 극대화합니다.

Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

문서 주소: https://aclanthology.org/2023.findings-emnlp.345.pdf

ASPIRE를 사용하면 LLM이 답변과 답변의 신뢰도 점수를 출력할 수 있습니다.

연구원의 실험 결과에 따르면 ASPIRE는 다양한 QA 데이터 세트(예: CoQA 벤치마크)에서 기존의 선택적 예측 방법보다 훨씬 뛰어난 성능을 보였습니다.

LLM이 질문에 답변할 뿐만 아니라 답변을 평가하도록 하세요.

선택적 예측 벤치마크 테스트에서 연구진은 ASPIRE 시스템을 통해 모델 규모의 10배 이상의 결과를 달성했습니다.

Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

학생들에게 교과서 뒷부분에 있는 답을 직접 확인하라고 하는 것과 같습니다. 비록 다소 신뢰할 수 없는 것처럼 들리지만, 곰곰이 생각해 보면 문제에 답한 후에는 모두가 정말로 만족할 것입니다. 등급이 있을 겁니다.

이것이 ASPIRE의 핵심이며 세 단계로 구성됩니다.

(1) 특정 작업에 대한 튜닝,

(2) 답변 샘플링,

( 3 ) 자기 평가 학습.

연구원의 눈에 ASPIRE는 단순한 또 다른 프레임워크가 아니라 LLM 신뢰성을 종합적으로 향상하고 환각을 줄이는 밝은 미래를 나타냅니다.

LLM이 의사결정 과정에서 신뢰할 수 있는 파트너가 될 수 있다면.

선택적 예측 능력을 계속해서 최적화하는 한, 인간은 대형 모델의 잠재력을 완전히 실현하는 데 한 걸음 더 다가갈 수 있습니다.

연구원들은 ASPIRE를 사용하여 차세대 LLM의 진화를 시작하여 더욱 안정적이고 자기 인식적인 인공 지능을 만들기를 희망합니다.

ASPIRE의 메커니즘

작업별 미세 조정

ASPIRE는 LLM을 동결하는 동안 적응형 매개변수Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.를 훈련하기 위해 작업별 미세 조정을 수행합니다.

생성 작업을 위한 훈련 데이터세트가 주어지면 사전 훈련된 LLM을 미세 조정하여 예측 성능을 향상시킵니다.

이를 위해 매개변수 효율적인 미세 조정 기술(예: 소프트 큐 단어 미세 조정 및 LoRA)을 사용하여 작업에 대해 사전 훈련된 LLM을 미세 조정할 수 있습니다. 적은 수의 목표 데이터.

구체적으로 LLM 매개변수(θ)는 동결되고 미세 조정을 위해 적응형 매개변수Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.가 추가됩니다.

표준 LLM 훈련 손실(예: 교차 엔트로피)을 최소화하려면 θ(p)만 업데이트하세요.

이런 종류의 미세 조정은 예측 정확도를 향상시킬 뿐만 아니라 시퀀스를 올바르게 출력할 가능성도 높이기 때문에 선택적 예측 성능을 향상시킬 수 있습니다.

Answer Sampling

ASPIRE는 특정 작업에 맞춰 조정된 후 LLM을 사용하고 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다. 학습하여 각 교육 질문에 대해 서로 다른 답변을 생성하고 자체 평가 학습을 위한 데이터 세트를 만듭니다.

연구원의 목표는 가능성이 높은 출력 시퀀스를 생성하는 것입니다. 그들은 Beam Search를 디코딩 알고리즘으로 사용하여 가능성이 높은 출력 시퀀스를 생성하고 Rouge-L 메트릭을 사용하여 생성된 출력 시퀀스가 ​​올바른지 확인했습니다.

자체 평가 학습

ASPIRE는 각 쿼리의 가능성이 높은 출력을 샘플링한 후 적응형 매개변수를 추가하고 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.미세 조정만 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.하여 자체 평가를 학습합니다.

출력 시퀀스 생성은 θ와 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.에만 의존하므로 θ와 학습된 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.을 동결하면 자체 평가를 학습할 때 LLM의 예측 동작이 변경되는 것을 피할 수 있습니다.

연구원들은 적응된 LLM이 정답과 오답을 스스로 구별할 수 있도록 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.최적화했습니다.

Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

이 프레임워크에서는 매개변수 효율적인 미세 조정 방법을 사용하여 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.을 훈련할 수 있습니다.

이 연구에서 연구원들은 특정 다운스트림 작업을 수행하기 위해 전통적인 개별 텍스트 단서보다 더 효과적으로 고정된 언어 모델을 조정하기 위해 "소프트 단서"를 학습하는 간단하면서도 효과적인 메커니즘인 소프트 단서 미세 조정을 사용합니다.

이 접근 방식의 핵심은 자기 평가를 효과적으로 자극하는 단서가 개발될 수 있다면 목표한 훈련 목표와 결합된 부드러운 단서의 미세 조정을 통해 이러한 단서를 발견할 수 있어야 한다는 인식입니다.

Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

학습 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다. 후에 연구원들은 빔 검색 디코딩을 통해 쿼리에 대한 예측을 얻었습니다.

그런 다음 연구자들은 답변을 생성할 가능성과 학습된 자체 평가 점수(즉, 쿼리에 대한 예측이 정확할 가능성)를 결합한 선택 점수를 정의하여 선택적인 예측을 합니다.

결과

ASPIRE의 효과를 입증하기 위해 연구원들은 다양한 개방형 사전 훈련된 OPT(사전 훈련된 Transformer) 모델을 사용하여 세 가지 질문 답변 데이터 세트(CoQA, TriviaQA 및 SQuAD)에서 이를 평가했습니다.

소프트 큐를 사용하여 훈련을 조정함으로써Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.연구원들은 LLM 정확도가 크게 향상되는 것을 관찰했습니다.

예를 들어 ASPIRE를 사용하는 OPT-2.7B 모델은 CoQA 및 SQuAD 데이터 세트를 사용하여 미리 훈련된 더 큰 OPT-30B 모델에 비해 더 나은 성능을 보여주었습니다.

이러한 결과는 적절한 조정을 통해 소규모 LLM이 경우에 따라 대규모 모델의 정확도와 일치하거나 이를 초과할 수 있음을 시사합니다.

Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

고정 모델 예측에 대한 선택 점수 계산을 자세히 살펴보면 ASPIRE는 모든 데이터 세트에 대해 기준 방법보다 더 높은 AUROC 점수를 달성했습니다(무작위로 선택한 올바른 출력 시퀀스는 무작위로 선택한 잘못된 출력 시퀀스보다 더 높은 값을 가짐). 선택 점수가 더 높을 확률).

예를 들어 CoQA 벤치마크에서 ASPIRE는 기준에 비해 AUROC를 51.3%에서 80.3%로 향상시킵니다.

TriviaQA 데이터 세트에 대한 평가에서 흥미로운 패턴이 나타났습니다.

사전 훈련된 OPT-30B 모델은 더 높은 기준 정확도를 나타내지만 전통적인 자체 평가 방법(자기 평가 및 P(True))을 적용하면 선택적 예측 성능이 크게 향상되지 않습니다.

반면 훨씬 작은 OPT-2.7B 모델은 ASPIRE로 강화된 이 점에서 다른 모델보다 성능이 뛰어납니다.

이 차이점은 중요한 문제를 구체화합니다. 전통적인 자체 평가 기술을 활용하는 대규모 LLM은 소규모 ASPIRE 강화 모델만큼 선택적 예측에 효과적이지 않을 수 있습니다.

Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 환상 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.

연구원들의 ASPIRE 실험 여정은 LLM 환경의 주요 변화를 강조합니다. 언어 모델의 용량은 성능의 전부이자 끝이 아닙니다.

반면, 정책 조정을 통해 모델 효율성을 크게 향상할 수 있으므로 작은 모델에서도 더 정확하고 확실한 예측이 가능합니다.

따라서 ASPIRE는 자체 답변의 확실성을 현명하게 결정하고 선택적 예측 작업에서 크기가 10배인 다른 모델보다 훨씬 뛰어난 LLM의 잠재력을 보여줍니다.

위 내용은 Google의 새로운 방법인 ASPIRE: LLM 자체 채점 기능을 제공하고 '환상' 문제를 효과적으로 해결하며 볼륨 모델의 10배를 초과합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명
이 기사는 51CTO.COM에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제
解读CRISP-ML(Q):机器学习生命周期流程解读CRISP-ML(Q):机器学习生命周期流程Apr 08, 2023 pm 01:21 PM

译者 | 布加迪审校 | 孙淑娟目前,没有用于构建和管理机器学习(ML)应用程序的标准实践。机器学习项目组织得不好,缺乏可重复性,而且从长远来看容易彻底失败。因此,我们需要一套流程来帮助自己在整个机器学习生命周期中保持质量、可持续性、稳健性和成本管理。图1. 机器学习开发生命周期流程使用质量保证方法开发机器学习应用程序的跨行业标准流程(CRISP-ML(Q))是CRISP-DM的升级版,以确保机器学习产品的质量。CRISP-ML(Q)有六个单独的阶段:1. 业务和数据理解2. 数据准备3. 模型

人工智能的环境成本和承诺人工智能的环境成本和承诺Apr 08, 2023 pm 04:31 PM

人工智能(AI)在流行文化和政治分析中经常以两种极端的形式出现。它要么代表着人类智慧与科技实力相结合的未来主义乌托邦的关键,要么是迈向反乌托邦式机器崛起的第一步。学者、企业家、甚至活动家在应用人工智能应对气候变化时都采用了同样的二元思维。科技行业对人工智能在创建一个新的技术乌托邦中所扮演的角色的单一关注,掩盖了人工智能可能加剧环境退化的方式,通常是直接伤害边缘人群的方式。为了在应对气候变化的过程中充分利用人工智能技术,同时承认其大量消耗能源,引领人工智能潮流的科技公司需要探索人工智能对环境影响的

找不到中文语音预训练模型?中文版 Wav2vec 2.0和HuBERT来了找不到中文语音预训练模型?中文版 Wav2vec 2.0和HuBERT来了Apr 08, 2023 pm 06:21 PM

Wav2vec 2.0 [1],HuBERT [2] 和 WavLM [3] 等语音预训练模型,通过在多达上万小时的无标注语音数据(如 Libri-light )上的自监督学习,显著提升了自动语音识别(Automatic Speech Recognition, ASR),语音合成(Text-to-speech, TTS)和语音转换(Voice Conversation,VC)等语音下游任务的性能。然而这些模型都没有公开的中文版本,不便于应用在中文语音研究场景。 WenetSpeech [4] 是

条形统计图用什么呈现数据条形统计图用什么呈现数据Jan 20, 2021 pm 03:31 PM

条形统计图用“直条”呈现数据。条形统计图是用一个单位长度表示一定的数量,根据数量的多少画成长短不同的直条,然后把这些直条按一定的顺序排列起来;从条形统计图中很容易看出各种数量的多少。条形统计图分为:单式条形统计图和复式条形统计图,前者只表示1个项目的数据,后者可以同时表示多个项目的数据。

自动驾驶车道线检测分类的虚拟-真实域适应方法自动驾驶车道线检测分类的虚拟-真实域适应方法Apr 08, 2023 pm 02:31 PM

arXiv论文“Sim-to-Real Domain Adaptation for Lane Detection and Classification in Autonomous Driving“,2022年5月,加拿大滑铁卢大学的工作。虽然自主驾驶的监督检测和分类框架需要大型标注数据集,但光照真实模拟环境生成的合成数据推动的无监督域适应(UDA,Unsupervised Domain Adaptation)方法则是低成本、耗时更少的解决方案。本文提出对抗性鉴别和生成(adversarial d

数据通信中的信道传输速率单位是bps,它表示什么数据通信中的信道传输速率单位是bps,它表示什么Jan 18, 2021 pm 02:58 PM

数据通信中的信道传输速率单位是bps,它表示“位/秒”或“比特/秒”,即数据传输速率在数值上等于每秒钟传输构成数据代码的二进制比特数,也称“比特率”。比特率表示单位时间内传送比特的数目,用于衡量数字信息的传送速度;根据每帧图像存储时所占的比特数和传输比特率,可以计算数字图像信息传输的速度。

数据分析方法有哪几种数据分析方法有哪几种Dec 15, 2020 am 09:48 AM

数据分析方法有4种,分别是:1、趋势分析,趋势分析一般用于核心指标的长期跟踪;2、象限分析,可依据数据的不同,将各个比较主体划分到四个象限中;3、对比分析,分为横向对比和纵向对比;4、交叉分析,主要作用就是从多个维度细分数据。

聊一聊Python 实现数据的序列化操作聊一聊Python 实现数据的序列化操作Apr 12, 2023 am 09:31 AM

​在日常开发中,对数据进行序列化和反序列化是常见的数据操作,Python提供了两个模块方便开发者实现数据的序列化操作,即 json 模块和 pickle 模块。这两个模块主要区别如下:json 是一个文本序列化格式,而 pickle 是一个二进制序列化格式;json 是我们可以直观阅读的,而 pickle 不可以;json 是可互操作的,在 Python 系统之外广泛使用,而 pickle 则是 Python 专用的;默认情况下,json 只能表示 Python 内置类型的子集,不能表示自定义的

See all articles

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

뜨거운 도구

mPDF

mPDF

mPDF는 UTF-8로 인코딩된 HTML에서 PDF 파일을 생성할 수 있는 PHP 라이브러리입니다. 원저자인 Ian Back은 자신의 웹 사이트에서 "즉시" PDF 파일을 출력하고 다양한 언어를 처리하기 위해 mPDF를 작성했습니다. HTML2FPDF와 같은 원본 스크립트보다 유니코드 글꼴을 사용할 때 속도가 느리고 더 큰 파일을 생성하지만 CSS 스타일 등을 지원하고 많은 개선 사항이 있습니다. RTL(아랍어, 히브리어), CJK(중국어, 일본어, 한국어)를 포함한 거의 모든 언어를 지원합니다. 중첩된 블록 수준 요소(예: P, DIV)를 지원합니다.

MinGW - Windows용 미니멀리스트 GNU

MinGW - Windows용 미니멀리스트 GNU

이 프로젝트는 osdn.net/projects/mingw로 마이그레이션되는 중입니다. 계속해서 그곳에서 우리를 팔로우할 수 있습니다. MinGW: GCC(GNU Compiler Collection)의 기본 Windows 포트로, 기본 Windows 애플리케이션을 구축하기 위한 무료 배포 가능 가져오기 라이브러리 및 헤더 파일로 C99 기능을 지원하는 MSVC 런타임에 대한 확장이 포함되어 있습니다. 모든 MinGW 소프트웨어는 64비트 Windows 플랫폼에서 실행될 수 있습니다.

SublimeText3 영어 버전

SublimeText3 영어 버전

권장 사항: Win 버전, 코드 프롬프트 지원!

SecList

SecList

SecLists는 최고의 보안 테스터의 동반자입니다. 보안 평가 시 자주 사용되는 다양한 유형의 목록을 한 곳에 모아 놓은 것입니다. SecLists는 보안 테스터에게 필요할 수 있는 모든 목록을 편리하게 제공하여 보안 테스트를 더욱 효율적이고 생산적으로 만드는 데 도움이 됩니다. 목록 유형에는 사용자 이름, 비밀번호, URL, 퍼징 페이로드, 민감한 데이터 패턴, 웹 셸 등이 포함됩니다. 테스터는 이 저장소를 새로운 테스트 시스템으로 간단히 가져올 수 있으며 필요한 모든 유형의 목록에 액세스할 수 있습니다.

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.