찾다
기술 주변기기일체 포함대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.

옵티마이저는 대규모 언어 모델 학습에서 많은 양의 메모리 리소스를 차지합니다.

이제 동일한 성능을 유지하면서 메모리 소비를 절반으로 줄이는 새로운 최적화 방법이 있습니다.

싱가포르국립대학교에서 작성한 이 결과는 ACL 학회에서 우수논문상을 수상하고 실제 적용되었습니다.

대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.Pictures

대형 언어 모델의 매개변수 수가 증가함에 따라 훈련 중 메모리 소비 문제가 더욱 심각해집니다.

연구팀은 Adam과 동일한 성능을 가지면서도 메모리 소모를 줄이는 CAME 옵티마이저를 제안했습니다.

대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.Pictures

CAME 최적화 프로그램은 일반적으로 사용되는 여러 대규모 언어 모델의 사전 훈련에서 Adam 최적화 프로그램과 동일하거나 훨씬 더 나은 교육 성능을 달성했으며 대규모 배치 사전 교육 시나리오에 더 큰 견고성을 보여줍니다. 섹스.

또한 CAME 최적화 프로그램을 통해 대규모 언어 모델을 교육하면 대규모 모델 교육 비용을 크게 줄일 수 있습니다.

구현 방법

CAME 옵티마이저는 Adafactor 옵티마이저를 기반으로 개선되었으며, 이는 대규모 언어 모델의 사전 학습 작업에서 종종 학습 성능의 손실을 초래합니다.

Adafactor의 음수가 아닌 행렬 인수분해 작업은 심층 신경망 훈련에서 필연적으로 오류를 생성하며 이러한 오류의 수정은 성능 손실의 원인이 됩니다.

그리고 비교를 통해 시작 값 mt과 현재 값 t의 차이가 작을수록 mt의 신뢰도가 더 높은 것으로 나타났습니다.

대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.Picture

이 팀은 이에 영감을 받아 새로운 최적화 알고리즘을 제안했습니다.

아래 사진의 파란색 부분은 Adafactor에 비해 CAME가 늘어난 부분입니다.

대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.Picture

CAME 최적화 프로그램은 모델 업데이트의 신뢰도를 기반으로 업데이트 양 수정을 수행하고, 도입된 신뢰 행렬에 대해 음이 아닌 행렬 분해 연산도 수행합니다.

결국 CAME는 Adafactor의 소비로 Adam의 효과를 얻는 데 성공했습니다.

동일한 효과는 리소스의 절반만 소비합니다.

팀은 CAME를 사용하여 BERT, GPT-2 및 T5 모델을 각각 훈련했습니다.

기존에 흔히 사용되는 Adam(더 나은 효과)과 Adafactor(낮은 소비)는 CAME 성능 측정을 위한 참고 자료입니다.

그 중 BERT를 훈련하는 과정에서 CAME는 단 절반의 단계만으로 Adafaactor와 동일한 정확도를 달성했습니다.

대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.Δ왼쪽이 8K 스케일, 오른쪽이 32K 스케일

GPT-2의 경우 손실과 혼란의 관점에서 CAME의 성능은 Adam에 매우 가깝습니다.

대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.

T5 모델의 훈련에서도 CAME도 비슷한 결과를 보였습니다.

대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.

모델의 미세 조정에 있어서 CAME의 정확도 성능은 벤치마크보다 열등하지 않습니다.

리소스 소비 측면에서 PyTorch를 사용하여 4B 데이터 볼륨으로 BERT를 훈련할 때 CAME는 기준에 비해 거의 절반의 메모리 리소스를 소비합니다.

팀 프로필

싱가포르 국립대학교 HPC-AI 연구실은 양유 교수가 이끄는 고성능 컴퓨팅 및 인공지능 연구실입니다.

이 연구실은 고성능 컴퓨팅, 기계 학습 시스템 및 분산 병렬 컴퓨팅의 연구 및 혁신에 전념하고 있으며 대규모 언어 모델과 같은 분야의 응용을 촉진합니다.

연구실장 유양(You Yang)은 싱가포르 국립대학교 컴퓨터과학과의 총장 젊은 교수(대통령 젊은 교수)입니다.

You Yang은 2021년 Forbes Under 30 Elite List(아시아)에 선정되었으며 IEEE-CS 슈퍼컴퓨팅 우수 신인상을 수상했습니다. 그의 현재 연구 초점은 대규모 딥 러닝 훈련 알고리즘의 분산 최적화입니다.

이 기사의 첫 번째 저자인 Luo Yang은 연구실에서 석사 과정을 밟고 있습니다. 그의 현재 연구 초점은 대규모 모델 훈련의 안정성과 효율적인 훈련입니다.

논문 주소: https://arxiv.org/abs/2307.02047

GitHub 프로젝트 페이지: https://github.com/huawei-noah/Pretrained-Language-Model/tree/master/CAME

위 내용은 대형 모델 학습 비용이 거의 절반으로 줄었습니다! 싱가포르 국립대학교의 최신 옵티마이저가 사용되었습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명
이 기사는 51CTO.COM에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제
Huggingface Smollm으로 개인 AI 조수를 만드는 방법Huggingface Smollm으로 개인 AI 조수를 만드는 방법Apr 18, 2025 am 11:52 AM

ON-DEVICE AI의 힘을 활용 : 개인 챗봇 CLI 구축 최근에 개인 AI 조수의 개념은 공상 과학처럼 보였다. 기술 애호가 인 Alex, 똑똑하고 현지 AI 동반자를 꿈꾸는 것을 상상해보십시오.

정신 건강을위한 AI는 스탠포드 대학교의 흥미로운 새로운 이니셔티브를 통해주의 깊게 분석됩니다.정신 건강을위한 AI는 스탠포드 대학교의 흥미로운 새로운 이니셔티브를 통해주의 깊게 분석됩니다.Apr 18, 2025 am 11:49 AM

AI4MH의 첫 출시는 2025 년 4 월 15 일에 열렸으며, 유명한 정신과 의사이자 신경 과학자 인 Luminary Dr. Tom Insel 박사는 킥오프 스피커 역할을했습니다. Insel 박사는 정신 건강 연구 및 테크노에서 뛰어난 작업으로 유명합니다.

2025 WNBA 드래프트 클래스는 리그가 성장하고 온라인 괴롭힘과 싸우고 있습니다.2025 WNBA 드래프트 클래스는 리그가 성장하고 온라인 괴롭힘과 싸우고 있습니다.Apr 18, 2025 am 11:44 AM

Engelbert는 "WNBA가 모든 사람, 플레이어, 팬 및 기업 파트너가 안전하고 가치가 있으며 권한을 부여받는 공간으로 남아 있기를 원합니다. 아노

파이썬 내장 데이터 구조에 대한 포괄적 인 가이드 - 분석 Vidhya파이썬 내장 데이터 구조에 대한 포괄적 인 가이드 - 분석 VidhyaApr 18, 2025 am 11:43 AM

소개 Python은 특히 데이터 과학 및 생성 AI에서 프로그래밍 언어로 탁월합니다. 대규모 데이터 세트를 처리 할 때 효율적인 데이터 조작 (저장, 관리 및 액세스)이 중요합니다. 우리는 이전에 숫자와 st를 다루었습니다

대안과 비교하여 OpenAi의 새로운 모델의 첫인상대안과 비교하여 OpenAi의 새로운 모델의 첫인상Apr 18, 2025 am 11:41 AM

다이빙하기 전에 중요한 경고 : AI 성능은 비 결정적이며 고도로 사용하는 것이 중요합니다. 간단히 말하면 마일리지는 다를 수 있습니다. 이 기사 (또는 다른) 기사를 최종 단어로 취하지 마십시오. 대신 에이 모델을 자신의 시나리오에서 테스트하십시오.

AI 포트폴리오 | AI 경력을위한 포트폴리오를 구축하는 방법은 무엇입니까?AI 포트폴리오 | AI 경력을위한 포트폴리오를 구축하는 방법은 무엇입니까?Apr 18, 2025 am 11:40 AM

뛰어난 AI/ML 포트폴리오 구축 : 초보자 및 전문가를위한 안내서 인공 지능 (AI) 및 머신 러닝 (ML)의 역할을 확보하는 데 강력한 포트폴리오를 만드는 것이 중요합니다. 이 안내서는 포트폴리오 구축에 대한 조언을 제공합니다

보안 운영에 대한 에이전트 AI가 무엇을 의미 할 수 있는지보안 운영에 대한 에이전트 AI가 무엇을 의미 할 수 있는지Apr 18, 2025 am 11:36 AM

결과? 소진, 비 효율성 및 탐지와 동작 사이의 넓은 차이. 이 중 어느 것도 사이버 보안에서 일하는 사람에게는 충격이되지 않습니다. 그러나 에이전트 AI의 약속은 잠재적 인 전환점으로 부상했다. 이 새로운 수업

Google 대 Openai : AI 학생들을위한 AI 싸움Google 대 Openai : AI 학생들을위한 AI 싸움Apr 18, 2025 am 11:31 AM

장기 파트너십 대 즉각적인 영향? 2 주 전 Openai는 2025 년 5 월 말까지 미국과 캐나다 대학생들에게 Chatgpt Plus에 무료로 이용할 수있는 강력한 단기 제안으로 발전했습니다.

See all articles

핫 AI 도구

Undresser.AI Undress

Undresser.AI Undress

사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover

AI Clothes Remover

사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool

Undress AI Tool

무료로 이미지를 벗다

Clothoff.io

Clothoff.io

AI 옷 제거제

AI Hentai Generator

AI Hentai Generator

AI Hentai를 무료로 생성하십시오.

뜨거운 도구

SublimeText3 중국어 버전

SublimeText3 중국어 버전

중국어 버전, 사용하기 매우 쉽습니다.

MinGW - Windows용 미니멀리스트 GNU

MinGW - Windows용 미니멀리스트 GNU

이 프로젝트는 osdn.net/projects/mingw로 마이그레이션되는 중입니다. 계속해서 그곳에서 우리를 팔로우할 수 있습니다. MinGW: GCC(GNU Compiler Collection)의 기본 Windows 포트로, 기본 Windows 애플리케이션을 구축하기 위한 무료 배포 가능 가져오기 라이브러리 및 헤더 파일로 C99 기능을 지원하는 MSVC 런타임에 대한 확장이 포함되어 있습니다. 모든 MinGW 소프트웨어는 64비트 Windows 플랫폼에서 실행될 수 있습니다.

드림위버 CS6

드림위버 CS6

시각적 웹 개발 도구

mPDF

mPDF

mPDF는 UTF-8로 인코딩된 HTML에서 PDF 파일을 생성할 수 있는 PHP 라이브러리입니다. 원저자인 Ian Back은 자신의 웹 사이트에서 "즉시" PDF 파일을 출력하고 다양한 언어를 처리하기 위해 mPDF를 작성했습니다. HTML2FPDF와 같은 원본 스크립트보다 유니코드 글꼴을 사용할 때 속도가 느리고 더 큰 파일을 생성하지만 CSS 스타일 등을 지원하고 많은 개선 사항이 있습니다. RTL(아랍어, 히브리어), CJK(중국어, 일본어, 한국어)를 포함한 거의 모든 언어를 지원합니다. 중첩된 블록 수준 요소(예: P, DIV)를 지원합니다.

스튜디오 13.0.1 보내기

스튜디오 13.0.1 보내기

강력한 PHP 통합 개발 환경