NeurIPS2024 엣지 디바이스 대규모 언어 모델 챌린지

인공지능의 급속한 발전과 함께, 특히 자연어 처리(NLP) 분야에서 대규모 언어 모델(LLM)은 큰 변화 가능성을 보여주었습니다. 이러한 모델은 우리가 일하고 통신하는 방식을 변화시키고 있으며 다양한 컴퓨팅 장치에 걸쳐 광범위한 응용 프로그램을 보여줍니다. 그러나 LLM의 거대한 모델은 스마트폰, IoT 장치 및 차량 탑재 시스템과 같은 엣지 장치에 적용하는 데 상당한 어려움을 안겨줍니다. 우리의 경쟁은 리소스가 제한된 엣지 장치에서 LLM의 성능, 효율성 및 멀티태스킹 기능의 한계를 뛰어넘는 것을 목표로 합니다. 경쟁 배경: LLM은 엄청난 응용 잠재력을 갖고 있지만, 그 엄청난 매개변수는 엣지 장치의 리소스에 심각한 요구를 초래합니다. 예를 들어, 10B 매개변수 LLM 모델은 양자화 처리 후에도 최대 20GB의 메모리가 필요하며, 대부분의 스마트폰의 메모리 용량은 이 요구 사항을 충족시키기에는 한참 부족합니다. 또한 LLM의 높은 에너지 소비도 큰 문제입니다. 일반적으로 완전히 충전된 스마트폰은 LLM을 사용하여 대화할 때 2시간 미만만 사용할 수 있습니다. 주요 과제: 메모리 요구 사항: LLM 추론에는 고급형 스마트폰에도 탑재할 수 없는 대용량 메모리가 필요합니다. 에너지 소비 문제: LLM 추론 중 높은 에너지 소비는 스마트폰의 배터리 수명에 문제를 야기합니다. 성능 손실: 높은 압축률을 달성하면서 모델 성능을 유지하는 것은 기존 기술의 주요 문제입니다. 오프라인 기능 부족: 대부분의 LLM에는 인터넷 연결이 필요하므로 네트워크가 불안정한 환경에서는 적용이 제한됩니다. 대회 목표: 이 대회는 위의 과제를 해결하고 엣지 장치에서 LLM의 실제 적용을 촉진하는 것을 목표로 합니다. 우리는 다양한 분야의 연구원, 엔지니어 및 업계 전문가를 초대하여 에지 장치에 고성능 LLM을 배포할 수 있도록 시스템, 하드웨어 및 알고리즘을 공동으로 설계합니다. NeurIPS Edge Device LLM 챌린지에 참여하세요! 우리는 NeurIPS Challenge에 다양한 분야의 전문가들을 초대하여 엣지 디바이스에 대한 LLM의 역량을 입증할 것입니다. 대회의 상위 3개 팀은 총 상금 풀 300,000을 공유하게 됩니다. 경쟁 트랙: 압축 챌린지: 상당한 성능 손실 없이 사전 훈련된 LLM을 압축하는 방법을 보여줍니다. 처음부터 교육 과제: 에지 장치용으로 설계된 LLM을 처음부터 교육하고 교육 프로세스를 최적화하여 효율적인 모델을 만듭니다. 참여 이유: 대상을 획득하세요: 총 상금 풀 300,000. 혁신 추진: LLM의 최첨단 연구에 기여합니다. 네트워크 성장: 해당 분야의 선도적인 전문가 및 동료와 연결하세요. 당신의 재능을 보여주세요: 최고의 AI 컨퍼런스에서 인정받으세요. 중요 날짜: 등록 시작: 2024년 6월 25일 등록 마감일: 2024년 7월 25일 제출 마감일: 2024년 10월 25일 결과 발표: 2024년 11월 20일 오프라인 워크숍: 2024년 12월 11일 참여 방법: 등록: Google Forms를 통해 등록하세요. 공식 대회 홈페이지, 공식 대회 홈페이지. 트랙 선택: 압축 챌린지, 처음부터 훈련하기 챌린지 또는 둘 다 중에서 선택합니다. 솔루션 제출: 마감일 전에 모델을 제출하세요. 도전할 준비가 되셨나요? 지금 등록하고 대회 준비를 시작해 보세요! 자세한 내용 및 등록을 원하시면 다음을 방문하세요: Discord: 링크 등록 링크: 링크 엣지 장치에서 LLM 개발을 촉진하기 위해 함께 노력합시다. 행운을 빌며 NeurIPS 2024에서 뵙기를 기대합니다! ?NeurIPS Edge Device LLM 챌린지 주최자:

위 내용은 NeurIPS2024 엣지 디바이스 대규모 언어 모델 챌린지의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!