얼마 전 Microsoft는 실수를 저질렀습니다. WizardLM-2를 대대적으로 공개했다가 곧 완전히 철회한 것입니다.
복잡한 채팅, 다국어, 추론 및 에이전시에서 향상된 성능을 갖춘 "GPT-4와 완전히 비교할 수 있는" 오픈 소스 대형 모델인 WizardLM-2에 대해 현재 사용 가능한 출시 정보입니다.
이 시리즈에는 WizardLM-2 8x22B, WizardLM-2 70B 및 WizardLM-2 7B의 세 가지 모델이 포함됩니다. 그 중:
- WizardLM-2 8x22B는 매우 복잡한 작업에 대한 내부 평가를 기반으로 한 가장 발전된 모델이자 최고의 오픈 소스 LLM입니다.
- WizardLM-2 70B는 최고 수준의 추론 기능을 갖추고 있으며 이 규모에서 첫 번째 선택입니다.
- WizardLM-2 7B는 10배 더 큰 기존 오픈 소스 선도 모델과 비교할 수 있는 성능으로 가장 빠릅니다. ”
LLaMa 3와 같은 또 다른 오픈 소스 이정표가 될까요?
모두가 모델을 다운로드하느라 바쁜 사이에 팀에서 갑자기 모든 항목을 철회했습니다. 블로그, GitHub, HuggingFace 모두 404를 얻었습니다.
이미지 출처: https://wizardlm.github.io/WizardLM2/
팀 설명:
Huggingface 친구들 여러분 안녕하세요! 죄송합니다. 모델을 삭제했습니다. 몇 달 전 모델을 출시한 지 시간이 좀 지나서 지금은 새로운 출시 과정이 익숙하지 않습니다. 모델 출시 과정에서 꼭 필요한 항목인 독성 테스트를 실수로 빠뜨린 거죠. 이는 현재 모든 신규 모델이 완료해야 하는 단계입니다.
하지만 WizardLM-2에 대한 AI 커뮤니티의 관심과 토론은 멈추지 않았습니다. 몇 가지 의심이 있습니다.
첫째, 삭제된 오픈 소스 프로젝트는 WizardLM-2만이 아닙니다. 이전 WizardMath 및 WizardCoder를 포함하여 팀의 모든 Wizard 시리즈 작업이 사라졌습니다.
둘째, 모델 가중치를 삭제하면 왜 블로그도 삭제되는지 궁금해하시는 분들이 계십니다. 테스트 부분만 빠진 경우에는 완전히 철회할 필요가 없습니다.
팀의 설명은 "관련 규정에 따르면"입니다. 아직 아무도 모릅니다.
셋째, WizardLM 팀이 해고되고 Wizard 시리즈 프로젝트도 강제 철회되었다는 추측도 있습니다. ㅋㅋㅋ
사진출처 : https ://x.com/DavidFSWD/status/1783682898786152470
이제 저자의 이름을 검색했는데 Microsoft 공식 웹 사이트에서 완전히 사라지지 않았습니다.
출처: https://www .microsoft.com/en-us/research/people/qins/
구체적인 경로는 무엇인가요? 원본 블로그 페이지의 기술적인 세부 사항을 살펴볼 수 있습니다.
팀에서는 LLM 교육을 통해 자연에서 인간이 생성한 데이터가 점점 고갈되고 있으며, AI가 세심하게 생성한 데이터와 AI 단계별 지도 모델만이 AI를 더욱 강력하게 만드는 유일한 방법이 될 것이라고 밝혔습니다.
지난 1년 동안 Microsoft 팀은 아래 그림과 같이 완전히 인공 지능으로 구동되는 종합 훈련 시스템을 구축했습니다.
은 대략 여러 섹션으로 나뉩니다.
데이터 전처리:
이 파이프라인을 사용하여 새 소스 데이터의 다양한 속성 분포를 얻습니다. 이는 데이터를 사전에 이해하는 데 도움이 됩니다.
가중 샘플링: 최적의 학습 데이터 분포는 인간 채팅 코퍼스의 자연스러운 분포와 일치하지 않는 경우가 많습니다. 실험 경험을 기반으로 학습 데이터의 각 속성에 대한 가중치를 조정해야 합니다. Evol Lab:
새로운 방법을 사용하면 다양한 에이전트가 자동으로 고품질 지침을 생성할 수 있습니다.
- Evol-Answer: 모델이 응답을 여러 번 생성하고 다시 작성하도록 안내하여 논리, 정확성 및 친화력을 향상할 수 있습니다.
공동 교육: WizardLM과 다양한 공인 오픈 소스 및 독점 최첨단 모델을 수집한 다음 함께 가르치고 각각을 개선하도록 합니다. 기타 교육 콘텐츠에는 시뮬레이션 채팅, 품질 검토, 개선 제안, 기술 격차 해소 등이 포함됩니다. 자기 교육: WizardLM은 활성화 학습을 통해 지도 학습을 위한 새로운 진화 훈련 데이터와 강화 학습을 위한 선호도 데이터를 생성할 수 있습니다.
- 학습:
- 지도 학습.
Phase - DPO: 오프라인 강화학습을 보다 효과적으로 수행하기 위해 선호하는 데이터를 여러 조각으로 나누고 모델을 단계별로 개선합니다.
- RLEIF: 온라인 강화 학습에서 보다 정확한 정확성을 달성하기 위해 교육 품질 보상 모델(IRM)과 프로세스 감독 보상 모델(PRM)을 결합한 방법을 사용합니다.
- 마지막으로 말씀드리고 싶은 것은 어떤 추측도 헛된 일이라는 점입니다. WizardLM-2의 컴백을 기대해 보겠습니다.
위 내용은 'GPT-4에 매우 가까운' WizardLM-2, 마이크로소프트가 긴급 철수한 이유는 무엇일까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

Hiddenlayer의 획기적인 연구는 LLMS (Leading Lange Language Models)에서 중요한 취약점을 드러냅니다. 그들의 연구 결과는 "정책 인형극"이라는 보편적 인 바이 패스 기술을 보여줍니다.

환경 책임과 폐기물 감소에 대한 추진은 기본적으로 비즈니스 운영 방식을 바꾸는 것입니다. 이 혁신은 제품 개발, 제조 프로세스, 고객 관계, 파트너 선택 및 새로운 채택에 영향을 미칩니다.

Advanced AI 하드웨어에 대한 최근 제한은 AI 지배에 대한 확대 된 지정 학적 경쟁을 강조하여 중국의 외국 반도체 기술에 대한 의존도를 드러냅니다. 2024 년에 중국은 3,800 억 달러 상당의 반도체를 수입했습니다.

Google의 Chrome의 잠재적 인 강제 매각은 기술 산업 내에서 강력한 논쟁을 불러 일으켰습니다. OpenAi가 65%의 글로벌 시장 점유율을 자랑하는 주요 브라우저를 인수 할 가능성은 TH의 미래에 대한 중요한 의문을 제기합니다.

전반적인 광고 성장을 능가 함에도 불구하고 소매 미디어의 성장은 느려지고 있습니다. 이 성숙 단계는 생태계 조각화, 비용 상승, 측정 문제 및 통합 복잡성을 포함한 과제를 제시합니다. 그러나 인공 지능

깜박 거리는 스크린 모음 속에서 정적으로 오래된 라디오가 딱딱합니다. 이 불안정한 전자 제품 더미, 쉽게 불안정하게, 몰입 형 전시회에서 6 개의 설치 중 하나 인 "The-Waste Land"의 핵심을 형성합니다.

Google Cloud의 다음 2025 : 인프라, 연결 및 AI에 대한 초점 Google Cloud의 다음 2025 회의는 수많은 발전을 선보였으며 여기에서 자세히 설명하기에는 너무 많았습니다. 특정 공지 사항에 대한 심도있는 분석은 My의 기사를 참조하십시오.

이번 주 AI 및 XR : AI 구동 창의성의 물결은 음악 세대에서 영화 제작에 이르기까지 미디어와 엔터테인먼트를 통해 휩쓸고 있습니다. 헤드 라인으로 뛰어 들자. AI 생성 콘텐츠의 영향력 증가 : 기술 컨설턴트 인 Shelly Palme


핫 AI 도구

Undresser.AI Undress
사실적인 누드 사진을 만들기 위한 AI 기반 앱

AI Clothes Remover
사진에서 옷을 제거하는 온라인 AI 도구입니다.

Undress AI Tool
무료로 이미지를 벗다

Clothoff.io
AI 옷 제거제

Video Face Swap
완전히 무료인 AI 얼굴 교환 도구를 사용하여 모든 비디오의 얼굴을 쉽게 바꾸세요!

인기 기사

뜨거운 도구

메모장++7.3.1
사용하기 쉬운 무료 코드 편집기

Eclipse용 SAP NetWeaver 서버 어댑터
Eclipse를 SAP NetWeaver 애플리케이션 서버와 통합합니다.

ZendStudio 13.5.1 맥
강력한 PHP 통합 개발 환경

맨티스BT
Mantis는 제품 결함 추적을 돕기 위해 설계된 배포하기 쉬운 웹 기반 결함 추적 도구입니다. PHP, MySQL 및 웹 서버가 필요합니다. 데모 및 호스팅 서비스를 확인해 보세요.

PhpStorm 맥 버전
최신(2018.2.1) 전문 PHP 통합 개발 도구
