메타 인공지능 개발 오류, GPU를 제때 사용하지 못해 상대보다 뒤처지는 현상

내부 메모에 따르면 2022년 늦여름에 Meta CEO인 Mark Zuckerberg는 회사 경영진으로 구성된 팀을 소집하여 회사의 컴퓨팅 성능, 특히 최첨단 인공 지능 지능 능력을 처리하기 위해 5시간 동안 분석했습니다.

메모에서는 Meta가 인공 지능 연구에 크게 투자하고 회사가 성장을 지원하기 위해 인공 지능에 대한 의존도가 높아지고 있음에도 불구하고 소셜 미디어 회사가 아직 주요 사업에 고가의 인공 지능에 최적화된 소프트웨어 및 하드웨어 시스템을 채택하지 않았다는 점을 지적합니다. 거대 기업은 속도가 느리기 때문에 규모를 확장하면서 혁신을 따라가는 능력을 방해합니다. Meta는 AI 노력을 지원하려면 "물리적 인프라 설계, 소프트웨어 시스템 및 안정적인 플랫폼 제공에 대한 접근 방식을 근본적으로 변경"해야 합니다.

이번 개편으로 Meta의 자본 지출은 분기당 약 40억 달러(2021년의 거의 두 배) 증가했으며 4개 위치에 데이터 센터를 구축하려는 계획을 일시 중지하거나 취소했다고 회사는 밝혔습니다.

메타는 지난해 11월부터 전례 없는 정리해고를 진행하고 있다.

동시에 지난해 11월 ChatGPT의 등장으로 생성 AI 제품을 출시한 거대 기술 기업들 간의 경쟁이 촉발되었습니다. 5개 소식통은 생성 AI에는 많은 컴퓨팅 성능이 필요하므로 메타 확장의 시급성이 더욱 커진다고 말했습니다.

Meta의 인공지능 GPU 적용이 느린 것이 주요 문제 중 하나라고 소식통은 밝혔습니다. GPU 칩은 동시에 많은 작업을 수행할 수 있어 수십억 개의 데이터를 처리하는 데 필요한 시간을 단축할 수 있기 때문에 AI 처리에 이상적입니다. 그러나 GPU 칩은 가격이 더 비싸며 칩 제조업체인 Nvidia가 시장의 80%를 장악하고 해당 소프트웨어에서 선두를 유지하고 있다고 소식통은 말했습니다.

지난해까지 Meta는 AI 워크로드를 실행하기 위해 주로 대량의 일반 CPU를 사용했습니다. CPU는 컴퓨터 세계의 주력 칩이지만 수십 년 동안 데이터 센터를 장악했지만 인공 지능 작업에서는 제대로 작동하지 않습니다.

이로 인해 AI 분야에서는 경쟁사가 Meta를 앞지르게 되었습니다. 그들은 GPU 칩을 사용하고 더 나은 AI 소프트웨어를 보유하고 있기 때문에 새로운 AI 제품과 서비스를 더 빠르게 개발할 수 있습니다.

두 소스에 따르면 Meta는 AI 훈련을 위해 자체적으로 설계된 자체 맞춤형 칩을 사용하기 시작했습니다. 그러나 2021년에는 이 두 가지 접근 방식이 GPU를 핵심으로 구축된 접근 방식보다 느리고 효율성이 떨어지는 것으로 입증되었습니다. GPU 칩은 또한 다양한 유형의 모델을 실행할 때 Meta의 칩보다 더 유연하다고 두 소식통은 말했습니다.

나중에 Zuckerberg가 회사를 Metaverse로 전환하면서 컴퓨팅 성능 부족으로 인해 회사는 TikTok의 등장과 Apple이 주도한 광고 개인 정보 보호 변경을 포함한 위협에 대응할 수 없게 되었습니다.

이러한 문제는 전 Meta 이사회 멤버인 Peter Thiel의 관심을 끌었습니다. 2022년 초, 이유를 설명하지 않은 채 직위에서 사임했다. 이 문제에 정통한 두 사람에 따르면 Thiel은 떠나기 전 이사회에서 Zuckerberg와 그의 경영진이 Metaverse 개발에 너무 집중하고 Meta의 핵심 소셜 미디어 사업을 무시하여 회사가 경쟁사의 도전에 취약하다고 지적했습니다. 예를 들어 틱톡.

Meta는 2022년에 맞춤형 칩을 출시할 계획이었지만 나중에 포기하고 대신 같은 해에 수십억 달러 규모의 Nvidia GPU 칩을 주문했습니다. 현 시점에서 Meta는 2015년부터 TPU라고 불리는 자체 맞춤형 GPU 버전을 배포하기 시작한 Google과 같은 경쟁사에 비해 뒤처져 있습니다.

다음으로 메타는 인공지능 부서를 개편하기 시작했고 이를 이끌 새로운 엔지니어 두 명을 임명했습니다. 그 기간 동안 수십 명의 경영진이 Meta를 떠났고 거의 모두 AI 인프라 리더십을 대체했습니다.

다음으로 Meta는 GPU 도입을 수용하기 위해 데이터 센터를 개편하기 시작했습니다. 이러한 칩은 더 많은 전력을 필요로 하고 더 많은 열을 발생시키며 이들 사이의 전용 네트워크 연결을 통해 밀접하게 클러스터되어야 합니다. 이 작업에는 클러스터의 열을 관리하기 위해 상당한 네트워크 용량과 새로운 액체 냉각 시스템이 필요하므로 "완전한 재설계"가 필요합니다.

작업이 진행됨에 따라 Meta는 인공 지능 모델을 훈련하고 추론을 수행할 수 있는 GPU와 유사한 보다 야심찬 새로운 칩을 개발하려는 내부 계획을 시작합니다. 두 소식통은 이 프로젝트가 2025년경에 완료될 것이라고 말했습니다.

Meta 대변인 Jon Carvill은 칩 프로젝트에 대해 논평을 거부했습니다.

Meta가 GPU를 확장하고 있지만 Microsoft, Google과 같은 회사는 상용 생성 인공 지능 제품을 홍보하고 있으며 Meta는 이와 관련하여 큰 진전을 이루지 못했습니다.

Meta의 CFO는 지난 2월 회사가 현재 컴퓨팅 성능의 대부분을 생성 작업에 집중하지 않고 있음을 인정했습니다. "기본적으로 우리의 모든 인공 지능 기능은 광고, 뉴스 피드 및 Reels에 사용됩니다."라고 그녀는 말했습니다. Reels는 젊은 사용자들에게 인기가 있는 Meta의 TikTok과 같은 짧은 비디오 형식입니다.

4개의 소스에 따르면 Meta는 작년 11월 ChatGPT가 출시될 때까지 생성 AI 제품 개발에 우선순위를 두지 않았습니다. 회사의 AI 연구 부문은 2021년 말부터 기술 프로토타입을 출시해 왔지만 이를 제품으로 전환하는 데 집중하지 않았습니다. 그러나 투자자의 관심이 계속 높아지면서 Zuckerberg는 지난 2월 이 분야에서 회사의 작업을 "가속화"할 새로운 고급 생성 AI 팀을 창설한다고 발표했습니다.

최고기술책임자(CTO)인 앤드루 보스워스 역시 이번 달 자신과 주커버그가 가장 많은 시간을 투자하는 분야가 생성 인공지능(Genative Artificial Intelligence)이라고 말하며 올해 메타가 신제품을 출시할 것이라고 전망했다.

새 팀에 대해 잘 아는 두 사람은 팀의 작업이 초기 단계에 있으며 나중에 미세 조정하고 다양한 제품에 적용할 수 있는 핵심 프로그램인 기본 모델을 구축하는 데 중점을 두고 있다고 말했습니다.

Meta 대변인 Carvill은 회사가 1년 넘게 여러 팀에서 생성 인공 지능 제품을 개발해 왔다고 말했습니다. 그는 ChatGPT가 출시된 이후 몇 달 만에 이 작업이 가속화되었음을 확인했습니다.

위 내용은 메타 인공지능 개발 오류, GPU를 제때 사용하지 못해 상대보다 뒤처지는 현상의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!