>  기사  >  기술 주변기기  >  대형 AI 모델은 매우 비싸며 대기업과 슈퍼 부자만이 성공적으로 플레이할 수 있습니다.

대형 AI 모델은 매우 비싸며 대기업과 슈퍼 부자만이 성공적으로 플레이할 수 있습니다.

王林
王林앞으로
2023-04-15 19:34:011300검색

대형 AI 모델은 매우 비싸며 대기업과 슈퍼 부자만이 성공적으로 플레이할 수 있습니다.

ChatGPT 화재는 또 다른 AI 열풍을 불러일으켰습니다. 그러나 업계에서는 AI가 대형 모델 시대에 접어들면 대형 AI가 탄생하기 때문에 AI를 감당할 수 있는 능력은 대기업과 초부유 기업뿐이라고 일반적으로 생각합니다. 모델은 매우 비쌉니다.

우선, 계산 비용이 많이 듭니다. 토론토 대학 마케팅 교수인 Avi Goldfarb는 "사업을 시작하고 대규모 언어 모델을 직접 개발하고 직접 계산하려면 비용이 너무 높습니다. OpenAI는 매우 비싸서 수십억 달러의 비용이 듭니다."라고 말했습니다. 임대 계산 물론 훨씬 저렴해지겠지만 기업은 여전히 ​​AWS와 다른 기업에 비싼 수수료를 지불해야 합니다.

둘째, 데이터는 비싸다. 모델 훈련에는 엄청난 양의 데이터가 필요합니다. 데이터를 쉽게 사용할 수 있는 경우도 있고 그렇지 않은 경우도 있습니다. Common Crawl 및 LAION과 같은 데이터는 무료로 사용할 수 있습니다. 이러한 유형의 데이터의 경우 비용은 주로 데이터 정리 및 처리에 발생하며 비용은 수백 달러에서 수백만 달러까지 다양할 수 있습니다.

Glean Company의 창립 엔지니어인 Debarghya Das는 미국에서 대규모 언어 모델 논문을 기반으로 한 일부 대략적인 수학적 계산에 따르면 Facebook LLaMA를 사용할 경우 훈련 비용(반복이나 오류를 고려하지 않음)이 약 4라고 말했습니다. 미화 100만 달러, Google PaLM이라면 약 2,700만 달러입니다.

무료데이터를 사용해도 비용은 저렴하지 않습니다. Hugging Face의 연구원인 Sasha Luccioni는 다음과 같이 말했습니다. "테라바이트급 데이터를 다운로드할 때 텍스트-이미지 모델을 사용하는 등 특별한 방식으로 데이터를 필터링하거나 사용하려는 경우 연구원은 데이터의 특정 하위 집합에 집중할 것입니다. 그래야만 모델이 더 좋아질 것입니다.) 전체 프로세스는 매우 까다로우며 많은 컴퓨팅 성능과 많은 전문가가 필요합니다.

다시 말하지만, 전문가를 고용하는 비용도 매우 높습니다. Debarghya Das는 위의 비용 견적을 작성할 때 인건비를 고려하지 않았습니다. Sasha Luccioni는 다음과 같이 지적했습니다. "머신 러닝 전문가는 인재를 두고 Google 및 기타 거대 기술 기업과 경쟁하기 때문에 급여가 매우 높습니다. 때로는 전문 인재에게 수백만 달러의 비용이 소요될 수 있습니다. 2016년 OpenAI 최고 연구원의 급여는 약 2천만 달러였습니다." 190만 미국 달러.

게다가 모델 교육 및 전문가 채용 비용은 일회성 비용이 아니라 지속적으로 발생합니다. 예를 들어 고객 서비스 챗봇을 개발하는 경우 매주 또는 몇 주마다 최적화해야 합니다. 또한 모델은 생성된 답변이 올바른지 확인하기 위해 스트레스 테스트를 거칩니다. Sasha Luccioni는 다음과 같이 설명합니다. "가장 비싼 비용은 지속적인 작업, 모델을 지속적으로 테스트해야 하고 AI가 해야 할 일을 수행하는지 확인해야 하는 데서 발생합니다.

마지막으로 지속적인 운영 비용은 다음과 같습니다. 저렴하지도 않습니다. 모든 것이 준비되고 모델이 대중에게 공개되면 매일 수천 건의 문의를 받게 됩니다. 이때 모델의 확장성과 안정성이 높은지 확인해야 하며 유지 관리 비용도 많이 듭니다. 그것을 처리하기 위해.

위 내용은 대형 AI 모델은 매우 비싸며 대기업과 슈퍼 부자만이 성공적으로 플레이할 수 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
이 기사는 51cto.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제