빅 보스가 직업을 바꾸고, 마이크로소프트와 구글이 싸운다! 거의 한 달 전에 쓴 기사는 사실상 '신의 예언'이었다.

이 분석 기사가 1월 27일 게재된 지 일주일도 채 지나지 않아 구글과 마이크로소프트는 AI 챗봇을 검색 엔진에 통합하겠다고 연달아 발표했습니다.

돌아보면 곳곳에 부메랑이 있어요.

갑자기 깨달음이 느껴지시나요?

기술 거대 기업들은 AI 개발에 항상 신중해 왔습니다. 그러나 ChatGPT의 등장으로 유명해졌습니다.

인공지능 발전의 초석은 구글, 메타, 마이크로소프트 등 대기업들이 마련하고 있습니다.

그러나 이제 진취적인 소규모 기업들이 아찔한 속도로 AI를 대중에게 선보이며 이들 거대 기업의 허를 찔리고 있습니다.

기술 주식의 지속적인 하락과 ChatGPT의 인기로 인한 압박에 직면한 실리콘 밸리 제조업체는 갑자기 "계몽"된 것처럼 보이며 더 많은 "평판 위험"을 감수할 의향이 있습니다.

현재 가장 인기 있는 스타인 ChatGPT는 OpenAI가 Microsoft의 아버지로부터 수십억 달러의 투자를 유치하는 데 도움을 주었습니다.

그리고 ChatGPT 자체는 Microsoft의 인기 사무용 소프트웨어인 Family Bucket에 통합되어 기업에 판매될 가능성이 높습니다.

6명의 전 Google 및 Meta 직원을 대상으로 Wall Street Journal이 실시한 익명 인터뷰에 따르면 ChatGPT에 대한 관심이 급증함에 따라 Meta 및 Google과 같은 거대 기술 기업도 보안 문제에 대한 걱정을 중단해야 한다는 압력을 받았습니다.

메타 직원들은 회사 내부 메모를 보면 회사가 AI 승인 프로세스를 가속화하고 최신 기술을 빠르게 활용하도록 촉구하고 있음을 알 수 있다고 밝혔습니다.

New York Times는 Google이 ChatGPT의 번영을 확인한 후 레드 코드를 발행하는 것 외에도 잠재적인 피해를 평가하고 완화하는 프로세스를 단축하기 위해 '그린 채널'도 출시했다고 보도했습니다.

위험이 너무 큽니다. 기다려 보세요

사실 Meta는 ChatGPT가 데뷔하기 3개월 전에 비슷한 챗봇을 출시했습니다.

하지만 5일 만에 사용자 100만 명을 돌파한 ChatGPT와 달리 Blenderbot이라는 이 챗봇은 매우 지루합니다.

Even Meta의 수석 AI 과학자 Yann LeCun도 이를 인정합니다.

"더운 날에 개를 냉장고에 넣어도 되나요?" "이 문제를 낯선 사람과 논의할 수 없습니다."

최근 르쿤은 한 포럼에서 " 우리가 너무 안전하게 만들었기 때문에 너무 지루하다”고 말했다. 대중의 반응이 미온적인 이유는 메타가 콘텐츠 조정에 대해 “너무 조심스러웠기 때문”이라고 말했다.

Blenderbot은 일부러 너무 지루하다고 설명하는 음모론이 있습니다. Meta는 더 나은 AI를 만들 수도 있었고 더 나은 AI를 가질 수도 있었지만 나쁜 AI를 출시하기로 결정했습니다.

예, 대형 기술 기업이 오랫동안 직면해 온 문제는 인공 지능의 윤리적 영향에 대한 검토 메커니즘이 개인 정보 보호나 데이터 보안만큼 성숙하지 않다는 것입니다.

일반적으로 연구원 및 엔지니어 팀은 자신이 제안하는 기술 혁신이 더 빨리 제품으로 만들어지고, 대중의 관심을 끌거나 회사의 기존 인프라에 통합될 수 있기를 바랍니다.

발전하는 과정에서 '책임 있는 인공지능'을 전담하는 회사 내 팀과 갈등이 생기기 쉽다는 것을 상상하는 것은 어렵지 않습니다.

예를 들어 국방부 드론에 컴퓨터 비전을 제공하는 계약인 프로젝트 메이븐(Project Maven)이 체결되자 많은 직원들이 항의했습니다.

그리고 로봇이라는 사실을 밝히지 않고 레스토랑에 전화를 걸어 예약을 할 수 있는 프로젝트인 듀플렉스도 직원들 사이에서 반발을 불러일으켰습니다.

이를 위해 구글은 2018년 인공지능 '7대 원칙'을 공식 발표했습니다.

기사 주소: https://blog.google/technology/ai/ai-principles/

Cohere 공동 창립자 Nick Frosst는 Google Brain에서 3년간 근무했습니다. 그는 구글이나 마이크로소프트 같은 대기업들이 기존 비즈니스 모델을 개선하기 위해 AI를 활용하는 데 더 집중할 것이라고 말했다.

결국 급진주의가 가져오는 '평판 위험'은 거대 기업이 감당할 수 없는 것입니다.

특히 Microsoft의 Tay가 처참한 실패를 겪은 후 그들은 더욱 조심스러워졌습니다.

2016년 Tay는 온라인에 접속한 지 하루 만에 빠르게 봉인되었습니다. 누군가가 이 챗봇에게 인종 전쟁을 시작하고 나치를 희화화하라고 요청했기 때문입니다. 당시 난리가 났습니다.

2022년 Meta's Galactica는 온라인에 출시된 지 불과 3일 만에 다운로드되었습니다. 네티즌들은 이 보고서의 과학 연구 요약이 매우 부정확하고 때로는 편향되어 있다고 비판했습니다.

그러나 대형 제조업체들도 이에 대해 각자의 의견을 가지고 있습니다.

Meta Basic Artificial Intelligence 연구 관리자인 Joelle Pineau는 "인공지능은 믿을 수 없을 만큼 빠른 속도로 발전하고 있으며 효율적인 검토 프로세스를 보장할 뿐만 아니라 올바른 결정을 내려 최상의 결과를 게시해야 합니다. AI"라고 말했습니다. "

Google Lily Lin은 다음과 같이 말했습니다. "우리는 인공 지능이 개인, 기업 및 지역 사회에 매우 큰 영향을 미치는 근본적이고 혁신적인 기술이라고 믿습니다. 우리는 AI 기술이 유용하고 안전한지 확인하기 위해 내부적으로 계속 테스트할 것입니다."

Microsoft의 커뮤니케이션 이사인 Frank Shaw는 Microsoft가 DALLE-2와 같은 AI를 사용할 때 이렇게 말했습니다. OpenAI와 협력하여 추가 보안 완화 기능을 구축할 예정입니다.

"Microsoft는 수년 동안 인공 지능 분야를 발전시키는 데 전념해 왔으며 사용자가 우리 플랫폼에서 이러한 기술을 책임감 있고 윤리적인 방식으로 만들고 사용하도록 공개적으로 안내할 것입니다." with the hot ones

그런데 문제는 걱정이 왔다 갔다 하고 눈 깜짝할 사이에 뒤처진다는 거에요.

지난 2022년은 AIGC의 원년이라고 할 수 있습니다. 우리는 DALL-E 2, Stable Diffusion 및 ChatGPT의 폭발적인 성장을 목격했습니다.

특히 OpenAI가 ChatGPT를 출시한 이후, 생성 인공 지능이 Google을 죽이는 목소리가 속속 등장했습니다.

우리 모두 알고 있듯이 ChatGPT는 사용자가 직접 갈 필요 없이 보다 이해하기 쉬운 방식으로 간단한 답변을 제공할 수 있습니다. 클릭 다양한 링크.

그러나 매우 흥미로운 점은 이러한 AI의 기반 기술이 실제로 Google과 같은 거대 기업이 개척했다는 것입니다.

그러나 최근 몇 년 동안 이러한 주요 제조업체는 점점 더 신비로워졌습니다. 새로운 모델을 발표하거나 데모를 제공하지만 완전한 제품을 발표하지는 않습니다.

동시에 OpenAI와 같은 연구소에서는 최신 버전의 AI를 "꾸준히" 출시했습니다. 이는 또한 사람들이 대형 제조업체가 무엇을 그렇게 천천히 하고 있는지 궁금해하게 만듭니다. 예를 들어 Google 언어 모델 LaMDA가 출시된 지 몇 년이 지났습니다.

그래서 이렇게 큰 환경에서 엔지니어들은 열심히 연구한 새로운 기술을 채택할 수 없다는 좌절감에 직면해야 합니다.

일부 직원들은 지난 몇 년 동안 검색 엔진에 채팅 기능을 통합하자고 제안했지만 피드백을 받지 못했다고 말했습니다.

그러나 그들은 또한 Google이 검색 제품을 서두르지 말아야 할 정당한 이유가 있다는 것을 알고 있습니다.

결국 사용자 검색에 명확한 답변을 제공하는 것은 귀중한 온라인 광고 공간을 압축할 뿐만 아니라 사용자가 문제를 발견할 경우 기업이 추가적인 책임을 지게 됩니다.

물론 Google만이 이 문제에 직면한 유일한 회사는 아닙니다.

이 문제에 정통한 소식통에 따르면 Meta 직원들은 나쁜 PR에 대한 회사의 우려도 처리해야 했습니다.

특히 직원은 신제품을 출시하거나 연구 보고서를 발표하기 전에 대중이 오해할 경우 어떻게 해야 하는지를 포함하여 자신의 작업 공개에 따른 잠재적 위험에 대한 질문에 답해야 합니다.

OpenAI는 어떻게 승리했나요?

이와 관련하여 Georgia Institute of Technology의 컴퓨터 교수이자 기계 학습 전문가인 Mark Riedl은 기본적인 기술 수준에서 ChatGPT가 반드시 Google이나 Meta보다 낫지 않을 수도 있다고 말했습니다.

그러나 OpenAI에는 모델을 대중에게 공개한다는 주요 이점이 있습니다.

그래서 OpenAI는 지난 2년 동안 지속적으로 사용자들로부터 실질적인 피드백을 받을 수 있었습니다.

예를 들어, 만족스러운 답변에는 "좋아요"를, 부적절하다고 생각되는 답변에는 "좋아요"를 표시하세요.

ChatGPT를 강력하게 만드는 초석인 "인간 피드백 기반 강화 학습"(RLHF)입니다.

이와 대조적으로 도전자인 Google 검색은 25년 만에 시스템을 조작하려는 광고와 마케팅 담당자로 인해 부풀어올랐습니다.

기술 전문가 Can Duruk은 "Google의 장기적인 독점으로 인해 한때 강력했던 검색 경험이 쓰레기로 가득 찬 검색 엔진 중심의 지옥으로 변질되었습니다."라고 지적했습니다. 중요 - 원래 논의했던 "평판 위험"입니다.

한 Google 직원은 대중이 보기에 OpenAI는 우리 같은 대기업보다 더 새롭고 흥미롭고, 엉망이 되어도 그다지 비판을 받지 않을 것이라고 말했습니다.

대장님이 떠나고 Google은 궁지에 몰렸습니다

실제로 Google은 10년 전 이미 이 분야의 확실한 선두주자였습니다.

2014년에는 최고의 인공지능 연구소인 DeepMind를 인수했습니다.

2015년에는 기계 학습 프레임워크 TensorFlow가 오픈 소스로 제공되었습니다.

2016년까지 Pichai는 Google을 'AI 우선' 기업으로 만들겠다고 약속했습니다.

그러나 이러한 발전 뒤에 숨은 인재들은 점점 더 불안해지고 있습니다.

지난 1년여 동안 많은 유명 기업이 OpenAI 및 Stable Diffusion과 같은 더욱 유연한 스타트업으로 뛰어들었습니다.

Character.AI, Cohere, Adept, Inflection.AI, Inworld AI 등 대규모 언어 모델을 기반으로 구축된 스타트업은 모두 Google 최고의 AI 연구자들이 개발합니다.

또한 전 Google 임원 Sridhar Ramaswamy가 운영하는 Neeva와 같이 유사한 모델을 사용하여 채팅 인터페이스를 개발하는 검색 스타트업이 있습니다.

그 중 Character.AI의 창립자인 Noam Shazeer와 Cohere의 공동 창립자인 Aidan Gomez는 Transformer 및 기타 핵심 머신러닝 아키텍처 개발의 핵심 인물입니다.

Google 및 Microsoft와 같은 대기업은 일반적으로 대규모 기존 비즈니스 모델을 개선하기 위해 인공 지능을 사용하는 데 중점을 두고 있다고 Google Brain에서 3년 동안 근무한 후 Cohere를 설립한 Nick Frosst는 말했습니다. 기업에 맞춤형 서비스를 제공할 수 있는 대규모 언어 모델을 구축합니다. 그의 공동 창립자 중 한 명은 Aidan Gomez입니다.

"이 분야는 매우 빠르게 성장하고 있으며, 이를 선도하는 사람들이 소규모 기업이라는 것은 놀라운 일이 아닙니다."라고 Frosst는 말했습니다.

저명한 연구과학자 데이비드 하(David Ha)는 트위터를 통해 “구글이 스스로 인공지능 제품을 내놓기 시작하지 않는다면 훈련을 시킨 '왐포아 육군사관학교'로 역사에 기록될 것”이라고 말했다. 전 세대의 머신러닝 연구원과 엔지니어가 함께합니다.”

그리고 이 상사도 2022년에 Google Brain을 떠나 스타 스타트업 Stable Diffusion에 합류했습니다.

아마 시대가 변하고 있을지도 모릅니다.

Rumman Chowdhury는 머스크가 11월에 트위터를 해체할 때까지 트위터의 기계 학습 윤리 팀을 담당했습니다.

Chowdhury는 Google 및 Meta와 같은 대기업이 OpenAI를 따라잡기 위해 안간힘을 쓰면서 비평가와 윤리학자들이 점점 더 냉담한 반응을 받게 될 것이라고 말했습니다.

위 내용은 빅 보스가 직업을 바꾸고, 마이크로소프트와 구글이 싸운다! 거의 한 달 전에 쓴 기사는 사실상 '신의 예언'이었다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!