OpenAI 공동 창립자 Karpathy는 다음과 같은 기사를 게시했습니다. 자율 주행을 예로 들어 AGI를 설명합니다! 원문은 삭제되었습니다. 지금 북마크해 주세요

'일반 인공지능'에 대해서는 OpenAI 과학자 Karpathy가 설명을 해주었습니다.

몇일 전 Karpathy는 자신의 개인 블로그에 "AGI를 사례로 자율주행 연구"라는 글을 게재했습니다.

이유는 모르겠지만 이 글을 삭제했네요. 다행히 네트워크 백업이 있습니다.

우리 모두 알고 있듯이 Karpathy는 OpenAI의 창립 멤버 중 한 명일 뿐만 아니라 전 AI 수석 이사이자 Tesla의 자율 주행 자동 조종 장치 책임자이기도 합니다.

그는 AGI를 연구하기 위한 사례 연구로 자율 주행을 활용했습니다. 이 기사의 견해는 정말 읽을 가치가 있습니다.

자율 운전

LLM의 발생으로 인해 AGI가 언제 등장할지, 심지어 어떤 모습일지에 대한 수많은 논의가 촉발되었습니다.

어떤 사람들은 AGI의 미래에 대해 희망과 낙관으로 가득 차 있습니다. 그리고 어떤 사람들은 두려움과 비관주의로 가득 차 있습니다.

안타깝게도 토론의 대부분이 너무 추상적이어서 사람들의 의견이 서로 일치하지 않습니다.

그러므로 나는 이 주제에 좀 더 구체적인 용어로 접근하기 위해 항상 구체적인 비유와 역사적 선례를 찾고 있습니다.

특히 "AGI가 어떤 모습일 것이라고 생각하시나요?"라는 질문을 받으면 저는 개인적으로 자율주행을 예로 드는 걸 좋아합니다. 이 글에서는 그 이유를 설명하고 싶습니다. AGI의 일반적인 정의부터 시작해 보겠습니다.

AGI: 가장 경제적으로 가치 있는 작업에서 인간의 능력을 뛰어넘는 자율 시스템입니다.

이 AGI 정의에는 두 가지 특정 요구 사항이 있습니다.

우선, 완전히 자율적인 시스템입니다. 즉, 사람의 감독이 거의 또는 전혀 없이 자체적으로 작동합니다.

둘째, 경제적으로 가장 가치 있는 작업을 자율적으로 운영합니다. 이 부분의 데이터에 대해서는 개인적으로 미국 노동통계국의 직업 지수를 참조하고 싶습니다.

이 두 가지 속성을 모두 갖춘 시스템을 AGI라고 합니다.

이 글에서 제가 제안하고 싶은 것은 최근의 자율주행 능력의 발전은 AGI가 어떤 모습으로 확장될 수 있는지 점점 더 자동화되는 사회의 역학에 대한 아주 좋은 초기 사례 연구라는 것입니다. 일반적으로 감정에 대한 연구도 마찬가지입니다.

제가 그렇게 생각하는 이유는 이 분야가 여러 가지 특징을 가지고 있기 때문입니다. 간단히 "큰 일이다"라고 말할 수 있습니다. 자율 주행은 이해하기 매우 쉽고 사회에서 더 일반적입니다.

경제 규모의 큰 부분을 차지하고 많은 양의 인력을 고용합니다. 운전은 충분히 복잡한 문제지만, 우리는 이미 자동화를 달성해 사회의 큰 주목을 받고 있습니다.

물론 대규모 자동화를 이룬 다른 산업도 있지만 개인적으로 익숙하지 않거나 위의 속성 중 일부가 부족합니다.

L2레벨 자동화

운전 자동화는 AI 분야에서 매우 어려운 문제로 여겨지며 하루아침에 해결될 수는 없습니다.

운전 작업을 점진적으로 자동화하는 과정을 통해 형성됩니다. 이 과정에는 "도구 기반 AI"의 여러 단계가 포함됩니다.

차량 자동화 측면에서 현재 많은 자동차에 L2 레벨 운전 보조 시스템이 장착되어 있습니다. 즉, 인간 운전자와 협력하여 출발지에서 목적지까지의 여정을 완료할 수 있는 AI입니다.

아직 완전 자율주행은 아니지만 L2는 이미 운전과 관련된 많은 기본 작업을 처리할 수 있습니다.

때로는 자동 주차 등 전체 작업 과정을 자동으로 완료할 수도 있습니다.

이 과정에서 인간은 주로 감독 역할을 하며 언제든지 이를 대신할 수도 있고, 직접 운전하거나 높은 수준의 지시(예: 차선 변경 요청)를 내릴 수도 있습니다.

차선 중앙 유지, 빠른 결정 등 일부 측면에서 AI의 성능은 인간의 성능을 훨씬 능가하지만, 일부 드문 상황에서는 여전히 부족합니다.

이는 다른 산업, 특히 LLM의 최근 기술 혁신에서 본 많은 AI 도구와 매우 유사합니다.

예를 들어 프로그래머로서 GitHub Copilot을 사용하여 자동으로 코드 조각을 완성하거나 GPT-4를 사용하여 더 복잡한 함수를 작성할 때 실제로는 기본 작업을 자동화 시스템에 넘기는 것입니다.

하지만 필요한 경우 언제든지 제가 개입하여 조정할 수 있습니다.

즉, Copilot과 GPT-4는 프로그래밍 분야의 "보조" 자동화 도구와 같습니다.

업계 전반에 걸쳐 유사한 "보조" 자동화 솔루션이 많이 있지만 모두가 대형 모델을 기반으로 하는 것은 아닙니다. TurboTax부터 Amazon 창고 로봇, 번역, 글쓰기, 예술, 법률, 다양한 "도구 기반 AI"까지 마케팅 및 기타 분야에서.

완전 자율 주행

시간이 지남에 따라 일부 시스템은 새로운 수준의 신뢰성에 도달하여 오늘날 Waymo와 같이 됩니다.

점차 '완전 자율주행'이 실현되고 있습니다.

이제 샌프란시스코에서는 앱을 열고 Waymo 자율주행차를 부르면 목적지까지 안전하게 데려다줄 것입니다.

정말 놀랍습니다. 운전 방법을 알 필요도 없고, 도로 상황에 주의할 필요도 없이 편안하게 앉아서 낮잠만 자면 출발지부터 도착지까지 시스템이 안내해 드립니다. .

저와 이야기를 나눈 많은 사람들처럼 저는 개인적으로 Uber보다 Waymo를 선호하며 거의 도심 교통에만 사용합니다.

더 안정적이고 예측 가능한 여행 경험을 할 수 있으며, 운전 과정이 원활하고, 운전자가 음악을 들을 때 무슨 생각을 하는지 신경 쓰지 않고 음악을 들을 수 있습니다.

"복합 경제"

자율주행 기술이 현실이 되었지만 여전히 많은 사람들이 Uber를 선택하고 있습니다. 왜?

우선, 많은 사람들은 Waymo를 교통 수단으로 선택할 수 있다는 사실을 모르고 있습니다. 알고 있더라도 많은 사람들은 여전히 ​​자동화 시스템에 대한 신뢰가 부족하고 인간 운전자가 운전하는 것을 선호합니다.

그러나 어떤 사람들은 자율주행을 받아들인다 하더라도, 아마도 운전자와의 대화나 다른 사람과의 상호작용을 즐기는 등 여전히 인간 운전자를 선호할 것입니다.

Waymo가 수요를 초과하는 공급 문제에 직면하고 있는 것은 현재 애플리케이션에서 늘어나는 대기 시간에서 알 수 있습니다. 시장에 나와 있는 차량의 수는 수요를 충족시키기에 턱없이 부족합니다.

Waymo가 위험과 여론을 관리하고 모니터링하는 데 매우 신중하기 때문일 수도 있습니다.

반면, 제가 아는 한 Waymo는 규제 당국의 제한을 받고 있으며 특정 수의 차량만 거리에 배치할 수 있습니다. 또 다른 제한 요소는 Waymo가 하룻밤 사이에 Uber를 완전히 대체할 수 없다는 것입니다.

인프라를 구축하고, 자동차를 생산하고, 운영을 확장해야 합니다.

저는 개인적으로 경제의 다른 부문에서도 같은 일이 일어날 것이라고 생각합니다. 일부 사람/회사는 이를 즉시 채택하지만 많은 사람들은 (1) 기술을 이해하지 못하고 (2) 이해하더라도 (3) 신뢰하더라도 인간과 협력하려는 의지가 더 높습니다.

그러나 그 이상으로 수요가 공급을 초과하며 AGI는 개발자 자제, 규제 제약, 더 많은 GPU 데이터 센터 구축 필요성과 같은 리소스 부족을 포함하여 동일한 이유로 동일한 제약을 받게 됩니다.

기술 세계화

자원 제약에 대해 이미 암시했듯이 이 기술의 글로벌 배포에는 비용이 많이 들고 인력이 많이 필요하며 홍보 속도가 느립니다.

현재 Waymo는 샌프란시스코와 피닉스에서만 운전할 수 있지만 기술 자체가 다양하고 확장 가능하므로 회사는 곧 로스앤젤레스, 오스틴 및 기타 지역으로 확장할 수 있습니다.

자율주행차는 폭설 속 운전 등 기타 환경적 요인에 의해 제한될 수도 있습니다. 드문 경우지만 운영자 구조가 필요할 수도 있습니다.

또한 기술 역량 확장에는 리소스 비용도 많이 필요하며 무료가 아닙니다.

예를 들어 Waymo는 다른 도시에 진입하기 전에 거리 지도 그리기, 전반적인 인식 경로 계획, 특정 특수 상황이나 지역 규정에 적응하기 위한 알고리즘 제어 등 리소스를 투자해야 합니다.

작업 비유에서 알 수 있듯이 많은 작업은 특정 상황에서만 자동화될 수 있으며 확장하려면 많은 작업이 필요합니다.

어느 경우든 자율주행 기술 자체는 보편적이고 확장 가능하며, 시간이 지남에 따라 적용 가능성도 점차 넓어질 것입니다.

사회적 반응: 곧 '지나가는 구름'이 되었습니다

자율주행 기술이 점차 사회에 통합되는 과정과 관련하여 제가 특히 흥미로웠던 점은 -

몇 년 전만 해도 사람들이 여전히 열광적이었고 의심과 우려로 가득 찬 논의가 있었고, 그것이 성공적으로 작동할 수 있을지, 아니면 실현 가능한지 여부에 대한 논쟁이 광범위한 관심의 대상이 되었습니다. 하지만 이제 자율주행은 더 이상 미래의 꿈이 아니라 실제로 이루어졌습니다.

단순한 연구용 프로토타입이 아니라 돈으로 구매할 수 있는 완전 자동화된 운송 수단입니다.

현재 적용 범위 내에서 자율주행 기술은 완전한 자율성을 달성했습니다.

그러나 전체적으로는 그다지 많은 사람들의 관심을 끌지는 못하는 것 같습니다. 나와 대화하는 대부분의 사람들(기술 분야 포함!)은 이러한 발전에 대해 인식조차 하지 못합니다.

샌프란시스코 거리에서 Waymo를 타면 많은 사람들이 호기심 가득한 눈빛을 보내는 모습을 볼 수 있습니다. 그들은 처음에는 놀라고, 그 다음에는 호기심을 가지고 쳐다볼 것입니다.

그 후에도 그들은 자신들의 삶을 이어갈 것입니다.

자율주행 기술이 다른 산업에서도 완전한 자율성을 달성한다면 세상은 격동하지 않을 수도 있습니다.

대부분의 사람들은 처음에는 이러한 변화를 깨닫지도 못할 수도 있습니다. 그들이 알아차렸을 때, 그들은 그것을 호기심으로 바라보다가 어깨를 으쓱하고 거부에서 수용까지 다양한 반응을 보일 수 있습니다.

일부 사람들은 이에 화가 나서 Waymo 자동차 앞에 신호등을 놓는 등의 항의 조치를 취할 수도 있습니다.

물론 현재로서는 이 현상이 완전히 실현되는 것을 목격하기에는 아직 멀었습니다. 그러나 그런 일이 발생하면 대체로 예측이 가능할 것으로 기대합니다.

Economic Impact

고용 이야기를 할 때 Waymo가 운전자의 자리를 확실히 대체했다는 사실은 부인할 수 없습니다.

그러나 동시에 이전에는 존재하지 않았던 많은 직업이 생겨났으며 이러한 직위는 상대적으로 눈에 잘 띄지 않습니다. 예를 들어 신경망에 대한 교육 데이터를 수집하는 주석자, 문제가 있는 자동차를 원격으로 지원하는 고객 서비스 직원 등이 있습니다. , 건물 책임자 및 차량 유지 관리 직원 등

먼저 탄생한 것은 이러한 정교한 첨단 자동차를 만들기 위해 설계된 센서 및 관련 인프라의 완전히 새로운 산업이었습니다.

사람들의 일반적인 일관처럼 많은 직위가 바뀌고 일부는 사라지지만 새로운 직위도 많이 등장할 것입니다.

직위 축소가 가장 직관적인 변화이긴 하지만, 사실 단순한 직위 축소라기보다는 업무 형태의 변화입니다.

시간이 지나도 전반적인 고용이 줄어들지 않을 것이라고 말하기는 어렵지만, 변화의 속도는 단순히 예상하는 것보다 훨씬 느립니다.

경쟁 환경

마지막으로 자율주행 분야의 경쟁 환경에 대해 이야기하고 싶습니다.

몇 년 전, 비가 내린 뒤 자율주행차 회사들이 버섯처럼 쑥쑥 자라났습니다. 하지만 오늘날 사람들이 점차 이 기술의 복잡성을 깨닫게 되면서(개인적으로 현재의 인공지능과 컴퓨팅 기술을 기반으로 자동화는 여전히 매우 어렵다고 생각합니다) 이 분야는 대규모 통합을 경험하게 되었습니다.

그중 Waymo는 자율주행의 미래를 완벽하게 보여주는 최초의 회사가 되었습니다.

이에도 불구하고 Cruise, Zoox 및 제가 개인적으로 좋아하는 Tesla와 같이 여전히 따라잡는 회사가 있습니다.

이 분야에서의 경험과 참여를 바탕으로 여기서 간단히 언급하고 싶습니다. 제 생각에는 자율주행 산업의 궁극적인 목표는 글로벌 규모의 완전 자율주행을 달성하는 것입니다.

Waymo는 먼저 자율주행을 구현한 후 전 세계적으로 확장하는 전략을 선택했으며, Tesla는 먼저 전 세계에 배치한 후 점진적으로 자율주행 기술을 향상시키는 전략을 선택했습니다.

분명히 이 두 회사는 완전히 다른 조정에 직면하게 될 것입니다. 하나는 주로 소프트웨어에 작업하고 다른 하나는 하드웨어에 작업합니다.

현재 저는 그들의 제품에 매우 만족하고 있으며, 개인적으로 기술 자체에 대한 지원이 가득합니다.

마찬가지로 다른 많은 산업도 (2015년경 자율주행 분야처럼) 급격한 성장과 확장의 국면을 겪을 수 있지만, 결국 이 경쟁에서 살아남는 기업은 소수에 불과할 수도 있습니다.

이 과정에서 많은 실용적인 AI 보조 도구(예: 현재 L2 ADAS 기능)와 일부 개방형 플랫폼(예: Comma)이 널리 사용될 것입니다.

일반인공지능(AGI)

위는 일반인공지능(AGI)의 향후 발전에 대한 저의 일반적인 비전입니다.

이러한 변화가 예측할 수 없는 많은 상호작용과 연쇄 반응을 동반하면서 다양한 속도로 전체 경제에 확산될 것이라고 상상해 보세요.

이 아이디어가 완벽하지는 않더라도 기억해 둘만한 참고할만한 모델이라고 생각합니다.

밈적 관점에서 볼 때 AGI는 우리의 통제를 벗어나 사이버 공간에서 반복적으로 자신을 강화하고 치명적인 병원체나 나노봇을 만들고 궁극적으로 은하계를 회색 끈적이로 만드는 종류의 초지능과는 거리가 멀습니다.

비교하자면 빠르게 발전하고 사회를 변화시킬 수 있는 자동화 기술인 자율주행 기술의 발전에 가깝습니다. 교육받은 노동력, 정보, 재료, 에너지, 규제 등 여러 측면에서 개발 속도가 제한될 것입니다.

여기서 사회는 관찰자이자 참여자입니다.

세상은 붕괴되지 않고 적응하고 변화하고 재건될 것입니다.

자율주행 자체에 관한 한, 교통 자동화는 안전성을 크게 향상시키고, 도시는 더욱 신선하고 부드러워지며, 도로 양쪽을 점유하고 있던 주차장과 주차된 차량이 점차 사라져서 더 많은 공간이 남게 될 것입니다.

개인적으로 일반 인공지능(AGI)이 가져올 모든 변화를 기대하고 있습니다.

네티즌들 사이에서 뜨거운 논의

한마디로 Karpathy는 AGI를 자율주행의 발전에 더 가깝다고 생각합니다. 이 구체적인 비유는 많은 네티즌들 사이에서 논의를 촉발시켰습니다.

"FSD를 제공하지 못한 사람이 FSD를 AGI와 비교하기로 결정한 것을 보고 실제로 우리가 아직 수십 년이 남았다는 확신을 얻었습니다."

네, "G"를 잊어버린 것 같아요. 나는 Norvig가 수십 년 전에 인공 지능 저술에서 "지능"이 전능함을 의미하지 않는다고 말한 것을 기억합니다. 지능적인 에이전트가 유용하려면 작은 문제를 해결하는 것만으로도 충분합니다. 내 생각에는 이것이 G의 유래인 것 같다.

이제 갑자기 이전의 좁은 정의로 돌아가나요? 아직 LLM과 자율주행에서 AGI로 가는 길은 보이지 않습니다.

물론 Waymo가 자율주행차를 만드는 것을 본 것처럼 AGI의 발전은 점진적이고 느릴 수도 있습니다. 그러나 이는 여러 방법 중 하나일 뿐이며 대규모 LLM 확장과 같이 매우 다른 방식으로 AGI가 나타나는 것을 볼 수도 있습니다.

위 내용은 OpenAI 공동 창립자 Karpathy는 다음과 같은 기사를 게시했습니다. 자율 주행을 예로 들어 AGI를 설명합니다! 원문은 삭제되었습니다. 지금 북마크해 주세요의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!