일반 인공지능, 인공지능 인식 및 대규모 언어 모델

아마도 최근 인공지능 시스템의 성능이 점점 더 놀라워지고 있다는 것을 눈치 채지 못했을 것입니다.

예를 들어 OpenAI의 새 모델 DALL-E 2는 간단한 텍스트 프롬프트를 기반으로 매력적인 원본 이미지를 생성할 수 있습니다. DALL-E와 같은 모델은 인공지능이 창의적일 수 있다는 개념을 부정하기 어렵게 만듭니다. 예를 들어, "스튜디오에서 히트 싱글을 녹음하는 데님 재킷을 입은 힙합 소"에 대한 DALL-E의 상상력을 생각해 보세요. 또는 좀 더 추상적인 예를 보려면 이전 Peter Thiel 라인에 대한 DALL-E의 설명을 확인하세요. "우리는 140자가 아닌 하늘을 나는 자동차를 원합니다."

한편 DeepMind는 최근 Gato라는 새로운 모델을 발표했습니다. 비디오 게임부터 대화, 로봇 팔로 실제 블록 쌓기까지 다양한 작업을 수행합니다. 이전의 거의 모든 AI 모델은 체스를 두는 것과 같이 한 가지 일만 할 수 있었습니다. 따라서 Gato는 더 광범위하고 유연한 기계 지능을 향한 중요한 단계를 나타냅니다.

그리고 OpenAI의 GPT-3부터 Google의 PaLM, Facebook의 OPT에 이르기까지 오늘날의 LLM(대규모 언어 모델)은 어지러울 정도로 다양한 언어 기능을 갖추고 있습니다. 그들은 거의 모든 주제에 대해 미묘하고 심도 있는 대화를 나눌 수 있습니다. 비즈니스 메모부터 시까지 인상적이고 독창적인 콘텐츠를 직접 생성할 수 있습니다. 최근 한 가지 예를 들자면, GPT-3은 최근 자체적으로 잘 작성된 학술 논문을 작성했으며 현재 권위 있는 과학 저널에 게재하기 위해 동료 검토를 받고 있습니다.

이러한 발전은 인공지능 커뮤니티에서 기술 발전 방향에 대한 대담한 추측과 열띤 토론을 불러일으켰습니다.

신뢰할 수 있는 일부 AI 연구자들은 우리가 이제 어떤 인지 작업에서도 인간보다 더 나은 성능을 발휘할 수 있는 강력하고 유연한 인공 지능을 가리키는 자주 논의되는 벤치마크인 "인공 일반 지능"(AGI)에 매우 가깝다고 믿습니다. 지난 달, Blake Lemoine이라는 Google 엔지니어는 Google의 대규모 언어 모델인 LaMDA에 지각력이 있다고 극적으로 주장하여 헤드라인을 장식했습니다.

그러한 주장에 대한 저항도 마찬가지로 강했고, 많은 AI 평론가들은 그 가능성을 일축했습니다.

그렇다면 최근 인공 지능의 놀라운 발전을 통해 우리는 무엇을 만들 수 있을까요? 인공지능, 인공지능 인식 같은 개념을 어떻게 생각해야 할까요?

이러한 주제에 대한 공개 담론은 몇 가지 중요한 방식으로 재구성되어야 합니다. 초지능 AI가 곧 도래할 것이라고 믿는 열광적인 지지자들과 AI의 최근 발전이 단지 과대광고에 불과하다고 믿는 경멸적인 회의론자들은 모두 현대 AI의 몇 가지 근본적인 측면에 대해 생각하는 데 있어 과녁을 벗어났습니다.

일반 인공지능은 일관성이 없는 개념입니다

사람들이 흔히 간과하는 인공지능의 기본 원리는 인공지능이 인간 지능과 근본적으로 다르다는 것입니다.

인공지능을 인간지능과 너무 직접적으로 비교하는 것은 잘못된 것입니다. 오늘날의 인공 지능은 단순한 인간 지능의 "덜 진화된" 형태 그 이상입니다. 미래의 초고급 AI는 단지 인간 지능의 더 강력한 버전이 아닐 것입니다.

다양한 지능 모드와 차원이 가능합니다. AI를 인간 지능의 불완전한 모방이 아니라 윤곽과 능력이 근본적으로 우리와 다른 독특하고 외계 형태의 지능으로 생각하는 것이 가장 좋습니다.

이를 좀 더 구체적으로 설명하기 위해 오늘날 인공지능의 현황을 간단히 생각해 보겠습니다. 오늘날의 인공 지능은 일부 영역에서는 인간의 능력을 훨씬 능가하지만 다른 영역에서는 훨씬 뒤쳐져 있습니다.

예: 반세기 동안 "단백질 접힘 문제"는 생물학 분야의 주요 과제였습니다. 간단히 말해서, 단백질 접힘 문제는 1차원 아미노산 서열을 기반으로 단백질의 3차원 모양을 예측해야 합니다. 수십 년에 걸쳐 세계에서 가장 뛰어난 인재들이 함께 노력하여 이 문제를 해결하지 못했습니다. 2007년 한 평론가는 이를 "현대 과학에서 가장 중요하지만 해결되지 않은 문제 중 하나"라고 설명했습니다.

2020년 말 DeepMind의 AlphaFold라는 AI 모델이 단백질 접힘 문제에 대한 솔루션을 제공했습니다. 오랫동안 단백질 연구에 종사해 온 존 몰트(John Moult)는 "AI가 심각한 과학적 문제를 해결한 것은 역사상 처음이다"라고 말했습니다.

단백질 접힘의 미스터리를 풀려면 공간적 이해와 높은 수준이 필요합니다. -단순히 인간을 넘어서는 차원적 형태의 추론 사고의 범위. 그러나 이는 현대 머신러닝 시스템의 이해 범위를 넘어서는 것은 아닙니다.

한편, 건강한 인간 어린이는 세계에서 가장 정교한 인공 지능을 훨씬 능가하는 "체화된 지능"을 보유하고 있습니다.

인간은 어릴 때부터 캐치볼, 낯선 땅을 걷는 일, 간식을 먹기 위해 부엌 냉장고를 여는 일 등을 쉽게 할 수 있습니다. 이러한 신체적 능력은 인공지능이 익히기 어려운 것으로 밝혀졌습니다.

이것은 "모라벡 역설"에 요약되어 있습니다. AI 연구자 한스 모라베크(Hans Moravec)는 1980년대에 다음과 같이 말했습니다. “지능 테스트에서 성인 수준의 성능을 발휘하거나 체스를 두는 컴퓨터를 만드는 것은 상대적으로 쉽지만 컴퓨터가 성인 수준의 성능을 발휘하도록 하는 것은 어렵거나 불가능합니다. .지각과 이동성."

이 직관적이지 않은 사실에 대한 Moravec의 설명은 진화론적입니다. "인간 두뇌의 크고 고도로 진화된 감각 및 운동 부분에는 자연의 본질에 대한 수십억 년의 지식이 있습니다. 세상과 세상 속에서 살아남는 방법에 대한 경험, 즉 우리가 더 높은 추론이라고 부르는 사려 깊은 과정은 인간 마음의 가장 얇은 층이며, 그것을 얻기 때문에만 작동합니다. 더 오래되고 더 강력하지만 종종 무의식적이지만 감각운동 지식에 힘입어 우리는 모두 지각과 움직임에 있어서 위대한 올림픽 선수들이기 때문에 어려운 일도 쉽게 보이게 만듭니다."

오늘날에도 로봇은 여전히 ​​그렇습니다. 능력. 불과 몇 주 전에 DeepMind 연구원 팀은 새로운 논문에서 다음과 같이 썼습니다. "'직관적 물리학'에 대한 현재 AI 시스템의 이해는 아주 어린 아이들의 이해와 비교할 수 없습니다."

모두 결과는 무엇입니까?

일반인공지능은 없습니다.

AGI는 가능하지도, 불가능하지도 않습니다. 오히려 개념적으로 일관성이 없습니다.

지능은 단일하고 잘 정의되어 일반화 가능한 능력도 아니고 특정 능력 집합도 아닙니다. 가장 높은 수준에서 지능적인 행동은 단순히 목표를 추구하기 위해 환경에 대한 지식을 획득하고 사용하는 에이전트입니다. 다양한 유형의 에이전트, 환경 및 목표가 엄청나게 많기 때문에(이론적으로 무한함) 지능은 셀 수 없이 다양한 방식으로 나타날 수 있습니다.

AI 전문가 Yann LeCun은 이를 다음과 같이 잘 요약했습니다. "일반 인공 지능이라는 것은 없습니다. 심지어 인간도 전문화되어 있습니다."

"일반" 또는 "진정한" 인공 지능을 인간이 할 수 있는 일을 할 수 있는 것으로 정의합니다. 인공 지능에 관한 (그러나 더 나은) 점, 즉 인간 지능이 일반 지능이라는 생각은 근시안적인 인간 중심성입니다. 인간의 지능을 인공지능 발전의 궁극적인 닻이자 표준으로 여긴다면, 우리는 기계지능이 가질 수 있는 강력하고, 심오하고, 예상치 못한, 사회적으로 유익하고, 완전히 비인간적인 능력을 모두 놓치게 될 것입니다.

지구 대기의 구성을 원자 수준으로 이해하고 시간이 지남에 따라 전체 시스템이 어떻게 진화할지 매우 높은 정확도로 동적으로 예측할 수 있는 AI를 상상해 보세요. 대기 중 특정 장소에 일정량의 특정 화합물을 저장하여 인류의 지속적인 탄소 배출로 인한 온실 효과에 대응하고 지구 온난화가 미치는 영향을 완화하는 정확하고 안전한 지구 공학 개입을 설계할 수 있다고 상상해 보세요. 지구 표면.

인체의 모든 생물학적, 화학적 메커니즘을 분자 수준까지 이해할 수 있는 AI를 상상해 보세요. 따라서 각 개인의 건강을 최적화하는 맞춤형 식단을 처방할 수 있고, 질병의 근본 원인을 정확하게 진단할 수 있으며, 심각한 질병을 치료하기 위한 새로운 맞춤형 치료법(아직 존재하지 않더라도)을 생성할 수 있다고 상상해 보십시오.

AI가 소비하는 것보다 더 많은 에너지를 안전하게 생산하는 방식으로 원자핵을 융합하는 프로토콜을 발명하여 핵융합을 인류를 위한 저렴하고 지속 가능하며 무한히 풍부한 에너지원으로 활용할 수 있다고 상상해 보세요.

이 모든 시나리오는 오늘날에도 여전히 환상이며 오늘날의 인공 지능으로는 도달할 수 없습니다. 요점은 인공지능의 진정한 잠재력은 인간이 할 수 있는 것과 전혀 다른 새로운 형태의 지능을 개발하는 길에 있다는 것입니다. AI가 그러한 목표를 달성할 수 있다면 그것이 인간의 능력 전체와 일치한다는 의미에서 "보편적"인지 누가 신경 쓰겠습니까?

우리 자신을 "일반 인공 지능"으로 규정하는 것은 이 기술의 잠재력을 제한하고 감소시킵니다. 그리고 인간 지능은 존재하지 않는 일반 지능이 아니기 때문에 애초에 개념적으로 일관성이 없습니다.

인공지능이 된다는 것은 어떤가요?

이것은 현재 많은 대중의 관심을 받고 있는 인공지능의 큰 그림에 대한 관련 주제, 즉 인공지능이 지각력을 갖고 있는지, 앞으로도 그럴 것인가에 대한 질문으로 이어집니다.

Google 엔지니어 Blake Lemoine은 지난달 Google의 대규모 언어 모델 중 하나가 인지하고 있다고 공개적으로 주장하면서 논란과 논평의 물결을 촉발시켰습니다. (확실한 의견을 형성하기 전에 Lemoine과 AI 간의 토론 전체 내용을 직접 읽어 보는 것이 좋습니다.)

대부분의 사람들, 특히 AI 전문가는 Lemoine의 주장이 잘못되고 불합리하다고 생각합니다.

구글은 공식 답변에서 "우리 팀은 블랙의 우려를 검토한 결과 증거가 그의 주장을 뒷받침하지 않는다는 사실을 그에게 알렸다"고 말했습니다. 스탠포드 대학의 Erik Brynjolfsson 교수는 감각 인공 지능이 앞으로 50년이 더 걸릴 수 있다고 믿습니다. Gary Marcus는 Lemoine의 주장을 "말도 안되는 소리"라고 부르며 "여기에는 볼 것이 없다"고 결론지었습니다.

전문가들의 일축을 포함하여 이 전체 논의의 문제는 인식의 존재 여부가 정의상 증명 불가능하고, 반증 불가능하며, 알 수 없다는 것입니다.

지각에 관해 이야기할 때는 외부의 지적 표현이 아닌 에이전트의 주관적인 내부 경험을 의미합니다. Blake Lemoine, Erik Brynjolfsson, Gary Marcus를 포함한 그 누구도 매우 복잡한 인공 신경망이 내부적으로 경험하는 것과 경험하지 않는 것이 무엇인지 완전히 확신할 수 없습니다.

1974년 철학자 토마스 네이글은 "박쥐가 된다는 것은 어떤 것인가?"라는 제목의 글을 발표했습니다. "기사. 20세기 가장 영향력 있는 철학 논문 중 하나인 이 기사는 악명 높게 파악하기 어려운 의식 개념을 간단하고 직관적인 정의로 요약했습니다. 에이전트가 되고자 하는 무언가가 있으면 에이전트는 의식이 있습니다. 예를 들어, 내 옆집 이웃이 되거나 그의 개가 되는 것은 놀라운 일이지만 그의 우편함이 되는 것은 전혀 그렇지 않습니다.

논문의 핵심 메시지는 의미 있는 방식으로 다른 유기체나 종이 된다는 것이 어떤 느낌인지 정확히 아는 것이 불가능하다는 것입니다. 다른 유기체나 종이 우리와 다를수록 그 내부 경험에 접근하기가 더 어려워집니다.

Nagel은 이 점을 설명하기 위해 박쥐를 예로 사용합니다. 그가 박쥐를 선택한 이유는 박쥐가 포유류로서 매우 복잡한 생물이지만 그들의 삶의 경험은 우리와 매우 다르기 때문입니다. 그들은 날고, 세계를 인식하는 주요 수단으로 음파 탐지기를 사용합니다.

Nagel이 말했듯이(논문의 몇 문단 전체를 인용할 가치가 있습니다):

“우리 자신의 경험은 상상력의 기본 자료를 제공하므로 상상의 범위는 물갈퀴가 있는 사람을 상상해 보십시오. 황혼과 새벽에 입에 벌레를 물고 돌아다니는 사람은 도움이 되지 않습니다. 시력이 매우 나쁜 사람은 반사된 고주파 음향 신호 시스템을 통해 주변 세계를 인식합니다. 하루 종일 다락방에

“내가 상상할 수 있는 한(그리 멀지는 않지만) 박쥐처럼 행동하는 것이 어떨지 알려줄 뿐입니다. 그러나 그것은 문제가 아닙니다. 박쥐가 박쥐가 되면 어떤 느낌일지 궁금하네요. 그러나 이것을 상상하려고 하면 내 마음의 자원이 제한되어 작업을 수행하기에 부족할 것입니다. 나는 현재의 경험에 추가를 상상하거나, 그 경험에서 점차적으로 단편이 삭제되는 것을 상상하거나, 추가, 뺄셈, 수정의 조합을 상상함으로써 그것을 달성할 수 없습니다. ”

인공 신경망은 적어도 포유류이자 탄소 기반 생명체인 박쥐보다 훨씬 더 이질적이며 인간에게 접근하기 어렵습니다.

다시 말하지만, 이 주제에 대해 너무 많은 논평가들이 저지르는 기본적인 실수입니다(종종 고려조차 하지 않음). 인간의 인식이나 지능에 대한 우리의 기대를 단순히 인공 지능에 매핑할 수 있다는 가정입니다.

우리는 인공 지능의 고유한 경험을 전혀 직접적으로 또는 직접적으로 판단하거나 생각할 수도 없습니다.

그렇습니다. AI 인식이라는 주제에 어떻게 생산적인 방식으로 접근할 수 있을까요?

우리는 1950년 Alan Turing이 처음 제안한 Turing Test에서 종종 영감을 얻을 수 있습니다. 우리가 인식하고 받아들이는 기계 지능의 본질에 대한 특정 근본적인 통찰력을 포착하기 때문에 AI 분야의 기준점입니다. AI의 내부 경험의 현실에 직접 접근할 수는 없습니다. AI의 지능을 측정하기 위한 유일한 선택은 AI의 행동을 관찰한 다음 적절한 추론을 도출하는 것입니다(명확하게 말하면, 그림. 초점은 기계의 사고 능력을 평가하는 데 있지만 반드시 느끼는 능력은 아닙니다. 그러나 우리의 목적에 따라 관련된 것은 기본 원칙입니다. Douglas Hofstadter는 이 아이디어를 특히 설득력 있게 표현했습니다. "내가 당신과 이야기하고 있을 때 당신이 '생각'이라고 부르는 것과 유사한 어떤 것이 내 안에서 일어나고 있다는 것을 어떻게 알 수 있습니까? 튜링 테스트는 물리학의 입자 가속기와 같은 놀라운 프로브입니다. 물리학에서와 마찬가지로 원자 또는 아원자 수준에서 무슨 일이 일어나고 있는지 이해하고 싶을 때 직접 볼 수 없기 때문에 가속된 입자를 관련 대상에서 멀리 분산시키고 그 동작을 관찰합니다. 이를 통해 대상의 내부 속성을 추론할 수 있습니다. 튜링 테스트는 이 아이디어를 마음까지 확장합니다. 그것은 아이디어를 직접적으로 볼 수는 없지만 그 구조를 보다 추상적으로 추론할 수 있는 "객체"로 취급합니다. 대상의 마음에서 문제를 '주의를 분산'시킴으로써 물리학에서와 마찬가지로 내부 작동 방식을 이해할 수 있습니다. ”

인공 지능 인식에 대한 논의를 진전시키려면 내부 경험을 위한 프록시로서 관찰 가능한 표현을 지향해야 합니다. 그렇지 않으면 우리는 느슨하고 공허하며 막다른 골목에 맴돌게 될 것입니다.

Erik Brynjolfsson 그는 오늘날의 AI가 지각력이 없다고 확신하지만, 그의 말은 AI가 결국 지각력을 갖게 될 것이라고 믿고 있음을 나타냅니다. 그가 진정으로 지각력이 있는 AI를 만날 때 무엇을 찾을 것입니까?

당신이 하는 일이 바로 당신입니다

AI에 대한 논쟁에서 회의론자들은 종종 기술을 단순화된 용어로 설명하여 그 능력을 경시합니다.

한 AI 연구원은 Blake Lemoine 뉴스에 대해 다음과 같이 말했습니다. "최근 블로그 게시물에서 더 높은 차원의 매개변수 기능을 사용하여 기호 및 데이터 처리를 통해 인식, 이해 또는 상식을 얻기를 희망하는 것은 신비합니다." , Gary Marcus는 오늘날의 AI 모델이 "텔레파시적으로 지능적"이지도 않다고 주장했습니다. "그들이 하는 일은 패턴을 일치시키고 대규모 통계 데이터베이스에서 데이터를 가져오는 것뿐"이기 때문입니다. 그는 Google의 대규모 언어 모델 LaMDA가 단지 "텍스트 스프레드시트"일 뿐이라고 믿습니다.

이 추론은 오해의 소지가 있고 사소한 것입니다. 결국, 우리가 그렇게 선택한다면, 우리는 비슷하게 단순화된 방식으로 인간 지능을 구축할 수 있습니다. 우리의 두뇌는 특정 방식으로 상호 연결된 대규모 뉴런 모음, 즉 두개골 내의 기본 화학 반응 모음인 '단지'입니다.

하지만 요점을 놓치고 있습니다. 인간 지능의 힘과 마법은 특정한 메커니즘에 있는 것이 아니라 어떤 방식으로든 나타나는 놀라운 능력에 있습니다. 단순한 기본 기능은 심오한 지적 시스템을 만들어낼 수 있습니다.

결국 AI를 능력으로 판단해야 합니다.

5년 전 AI의 상태를 오늘날의 기술 상태와 비교해 보면 자기 지도 학습, Transformers 및 강화 학습.

인공지능은 인간의 지능과 다릅니다. AI가 지각을 갖게 되면(Nagel의 공식에 따르면 "무언가처럼") 인간이 되는 것과는 비교할 수 없을 것입니다. 인공지능은 그 자체로 독특하고, 낯설고, 매혹적이며 빠르게 진화하는 인지 형태입니다.

중요한 것은 인공지능이 무엇을 성취할 수 있느냐는 것입니다. AlphaFold와 같은 기초 과학의 획기적인 발전, 기후 변화와 같은 종 수준의 문제 해결, 인류 건강 및 장수 증진, 우주 작동 방식에 대한 이해 심화 등 이러한 결과는 AI의 힘과 복잡성에 대한 진정한 테스트입니다.

위 내용은 일반 인공지능, 인공지능 인식 및 대규모 언어 모델의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!