사람들의 직업의 90%를 대체할 수 있는 ChatGPT는 얼마나 멋진가요?

인공지능 연구소 OpenAI가 2022년 11월 30일 자연어 생성 모델인 ChatGPT를 출시했습니다. 출시 두 달 만에 사용자 1억 명을 돌파하며 인공지능 분야의 슈퍼 인터넷 스타로 자리매김했습니다. 산업. ChatGPT는 강력한 의인화되고 시기적절한 응답 기능으로 빠르게 돌파하여 각계각층에서 열띤 토론을 불러일으켰습니다. 간단히 말해서 ChatGPT는 사용자의 텍스트 입력을 기반으로 자동으로 답변을 생성할 수 있는 인공지능 챗봇입니다. 그러면 어떤 사람들은 이것이 모두 대화형 로봇이지만 둘 사이의 차이가 크다고 말할 것입니다. 그렇다면 ChatGPT가 인간-컴퓨터 상호 작용에서 왜 그렇게 잘 수행됩니까? 검색 엔진을 대체할 것인가? ChatGPT의 등장으로 인해 실제로 90%의 사람들이 일자리를 잃을 위험에 처하게 될까요? 이러한 질문을 염두에 두고 ChatGPT의 장점은 무엇이며, 향후 업계에 어떤 변화를 가져올지 살펴보겠습니다.

ChatGPT란 정확히 무엇인가요​

ChatGPT를 만든 사람

OpenAI의 창시자인 Sam Altman은 8세에 프로그래밍을 할 수 있는 천재입니다. 2015년에 그는 팀을 이루었습니다. Tesla Boss Musk, 엔젤 투자자 Peter Thiel 및 기타 실리콘 밸리 거물들과 함께 수익 조직인 OpenAI LP와 모회사인 비영리 조직인 OpenAI Inc로 구성된 인공 지능 연구실인 OpenAI를 설립했습니다. 인공지능이 인간의 통제에서 벗어나는 것을 방지하는 지능. OpenAI는 머신러닝 알고리즘, 강화학습, 자연어 처리 등 첨단 인공지능 기술 연구개발에 중점을 두고 있습니다. OpenAI는 2022년 11월 30일 ChatGPT를 출시하여 실시간 온라인 질문과 답변 대화 서비스를 공식적으로 제공했습니다.

ChatGPT란 무엇입니까

책 "지식의 경계"에 다음 구절이 있습니다.

지식이 네트워크화되면 방에서 가장 똑똑한 사람이 아닙니다. 방 앞쪽에 서서 우리에게 교훈을 주는 사람도, 방에 있는 모든 사람의 집단적 지혜도 아닙니다. 방에서 가장 똑똑한 사람은 방 자체입니다. 그 안에 있는 모든 사람과 아이디어를 포함하고 이를 외부 세계와 연결하는 네트워크입니다.

이 문장에 대한 제가 이해한 바는 인터넷은 인간의 모든 지식과 경험을 담고 있으며, 이 지식과 ​​경험이 질서있게 정리되면 풍부한 데이터 토양도 제공한다는 것입니다. '아는 왕' 인공지능 애플리케이션을 훈련시키기 위한 것입니다. ChatGPT는 인터넷의 방대한 텍스트 데이터와 언어 데이터베이스 데이터를 통해 학습되고 학습된 후 두 사람이 서로 채팅하는 것처럼 입력한 텍스트 내용을 기반으로 해당 답변을 생성할 수 있습니다. 아무런 장벽 없이 소통할 수 있을 뿐만 아니라, 챗봇과 대화하는 것이 아니라 지식이 풍부하고 약간 재미있는 실제 사람과 대화하는 듯한 느낌을 줄 수도 있습니다. 이것은 세상에서 매우 중요했습니다. 이전 챗봇에서는 상상할 수 없었던 일이었습니다.

ChatGPT의 문자 그대로의 의미에 대해 간단히 설명합니다. Chat은 대화를 의미하며 소위 GPT는 Genarative Pre-trained Transformer를 의미합니다. 변신 모델이 좀 불분명해 보이지 않나요?

그 외에도 카피라이팅, 스크립트 작성 등 실제적인 작업을 완료하도록 도와달라고 요청할 수도 있고, 코드를 직접 작성하는 데 도움을 주고, 코드에서 버그를 찾는 데 도움을 주는 프로그램입니다. 멤버들은 자신의 일을 부수고 시끌벅적하게 하고 싶어한다. 이는 텍스트와 코드 수준에서 만능이라고 할 수 있다. 질문을 입력하고 즉시 답변을 제공하는 이러한 대화형 방법은 기존 검색 엔진을 사용하여 대규모 데이터에서 필요한 것을 찾는 경험보다 훨씬 낫습니다. 따라서 가까운 미래에 ChatGPT가 기존 검색 엔진을 전복시키고 완전히 변화할 것으로 예상됩니다. 정보 검색 방법.

또한 ChatGPT는 질문에 상황에 맞게 답변할 수도 있으며, 동시에 자체 단점을 적극적으로 인정하고 질문의 합리성에 도전할 수도 있습니다. 다음은 제가 제기한 질문을 ChatGPT가 거부한 내용입니다.

PS: 세계에서 가장 부자가 되는 방법을 ChatGPT에 물었습니다. 그 비결은 다음과 같습니다.

ChartGPT가 AI 인공지능 탄생 이후 C-end 사용자를 위한 가장 빠르게 성장하는 지능형 응용 제품이 될 수 있었던 것은 바로 ChartGPT가 강력한 이해력, 학습력, 창의적 능력을 갖고 있기 때문입니다. 과거 인공지능 C사이드 제품은 항상 지능이 부족하다는 평가를 받았고 심지어 '인공지체자'라고 조롱되기도 했다. 하지만 ChatGPT의 등장은 앞으로 인공지능이 일반 사람들의 삶에 통합될 것임을 시사하는 것일 수도 있습니다.

PS: 그가 '예'라고 대답할까 봐 정말 두렵습니다.

ChatGPT가 왜 그렇게 강력한가요?

ChatGPT가 하루아침에 인기를 얻었지만, 그 뒤에 숨은 기술 발전은 하루 아침에 이루어진 것이 아닙니다. 따라서 ChatGPT가 왜 그토록 강력한지 이해하려면 그 뒤에 숨어 있는 기술적 원리를 이해해야 합니다.

언어 모델 반복

우리 모두는 자연어가 인간 의사소통에 가장 중요한 도구라는 것을 알고 있습니다. 따라서 기계가 자연어를 통해 장벽 없이 사람들과 의사소통할 수 있도록 하는 방법은 항상 과학 분야에서 끊임없이 추구해 왔습니다. 인공지능 타겟. NLP(자연어 처리)는 기계가 자연어를 이해하고 이를 기반으로 반응할 수 있도록 하는 데 특화된 컴퓨터 과학 및 인공지능 분야의 중요한 연구 방향입니다. 컴퓨터가 자연어를 인식하도록 하려면 텍스트를 분석하고 처리하기 위한 해당 언어 모델이 필요합니다. 언어 모델의 일반적인 원리는 언어 텍스트의 확률 모델링을 수행하고, 모델을 사용하여 다음 출력 콘텐츠의 확률을 예측하는 것입니다. 일반적인 과정은 다음과 같다. 문단 이후에 발생 확률이 가장 높은 문장을 출력하기 위해 언어 모델을 사용한다. 언어 모델은 통계적 언어 모델과 신경망 언어 모델로 나눌 수 있습니다. ChatGPT는 여러 버전에서 반복적인 최적화를 거친 후 오늘날 모두를 놀라게 하는 뛰어난 성능을 달성한 신경망 언어 모델입니다. LM(언어 모델)의 개발 역사를 간략하게 검토하고 언어 모델이 단계별로 어떻게 발전하는지 확인할 수 있습니다. 이는 ChatGPT의 기술 원리를 이해하는 데 매우 도움이 됩니다.

RNN

RNN(Recurrent Neural Network, 순환 신경망)은 NPL 분야에서 널리 사용되고 있습니다. 위에서 언급한 NLP는 기계가 자연어를 이해하도록 하는 문제를 해결하는 것을 목표로 합니다. 따라서 기계가 문장의 의미를 이해하려면 문장의 각 단어가 무엇을 의미하는지 이해해야 할 뿐만 아니라 문장을 처리해야 합니다. 연결된 시퀀스가 ​​표현하는 의미는 무엇이며, RNN은 샘플 데이터의 시퀀스를 모델링하는 문제를 해결합니다.

그러나 RNN은 언어 시퀀스를 처리할 때 직렬화를 통해 수행되므로 이전 단어의 상태가 출력될 때까지 다음 단어의 처리를 기다려야 합니다. 진행하려면 기울기 폭발, 망각 등의 문제도 있습니다. 따라서 인공지능 전문가들은 이를 기반으로 모델을 지속적으로 최적화하고 있습니다.

Transformer

Google Brain은 2017년 "Attention Is All You Need" 논문에서 Transformer 모델을 제안했습니다. 이는 Self-Attention 메커니즘을 기반으로 한 딥러닝 모델로 주로 RNN에 최적화되어 있습니다. 문제. 특히 텍스트 시퀀스를 직렬화하는 문제는 Transformer 모델이 동시에 텍스트 시퀀스의 모든 단어를 처리할 수 있기 때문에 시퀀스로 인해 발생하는 긴 거리를 방지하는 것입니다. RNN 모델 질문이 길었습니다. Transformer 모델의 도입은 이후의 유명한 BERT 모델과 GPT 모델이 모두 Transformer 모델을 기반으로 진화되었기 때문에 NLP 분야의 비약적인 발전을 보여주는 중요한 상징이라고 할 수 있습니다. 아래 그림은 Transformer 모델의 구조를 보여줍니다. 원본 GPT 모델과 최신 ChatGPT 모델은 실제로 Transformer 모델을 핵심 구조로 하는 언어 모델입니다. GPT는 위의 내용을 기반으로 다음 시나리오에 응답하는 데 더 적합한 Transformer 모델의 디코더 구성요소를 사용합니다.

훈련의 정확성을 높이기 위해 많은 머신러닝 훈련 작업은 레이블이 지정된 데이터세트를 사용하여 완료되지만 실제로 데이터에 레이블을 지정하는 것은 작업량이 많고 인력과 시간도 많이 소모됩니다. 따라서 컴퓨팅 성능이 계속 증가함에 따라 실제로 수동으로 레이블을 지정하지 않은 더 많은 데이터를 교육해야 합니다. 따라서 GPT는 대규모 텍스트 데이터를 사용하여 비지도 학습을 수행하여 모델 훈련을 달성하는 새로운 자연어 훈련 패러다임을 제안합니다. 이것이 GPT가 사전 훈련 + 미세 조정의 훈련 모드를 채택하는 이유입니다. GPT의 모델 구조는 다음과 같으며, 이를 기반으로 다음을 예측하는 것이 학습 목표입니다.

GPT-2의 실제 모델 구조는 크게 변경되지 않았으며 단지 단순한 조정일 뿐입니다. 주된 이유는 GPT-2가 더 많은 모델 매개변수와 더 많은 훈련 데이터를 사용하기 때문입니다. 그 목표는 더 강력한 일반화 능력을 갖춘 언어 모델을 훈련시키는 것입니다. 소위 일반화란 이전에 접하지 못한 문제를 처리하는 능력입니다.

GPT-3

2020년 OpenAI는 "Language Models are Few-Shot Learners"라는 논문에서 GPT-3 모델을 제안했습니다. 이 모델은 두 가지 모델 매개변수와 매우 많은 양의 훈련 데이터를 사용합니다. 주로 LLM의 상황 학습 기능을 제안합니다.

GPT-3은 Zero-shot, One-shot, Few-shot의 세 가지 입력 형식에서 모델의 효과를 탐색합니다. 기존 질문을 통해 가능한 답변을 예측하는 방법을 주로 고려합니다. Zero-shot, One-shot 및 Few-shot은 힌트만 제공하는 것을 의미하며 One-shot은 예를 제공합니다. 샷 여러 예를 제공한다는 뜻입니다. 그러나 답변 내용이 인간의 기대에 부합하는지 여부는 고려하지 않습니다. 이는 이후 InstructGTP의 주요 최적화 방향이기도 합니다.

아래 표를 보면 GPT 훈련의 매개변수 크기와 데이터 크기가 폭발적으로 증가한 것을 볼 수 있습니다. 모델이 GPT-3으로 반복되면 매개변수 수가 1000억 개를 초과했고, 사전 훈련 데이터 용량은 45TB에 달하며, 이는 진정한 슈퍼 LLM 모델이라고 할 수 있습니다. 엄청난 양의 모델 매개변수와 사전 훈련 데이터로 인해 훈련 ​​비용도 증가했습니다. GPT-3의 훈련 비용은 1,200달러에 달합니다.

ChatGPT의 주요 기능

현재 OpenAI는 ChatGPT에 해당 논문을 게시하지 않았지만 실제로 핵심 아이디어는 기본적으로 OpenAI가 2022. 일관되게 InstructGPT의 가장 중요한 최적화는 RLHF(Reinforcement Learning from Human Feedback, Reinforcement Learning based on Human Feedback) 기술의 도입입니다. 원래 모델은 모델이 인간 대화의 과정을 학습하고 인간이 모델의 답변 결과에 주석을 달고 평가하고 순위를 매길 수 있도록 미세 조정되어 융합 모델이 질문에 답변할 때 인간의 의도와 더욱 일치할 수 있습니다.

또한, 본 논문에서 제안하는 InstructGPT 훈련 방법은 데이터를 얻는 방식에 있어서 약간의 차이를 제외하면 사실상 ChatGPT와 기본적으로 동일합니다. 따라서 InstructGPT는 한 쌍의 형제 모델이라고 할 수 있습니다. ChatGPT와 함께하세요. ChatGPT가 어떻게 훈련되는지, 그리고 ChatGPT가 모델의 답변을 인간의 의도나 선호도와 더 일관되게 만드는 문제를 어떻게 해결하는지 자세히 살펴보겠습니다. ​위의 훈련 과정은 다소 복잡해 보일 수 있지만, 아래 그림을 보면 학생들이 ChatGPT 모델의 훈련 방법을 더 쉽게 이해할 수 있을 것입니다. . 공식 웹사이트에 제공된 단계에 따르면 핵심 훈련 아이디어는 피드백 데이터("훈련 보상 모델-")를 수집하는 것입니다. PPO 강화 학습.

ChatGPT 교육 과정은 주로 세 단계로 나뉩니다.

1단계: 지도 학습을 통해 GPT-3.5 초기 모델 미세 조정

실제로는 LLM의 경우 (Large Language Model), 훈련용 샘플 데이터가 많을수록 좋다는 뜻은 아닙니다. 왜 이렇게 말하는 걸까요? ChatGPT와 같은 대규모 언어 사전 훈련 모델은 매우 큰 매개변수와 대규모 데이터로 훈련되기 때문에 이러한 대규모 샘플 데이터는 실제로 인공 지능 전문가에게 투명하고 제어할 수 없습니다. 따라서 샘플 데이터에 인종 차별, 폭력과 같은 일부 잘못된 데이터가 포함되어 있는 경우 사전 훈련된 모델은 이러한 잘못된 콘텐츠 속성을 가질 수 있습니다. 하지만 인공지능 전문가들에게는 인공지능이 어떠한 편견 없이 객관적이고 공정하다는 점을 보장하는 것이 필요하며, ChatGPT는 이런 측면에서 교육을 받습니다.

따라서 ChatGPT는 지도 학습을 통해 모델 교육을 수행합니다. 소위 지도 학습은 "답변이 있는" 데이터 세트에서 학습하는 것을 의미합니다. 이를 위해 OpenAI는 데이터 라벨링 작업을 수행하기 위해 40명의 계약자를 고용했습니다. 먼저 이러한 라벨링 담당자에게 여러 차례의 언어 상호 작용을 위한 인간-컴퓨터 상호 작용을 시뮬레이션하도록 요청했습니다. 이 과정에서 해당하는 정확한 라벨링 데이터가 생성되었습니다. SFT(Supervised Fine-Tuning) 모델을 얻기 위해 GPT-3.5 모델을 미세 조정해 보겠습니다.

2단계: 보상 모델 구축

프롬프트 데이터 배치를 무작위로 추출한 후 첫 번째 단계에서 미세 조정된 모델을 사용하여 다양한 질문에 자동으로 응답한 다음 라벨러가 검토하도록 합니다. 좋은 것에서 나쁜 것 순으로 정렬된 결과 데이터는 보상 모델을 훈련하는 데 사용됩니다. 이 과정에서 정렬된 결과는 계속해서 쌍으로 결합되어 정렬된 훈련 데이터 쌍을 형성합니다. 답변 품질 점수. 이 보상 모델은 본질적으로 실제 인간 의도를 추상화한 것입니다. 이 중요한 단계로 인해 보상 모델은 인간의 의도에 맞는 방향으로 모델을 지속적으로 안내하여 해당 답변 결과를 생성할 수 있습니다.

3단계: PPO(근위 정책 최적화, 근접 정책 최적화) 강화 학습 미세 조정 모델

PPO는 업데이트 단계가 파괴되지 않도록 그라데이션 제약 조건을 사용하는 신뢰 영역 최적화 알고리즘입니다. 학습 과정의 안정성. 이 단계에서 프롬프트 데이터 배치를 계속 추출한 후 2단계에서 구성된 보상 모델을 사용하여 미세 조정된 훈련 모델의 응답을 점수화하여 사전 훈련된 매개변수를 업데이트합니다. 높은 점수의 답변은 보상 모델을 통해 보상되며, 결과적인 정책 변화는 PPO 모델 매개변수를 업데이트할 수 있습니다. 모델이 최종적으로 수렴할 때까지 계속 반복합니다.

ChatGPT의 훈련 프로세스는 실제로 RLHF 기술과 결합된 지도 학습을 적용하는 프로세스임을 알 수 있습니다. ChatGPT는 실제로 RLHF 기술을 사용하여 인간의 기대에 더 부합하는 답변을 생성합니다. .

위의 모델 훈련 과정을 통해 ChatGPT가 강력한 상황 이해 기능을 갖춘 이유는 주로 강력한 기본 모델, 고품질 샘플 데이터 및 강화 학습 기반의 세 가지 핵심 기능에 도움이 된다는 결론을 내렸습니다. 인간의 피드백에 대해

핵심은 훈련을 통해 인간의 판단을 가장 잘 설명하는 보상 함수를 찾은 후, 인지 강화를 위해 지속적으로 훈련하는 RLHF 기술입니다.

ChatGPT가 가져오는 변화

검색 엔진 교체

현재 검색 엔진은 우리가 검색하는 키워드를 기반으로 검색 엔진 데이터베이스의 해당 웹 페이지만 일치시키고 색인을 생성할 수 있습니다. 결과는 Baidu와 같은 검색 엔진이 항상 일부 광고를 제공한다는 것을 보여줍니다. 사용자는 반환된 정보 중에서 가장 원하는 것을 찾아야 합니다. 그러나 ChatGPT는 잘못된 검색 결과를 필터링하는 데 사용자가 많은 시간과 에너지를 절약하는 질문입니다. ChatGPT는 사용자의 실제 의도를 매우 정확하게 파악할 수 있습니다. 그러나 기존 검색 엔진은 여전히 ​​키워드 일치 검색 방법을 사용하고 있으며 사용자가 입력한 검색문의 진정한 의미를 실제로 이해하지 못합니다. 사용자의 입력. 또한, 사용자들이 복잡한 작업을 없앨 수 있도록 창의적인 답변을 제시할 예정이다.

PS: Microsoft의 Bing 검색 엔진이 ChatGPT에 연결되기 시작했습니다.

수동 고객 서비스 대체​

이제 소위 스마트 고객 서비스는 몇 가지 일반적인 질문을 자동 응답으로 미리 설정할 뿐입니다. 소위 지능과는 거리가 멀지만 To에는 있습니다. 어느 정도 고객 서비스 인력에 대한 회사의 투자 비용을 줄일 수 있습니다. 하지만 ChatGPT를 사용하면 사용자의 진정한 의도를 이해할 수 있기 때문에 미리 설정된 질문에 기계적으로 대답하는 대신 사용자가 실제 고객 서비스 문제를 해결하도록 돕고 수동 고객 서비스의 활용을 극대화할 수 있습니다. 비용은 최소한으로 절감됩니다.

콘텐츠 생성 대체

ChatGPT는 질문에 답변할 수 있을 뿐만 아니라 노래 쓰기, 시 쓰기, 이벤트 계획 작성 등 콘텐츠 생성도 수행할 수 있습니다. 따라서 텍스트 콘텐츠 제작에 종사하는 많은 학생들은 로봇이 먼저 육체 노동자를 대체해야 한다고 생각했지만, ChatGPT의 등장이 많은 정신 노동자의 일자리를 직접적으로 빼앗아 갈 것이라고 생각했을 것입니다. .

ChatGPT 제한사항

훈련 데이터 편향​

ChatGPT의 훈련 데이터는 인터넷 세계의 방대한 텍스트 데이터를 기반으로 하고 있습니다. 텍스트 데이터 자체가 부정확하거나 일종의 편견이 있는 경우, 현재 ChatGPT는 구별이 불가능하므로 질문에 답변할 때 이러한 부정확성과 편견이 필연적으로 전달됩니다.

적용 가능한 시나리오는 제한되어 있습니다

현재 ChatGPT는 주로 자연어 질문과 답변 및 작업을 처리할 수 있지만 이미지 인식, 음성 인식 등 다른 분야에서는 반드시 해당 처리가 없습니다. 기능이 있지만 가까운 미래에 VoiceGPT와 ViewGPT가 출시될 것이라고 믿습니다. 모두가 기다려 볼 것입니다.

높은 훈련 비용

ChatGPT는 NPL 분야의 매우 큰 딥 러닝 모델이며 훈련 매개변수와 훈련 데이터가 매우 방대하므로 ChatGPT를 훈련하려면 대용량 데이터를 사용해야 합니다. 센터와 클라우드 컴퓨팅 리소스는 물론, 대규모 교육 데이터를 처리할 수 있는 대용량 컴퓨팅 성능과 저장 공간도 있습니다. 간단히 말해서, ChatGPT 교육 및 사용 비용은 여전히 ​​매우 높습니다.

요약

AI 인공지능은 수년 동안 이야기되어 왔으며, 개발 단계에 있으며, 일부 특정 분야에서 적용 성과를 거두었습니다. 하지만 C-end 사용자의 경우 기본적으로 사용할 수 있는 실제 인공지능 응용 제품은 없습니다. 그러나 이번 ChatGPT의 출시는 획기적인 사건입니다. 왜냐하면 일반 사람들에게 AI 인공 지능은 더 이상 먼 기술 용어가 아니라 손이 닿는 곳에 있는 실제 지능형 응용 도구이기 때문에 일반 사람들이 진정으로 AI의 힘을 느끼게 할 수 있기 때문입니다. . 또한, ChatGPT는 현재는 단지 시작일 뿐이라고 말하고 싶습니다. 그러나 미래에는 인공 지능 자체 학습이 지속적으로 반복되면서 의식을 갖게 될 수도 있습니다. 그 때에는 인류가 전능한 조력자를 마주하고 있는지, 아니면 통제할 수 없는 사악한 용을 마주하고 있는지 불분명할 것입니다.

위 내용은 사람들의 직업의 90%를 대체할 수 있는 ChatGPT는 얼마나 멋진가요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!