AI가 쓴 논문은 20분 만에 쉽게 A를 받았습니다! 학교의 탐지 알고리즘도 이를 사용할 수 없습니다. 학생: GPT-4는 언제 출시되나요?

​제작: 빅데이터 다이제스트

저자: Caleb

요즘 교수님들이 학생들을 바라보는 인상은 점차 전공과 우수한 교과목으로 제한되는 경우가 많습니다.

하지만 그들이 모르는 것은 이 훌륭한 수업 논문이 이 학생들이 아니라 일부 강력한 AI 시스템에 의해 작성되었을 수도 있다는 것입니다.

예를 들어 Reddit의 innovate_rye라는 생화학 1학년 학생에게 교수는 AI에 제출한 후 "생명공학에 관한 다섯 가지 좋은 점과 나쁜 점을 적어라"라고 입력하면 확장된 답변이 포함된 몇 가지 간단한 숙제를 내줍니다. , 시스템은 최종 점수 A로 답변을 제공할 수 있습니다.

이 네티즌은 이러한 숙제를 예전에는 최소 2시간이 걸렸는데 지금은 보통 20분이면 끝낼 수 있다고 말했습니다.

"나는 많은 것을 배우는 것을 좋아하지만 학교에서 할당한 숙제는 내 시간을 너무 많이 차지합니다. 이제 AI를 사용하여 이러한 숙제를 더 효율적으로 완료할 수 있는 것이 나에게는 기술인 것 같습니다

."

이런 상황은 innovate_rye에서만 겪는 것이 아닙니다.

OpenAI가 언어 모델 GPT-3을 위한 최신 애플리케이션 프로그래밍 인터페이스(API)를 발표한 이후 더 많은 학생들이 OpenAI의 Playground 및 유사한 프로그램에 글쓰기 과제를 입력하기 시작했습니다.

현재 결과는 이러한 프롬프트를 통해 AI가 작성한 텍스트가 인간이 작성한 텍스트와 구별할 수 없는 경우가 많다는 것입니다.

AI가 "쓴 것"은 알고리즘으로 감지할 수 없습니다

지난 봄, AeUsako_는 고등학생이었을 때 OpenAI를 사용하여 현대 글로벌 상황에 대한 기사를 "썼다"고 회상했습니다. 높은 점수를 받지 못했고, 인용 출처가 부족하여 점수가 차감되었습니다.

어쨌든 이 "실험"은 한 가지 문제에 직면했습니다. 즉, 학교의 표절 탐지 알고리즘은 AI가 생성한 텍스트에 실질적인 영향을 미치지 않는다는 것입니다.

이와 관련하여 캐나다 혁신 학습 및 기술 연구 의장이자 Royal Roads University의 부교수인 George Veletsianos는 OpenAI API와 같은 시스템에서 생성된 텍스트가 기술적으로 블랙박스 알고리즘에서 생성되기 때문이라고 말했습니다.

"[이 텍스트]는 다른 곳에서 복사한 것이 아니고 기계에 의해 생성된 것이므로 표절 검사 소프트웨어가 이를 감지할 수 없고 보낼 수 없습니다. 이러한 다른 표절 검사 도구가 얼마나 잘 작동하는지, 그리고 그 미래가 어떻게 될지는 알지 못합니다. 발전 가능성은 있지만 이런 식으로 AI 텍스트를 감지할 수는 없을 것 같습니다.”

하지만 innovate_rye처럼 AeUsako_도 OpenAI를 사용하기 시작한 이후 글쓰기에 대한 불안감이 많이 줄어들었다고 말했습니다.

그리고 OpenAI와 같은 회사가 학생들이 이러한 도구를 사용하여 숙제를 작성하는 것을 감지하거나 방지할 수 있는 능력이 있는지 여부에 대해 OpenAI는 이에 대해 언급하지 않았습니다.

작문 교사이자 개인 과외 프로그램 Crush the College Essay의 창립자인 Peter Laffin은 OpenAI와 같은 도구가 지난 10년 동안 기술이 생산한 다른 보상 기술의 상징이라고 말합니다. 영감이 부족한 작가들을 도와주세요.

“문학 교육, 특히 아직 발달 단계에 있는 젊은 작가들의 경우, 교사들은 그들이 무너지지 않고 전문적인 기술을 향상시킬 수 있는 적절한 수준의 난이도를 찾고 있습니다.”

교사들은 일반적으로 걱정하지만 학생들은 그렇지 않습니다

스타 대규모 언어 모델인 GPT-3는 일반 인공 지능(AGI) 회사인 OpenAI에서 제작하고 Microsoft에서 수십억 달러의 지원을 받을 뿐만 아니라 미국 달러에 따라 미국 정부도 규제에 자유를 부여했습니다.

GPT-3은 딥 러닝을 사용하여 인간과 유사한 텍스트를 생성합니다. 초기 텍스트가 제공되는 한 시스템은 후속 텍스트를 생성할 수 있습니다.

신경망에는 1,750억 개의 신경이 포함되어 있으며, 이는 세계에서 가장 많은 매개변수를 가진 신경망 모델입니다.

2021년 11월 18일, OpenAI는 GPT-3 API 액세스 대기자 명단 취소를 발표했습니다. 이는 또한 OpenAI가 GPT-3의 보안을 믿고 있거나 OpenAI가 GPT-3를 완전히 모니터링하여 이 대규모 모델이 더 널리 전파될 수 있음을 보여줍니다.

현재 GPT-3를 포함한 인공지능의 발전에 대해 벨레치아노스는 아마도 인공지능이 생성한 텍스트는 돌아올 수 없는 지점을 지났을 것이라고 지적했고, 학생들만이 이를 받아들이는 것은 아닙니다. 새로운 기술.

“우리는 또한 이 기술이 강의 콘텐츠를 직접 생성할 수 있다는 것을 알 수 있으며, 심지어 이 콘텐츠에 대한 몇 가지 질문도 현재 시스템이 최고라고 말할 수는 없지만 이러한 이점을 활용해야 합니다. 도구는 교육 효율성뿐만 아니라 학생 참여와 효율성도 향상시킵니다.”

Laffin은 또한 효과적인 교육에 대한 재평가의 필요성을 인정했습니다. 그는 학교가 학생들에게 제공하는 작업 유형을 볼 때 사실 재진술과 정보 발견 간의 차이에 초점을 맞춰 평가할 수 있다고 말했습니다. 그러나 그는 또한 OpenAI와 같은 텍스트 생성기가 종이 쓰기를 무의미하게 만들 것이라고 걱정합니다.

“우리는 배움의 즐거움을 잃었습니다. 우리는 더 많은 것을 알 수 있지만 어떻게 거기에 도달했는지 결코 배울 수 없습니다. 우리는 과정이 가장 좋은 부분이라고 계속 강조하지만 아마도 그것이 억눌릴 가능성이 가장 높습니다. 학문적으로는 사람이 공부에 어려움을 겪지 않았다면 그것이 그 사람의 행동에 어떤 영향을 미칠지 모르겠습니다.

그리고 동시에 급우들에게도요. 우리로서는 GPT-4를 애타게 기다리고 있습니다. innovate_rye 등의 경우 100조 개의 기계 학습 매개변수에 대한 교육을 받을 것으로 예상되는 GPT-4는 단순한 텍스트 출력 이상의 잠재력을 가지고 있습니다.

네, 그들은 논문 작성에 인공지능을 사용하는 것을 중단할 계획이 없습니다.

“아직도 합격하기 위해 공부해야 할 숙제를 하고 있고, 하기 싫거나 말이 안 되는 일에만 AI를 사용해요.” innovate_rye가 덧붙였습니다. "지금 AI가 내 숙제를 할 수 있다면 미래는 어떤 모습일까? 이런 질문들이 나를 흥분시킨다."

의외로 AI도 책을 공동 집필했습니다

학교는 여전히 학생들의 교육에 미치는 영향을 걱정하고 있지만 AI의 촉수는 분명히 더 깊은 곳까지 도달했습니다.

예를 들어 책 쓰기.

GPT-3 Techgnosis라는 책은 Chaos Magick Butoh Grimoire 자체가 기계 지원 산문 역할을 하며 공동 저자는 Norn이라는 디지털 개체입니다.

즉, Norn은 이러한 가사를 만드는 데 도움을 주었을 뿐만 아니라 직접 연주하기도 했습니다.

짐작할 수 있듯이 Norn은 GPT-3으로 구동되는 자연어 프로세서입니다. 이는 주로 공용 인터넷의 대규모 훈련 데이터 아카이브를 사용하여 시스템이 종종 실제적인 텍스트를 생성할 수 있도록 해줍니다. 실제 사람이 쓴 글과 구별하기 어렵습니다.

책의 첫 번째 3분의 1, 노른 워킹(Norn Working)입니다. 여기에는 "GPT-3가 신비한 시를 쓰기 시작합니다"와 같은 작성자의 텍스트 프롬프트가 포함되며 Norn이 자유롭게 플레이하도록 하여 다른 프롬프트 없이 시스템이 자체 답변을 조사하기 시작하는 것을 볼 수 있습니다.

이 장의 다른 곳에서 Norn은 Wurds가 개인적으로 올해의 주제를 12번 이상 작성한 기호 및 기호학의 진화에 대한 이론적 개념인 "포스트 디지털 언어"를 만듭니다.

GPT-3와 같은 텍스트 완성 엔진은 종종 이러한 놀랍고 충격적인 반응을 만들어냅니다. 그러나 Wurds에 따르면 그들의 3부작 책은 방해를 주려고 의도된 것이 아닙니다. 오히려 일본의 아방가르드 전통인 부토(Butoh)의 영적 잠재력을 탐구하는 것입니다. 부토(Butoh)는 수련자들이 종종 이상하고 자연스러운 반전으로 끝나는 즉흥 춤입니다. 이 책을 집필하는 동안 저자는 지칠 때까지 부토를 연습한 후 컴퓨터로 돌아가서 노른(Norn)과 소통했습니다. 이는 물리적 공간에 디지털과 물리적 공간이 병치된 것입니다.

일반 인공지능이 인류에게 가하는 실존적 위협이 상대적으로 멀게만 느껴지는 것은 사실이지만, GPT-3 같은 AI는 과연 미래에 균열을 열었고, 어쩌면 우리는 어느 정도 미래를 엿볼 수 있을지도 모릅니다. 가능성.

관련 보도:

https://www.vice.com/en/article/m7g5yq/students-are-using-ai-to-write-their-papers-because-of-course-they-are

https://www.vice.com/en/article/7kbjvb/this-magickal-grimoire-was-co-authored-by-a-disturbingly-realistic-ai

위 내용은 AI가 쓴 논문은 20분 만에 쉽게 A를 받았습니다! 학교의 탐지 알고리즘도 이를 사용할 수 없습니다. 학생: GPT-4는 언제 출시되나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!