인공지능 필기 감지 도구는 신뢰성이 낮고, 미국 헌법은 로봇이 작성한 것으로 추정된다.

7월 16일 뉴스에 따르면, 최근 일부 네티즌들은 미국의 가장 중요한 법률 문서인 미국 헌법을 인공지능 글쓰기를 탐지하기 위해 특별히 설계된 일부 도구에 입력하면 놀라운 결과를 얻을 수 있다는 사실을 발견했습니다. 미국 헌법은 거의 인공지능이 쓴 게 틀림없어요. 제임스 매디슨이 시간 여행자가 아닌 이상 이것은 분명히 불가능합니다. 그렇다면 이러한 AI 탐지 도구는 왜 그러한 오류를 범하는 것일까요? 외신 아르테크니카(Arstechnica)는 여러 전문가와 AI 탐지 도구 GPTZero 개발자를 인터뷰해 그 이유를 밝혔다.

교육 분야에서 인공지능 글쓰기는 많은 논란을 불러일으켰습니다. 교사들은 학생들의 과목 숙달도를 평가하기 위한 도구로 에세이를 사용하는 전통적인 교육 방법을 오랫동안 사용해 왔습니다. 지금까지의 증거에 따르면 AI 도구를 사용하여 AI가 작성한 글을 감지하는 많은 교사는 신뢰할 수 없는 것으로 나타났습니다. 오탐이 존재하기 때문에 GPTZero, ZeroGPT, OpenAI의 텍스트 분류기와 같은 AI 감지 도구는 신뢰할 수 없으며 기사가 LLM(대형 언어 모델)에 의해 생성되었는지 여부를 확인하는 데 사용할 수 없습니다.

미국 헌법의 일부를 GPTZero에 입력하면 GPTZero는 해당 텍스트가 "전적으로 AI에 의해 작성되었을 가능성이 높습니다"라고 말합니다. 지난 6개월 동안 유사한 결과를 담은 스크린샷이 다른 AI 탐지 도구를 통해 소셜 미디어에 널리 퍼졌습니다. 사실 성경에서 뭔가를 입력해도 똑같은 일이 일어납니다. 이러한 도구가 왜 그렇게 명백한 실수를 하는지 이해하려면 먼저 도구의 작동 방식을 이해해야 합니다.

IT House에 따르면 다양한 인공 지능 쓰기 감지기는 약간 다른 감지 방법을 사용하지만 기본 원리는 유사합니다. 인공 지능 모델을 통해 대량의 텍스트(수백만 개의 쓰기 예제 포함)와 일련의 가정을 기반으로 합니다. 글쓰기가 인간에 의해 생성되었을 가능성이 더 높은지 아니면 AI에 의해 생성되었을 가능성이 더 높은지를 결정하는 데 사용되는 규칙에 대해 교육을 받았습니다.

예를 들어, GPTZero의 중심에는 "영어 산문에 중점을 둔 인간 작문 및 AI 생성 텍스트의 크고 다양한 코퍼스"에 대해 훈련된 신경망이 있습니다. 다음으로, 시스템은 "곤란함" 및 "긴급함"과 같은 속성을 사용하여 텍스트를 평가하고 분류합니다.

머신 러닝에서 당혹감은 텍스트와 인공 지능 모델이 학습 중에 학습한 내용 간의 편차를 측정한 것입니다. 당혹감을 측정하는 이면의 아이디어는 AI 모델이 글을 작성할 때 훈련 데이터에서 가장 친숙한 콘텐츠를 자연스럽게 선택한다는 것입니다. 출력이 훈련 데이터에 가까울수록 복잡성은 낮아집니다. 인간은 더 혼란스러운 작가입니다, 특히 법률이나 특정 유형의 학문적 글쓰기에서 사용되는 형식적인 스타일을 모방할 때 인간은 낮은 혼란으로 글을 쓸 수 있습니다. 그리고 우리가 사용하는 문구 중 상당수는 놀라울 정도로 일반적입니다.

예를 들어, 이 문장에서 다음 단어를 추측해 봅시다: "I want a cup of _____". ” 대부분의 사람들은 “물”, “커피” 또는 “차”로 빈칸을 채울 것입니다. 많은 양의 영어 텍스트에 대해 훈련된 언어 모델은 동일한 작업을 수행할 것입니다.

GPTZero가 측정하는 또 다른 텍스트 속성은 특정 단어나 문구가 빠르게 연속해서 나타나는 현상을 의미하는 긴급 상황입니다. 텍스트 전반에 걸쳐 문장 길이와 구조의 가변성을 평가합니다. 인간 작가는 종종 동적 쓰기 스타일을 보여서 문장 길이와 구조가 가변적인 텍스트를 생성하는 반면, AI 생성 텍스트는 더 일관적이고 균일한 경향이 있습니다. AI 생성 콘텐츠를 감지하기 위한 측정항목 Perplexity와 마찬가지로 인간 작가가 고도로 구조화되고 일관된 스타일로 글을 작성하여 더 높은 창발 점수를 얻을 수 있는 예외가 있습니다. 실제로 AI 언어 모델이 향상됨에 따라 글쓰기가 점점 더 인간의 글쓰기와 비슷해 보인다는 연구 결과가 있습니다

.

위 내용은 인공지능 필기 감지 도구는 신뢰성이 낮고, 미국 헌법은 로봇이 작성한 것으로 추정된다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!