AI가 생성한 과학 텍스트를 식별할 수 있는 새로운 탐지 도구가 출시되어 정확도가 99% 이상이라고 합니다.

6월 8일자 IT하우스 뉴스: 올해 초 미국 테네시 보건과학센터 방사선 전문의인 솜 비스와스(Som Biswas)가 인공지능 챗봇인 ChatGPT의 도움을 받아 Radiology 저널에 ". ChatGPT와 의료 글쓰기의 미래." 그는 기술의 유용성에 대한 인식을 높이기 위한 노력의 일환으로 ChatGPT 생성 텍스트의 사용 및 수정을 표현했습니다. 그에 따르면 그는 향후 4개월 동안 ChatGPT를 사용하여 16개의 저널 기사를 출판했습니다. 일부 저널 편집자는 ChatGPT가 작성한 수많은 기사를 받았다고 보고합니다.

이러한 상황에 대처하기 위해 캔자스 대학의 화학과 교수인 Heather Desaire와 그녀의 팀은 과학 텍스트가 인간에 의해 생성되었는지 아니면 ChatGPT에 의해 생성되었는지 효율적이고 정확하게 구별할 수 있는 새로운 AI 탐지 도구를 개발했습니다. 물리학저널 'Cell Reports'에 게재됐다.

Desaire 교수는 그녀와 그녀의 팀이 현재 연구를 검토하고 평가하는 리뷰 기사인 Science 저널에 실린 64개의 "Perspectives" 기사를 먼저 분석했다고 말했습니다. 다음으로 동일한 연구 주제에 대해 ChatGPT에서 생성된 128개의 기사를 분석했습니다. 그들은 두 가지를 비교한 결과 과학 문헌의 저자가 누구인지 결정하는 데 사용할 수 있는 20가지 특징을 발견했습니다.

그들은 단락 복잡성, 문장 길이, 구두점 및 어휘 사용 측면에서 인간 과학자와 ChatGPT 사이에 상당한 차이가 있음을 발견했습니다. 대괄호, 대시, 물음표, 세미콜론, 대문자와 같은 기호에 비해 ChatGPT는 덜 자주 사용하는 반면 인간 과학자들은 더 많이 사용합니다. 인간 과학자들은 “그러나”, “하지만”, “하지만” 등과 같은 모호한 언어를 사용할 가능성이 더 높습니다. ChatGPT는 상대적으로 문장 길이의 분포가 균일한 경향이 있는 반면, 인간 과학자들은 글을 쓸 때 짧은 문장과 긴 문장을 모두 사용할 수 있습니다.

이 20가지 기능을 기반으로 기성 기계 학습 알고리즘 XGBoost를 사용하여 AI 탐지 도구를 훈련시켰습니다. 180개 기사에 대해 AI 탐지 도구의 성능을 테스트한 결과 과학 기사 여부를 판단하는 데 매우 좋은 것으로 나타났습니다. 기사는 인간이나 ChatGPT에 의해 작성되었습니다. Desaire 교수는 "이 방법은 99% 이상의 정확도를 가지고 있습니다."라고 말하면서 특별히 과학적 텍스트보다는 광범위한 텍스트 유형에 대해 훈련된 기존 도구보다 훨씬 낫다고 덧붙였습니다.

Desaire 교수는 이 AI 감지 도구가 저널 편집자가 ChatGPT를 사용하여 작성된 수많은 기사를 처리하는 데 도움이 되어 어떤 기사가 리뷰할 가치가 있는지 우선순위를 정할 수 있다고 말했습니다. 그녀는 이 도구가 적절한 언어로 훈련된다면 학생들의 표절 탐지와 같은 다양한 영역에 적용될 수 있다고 덧붙였습니다. 유용한 기능을 식별한 후에는 원하는 도메인에 맞게 조정할 수 있습니다. ”

IT House는 모든 사람이 이 AI 탐지 도구가 유용하다고 생각하는 것은 아니라는 점에 주목했습니다. 남호주 대학교 변화 및 복잡성 학습 센터(C3L)의 Vitomir Kovanović 박사는 Desaire 교수와 그녀의 팀이 수행한 비교는 100% AI 생성 텍스트와 100% 인간 생성 텍스트만 비교했기 때문에 비현실적이라고 말했습니다. 인간과 AI의 협업을 고려합니다. 그는 과학자들이 ChatGPT를 사용할 때 과학자가 AI 생성 텍스트를 편집하는 등 어느 정도 인간-기계 협력이 이루어지는 경우가 많다고 말했습니다. 다시 쓴 문장: ChatGPT는 때때로 오류를 일으키고 심지어 잘못된 참조를 생성할 수도 있기 때문에 이는 필요합니다. 그러나 연구자들은 두 가지 극단적인 경우만 비교했기 때문에 성공률이 향상되었습니다.

애들레이드 대학교 기계 학습 연구소의 Lingqiao Liu 박사는 현실 세계에서는 이러한 AI 탐지 도구의 정확도가 낮아져 더 많은 오분류가 발생할 수 있다고 믿습니다. AI 생성 이미지를 감지하는 알고리즘 개발 전문가인 Liu 박사는 "방법론적으로는 괜찮지만 사용에는 특정 위험이 있습니다."라고 말했습니다.

한편, Liu 박사는 AI가 작성한 100% 텍스트가 감지를 통과하도록 사람들이 ChatGPT에 특정 방식으로 쓰도록 지시하는 것도 가능하다고 지적했습니다. 실제로 일부 평론가들은 기계를 더욱 인간과 비슷하게 만들려는 사람들과 이 기술을 사악한 목적으로 사용하는 사람들을 폭로하려는 사람들 사이의 경쟁을 가리키는 "군비 경쟁"에 대해서도 언급했습니다.

Kovanović 박사는 이 기술의 추진력과 잠재적인 긍정적 영향 때문에 경쟁이 무의미하다고 믿습니다. 그는 AI 탐지가 아직 임계점에 도달하지 않았으므로 AI를 더 잘 활용하는 데 에너지를 투자해야 한다고 제안했습니다. 그는 대학생들이 글쓰기에 AI를 사용하는지 여부를 측정하기 위해 표절 방지 소프트웨어를 사용하는 것에 반대하며 학생들에게 불필요한 압력을 가할 것이라고 주장했습니다.

위 내용은 AI가 생성한 과학 텍스트를 식별할 수 있는 새로운 탐지 도구가 출시되어 정확도가 99% 이상이라고 합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!