OpenAI, ChatGPT 인공지능 텍스트 생성 감지 도구 출시

ChatGPT

ChatGPT는 OpenAI가 2022년 11월 출시한 대화형 자연어 대화 모델입니다. OpenAI는 InstructGPT에서 사용하는 것과 동일한 방법인 RLHF(Reinforcement Learning from Human Feedback)를 사용하여 ChatGPT를 훈련하지만 데이터 수집 설정에는 분명한 차이가 있습니다. 초기 모델을 훈련할 때 감독 튜닝(매개변수)을 사용하십시오. 인간 AI 트레이너가 제공하는 세션입니다. 트레이너는 트레이너가 응답을 더 잘 완료하는 데 도움이 되는 모델 제안에 액세스할 수 있습니다. 새로 생성된 대화형 데이터세트는 InstructGPT 데이터세트와 혼합되어 대화형 형식을 형성합니다.

ChatGPT는 출시 후 업계에 충격을 주었고 이후 학생을 포함한 모든 당사자로부터 널리 시험되었습니다. 일부 학생들은 ChatGPT를 사용하여 논문, 과제 및 프로그램을 작성하는데, 교사는 논문, 과제 및 프로그램을 학생 스스로 완료했는지 확인하기 어렵습니다. 또한 ChatGPT에 서명된 미출판 논문도 많이 있습니다.

이 문제에 대응하여 전 세계 학교에서는 플랫폼을 금지하는 등의 조치를 취했습니다. Business Insider에 따르면 ChatGPT는 뉴욕, 시애틀, 로스앤젤레스 등의 중고등학교에서 금지되었으며 프랑스와 인도의 대학 컴퓨터에서도 플랫폼이 금지되었습니다.

ChatGPT 감지 도구

1월 31일 OpenAI는 입력 콘텐츠가 ChatGPT와 같은 인공 지능 도구에 의해 생성되었는지 감지하도록 설계된 인공 지능 텍스트 분류기의 출시를 발표했습니다.

OpenAI는 분류기가 완전히 신뢰할 수 없다고 말합니다. 영어 텍스트로 테스트했을 때 분류기는 인공지능이 생성한 텍스트의 26%를 정확하게 식별했으며, 인간이 작성한 콘텐츠의 약 9%는 인공지능이 생성한 것으로 잘못 분류되었습니다. 입력 텍스트 길이가 길어질수록 분류기의 성능이 향상됩니다. 이전의 다른 분류기와 비교하여 이 분류기의 정확도는 다른 탐지 분류기보다 높습니다.

Classifier 평가판 주소: http://platform.openai.com/ai-text-classifier

OpenAI는 결과가 완전히 신뢰할 수 없기 때문에 의사 결정에 이 도구를 사용하는 것은 권장되지 않지만 다른 탐지 도구 및 방법에 대한 보충 자료입니다.

ChatGPT 평가판 주소: https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-writer-text

이 글은 번역: https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-Detect-ai-write-text/

위 내용은 OpenAI, ChatGPT 인공지능 텍스트 생성 감지 도구 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!