내부 조사 결과: OpenAI는 AI가 어떻게 결정을 내리는지 모릅니다.

Reference News Network가 5월 14일에 보도한 내용 5월 13일 스페인 "Vanguard" 웹사이트에 보도된 내용에 따르면, ChatGPT를 지원하는 회사인 OpenAI는 최근 내부 조사에서 자사의 언어 모델이 어떻게 결정을 내리는지 알아보려고 시도한 결과 One이라는 결론을 내렸습니다. 결론: "효과가 있습니다. 하지만 어떻게 작동하는지에 대해서는 알려진 바가 많지 않습니다."

보고서에 따르면 최근 발표된 OpenAI 연구원 보고서에서는 “언어 모델은 이제 더욱 강력해지고 일반화되고 있지만 우리는 그것이 어떻게 작동하는지 이해하지 못합니다.”라고 밝혔습니다. 이 성명은 대중이 홍보하는 일부 인공지능의 안전성 부족에 대해 경각심을 제기한 사람들의 견해를 뒷받침합니다.

그러나 OpenAI도 "최근 연구에서는 소수의 회로와 제한된 행동을 이해하는 데 진전이 있었다"고 밝혔지만, "언어 모델을 완전히 이해하려면" "수백만 개의 뉴런을 분석"해야 한다고 회사는 믿고 있습니다. 엄청난 작업량에 직면한 회사는 언어 모델의 모든 뉴런을 자동으로 분석하는 기술을 사용하기 시작했습니다.

보고서에 따르면, 발표된 연구 결과에 따르면 회사는 아직 이를 달성하지 못했습니다. 회사는 아직 뉴런이 어떻게 작동하는지 발견하지 못했지만 미래에는 그렇게 되기를 희망하고 있습니다. "우리는 해석 가능성을 자동화하는 접근 방식을 통해 배포 전에 모델의 보안을 포괄적으로 검토할 수 있기를 바랍니다. GPT-4가 널리 배포되었지만 현재는 이 작업을 수행할 수 없습니다." 그들은 이 작업을 완료하지 못했습니다.

위 내용은 내부 조사 결과: OpenAI는 AI가 어떻게 결정을 내리는지 모릅니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!