OpenAI: 우리는 ChatGPT 편견과 나쁜 행동을 줄이기 위해 노력하고 있습니다

2월 17일 인기 챗봇인 ChatGPT를 개발한 AI 연구 회사인 OpenAI는 시스템의 편견과 나쁜 행동을 줄이기 위해 열심히 노력하고 있으며 사용자가 챗봇의 일부 기능을 사용자 정의할 수 있도록 허용할 것이라고 밝혔습니다. 행동. 이전에는 ChatGPT와 사용자 간의 부적절한 상호작용 및 잘못된 결과에 대한 수많은 보고가 있었습니다.

OpenAI는 회사 웹사이트에 게시된 블로그 게시물에서 다음과 같이 인정했습니다. “ChatGPT 출시 이후 사용자는 편견이 있거나 공격적이거나 불쾌하다고 생각되는 여러 결과를 공유해 왔으며 많은 경우 이러한 우려를 지지했습니다. "

회사는 계속해서 다음과 같이 말했습니다. "우리는 현재 ChatGPT가 다양한 입력에 반응하는 명백하고 미묘한 방식을 줄이기 위해 연구 및 엔지니어링에 투자하고 있습니다. ”

OpenAI의 조치는 ChatGPT 자체가 편향되어 있다는 우려, 부정확한 결과 및 위법 행위에 대한 보고, Microsoft의 광범위한 비판에 대한 대응입니다. 그리고 Google이 현재 테스트 중인 새로운 AI 검색 제품을 소개합니다. 수요일에 게시된 블로그 게시물에서 Microsoft는 OpenAI 기술을 기반으로 한 새로운 Bing 채팅 도구의 한계를 자세히 설명했으며 Google은 직원들에게 Bard 시스템의 답변을 수동으로 개선하는 데 더 많은 시간을 투자할 것을 요청했습니다.

OpenAI는 또한 회사가 각 사용자의 취향, 스타일 및 보기에 맞게 제한된 사용자 정의를 허용하는 것을 포함하여 ChatGPT의 개발을 늘리고 있다고 말했습니다.

OpenAI는 블로그 게시물에서 다음과 같이 썼습니다. “우리는 AI가 모든 사람에게 유용한 도구여야 하며, 따라서 모든 사람이 사회가 지시하는 한계 내에서 AI를 맞춤 설정할 수 있어야 한다고 믿습니다. 이는 다른 사람(우리 자신을 포함하여)을 허용한다는 의미입니다. 극단적으로 맞춤화하는 데 있어 올바른 균형을 맞추는 것은 우리 기술을 악의적으로 사용하거나 사람들의 기존 신념을 맹목적으로 증폭시키는 '아첨하는 AI'의 생성으로 이어질 수 있습니다. 따라서 시스템 동작에는 항상 제약이 필요합니다.

위 내용은 OpenAI: 우리는 ChatGPT 편견과 나쁜 행동을 줄이기 위해 노력하고 있습니다의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!