Microsoft, Azure AI Content Safety라는 AI 콘텐츠 조정 도구 출시

[CNMO 뉴스] 마이크로소프트는 수개월 간의 테스트 끝에 최근 AI 콘텐츠 검토 도구인 Azure AI 콘텐츠 세이프티(Azure AI Content Safety)를 공식 출시했습니다. 이 제품은 올해 5월 테스트를 시작한 콘텐츠 조정 도구로, 사진이나 텍스트에서 편견, 증오, 폭력 등과 관련된 부정적인 콘텐츠를 탐지할 수 있는 일련의 훈련된 AI 모델이 포함되어 있는 것으로 알려졌습니다. 8개 언어로 된 이미지나 텍스트가 포함되어 있습니다.

또한 조정 도구는 플래그가 지정된 콘텐츠에 심각도 점수를 할당하고 조치가 필요한 콘텐츠에 대해 검토자에게 안내합니다. 처음에 이 감사 도구는 Azure OpenAI 서비스에 통합되었지만 이제는 독립 실행형 시스템으로 출시됩니다

Microsoft 공식 블로그 게시물에 언급됨: "이는 사용자가 오픈 소스 모델 및 기타 회사 모델에서 생성된 인공 지능 콘텐츠에 적용할 수 있으며 일부 사용자 생성 콘텐츠를 호출하여 유용성을 더욱 높일 수도 있음을 의미합니다."

Microsoft는 제품의 데이터 및 콘텐츠 처리 방식이 개선되어 상황을 더 공정하게 이해할 수 있지만 여전히 인간 검토자에게 데이터 및 콘텐츠 플래그를 지정해야 한다고 말했습니다. 이는 또한 궁극적인 정의가 인간에게 달려 있음을 의미합니다. 그러나 인간 검토자는 개인적인 편견으로 인해 데이터와 콘텐츠를 다룰 때 완전히 중립적이고 신중하지 않을 수 있습니다

위 내용은 Microsoft, Azure AI Content Safety라는 AI 콘텐츠 조정 도구 출시의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!