Microsoft는 다음과 같은 부정적인 온라인 콘텐츠를 자동으로 감지할 수 있는 Azure AI Content Safety를 출시합니다.

IT하우스 뉴스 마이크로소프트는 커뮤니티 환경 정보 속 부정적인 콘텐츠를 줄이기 위해 인공지능(AI)을 활용한 콘텐츠 리뷰 서비스 제품인 Azure AI 콘텐츠 보안 서비스(Azure AI Content Security Service)를 5월 24일 출시했다.

본 제품은 사진이나 텍스트에서 편견, 증오, 폭력 등과 관련된 부정적인 콘텐츠를 감지할 수 있는 일련의 훈련된 AI 모델을 제공하며, 태그된 콘텐츠로 8개 언어로 된 그림이나 텍스트를 이해하고 감지할 수 있습니다. 심각도 점수가 할당됩니다. 어떤 콘텐츠에 조치가 필요한지 검토자에게 알려줍니다.

▲ 사진 출처 Azure 공식 홈페이지

Azure AI 콘텐츠 보안 서비스는 Azure OpenAI 서비스에 내장되어 있으며 타사 개발자에게 공개되어 영어, 스페인어, 독일어, 프랑스어, 중국어, 일본어, 포르투갈어, 이탈리아어 등 8개 언어를 지원합니다. Azure OpenAI 서비스는 기업에 AI Lab OpenAI의 기술과 추가된 거버넌스 기능에 대한 액세스를 제공하는 Microsoft에서 관리하는 기업 중심 서비스 제품입니다. 다른 유사한 제품과 비교하여 Azure AI 콘텐츠 보안 서비스는 텍스트 콘텐츠와 문화적 배경을 더 잘 이해할 수 있으며 데이터와 콘텐츠를 처리할 때 더 정확합니다.

Microsoft는 다른 유사한 제품과 비교할 때 이 제품이 공정성과 맥락 이해 측면에서 크게 향상되었지만 이 제품은 여전히 ​​데이터와 콘텐츠를 표시하기 위해 인간 검토자에게 의존해야 한다고 말했습니다. 이는 결국 그 공정성이 인간에게 달려 있다는 뜻이다. 데이터를 처리하고 콘텐츠를 검토할 때에도 인간 검토자는 개인적인 편견을 가질 수 있으므로 중립성과 신중함이 완전히 달성될 수 없습니다.

머신러닝의 시각적 인식과 관련된 문제를 다룰 때, 2015년 구글의 AI 이미지 인식 소프트웨어가 유색인종(흑인)을 오랑우탄으로 분류해 큰 논란을 불러일으켰습니다. 8년이 지난 지금, 오늘날의 거대 기술기업들은 여전히 ​​'과거의 실수를 반복하는' '정치적 올바름'을 걱정하고 있다. 이달 초 오픈AI(OpenAI) CEO 샘 알트만(Sam Altman)은 미국 상원 소위원회 청문회에서 정부에 인공지능(AI)을 규제할 것을 촉구했다. 그는 이 기술의 오류 가능성과 그로 인한 심각한 결과를 강조했으며, 이는 전 세계적으로 막대한 피해를 입힐 수 있습니다. IT House는 아무리 발전된 인공지능 기술이라도 악의적으로 또는 부정확하게 사용될 수 있으므로 인공지능을 규제하고 규제하는 것이 중요하다는 점을 상기시켜 줍니다.

위 내용은 Microsoft는 다음과 같은 부정적인 온라인 콘텐츠를 자동으로 감지할 수 있는 Azure AI Content Safety를 출시합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!