편견과 불평등을 거부하세요! 마이크로소프트, 논란의 여지가 있는 안면 인식 서비스 제공 중단

마이크로소프트는 동영상과 이미지를 기반으로 감정을 인식하는 서비스를 포함해 일부 인공 지능 기반 얼굴 인식 도구에 대한 액세스를 단계적으로 중단할 것이라고 밝혔습니다.

Microsoft는 며칠 전 이 결정을 발표하면서 공정하고 신뢰할 수 있는 인공 지능에 대한 Microsoft의 목표를 설명하는 27페이지 분량의 "책임 있는 인공 지능 표준"도 발표했습니다. 이러한 표준을 충족하기 위해 Microsoft는 AzureFace API, Computer Vision 및 Video Indexer 서비스에서 제공하는 도구를 포함하여 일부 얼굴 인식 도구에 대한 액세스를 제한했습니다.

Microsoft에서는 신규 사용자는 이러한 기능을 사용할 수 없으며 기존 고객은 올해 말까지 해당 기능의 사용을 중단해야 한다고 밝혔습니다.

얼굴 인식 기술은 민권 및 개인 정보 보호 단체의 주요 관심사가 되었습니다. 이전 연구에 따르면 얼굴 인식 기술은 완벽하지 않으며 종종 여성 대상과 피부색이 어두운 사람을 불균형적으로 높은 비율로 잘못 식별하는 것으로 나타났습니다. 이는 AI를 사용하여 범죄 용의자 및 기타 감시 상황을 식별할 때 심각한 잠재적인 문제를 초래할 수 있습니다.

감정을 감지하기 위해 인공지능 도구를 사용하는 것은 더욱 논란의 여지가 있습니다. 올해 초 Zoom Video Communications Inc는 "감정 인공 지능" 기능 추가를 고려하고 있다고 발표했으며, 개인 정보 보호 단체인 Fight for the Future는 기술이 오용될 수 있다는 우려 때문에 Zoom에 그렇게 하지 말 것을 촉구하는 캠페인을 시작했습니다.

얼굴 인식을 둘러싼 논란은 Amazon Web Services Inc.와 Facebook의 모회사인 Meta Platforms Inc.가 모두 이러한 도구의 사용을 축소하는 등 기술 회사로부터 주목을 받았습니다.

Microsoft의 최고 인공 지능 리더인 Natasha Crampton은 블로그 게시물에서 인공 지능 시스템이 신뢰할 수 있으려면 인공 지능 시스템이 해결하려는 문제에 대한 적절한 솔루션이어야 한다는 점을 Microsoft가 인식하고 있다고 말했습니다. 크램튼은 얼굴 인식이 부적절한 솔루션으로 간주됐다며 마이크로소프트는 "성별, 나이, 미소, 수염, 머리카락, 화장 등 감정 상태와 정체성 속성"을 추론하는 애저 서비스를 중단할 것이라고 말했다.

그녀는 또한 “AI 시스템은 이러한 시스템과 관련하여 가장 널리 알려진 피해 중 하나인 사회적 편견과 불평등을 악화시킬 가능성이 있습니다. 우리 법률은 아직 AI의 고유한 위험이나 사회적 요구를 따라잡지 못했습니다. AI에 대한 정부 조치가 확대되고 있다는 조짐이 보이지만 우리는 행동해야 할 책임도 있다는 것을 인식하고 있습니다."

분석가들은 Microsoft의 결정이 좋은 것인지에 대해 의견이 분분합니다. Pund-IT의 Charles King은 기자들에게 얼굴 인식 기술에 대한 논란 외에도 인공 지능 분류 및 프로파일링 도구의 결과가 만족스럽지 못한 경우가 많으며 제작자가 주장한 결과를 거의 달성하지 못한다고 말했습니다. King은 "더 나은 삶을 추구하는 난민과 유색인종은 많은 곳에서 공격을 받고 있으며 프로파일링 도구가 남용될 가능성이 매우 높습니다. 따라서 저는 Microsoft가 이 도구의 사용을 제한한다고 믿습니다."라고 King은 말했습니다. Enderle Group의 Rob Enderle은 Microsoft가 초기의 많은 실수로부터 많은 발전을 이룬 얼굴 인식에서 물러나는 것이 실망스럽다고 말했습니다. 그는 안면 인식을 둘러싼 부정적인 평판으로 인해 일부 주요 기업이 이 분야에서 멀어지고 있다고 말했습니다.

Enderle은 "AI 기반 얼굴 인식 기술은 범죄자, 테러리스트, 스파이를 잡기에는 너무 가치가 있기 때문에 정부 기관은 이 기술 사용을 중단하지 않을 것입니다. 그러나 Microsoft의 후퇴는 마침내 전문 방산업체나 외국 업체의 도구가 이는 지니가 이미 출시한 것과 같은 종류의 제어 기능이 부족하고 덜 효과적일 가능성이 높으며, 얼굴 인식 기술을 더 죽이면 사회 전체가 이를 활용할 수 없게 될 뿐입니다.

마이크로소프트는 책임 있는 인공지능 표준이 얼굴 인식에만 국한되지 않는다고 말했다. Microsoft는 또한 전사 도구를 강화하는 데 사용할 수 있는 음성-텍스트 서비스인 Azure AI Custom Neural Speech에도 이러한 표준을 적용할 예정입니다. 마이크로소프트는 2020년 3월 연구에서 아프리카계 미국인과 흑인 커뮤니티가 소프트웨어를 사용할 때 오류율이 더 높은 것으로 나타났으며, 이를 고려하여 마이크로소프트는 소프트웨어 개선 조치를 취했다고 설명했습니다.

위 내용은 편견과 불평등을 거부하세요! 마이크로소프트, 논란의 여지가 있는 안면 인식 서비스 제공 중단의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!