AI 모델의 인종 및 성별 편견을 평가하기 위한 메타 오픈 소스 FACET 도구

9월 2일 뉴스, 현재 많은 컴퓨터 비전 모델에서 여성과 유색인종에 대한 체계적 편견 문제를 완화하기 위해 Meta Company는 최근 컴퓨터 비전 시스템에서 인종과 성별을 식별하는 새로운 AI 도구를 출시했습니다.

FACET 도구는 현재 50,000명의 이미지를 포함하여 30,000개의 이미지에 대해 훈련되었으며 특히 성별과 피부색에 대한 인식을 향상시키고 다양한 기능에 대한 컴퓨터 비전 모델을 평가하는 데 사용할 수 있습니다.

FACET 도구는 훈련 후 복잡한 질문에 답할 수 있습니다. 예를 들어 대상을 남성으로 식별한 후 스케이트보드 타는 사람과 밝은 피부와 어두운 피부를 추가로 식별할 수 있습니다.

Meta는 FACET을 사용하여 회사에서 개발한 DINOv2 모델과 SEERv2 모델은 물론 OpenAI의 OpenCLIP 모델을 평가합니다. 전반적으로 OpenCLIP은 성별 측면에서 다른 모델보다 성능이 우수하고, 연령 및 피부색 판단 측면에서는 DINOv가 더 나은 성능을 보입니다.

오픈 소싱 FACET은 연구자가 유사한 벤치마킹을 수행하여 자체 모델의 편향을 이해하고 형평성 문제를 해결하기 위해 취한 완화 조치의 영향을 모니터링하는 데 도움이 됩니다. IT하우스는 여기에 메타 보도자료 주소를 첨부해 관심 있는 이용자들이 자세히 읽어보실 수 있습니다.

【출처 : IT홈】

위 내용은 AI 모델의 인종 및 성별 편견을 평가하기 위한 메타 오픈 소스 FACET 도구의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!