AI 구현의 윤리적 배포를 보장하는 방법은 무엇입니까?

자동화 및 기계 기술(예: 인공 지능 및 기계 학습)의 급격한 성장은 의심할 여지 없이 조직에 새로운 규모와 서비스 수준을 가져왔습니다.

우리 모두가 AI에서 기대할 수 있는 이점 중 하나는 인간 중심의 편견을 제거하고 소수 집단에 대한 차별을 개선할 수 있는 기회입니다. 그러나 잘 관리되지 않으면 AI는 알고리즘에 편견을 심어 차별을 더욱 강화할 수 있습니다.

오늘날 기계는 모기지 자격 여부를 결정하거나 사기 방지를 위해 법 집행 기관이나 보험 회사의 감시를 받는 경우가 많습니다. 그들의 영향력은 고임금 직업에 대한 구인 광고를 포함하여 온라인에서 볼 광고를 결정하는 데까지 확장됩니다.

자동화 시스템의 AI가 잘 문서화되거나 이해되지 않은 조직이 많이 있습니다. 이제 자동화된 의사결정이 그림자에서 벗어나 책임을 져야 할 때입니다.

자동화된 결정이 사람들의 삶에 직간접적으로 영향을 미치고 기계가 해로운 방식으로 차별할 수 있는 경우, 조직은 AI가 가능한 한 윤리적으로 구현되도록 일어나서 주의를 기울이고 조치를 취해야 합니다.

1단계

기업과 정부 기관 모두 자신이 배포하는 모든 기계 기술로부터 최고 수준의 보호를 얻기 위해 노력해야 합니다. 자동화 프로젝트를 시작할 때 조직은 법적, 개인 정보 보호 및 윤리적 영향 평가를 수행하여 위험이 완전히 이해되고 만족스럽게 완화될 수 있는지 확인해야 합니다. 이는 또한 가치를 제공하는 동시에 허용 가능한 수준의 위험을 설정하기 위해 가장 적절한 솔루션이 선택되도록 보장합니다.

이러한 평가에 대한 승인은 배포 방법, 자동화 수준 및 상환 기회를 포함하여 프로젝트의 문제가 있는 측면에 대해 거부권을 가진 다분야 객관적 검토 팀에서 수행해야 합니다. 배포는 데이터 및 분석에서 모범 사례 윤리를 구현하기 위해 데이터/기술 팀과 비즈니스 리더십 팀 간의 협업 프로세스여야 합니다.

배포

기계 기술의 설계 및 구현에 대한 모범 사례에 대한 몇 가지 강력한 권장 사항이 옴부즈맨 보고서에 요약되어 있습니다. 그럼에도 불구하고 우리는 모든 조직이 최소한 다음 모범 사례를 고려해야 할 의무가 있다고 믿습니다.

• 공정성 투명성 비악의 개인정보 보호 자율성과 책임에 대한 존중 기계 기술을 구현하는 모든 조직은 윤리적 고려 사항을 충족해야 합니다.
• 모델이나 시스템의 결과를 기반으로 모든 결정을 설명하는 메커니즘이 있습니다.
• 유해한 결과를 감지하고 완화하는 프로세스가 있습니다.
• 사람들은 참여에 대한 사전 동의를 제공할 수 있습니다. 프로세스
• 부당하다고 간주되는 결과에 이의를 제기할 수 있는 메커니즘을 마련하세요.

모든 기계 기술의 개발 및 배포는 샘플 모집단 전체에서 일관된 성능을 보장하기 위해 과거 데이터를 기반으로 한 정확성에 대한 윤리적 검토부터 시작하여 반복적이어야 합니다. 일부 그룹의 성과가 현저히 낮은 경우 모든 그룹을 적절하게 대표할 수 있도록 더 많은 데이터를 찾아야 합니다.

유해한 결과의 위험이 식별되면 인간의 감독을 보장하는 동시에 모델이나 시스템의 성능에 대한 확신을 얻을 수 있도록 인간 참여형 솔루션부터 시작하여 배포는 똑같이 반복적이고 신중해야 합니다.

인간의 의사결정 과정이 완벽하다는 말은 아닙니다. 이는 단순히 배포 전에 출력을 이해하고 조사할 수 있는 기회를 제공합니다. 이 프로세스는 인간의 편견이 프로세스에 다시 도입될 가능성을 줄이기 위해 가장 신뢰할 수 있는 운영자와 함께 수행되어야 합니다. 또한 프로세스에 참여하는 모든 사람은 무의식적인 편견 교육을 받아야 합니다.

생산이 시작되면 모든 기계 기술의 지속적인 정확성과 성능을 지속적으로 측정하고 모니터링해야 합니다. 기존 KPI와 함께 이 성과는 조직 전체에서 보고 및 가시화되어야 합니다.

Review

알고리즘 의사결정을 구현하는 모든 조직은 정량적, 질적 고려사항을 모두 포함하는 객관적인 윤리적 검토 프로세스를 갖추고 있어야 합니다. 소수 집단의 성능 이상과 시간에 따른 성능 변화를 이해하려면 이러한 윤리적 지표를 기준으로 모델 성능을 모니터링해야 합니다. 그런 다음 모델은 운영 프로세스의 일부로 지속적으로 조정 및 조정될 수 있습니다.

구현이 어려워 보일 수 있지만 조직은 AI 및 기계 학습 프로젝트에서 윤리적 고려 사항에 대한 이해와 구현을 개선해야 합니다. 기업은 윤리적 결과를 보장하기 위해 자동화된 결정의 성과와 영향을 관리하기 위해 "문제 검토-조치-개선" 접근 방식을 채택해야 합니다.

위 내용은 AI 구현의 윤리적 배포를 보장하는 방법은 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!