공정한 방법으로 AI 편견을 방지하는 방법

인공지능(AI)은 비즈니스 운영을 혁신할 수 있는 엄청난 잠재력을 가지고 있습니다. 실제로 한 연구에 따르면 기업의 67%가 내년에 AI 및 머신러닝 사용 사례가 증가할 것으로 예상하는 것으로 나타났습니다. 이러한 기술은 비즈니스 효율성 향상, 통찰력 창출, 시장 경쟁력 강화, 개인화된 고객 경험 제공 등의 이점을 갖고 있습니다.

그러나 규제가 엄격한 산업에서 기업은 AI 설명 가능성과 관련된 독특한 과제에 직면해 있습니다. 금융 서비스, 보험, 의료 등의 산업에서는 투명하고 감사 가능한 의사 결정 플랫폼을 사용하여 엄격한 규정 및 규정 준수 표준을 준수해야 합니다. 오늘날 비즈니스 프로세스와 의사결정을 자동화하는 인공지능 솔루션은 많지만 의미 있는 설명을 제공하는 솔루션은 거의 없습니다. 잠재력이 가득하더라도 기업은 자동화된 의사결정과 예측 뒤에 숨은 이유를 결코 잊어서는 안 됩니다.

향후 규제에 대비하세요

오늘날 정치 단체와 사회 모두 AI에 대한 투명성을 높여야 한다고 요구하고 있습니다. 또한 정부와 소비자는 신용 및 대출 승인, 마케팅 캠페인, 스마트 홈 기술 뒤에 있는 알고리즘에 대한 더 큰 가시성을 원합니다. 미국의 알고리즘 책임법(Algorithmic Accountability Act)과 글로벌 EU AI 법률에서 제안된 법안은 안전하고 윤리적이며 투명한 AI 결과에 대한 표준을 확립하려고 합니다. 그러나 사용 사례가 계속 진화하고 등장함에 따라 정부는 AI를 규제하는 방법을 찾기 시작했을 뿐입니다.

예를 들어, 뉴욕 시의회는 취업 도구에 사용되는 인공지능 알고리즘을 겨냥한 법안을 통과시켰습니다. 2023년에 발효되는 이 법에 따르면 고용주는 평가를 수행하기 위해 독립 감사인을 고용하고 구직자와 현재 직원을 평가하기 위한 인공 지능 도구를 고용해야 합니다. 법에 따르면 구직자를 선별하거나 직원을 승진시키는 데 사용되는 인공지능 도구에 대한 편견 감사가 필요합니다. 편향된 AI 알고리즘을 사용하거나 직원 및 지원자에게 사전 통지 없이 이러한 도구를 사용할 경우 최대 1,500달러의 벌금이 부과됩니다. 단기적으로 규정이 등장하고 표준이 발전함에 따라 기업은 투명성을 높이고 향후 규정에 대비하는 방법에 집중해야 합니다.

머신러닝을 활용하는 데 있어 한 가지 과제는 정의상 편견을 기반으로 한다는 것입니다. 편견이 모두 해로운 것은 아니지만, 성별, 인종, 연령 등 보호대상 계층에게 유리하거나 불리한 결과를 낳고, 임상시험 승인, 건강관리, 대출 등 개인에게 부정적인 영향을 미치는 경우 자격이나 학점이 승인되면 해로울 수 있습니다.

알고리즘을 보호하고 유해한 편견을 방지해야 할 필요성은 잘 알려져 있습니다. 그러나 유해한 편견에 효과적으로 맞서기 위해서는 모든 결정이나 예측 이면의 데이터를 이해해야 합니다. 중요한 투명성을 얻으려면 기업은 완전한 감사 추적을 제공하기 위한 결정을 내리는 기계 학습 및 비즈니스 규칙으로 구성된 알고리즘에 대한 가시성을 확보해야 합니다. 예를 들어, 청구 승인을 위해 AI를 사용하는 보험 회사는 각 결정이 내려진 이유를 명확하게 설명할 수 있어야 합니다.

"블랙박스" 문제가 AI 혁신에 부담을 주는 방식

인공지능을 사용하는 많은 기업은 AI 솔루션이 예측을 제공하고 자동화를 지원하지만 특정 결정을 내리는 이유와 결과에 영향을 미치는 요소를 설명할 수 없는 문제에 직면합니다. 회사가 심각한 법적 또는 명예 훼손을 당할 위험이 있습니다.

기업에서는 알고리즘 결정이 예상한 결과를 반환하는지 확인하기 위해 결과 이면의 이유를 명확하게 확인할 수 있어야 합니다. AI의 블랙박스를 투명하고 설명 가능한 '유리상자'로 바꾸는 것은 고객과 소비자의 피해를 방지하고 기업과 브랜드에 대한 위험을 줄이는 데 매우 중요합니다.

기본적으로 머신러닝은 과거 데이터를 기반으로 예측을 합니다. “인식을 통한 공정성”은 해당 특성이 모델에서 직접 사용되지 않더라도 메타데이터 필드를 사용하여 공유 특성을 가진 다양한 그룹에 대해 모델이 동일하게 수행되는지 여부를 기업이 판단할 수 있도록 하는 접근 방식을 의미합니다. 이러한 인식은 기업이 불공정하거나 해로운 결정으로 이어지기 전에 유해한 편견을 피하고 정량화하며 완화하는 데 도움이 됩니다.

엔터프라이즈 AI의 미래에 대한 명확한 비전

AI가 기업 전체에서 점점 더 많이 사용됨에 따라 기업은 결과가 해로운 편견의 영향을 받지 않도록 AI의 투명성과 감사 가능성을 추구해야 합니다. 설명 가능하고 투명한 AI 솔루션의 우선순위를 정하고 구현할 때만 유해한 편견을 줄이고 위험을 줄이며 신뢰를 높일 수 있습니다.

기술 기반 채용의 인기가 높아지고 있지만 이 관행의 효과와 장점에 대한 신화는 여전히 남아 있습니다. 이러한 오해를 해결하는 것은 보다 공정하고 지속 가능한 인력을 만드는 데 필요한 변화를 촉진하는 데 중요합니다.

졸업생의 삶

미국 노동 시장은 2022년에도 계속해서 조정될 것입니다. 2,300명 이상의 임원을 대상으로 한 설문 조사에 따르면 65%가 상반기에 새로운 정규직을 추가할 것으로 예상하는 것으로 나타났습니다. 또한 33%의 사람들이 일자리를 채우기 위해 경쟁하고 있으며, 현재 미국에는 1,080만 개가 넘는 일자리가 있습니다. 전통적인 채용 관행은 인력 요구 사항을 충족하는 실행 가능한 수단이 아닙니다. 기업은 경쟁력을 유지하기 위해 접근 방식을 현대화해야 합니다. 이는 기술 기반 채용을 수용한다는 것을 의미합니다.

기술 기반 채용은 학위나 자격증이 아닌 지원자의 기술 능력과 핵심 역량을 취업 성공의 가장 중요한 요소로 강조합니다. 이를 위해서는 채용팀이 역할에 필요한 필수 기술과 선호하는 기술을 정의하고 이러한 기술을 객관적으로 평가하여 채용 과정에서 편견을 최소화해야 합니다.

선도적인 기업은 점점 더 기술 기반 채용으로 전환하고 있습니다. 아래에서는 기술 기반 접근 방식 채택에 대한 몇 가지 가장 큰 오해와 이를 해결하여 회사의 문화적 변화를 주도하는 방법에 대해 논의하겠습니다.

1. 능력위주 채용은 대졸자에게 불공평합니다.

능력중심 채용은 대학 졸업자를 고려 대상에서 배제하거나 진입 장벽을 낮추는 것이 아닙니다. 학위가 나타내는 특정 기술을 표현하는 것입니다. 이를 통해 다른 수단을 통해 기술을 습득한 학위 소지자와 구직자 모두 해당 직위로 고려될 수 있습니다. 이는 모두를 위한 경제적 기회를 민주화하고 기업이 이용할 수 있는 인재 풀을 확대하는 데 도움이 됩니다.

과거에는 학력이 필요하지 않았던 직위가 이제는 4년제 학력을 요구하여 명성 경제를 촉진하고 기업이 더 많은 비용을 지불하게 만듭니다. 이 모델에서는 한때 상향 이동이 가능한 많은 일자리가 모든 사람의 손이 닿지 않게 되고, 고등 교육 비용의 상승을 감당할 수 있는 사람들만 이용할 수 있게 됩니다. 또한 저소득층, 특히 유색인종의 재능을 배제합니다. 기술 기반 채용은 이러한 불평등을 해결하기 위한 실용적인 방법을 제공하며 학사 학위가 없는 미국인의 66%(흑인의 75% 이상, 히스패닉의 80% 이상 포함)에게 지원 자격을 복원합니다.

2. 기술 기반 채용은 채용 부진으로 이어질 수 있으며 비즈니스에 해를 끼칠 수 있습니다.

기술 기반 접근 방식을 채택하면 후보자를 보다 효과적으로 선별하고 모집할 수 있습니다. 기술 기반 채용은 교육 기반 채용보다 미래 성과를 5배 더 예측하고, 경험 기반 채용보다 2.5배 더 강력합니다. 또한, 많은 기업에서는 학위가 없는 직원도 대학 졸업자만큼 생산적이며 어떤 경우에는 훨씬 더 생산적이라고 보고합니다.

기술 기반 채용의 다른 이점으로는 채용 시간 단축, 직원 참여도 증가, 이직률 감소 등이 있습니다.

3. 실력중심 채용은 현실적인 인재 확보 전략이 아닙니다.

과거에는 아닐 수도 있습니다. 역사적으로 채용팀은 채용 노력에 대해 초지역적인 관점을 취했습니다. 원격 근무가 증가함에 따라 기업은 시장 기술 요구 사항에 맞는 사람을 찾기 위해 더 광범위한 후보자 검색을 시작할 수 있습니다.

거시적 관점에서 볼 때 이는 자원이 부족한 지역의 인력 개발 기업과 파트너십을 형성하여 원격 역할을 수행할 수 있는 다양한 기술을 갖춘 후보자의 파이프라인을 구축하는 것처럼 보일 수 있습니다. 이러한 파트너십을 통해 기업은 비즈니스 결과와 경제적 형평성을 동시에 촉진할 수 있습니다.

기술 기반 채용을 설계하고 시작하는 데는 시간이 걸리고 의도적인 학습과 포기가 필요하지만 회사, 직원 및 커뮤니티는 궁극적으로 이익을 얻을 것입니다. 지금 기술 기반 채용에 투자하면 기업은 미래의 기술 중심 일자리에 대비하고 모든 미국인이 미래에 의미 있게 참여할 수 있는 경제를 만들 수 있습니다.

위 내용은 공정한 방법으로 AI 편견을 방지하는 방법의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!