인공지능에 대한 윤리와 거버넌스의 중요성

인공지능의 약속, 가능성 및 잠재력

인공지능의 활용은 공급망 효율성 개선, 일상 생활을 지원하는 지능형 자동화 및 로봇 공학의 발전, 국경에서의 원활한 통관. 인공지능 기술은 급속도로 발전해 인간의 지능에 근접하고, 어떤 경우에는 능가하기도 한다. 인간 지능이 올바른 윤리와 거버넌스를 갖춘 인간 사회 내에서 적절하게 활용되고 조정되어야 하는 것처럼 인공 지능에도 동일한 작업을 수행해야 합니다.

인공지능의 어두운 면

유념해야 할 몇 가지 사항이 있습니다. GPT-4chan에 대해 들어보신 적이 있다면, 그 문제에 대해서도 들어보셨을 것입니다. GPT-4chan 모델은 인공지능(AI) 커뮤니티의 한 유튜버가 개발한 모델로, 논란이 되고 있는 포럼인 4chan의 /pol/(정치적으로 잘못된) 섹션을 기반으로 합니다. 4chan의 /pol/("정치적으로 올바르지 않음"의 약어) 섹션은 증오심 표현, 음모론, 극우 극단주의의 본거지이며 4chan에서 가장 활발한 섹션입니다. 그 결과는? 그 결과 혐오발언을 뿜어내는 인공지능이 탄생했다.

보도에 따르면, 유명 유튜브 딥러닝 블로거인 야닉 킬처(Yannic Kilcher)는 언어 폭력이 가득한 게시물 1억 3,450만 개를 사용하여 'GPT-4chan'이라는 AI 모델을 훈련시켰고, 이를 통해 댓글을 올리는 방법을 배웠습니다. 홈페이지에는 하루도 채 안 돼 부정적인 댓글이 가득한 게시물이 1만5000개 이상 올라갔다.

이것이 혼란스러워 보일 수 있지만 인공 지능의 기반은 의도치 않게 이러한 관행을 조장하여 사람들이 사악한 목적으로 기술을 사용하기 쉽게 만들 수 있습니다. 커뮤니티가 점점 더 오픈 소스 개발을 수용함에 따라 이는 매우 분명해졌습니다. 이는 더 이상 AI 애플리케이션 개발을 소수의 특권층으로 제한하지 않고, 악의적인 행위자를 포함한 모든 사람에게 개방됩니다.

놀라야 할까요? 빌 게이츠(Bill Gates), 엘론 머스크(Elon Musk), 제프 베조스(Jeff Bezos) 등 유명 인사들은 AI의 잠재적 위험, 특히 무기 시스템에서의 AI 사용 및 일자리 손실에 대해 우려를 표명하고 경고했습니다.

그러나 오늘날 우리가 경험하는 대부분의 것에는 우리를 특별히 타겟으로 하는 소위 소셜 미디어의 개인화 추천 광고, 이전 선택을 기반으로 우리가 선호하는 스트리밍 플랫폼 및 Habit이 새로운 콘텐츠를 추천하는 등 어떤 방식으로든 인공 지능이 포함됩니다. 우리에게. AI의 잠재력을 현실로 만들고 싶다면 먼저 해결해야 할 몇 가지 문제가 있습니다.

커지는 우려

인공 지능 시스템은 최근 몇 년 동안 기하급수적으로 성장했습니다. 이는 많은 이점을 가져왔지만 특히 규정 준수, 윤리, 거버넌스와 같은 주제에 대해 우려를 불러일으키는 특정 함정에서 벗어나지 않았습니다.

• 편견​ - 사회를 보다 정확하게 반영하기 위해서는 편견을 없애는 것이 필요합니다. 이를 위해서는 잠재적인 편향 영역을 모두 식별하고 이를 해결하기 위해 AI 솔루션을 조정해야 합니다. 다양한 데이터 세트에 대한 교육을 받지 않은 경우 편향된 AI 시스템은 편향된 통찰력과 권장 사항을 제공합니다.
• 통제력 상실 – 인공 지능의 사용이 증가함에 따라 기계는 중요한 결정을 내릴 수 있는 능력이 더욱 향상되었습니다. 그러나 인간에게 어떤 식으로든 영향을 미칠 수 있는 의사결정 과정에는 여전히 인간을 참여시킬 필요가 있습니다. AI는 여전히 감정을 정확하게 해석하거나, 필요한 상황에 공감을 적용하거나, 도덕적 판단을 내리거나, 창의적인 결과를 달성할 수 없습니다.
• 기술은 완벽하지 않습니다. 혁신은 지속적인 노력이며, 감독이나 조정이 거의 없이 AI 시스템에 결정이 전적으로 맡겨지면 잠재적으로 심각한 오류가 발생할 위험이 항상 있습니다. 기술은 결국 완벽하지 않습니다.
• 개인 정보 보호 – 개인 정보 보호는 오랫동안 인공 지능과 관련된 주요 윤리적 문제였습니다. 예를 들어, 스마트 장치는 지속적으로 환경으로부터 음성과 같은 신호를 받아 통찰력과 권장 사항을 얻을 수 있습니다. AI 기반 장난감은 어린이에 대한 데이터도 수집할 수 있는데, 이는 정말 우려되는 부분입니다.
• 신뢰의 침식 – 생체 인식과 같은 민감한 데이터의 무제한 수집 및 저장은 신뢰에 대한 의문을 제기합니다. 책임자가 개인 데이터로 다른 작업을 수행할 수 있습니까?

단순한 규정 준수만으로는 충분하지 않습니다.

이러한 문제를 해결하려면 단순한 법적 규정 준수를 넘어서야 합니다. 대신 프라이버시, 인권, 사회적 수용성 등 다양한 요소를 고려해야 한다. 이러한 유형의 문제 해결은 인공 지능 개발 및 마케팅과 관련된 비즈니스에만 국한되어서는 안됩니다. AI와 관련된 문제는 AI 기반 서비스를 제공하는 개인 및 조직을 포함하여 전체 공급망에서 해결되어야 합니다.

여기에는 다음이 포함됩니다.

• EU 인공 지능법, 미국 인공 지능 위험 관리 프레임워크, 중국 인터넷 정보 서비스 알고리즘 권장 관리 규정, 싱가포르 인공 지능 윤리 및 거버넌스 지식 시스템 등 관련 글로벌 법률 및 규정 준수 .
• 인공 지능 사용과 관련된 비즈니스 운영의 모든 단계에서 인권 존중을 최우선 사항으로 안내하고 인식하는 원칙을 개발합니다.
• 미래의 인공지능 활용으로 인한 사회문제를 기술의 활용을 통해 직면해 보세요.

기술자들만이 인공지능 문제를 해결할 수 있는 유일한 이해관계자는 아닙니다. 정책 입안자들은 또한 AI 애플리케이션의 잠재적 위험을 해결하는 데 중요한 역할을 할 것입니다. 그들은 다음을 담당하게 됩니다:

• 기존 AI 규제 및 거버넌스 프레임워크 강화.
• 편향의 위험을 제거하기 위해 AI 모델과 시스템을 미세 조정하고 교정하기 위한 시행 착오, 반복 테스트, 샌드박싱을 옹호합니다.
• 다양한 산업 분야에서 인공지능을 다양하게 적용할 수 있도록 산업별 맞춤형 규정을 개발합니다.

마지막으로, 생태계가 계속 실행 가능하도록 하고 AI 관련 역할을 계속 수행할 수 있는 깊고 강력한 인재 풀이 있는지 확인하기 위한 투자도 이루어져야 합니다. 컨설팅 회사인 Korn Ferry는 아시아 태평양 지역의 TMT 산업이 2030년까지 AI 전문가를 포함해 200만 명의 인재 부족에 직면할 수 있으며 연간 기회 비용은 1,516억 달러가 넘을 것으로 추정합니다.

예를 들어, 싱가포르는 AI 연구를 가속화하고 AI 기술을 갖춘 사람들의 기술을 향상시키는 프로그램을 시작하기 위해 1억 8천만 달러를 투자했습니다. 여기에는 인공 지능 엔지니어링 및 개발과 같은 "하드" 기술이 포함될 수 있지만 "소프트" 기술도 중요합니다. 싱가포르 난양기술대학(Nanyang Technological University)과 싱가포르 컴퓨터학회(Computer Society of Singapore)도 해당 분야의 전문가를 인정하고 인증하기 위해 인공지능 윤리 및 거버넌스 과정을 연속적으로 시작했습니다.

훌륭한 약속이지만 더 많은 진전이 필요합니다

궁극적으로 AI가 할 수 있는 것과 할 수 없는 것에 대한 깊고 개방적인 논의가 필요합니다. 조직과 정부 모두 가능한 한 많은 사람들에게 혜택을 주는 데 사용될 수 있도록 보장해야 합니다. AI가 의도적으로 또는 의도하지 않게 사회의 특정 하위 집단을 무시하지 않고, 개인 정보 보호 및 신뢰 문제를 완화하고, 인간에게 어느 정도 통제권을 부여하는 보호 장치를 구현하지 않도록 하기 위한 조치가 필요합니다.

일상 생활에서 인공 지능의 사용이 증가함에 따라 윤리, 규정 준수 및 거버넌스에 대한 질문이 계속해서 제기될 것입니다. 인류의 AI 목표는 야심찬 것인가, 아니면 단순히 위험한 것인가? 이는 정부, 규제 기관, 혁신가, 기술 기업, 소비자 등 모든 관련 이해관계자가 함께 협력하여 답변해야 하는 질문입니다.

위 내용은 인공지능에 대한 윤리와 거버넌스의 중요성의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!