인공지능에 대한 맹목적인 신뢰를 방해하는 6가지 요소

ChatGPT의 영향은 다양한 산업에 영향을 미쳤으며 이는 인공 지능이 세상을 변화시키고 있음을 입증합니다. 어쨌든 이러한 발전이 근본적으로 확실한 것은 아닙니다. AI가 많은 영역에서 제공하는 흥미롭고 새로운 기회에도 불구하고 AI에는 결정을 안내할 고유한 도덕적 나침반이나 사실 확인 시스템이 부족하다는 사실을 무시할 수 없습니다.

세계가 계속해서 AI 중심으로 변해감에 따라 우리는 듣는 모든 것에 대해 사실 확인을 고집해야 합니다. 일부 도구는 상황을 오해하고 자신있게 실수를 하거나 심지어 데이터를 조작할 수도 있으므로 AI를 현명하지 않게 신뢰하는 것은 바람직하지 않습니다.

인공지능에 대한 맹목적인 신뢰를 방해하는 6가지 요소

1. 보안

가장 당연하고 근본적인 것은 보안입니다. '먼저 해를 끼치지 말라'는 기본 원칙을 위반하면 배신과 같은 심각하고 돌이킬 수 없는 결과를 초래할 것입니다. 2018년에는 테슬라 자율주행차가 콘크리트 가드레일과 충돌해 운전자 1명이 사망했다. 2019년 연구 논문에서는 도로에 전략적으로 그려진 선이 인공 지능 알고리즘을 탈취하거나 차량 충돌을 일으킬 수 있음을 증명하려고 시도했지만 이 경우는 치명적인 이상치였습니다.

2. 견고성과 보안

액세스 제한, 정보 무결성 유지, 접근성 일관성 유지는 보안의 핵심입니다. 수천 개의 알고리즘이 인공 지능의 견고성과 보안의 약점을 이용합니다. 이러한 악의적인 공격은 계속해서 상상되고 있습니다. 포괄적인 보호 조치가 없는 경우 아날로그 지능 엔지니어가 각각의 새로운 안전 조치에 대해 적절한 안전 비율을 맞춤화하는 것이 더욱 중요합니다. AI는 특정 적대적 공격의 설계 결함이나 약점으로 인해 속거나 약화될 수 있습니다. 이것이 사실이라면 누군가의 휠체어를 납치해 안전한 지역으로 들어가는 것도 가능할 것이다.

3. 개인정보 보호

피해를 예방하는 것도 개인정보 보호 원칙의 핵심입니다. 정보 유출이 너무 많아 악의적인 행위자가 동의 없이 개인의 행복, 돈, 개인 생활에 대한 데이터를 식별하거나 분석할 수 있는 기회를 제공합니다. 걱정스러운 미국인 중 81%는 데이터 수집의 이점이 위험보다 더 크다고 생각합니다. 연구자들은 유색 인종과 소수 민족 집단이 다른 집단보다 더 취약하다는 사실을 발견했습니다. 정보의 과소 표현으로 인해 앞서 언급한 유출 이후에는 정보의 보다 효과적인 익명화가 더욱 필요합니다.

4. 단순성과 합리성

컴퓨터 기반 지능의 경우 단순성은 광범위한 특징입니다. 사용자는 최소한 인간이 아닌 인공 지능과 상호 작용하고 있다는 것을 알고 있습니다. 가장 극단적인 경우에는 모든 전문적인 주기와 정보가 보고되고, 접근 가능하며, 의미가 있습니다. 이 예는 투명성 부족의 결과를 충분히 보여주며 영국의 시험 채점 스캔들은 매우 대표적인 사례입니다. 점수를 평가할 때 알고리즘은 학생의 성적뿐만 아니라 학교의 과거 성적 기록과 동일한 점수를 받은 학생 수도 고려합니다.

5. 윤리와 환경

윤리와 공정성은 인공지능의 목표가 되어야 합니다. 이는 법률이라고도 알려진 확립되고 시행되는 사회적 규범을 준수해야 합니다. 간단하지만 기술적으로 어려운 일입니다. 실제 이야기는 공권력이 구식을 실행하거나 자유로운 기업 전략을 채택할 때 시작됩니다. 올바른 윤리적 균형을 찾는 것은 AI 엔지니어와 소유자가 이해관계자의 이익, 수단 및 목적, 개인 정보 보호 권리 및 데이터 수집을 해결할 책임입니다. 직장뿐만 아니라 거대 기술 기업도 성차별을 영속시킨다는 비난을 받는 경우가 많습니다. 활동가와 연구자들은 여성 음성 비서가 노동자이자 부모로서의 여성의 견해를 정상화하는 것으로 간주합니다.

6. 책임

책임은 앞서 언급한 다양한 구성 요소에 대해 프레임워크를 조사할 수 있도록 보장합니다. 진행 상황을 필터링하고 수익 손실을 방지하기 위해 현재 많은 조직에서는 책임 있는 AI를 사내에서 구축하고 있습니다. 그러나 외부 통제나 검토를 허용하지 않을 수도 있습니다. 이와 관련하여 Clearview AI가 좋은 예입니다. 회사의 안면 인식 기술은 시중의 다른 모든 기술보다 성능이 뛰어나지만 개인 소유이며 소유자가 관리합니다. 범죄 조직이나 권위주의 정권에 의해 이용된다면 수많은 사람들이 위험에 빠질 수 있습니다.

위 내용은 인공지능에 대한 맹목적인 신뢰를 방해하는 6가지 요소의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!