미국 AI 정책은'안전'에서'보안'에 이르기까지 급격히 피벗됩니다.

도널드 트럼프 대통령은 조 입찰 전 대통령의 AI 행정 명령을 철회 했다. Vance는 미국이“American AI를 보호”하고 적대자들이“모든 사람들을 위협하는 AI 능력을 얻지 못하도록 막을 것이라고 말했습니다.

더 많은 맥락이 없다면, 이들은 무의미한 유행어처럼 들립니다.

간단히 말해서, AI 안전은 주로 윤리적이고 안정적으로 행동하는 방식으로, 특히 고용 또는 의료와 같은 고위용 체계에 사용될 때 AI를 개발하는 데 주로 중점을 둡니다. AI 시스템이 피해를 입히는 것을 방지하기 위해 AI 안전법에는 일반적으로 위험 평가, 테스트 프로토콜 및 인간 감독 요구 사항이 포함됩니다.

대조적으로 AI 보안은 윤리적이고 안전한 AI 개발에 고정되지 않습니다. 오히려 미국의 적대자들은 필연적으로 AI를 악의적 인 방식으로 사용하고 라이벌 국가들이 우리 미국의 중요한 인프라를 목표로 삼아 AI와 같은 의도적 인 위협으로부터 자산을 방어하려고합니다. 이는 가상의 위험이 아닙니다. 미국 정보 기관은 중국, 러시아 및 북한에서 공격적인 사이버 운영을 계속 추적하고 있습니다. 이러한 유형의 의도적 인 공격에 대응하기 위해 조직은 AI가 제시 한 위협을 설명하는 강력한 사이버 보안 관행이 필요합니다.

이 두 분야는 모두 중요하고 상호 연결되어 있습니다. 그렇다면 최근 몇 달 동안 하나가 다른 사람을 일식 한 것처럼 보이는 이유는 무엇입니까? 나는 AI 안보의 우선 순위를 정하는 것이 본질적으로 오늘날의 외교 정책 환경 과 더 일치한다고 생각합니다. 여기서 세계에서 가장 유행 한 세계관은 지정 학적, 경제적 이점을위한 국가들 사이의 무자비한 경쟁의 현실주의 묘사입니다. AI 보안 우선 순위는 AI에서 미국의 세계적 지배력을 유지하면서 적대들로부터 미국을 보호하는 것을 목표로합니다. 반면에 AI 안전은 언론의 자유와 불공정 편견에 대한 정치적 토론을위한 번개가 될 수 있습니다. 주어진 AI 시스템이 실제 피해를 유발할 것인지에 대한 문제는 다른 환경에 배치 된 동일한 시스템이 크게 다른 결과를 생성 할 수 있으므로 상황에 따라 의존적입니다.

너무 많은 불확실성에 직면하여, 대중에게 진정으로 해를 끼치는 것에 대한 정치적 불일치와 결합 된 입법자들은 미국의 경쟁 우위를 방해 할 수있는 안전 법안을 정당화하기 위해 고군분투했습니다. 중국 AI 회사 인 Deepseek에 대한 소식은 실질적으로 낮은 비용으로 미국 AI 모델과 경쟁력있는 성능을 달성했으며, 이러한 움직임 만 재확인하면서 미국과 중국 AI 기능 사이의 꾸준한 차이에 대한 광범위한 두려움을 불러 일으켰습니다.

연방 안전 법률의 유령이 더 이상 수평선에 올라가지 않을 때 어떻게됩니까? 트럼프 행정부의 다가오는“AI 행동 계획”에 대한 Openai , Anthropic 및 기타의 공개 의견은 AI 우선 순위가 어떻게 바뀌 었는지에 대한 흥미로운 그림을 제공합니다. 우선, 산업의 제출물에는“안전성”이 거의 나타나지 않으며 안전 문제가 언급 된 경우, 중국을 능가하기 위해 미국의 경쟁에서 불이행 할 수있는 국가 안보 위험으로 재구성됩니다. 일반적으로 이러한 제출물은 AI 교육을위한 균형 잡힌 저작권 규칙에서 반도체 및 기타 귀중한 AI 구성 요소 (예 : 모델 가중치)에 대한 수출 제어에 이르기까지 일련의 혁신 친화적 인 정책을 마련합니다.

트럼프 행정부의 AI에 대한 초기 메시지의 정신을 충족 시키려고 노력하는 것 외에도, 이러한 제출물은 AI와 관련하여 미국 정부의 역할이 AI 개발에 중요한 자금 조달 인프라, 미국 IP를 보호하며 AI를 우리의 국가 안보를 위협하는 범위까지 AI를 조절하는 데 중요한 자금을 조달하는 것입니다. 나에게 이것은 AI 회사의 전략적 변화가 적은 것보다 커뮤니케이션 전환보다 적은 전략 변화가 아닙니다. 어쨌든, 업계의 이러한 의견은 이전의 강력하고 포괄적 인 데이터 법안에 대한 이전의 요구보다 더 미션 정렬 된 것처럼 보입니다.

그럼에도 불구하고 업계의 모든 사람이 미국의 지배력에 대한 보유되지 않은 접근 방식을 지원하는 것은 아닙니다. 그들의 논문에서,“ Superintelligence Strategy ”, Eric Schmidt, Dan Hendryck 및 Alexandr Wang의 3 가지 저명한 AI 목소리는 Superintelligent AI를 개발하기위한 맨해튼 프로젝트 스타일의 추진을 추구 할 때주의를 기울여야합니다. 저자들은 대신 AI 독점을 달성하기위한 국가 주도의 노력에 강력하게 대응할 수있는 냉전 시대의 억제를 연상시키는 방어 전략 인“상호 보증 된 AI 오작동”또는 Maim을 제안합니다.

미국 이이 전략을 추구한다면 AI 프로젝트를 위협하는 AI 프로젝트를 비활성화하고 고급 AI 칩에 대한 액세스를 제한하고 웨이트 모델을 개방 하고 국내 칩 제조를 강화해야합니다. 저자에 따르면 그렇게하면 미국과 다른 국가들이 AI 혁신을 평화롭게 발전시키면서 AI를 사용하여 불량 행위자의 전반적인 위험을 낮추기 위해 광범위한 피해를 입힐 수 있습니다.

트럼프 행정부가 AI에서 더 자세한 입장을 형성함에 따라 앞으로 몇 달 안에 이러한 제안이 견인력을 얻는 것이 흥미로울 것입니다. 우리는 더 많은 제안, 특히 AI의 지정 학적 위험과 기회에 지속적으로 초점을 맞추는 제안을 기대해야하며, 생물학적 무기의 생성 또는 미국 자산에 대한 외국 공격과 같은 대규모 재앙을 방지하는 데 도움이되는 법안 만 제안합니다.

불행히도, 안전 문제는주의를 기울이지 않거나 안전 기관의 이름을 바꾸면 사라지지 않습니다. 보안 자세를 강화하면 경쟁 우위를 향상시키고 외국 공격에 대응하는 데 도움이 될 수 있지만, 개인이나 사회에 해를 끼치는 데 도움이되는 안전 중재입니다.

현실은 AI 안전 및 보안 작업과 관련하여 시스템 자체를 해킹 할 수있는 경우 AI 안전 중재가 작동하지 않습니다. 마찬가지로, 해당 시스템이 본질적으로 안전하지 않고 피해를 입히기 쉬운 경우 AI 시스템을 외부 위협으로부터 확보하는 것은 의미가 없습니다. Cambridge Analytica는 이 관계에 대한 유용한 그림을 제공합니다. 이 사건은 데이터 액세스에 대한 Facebook의 부적절한 안전 프로토콜이 보안 취약성을 악화시킨 후 정치적 조작을 위해 악용 된 것으로 밝혀졌다. 오늘날의 AI 시스템은 비슷하게 상호 연결된 과제에 직면 해 있습니다. 안전 가드 레일이 해체되면 보안 위험이 필연적으로 따릅니다.

현재 AI 안전은 주 의회 와 기업 신탁 및 안전 팀의 손에 달려 있습니다. AI를 구축하는 회사는 아마도 다른 사람보다 더 나은 것으로 알고 있습니다. 데이터 도난이든 사고에 관계없이 단일 신뢰 위반은 브랜드에 파괴 될 수 있습니다. 그러므로 그들이 현명한 AI 안전 관행에 계속 투자 할 것이지만 신중하고 팡파르없이 투자 할 것이라고 예측합니다. 기업이 개방형 안전 도구를 공동으로 구축 할 수있는 Roost 와 같은 신흥 이니셔티브는 다음 10 년 동안이 분야를 개척 한 전문가, 실험실 및 기관이 지원하는 조용히 급격한 AI 안전 운동입니다.

바라건대, 그것은 충분할 것입니다.

위 내용은 미국 AI 정책은'안전'에서'보안'에 이르기까지 급격히 피벗됩니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!