AI의 새로운 세계 과제: 보안과 개인 정보 보호는 어떻게 되었나요?

생성 AI의 급속한 발전으로 인해 개인 정보 보호 및 보안에 전례 없는 문제가 발생하여 규제 개입에 대한 긴급한 요청이 촉발되었습니다.

지난 주, 저는 워싱턴 D.C.에서 몇몇 국회의원 및 그 직원들과 함께 AI가 보안과 관련된 영향에 대해 논의할 기회를 가졌습니다.

오늘날의 생성 AI는 기초 연구, 잠재 잠재력 및 학문적 활용을 갖춘 80년대 후반 인터넷을 연상시키지만 아직 대중에게 공개될 준비가 되어 있지 않습니다. 이번에는 마이너 리그 벤처 캐피털과 트위터 에코 챔버에서 영감을 받은 자유로운 벤더 야망이 AI의 "멋진 신세계"를 빠르게 발전시키고 있습니다.

"공용" 기본 모델은 결함이 있고 소비자 및 상업적 용도로 적합하지 않습니다. 개인 정보 보호 추상화가 존재하는 경우 공격 표면과 위협 벡터를 여전히 이해하고 있기 때문에 체처럼 누출되는 보안 아키텍처가 중요합니다. 환상의 가드레일은 말이 적을수록 좋습니다.

그러면 우리는 어떻게 여기까지 왔는가? 보안과 개인 정보 보호는 어떻게 되었나요?

"절충" 기본 모델

"열기" 모드에는 때때로 제한이 있습니다. 다양한 공급업체는 개방형 모드 가중치, 문서 액세스 또는 테스트를 통해 개방성 정도를 광고합니다. 그럼에도 불구하고 주요 공급업체 중 어느 곳도 모델을 복제하고 재생산할 수 있도록 훈련 데이터 세트나 해당 매니페스트 또는 계보 정보에 가까운 정보를 제공하지 않습니다.

하나 이상의 모델을 사용하여 데이터 세트를 훈련하려는 경우 소비자 또는 조직으로서 지적 재산권, 저작권 등과 관련하여 데이터 오염 정도를 확인하거나 확인할 수 있는 능력이 없습니다. 또는 불법 콘텐츠로 간주됩니다.

결정적으로 훈련 데이터 세트의 매니페스트가 없으면 존재하지 않는 악성 콘텐츠를 확인하거나 확인할 방법이 없습니다. 국가 후원 행위자를 포함한 악의적인 행위자는 네트워크에 트로이 목마 콘텐츠를 심습니다. 이 콘텐츠는 모델 훈련 중에 섭취될 경우 추론 중에 예측할 수 없고 잠재적으로 악의적인 부작용을 초래합니다.

모델이 손상되면 잊어버리게 할 수 있는 방법이 없으며 유일한 선택은 모델을 파괴하는 것입니다.

"전반적인" 보안 문제

생성적 AI 모델은 "모든" 데이터가 컨테이너에 수집되기 때문에 궁극적으로 안전한 허니팟입니다. AI 시대에 새로운 범주의 공격 벡터가 등장했습니다. 업계에서는 이러한 모델이 사이버 위협으로부터 어떻게 보호되는지, 그리고 이러한 모델이 사이버 위협 행위자가 도구로 사용할 수 있는 방법의 영향을 아직 이해하지 못했습니다.

악의적인 힌트 주입 기술은 인덱스를 오염시키는 데 사용될 수 있습니다. 반전 기술을 포함한 임베딩 공격은 임베딩에서 풍부한 데이터를 추출하는 데 사용될 수 있습니다. 훈련 세트 등은 빙산의 일각에 불과합니다.

위협 행위자는 모델 반전 및 프로그래밍 방식 쿼리를 통해 기밀 데이터에 접근할 수 있습니다. 모델의 기본 동작을 손상시키거나 다른 방식으로 영향을 미칠 수 있으며, 앞서 언급한 것처럼 통제되지 않은 대규모 데이터 수집으로 인해 국가가 후원하는 사이버에 위협이 포함될 수 있습니다. 트로이 목마와 같은 활동.

“유출된” 개인 정보

AI 모델은 훈련된 데이터 세트 때문에 유용합니다. 무분별한 대규모 데이터 수집은 개인과 대중에게 전례 없는 개인 정보 보호 위험을 초래합니다. AI 시대에는 개인정보 보호가 사회적 문제로 대두되었으며, 개인 데이터 권리를 주로 다루는 규정이 부족합니다.

정적 데이터 외에도 동적 대화를 위한 프롬프트도 지적 재산으로 보호 및 유지되어야 합니다. 모델과 함께 아티팩트를 공동 생성하는 데 관련된 소비자인 경우 이 생성 활동을 안내하는 데 사용하는 프롬프트가 모델을 교육하는 데 사용되거나 다른 모델 소비자와 공유되지 않기를 바랍니다.

귀하가 비즈니스 성과를 달성하기 위해 모델을 사용하는 직원인 경우 고용주는 귀하의 팁이 기밀로 유지되기를 기대합니다. 또한 양 당사자에게 책임 문제가 발생할 경우 팁과 답변에 안전한 감사 추적이 필요합니다. 이는 주로 이러한 모델의 확률론적 특성과 시간에 따른 응답의 변화에 ​​기인합니다.

다음에는 어떻게 되나요?

우리는 과거에 보안, 개인 정보 보호 및 기밀 유지를 위해 사용했던 방법이 더 이상 적절하지 않다는 점에서 대규모의 창발적이고 잠재된 동작을 보여준다는 점에서 컴퓨팅 역사상 고유한 전례 없는 기술을 다루고 있습니다.

업계 리더들은 주의를 기울여 규제 기관과 정책 입안자들이 개입할 수밖에 없게 만들었습니다.

위 내용은 AI의 새로운 세계 과제: 보안과 개인 정보 보호는 어떻게 되었나요?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!