>  기사  >  기술 주변기기  >  '생성 인공 지능 서비스에 대한 기본 보안 요구 사항'에 대한 의견이 열려 있습니다.

'생성 인공 지능 서비스에 대한 기본 보안 요구 사항'에 대한 의견이 열려 있습니다.

PHPz
PHPz앞으로
2023-10-12 17:37:04890검색

IT하우스는 국가정보보호표준화기술위원회 공식 홈페이지에 따르면, 위원회가 정리한 기술문서 '생성인공지능 서비스 보안을 위한 기본 요구사항'(이하 '요구사항')이 10월 12일 발표됐다고 밝혔다. 10월 11일에 작성된 기술 문서 초안은 이제 대중에게 공개되어 의견이나 제안 사항이 있는 경우 10월 25일 24시 이전에 피드백을 제공해 주시기 바랍니다.

생성 인공 지능 서비스에 대한 기본 보안 요구 사항에 대한 의견이 열려 있습니다.

"요구사항"은 코퍼스 보안, 모델 보안, 보안 조치, 보안 평가 등을 포함하여 생성 인공 지능 서비스에 대한 기본 보안 요구 사항을 제공합니다. 서비스 개선을 위해 우리나라의 대중에게 생성 인공 지능 서비스 제공업체에 적용됩니다. 보안 수준 또는 제공업체가 자체적으로 보안 평가를 수행하거나 제3자에게 보안 평가 수행을 위탁하여 생성 인공 지능 서비스의 보안 수준을 평가하도록 제공할 수도 있습니다. 원래 의미를 바꾸지 않고 중국어로 다시 작성해야 합니다.

생성 인공 지능 서비스에 대한 기본 보안 요구 사항에 대한 의견이 열려 있습니다.

이미지 출처Pexels

IT House에서는 다음과 같은 몇 가지 요구 사항을 구성합니다.

  • 말뭉치 소스 블랙리스트를 설정하고 블랙리스트 소스의 데이터를 교육용으로 사용하지 마세요.
  • 코퍼스의 각 소스에 대해 보안 평가를 수행해야 합니다. 단일 소스의 콘텐츠에 불법 및 유해 정보가 5% 이상 포함되어 있는 경우 블랙리스트에 추가해야 합니다.
  • 개인정보가 포함된 말뭉치를 이용 시에는 해당 개인정보주체의 승인 및 동의를 받거나, 기타 개인정보의 적법한 이용을 위한 조건을 충족해야 합니다.
  • 얼굴 등 생체정보가 포함된 코퍼스를 이용하는 경우에는 해당 개인정보주체로부터 서면동의 및 동의를 받거나, 생체정보의 적법한 이용을 위한 기타 조건을 충족해야 합니다.
  • 주석 작성자는 스스로 평가해야 하며, 테스트에 합격한 사람에게는 주석 자격이 부여되어야 하며, 정기적인 재교육 및 평가를 위한 메커니즘과 필요할 경우 주석 자격을 일시 중지하거나 취소할 수 있는 메커니즘이 있어야 합니다.
  • 교육 과정에서 생성된 콘텐츠의 보안은 생성된 결과의 품질을 평가하기 위한 주요 고려 사항 중 하나여야 합니다.
  • 서비스가 대화형 인터페이스를 통해 제공되는 경우 웹사이트 홈페이지 등 눈에 띄는 위치에 다음 정보를 대중에게 공개해야 합니다.

다시 작성해야 하는 내용은 다음과 같습니다. -해당 인물, 행사, 목적 및 기타 정보

-타사 기본 모델 사용.

  • 서비스 범위 내 다양한 ​​분야에서 생성 인공지능을 적용하는 필요성, 적용성, 안전성이 충분히 입증되어야 합니다.

IT House의 이전 보고서에 따르면 중국 사이버 공간 관리국, 국가 발전 개혁위원회, 교육부, 과학 기술부, 산업 정보 기술부, 공안부 등 7개 부서가 , 그리고 국가 라디오 텔레비전 관리국은 7월 10일에 "생성 인공 지능 서비스 관리에 관한 임시 조치"를 발표했습니다. , 이 조치는 8월 15일에 시행됩니다

"조치"에는 누구든지 알고리즘, 데이터, 플랫폼 등의 장점을 이용하여 독점 및 불공정 경쟁을 실시하여 타인의 신체적, 정신적 건강을 해롭게 해서는 안 되며, 타인의 초상권을 침해하여서는 안 된다고 규정하고 있습니다. 평판 권리, 명예 권리, 개인 정보 보호 권리 및 개인 정보 권리는 생성 인공 지능 서비스의 투명성을 높이고 생성된 콘텐츠의 정확성과 신뢰성을 높이기 위한 효과적인 조치를 취해야 합니다.

원래 의미를 바꾸지 않고 내용을 다시 작성하려면 언어를 중국어로 다시 작성해야 합니다

위 내용은 '생성 인공 지능 서비스에 대한 기본 보안 요구 사항'에 대한 의견이 열려 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
이 기사는 sohu.com에서 복제됩니다. 침해가 있는 경우 admin@php.cn으로 문의하시기 바랍니다. 삭제