가치와 개인 정보 보호에 대한 전체 범위를 통해 중국 사이버 공간 관리국은 생성 AI에 대한 '규칙 설정'을 계획하고 있습니다.

4월 11일 중국 사이버공간관리국(이하 중국 사이버공간관리국)은 '생성인공지능 서비스 관리 방안(의견 초안)' 초안을 작성해 발표하고 한 달간 의견 수렴을 시작했다. 대중으로부터.

이 관리 조치(의견 초안)에는 생성 인공 지능 서비스를 제공하는 주체와 해당 서비스를 사용하는 조직 및 개인이 모두 포함됩니다. 관리 조치는 생성 인공지능 서비스에 대한 인공지능 출력 콘텐츠의 가치 지향, 서비스 제공자의 교육 원칙, 개인 정보 보호/지적 재산권 및 기타 권리 보호 등을 다룹니다.

GPT와 같은 생성적 자연어 대형 모델과 제품의 등장으로 대중은 인공지능의 비약적인 발전을 경험할 수 있을 뿐만 아니라 편향적이고 차별적인 콘텐츠 생성, 데이터 유출, 개인 정보 보호 등 보안 위험에 노출되었습니다. 위반, AI 사기 및 기타 문제. 전 세계적으로 다양한 국가에서 인공지능에 대한 규제가 점차 추세가 되고 있다.

중국에서는 '생성 AI 서비스 관리 조치'가 공포되면 국내 대형 모델과 생성 AI 제품 공급업체가 더 이상 무질서하게 '롤링'될 수 없으며 채택업체도 생성 AI를 사용할 때 표준화된 서클을 갖게 됩니다.

1. 생성된 콘텐츠에 대한 "제한 구역" 설정

"생성 인공 지능 제품을 개발하고 활용하여 중화인민공화국 영토 내에서 대중에게 서비스를 제공하는 사람이 적용됩니다.

"생성 인공 지능이라는 용어는 본 조치에서 언급된 "지능"이란 알고리즘, 모델 및 규칙을 기반으로 텍스트, 그림, 소리, 비디오, 코드 및 기타 콘텐츠를 생성하는 기술을 의미합니다.”

4월 11일 중국 사이버 공간 관리국은 "생성 인공"을 발표했습니다. 국정원 관리대책(의견안)”(이하 “대책”이라 한다)은 제2조에서 “대책”의 적용대상과 “생성인공지능”의 정의를 명확히 하고 있다.

본 글의 내용으로 볼 때, 바이두, 알리바바, 텐센트, 화웨이 등 생성형 대형 모델과 제품을 보유하고 있다고 공개적으로 밝힌 기업이 다음과 같은 방식으로 사용자에게 서비스를 제공한다면 '조치' 범위에 속하게 됩니다. 중국 사용자는 관련 제품 및 서비스를 사용할 때 조치의 조항을 준수해야 합니다.

또한 "조치"에서는 국가가 인공 지능 알고리즘 및 프레임워크와 같은 기본 기술의 독립적인 혁신, 홍보 및 적용, 국제 협력을 지원하고 안전하고 신뢰할 수 있는 소프트웨어, 도구, 컴퓨팅 및 데이터 자원의 우선적 사용을 장려한다는 점을 강조합니다. .

이 전제 하에서 "조치"는 생성된 콘텐츠와 연구 개발의 기본 원칙을 포함하여 생성 인공 지능 제품 또는 서비스 제공업체에 대한 "제한 구역"을 설명합니다.

콘텐츠 측면에서 "조치"는 다음을 요구합니다. 생성 인공 지능을 사용하여 생성된 콘텐츠는 핵심 사회주의 가치를 반영해야 하며, 국가 권력을 전복하고, 사회주의 체제를 전복하고, 탈퇴를 선동하고, 국가 단결을 훼손하고, 국가 통합을 촉진하는 콘텐츠를 포함해서는 안 됩니다. 테러, 극단주의 독트린, 인종 증오 조장, 인종 차별, 폭력, 외설적 음란 정보, 허위 정보, 생성 인공 지능을 사용하여 생성된 콘텐츠는 진실되고 정확해야 하며 예방 조치를 취해야 합니다. 허위정보 생성.

연구개발 측면에서 '조치'는 제공업체가 알고리즘 설계, 학습 데이터 선택, 모델 생성 및 최적화, 직업 및 기타 차별.

이러한 요구 사항으로 판단하면 "조치"는 기본적으로 차별적 편견 생성, 허위 정보 생성 등을 포함하여 시중에 나와 있는 자연어 대형 모델 제품의 사용자가 실제로 작동할 때 노출되는 안전 및 윤리적 문제를 다루고 있습니다.

인간은 생성합니다. 전통적인 AI가 생산한 의심스러운 콘텐츠가 인터넷에 끝없이 등장했습니다.

예를 들어, ChatGPT는 한때 사용자가 DAN(Do Anyting Now)을 사용하도록 유도한 '역할극' 기능이 포함되어 있음에도 불구하고 사용자가 '좀도둑질하는 방법'에 대해 문의할 수 있는 단계를 제공했습니다. ) 신원이 질문에 답변했으며 제공된 답변에는 "욕설"이 포함되었습니다. 일부 사람들은 ChatGPT를 사용하여 국내에 퍼진 가짜 뉴스를 테스트하여 "루머 반박" 콘텐츠가 되었습니다.

검색엔진 빙에 통합된 마이크로소프트의 챗봇은 해외 언론에 '사용자에게 욕설'로 노출됐다. AI 사진 생성 애플리케이션 미드저니는 '교황이 발렌시아가 다운 재킷을 입는다', '머스크와 장군'을 만드는데도 사용됐다. 모터" 어떤 사람들은 존재하지 않는 다양한 지진 이력, 태양 폭풍 재해 등을 만드는 데 사용하기도 했습니다.

교황(왼쪽)과 머스크의 가짜 사진

허위 정보를 식별하고 AI 생성 콘텐츠를 식별하는 측면에서 "조치"는 공급자에게 "데이터의 신뢰성, 정확성 및 객관성을 보장하도록 요구합니다. 출처", 다양성", 생성적 사진, 비디오 및 기타 콘텐츠는 "인터넷 정보 서비스의 심층 합성 관리에 관한 조항"에 따라 라벨링되어야 하며, 생성적 인공 지능 제품 개발에 수동 라벨링이 사용되는 경우 공급자는 명확하고 구체적이며 실행 가능한 표시 규칙, 표시 담당자에 대한 필수 교육, 표시 내용의 정확성을 확인하기 위한 샘플링을 준수하는 규정을 수립해야 합니다.

중국 규정에서는 생성형 인공지능 콘텐츠에 대해 어느 정도 금지 영역을 설정했으며, 대규모 모델과 제품을 제공하는 회사에도 사전 학습 및 데이터를 제어하도록 요구하고 있습니다.

2. 데이터 소스 및 개인 정보 보호 강조

가치 지향, 사회 윤리, 법률 준수 및 생성된 콘텐츠에 대한 차별 금지를 강조하는 것 외에도 "조치"에서는 사전 교육, 데이터 소스 및 개인 정보도 강조합니다. 권리와 이익 보호를 위한 생성 인공 지능 요구 사항과 관련됩니다.

예를 들어, "조치"에서는 공급자가 생성 인공 지능 제품에 대한 사전 훈련 데이터 및 최적화 훈련 데이터 소스의 적법성에 대해 책임을 져야 하며 다음과 같은 경우 지적 재산권을 침해하는 콘텐츠를 포함하지 않아야 합니다. 데이터에 개인정보가 포함되어 있는 경우, 정보주체는 이용자가 입력한 정보 및 이용기록을 보호할 의무가 있음에 동의하며, 이용자의 신원을 확인할 수 있는 입력정보를 불법적으로 보유하지 않으며, 이용자의 입력을 근거로 이용자의 프로필을 작성하지 않습니다. 정보 및 이용을 원칙으로 하며, 이용자가 입력한 정보를 타인에게 제공하지 않습니다.

생성 AI로 인한 데이터 침해 문제는 존재합니다. 예를 들어 사용자가 일부 업무 요구 사항을 충족하기 위해 대화형 로봇을 사용할 경우 필연적으로 회사 정보를 업로드하게 되어 비즈니스 유출이 발생할 가능성이 높습니다. 비밀. 이전에 한국의 전자 대기업 삼성은 ChatGPT에 '제한 명령'을 제출한 후 직원의 애플리케이션 상호 작용으로 인해 내부 데이터가 유출되었다고 밝혔습니다.

'조치'는 생성 인공지능 제품 및 서비스 제공자를 가리킬 뿐만 아니라 제품 및 서비스 사용자를 위한 원칙도 규정합니다.

예를 들어, 생성된 콘텐츠를 사용하여 타인의 이미지, 명예, 기타 정당한 권익을 훼손하거나, 상업적인 과대광고나 불공정한 마케팅에 가담해서는 안 됩니다.

"조치"는 상위 법률 "중화인민공화국 사이버보안법", "중화인민공화국 데이터 보안법", "중화인민공화국 개인정보 보호법"에 따라 제정되었기 때문에 중국' 및 기타 법률 및 행정 규정에 따라 지적 재산권 침해, 개인 정보 침해, 기타 불법 행위를 포함하여 '조치'를 위반하는 경우에는 이러한 법률 및 규정이 적용됩니다.

'대책'에는 총 21개 조항이 있는데, 그 중 13개 항목은 생성 인공지능 제품을 이용해 채팅, 텍스트, 이미지, 사운드 생성 등의 서비스를 제공하는 '공급자', 즉 생성 인공지능 제품을 사용하는 조직 및 개인을 명시적으로 대상으로 합니다.

대중은 세 가지 채널을 통해 피드백을 제공할 수 있습니다

"조치"가 공식적으로 공포되면 국내 기업과 대규모 생성 모델 및 제품 채택자는 규칙의 범위 내에서 행동해야 한다는 것을 알 수 있습니다. 중국 사이버공간관리국 공식 웹사이트에 따르면 대중은 세 가지 채널을 통해 피드백을 제출할 수 있으며 피드백 마감일은 2023년 5월 10일이다.

위 내용은 가치와 개인 정보 보호에 대한 전체 범위를 통해 중국 사이버 공간 관리국은 생성 AI에 대한 '규칙 설정'을 계획하고 있습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!