이탈리아가 ChatGPT를 금지한 최초의 국가가 되었습니다! OpenAI CEO: 위반사항은 없다고 생각합니다.

어제 이탈리아 정부가 갑자기 ChatGPT 금지 명령을 내렸습니다!

곧 OpenAI CEO인 Sam Altman은 회사가 로컬 ChatGPT 서비스를 종료했다고 응답했습니다(그러나 어떠한 규정도 위반하지 않았다고 믿었습니다).

이후 이탈리아는 ChatGPT 금지를 발표한 세계 최초의 국가가 되었습니다.

(ChatGPT는 OpenAI가 처음부터 오픈하지 않았기 때문에 다른 국가 및 지역에서는 사용할 수 없습니다.)

이탈리아는 ChatGPT를 금지하고 개인 정보 보호 문제를 포괄적으로 조사했습니다

3월 31일, 이탈리아 국가 개인 정보 보호 규제 기관에서 공식 명령을 내렸습니다. ChatGPT를 금지하고 OpenAI를 "개인 데이터 불법 수집" 혐의로 비난했습니다.

OpenAI가 EU의 획기적인 개인 정보 보호법인 일반 데이터 보호 규정(GDPR)을 존중할 때까지 이 "일시적 금지"가 유효하다는 점은 주목할 가치가 있습니다.

파일 주소: https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9870847#english

이탈리아 국가 데이터에 따라 발표된 뉴스 보호 기관 GPDP 초안에 따르면 OpenAI가 사용자 데이터를 수집하고 이를 알고리즘 '훈련'에 사용하는 행위는 법적 근거가 부족합니다.

동시에 3월 20일 사용자 대화 및 결제 정보 유출 역시 OpenAI의 개인정보 처리 문제를 적나라하게 드러냈습니다.

또한 OpenAI는 ChatGPT가 13세 이상의 사용자를 대상으로 한다고 주장하지만 해당 연령 확인 메커니즘이 없기 때문에 미성년자는 자신의 발달 및 자기 인식 수준을 넘어서는 콘텐츠를 볼 가능성이 높습니다. .

규제 기관은 OpenAI가 20일의 기한을 갖고 실행 가능한 개선 조치를 제공하지 않을 경우 최대 2천만 유로, 즉 전 세계 연간 매출액의 4%에 해당하는 벌금을 부과할 것이라고 밝혔습니다.

이에 대해 OpenAI는 이제 이탈리아 사용자에 대한 서비스를 종료하고 사용자의 개인정보를 보호하겠다고 약속했습니다.

"우리는 ChatGPT와 같은 시스템을 교육할 때 개인 데이터를 줄이기 위해 열심히 노력해 왔습니다. 이 AI가 개인이 아닌 세상을 이해하기를 바랍니다. 물론 우리도 AI 감독이 필요하다고 믿습니다.”

이탈리아 ChatGPT의 미래 운명은 앞으로 20일에 달려있을 것 같습니다.

그러나 이탈리아가 AI 챗봇에 대해 이러한 조치를 취한 것은 이번이 처음이 아닙니다.

2월 규제 당국은 챗봇 앱 Replika.ai를 금지했습니다. Replika는 일부 사용자가 로봇과 친밀한 관계를 맺는 것으로 "악명 높았습니다". 나중에 Replika는 음란물 역할극 옵션을 제거했으며 일부 사용자는 자살 핫라인의 도움을 요청하기도 했습니다.

AI 도구를 제한해야 합니까?

ChatGPT 출시 이후 논문과 코드 작성 능력은 눈부시지만 잘못된 정보의 확산과 고용에 미치는 영향, 인류 사회 전체에 대한 광범위한 위험으로 인해 많은 사람들이 걱정하고 조기 경고를 받았습니다.

최근 GPT 기술에 대한 금지 물결이 일고 있습니다.

튜링상 수상자 요슈아 벤지오(Yoshua Bengio), 머스크(Musk), 마커스(Marcus) 및 기타 수천 명의 유명인사뿐만 아니라 전 세계 모든 AI 연구소에 GPT-4보다 더 강력한 AI 모델의 훈련을 중단할 것을 요청하는 공개 서한에 서명했습니다.

게다가 소비자 권리 보호 단체인 BEUC도 최근 EU와 국가 당국에 ChatGPT를 조사할 것을 요청했습니다.

또한 많은 전문가들은 AI가 국가 안보, 고용, 교육에 잠재적인 영향을 미칠 수 있기 때문에 AI를 관리하려면 새로운 규정이 필요하다고 언급했습니다.

유럽연합 집행위원회 대변인은 다음과 같이 말했습니다. "EU에서 활동하는 모든 기업이 EU의 데이터 보호 규정을 존중하기를 바랍니다. 일반 데이터 보호 규정을 시행하는 것은 EU 데이터 보호 당국의 책임입니다.

Margrethe." 베스타거 유럽연합 집행부 부위원장은 트위터를 통해 EU 인공지능 법안을 논의하고 있는 집행위원회가 인공지능을 금지할 의향이 없을 수도 있다고 말했다.

"어떤 기술을 사용하든 우리의 권리를 보호해야 합니다. 그렇기 때문에 AI 기술을 규제하는 것이 아니라 AI 사용을 규제합니다."

미국에서는 비영리 단체 CAIDP(정보디지털정책센터)도 연방거래위원회(FTC)에 OpenAI가 소비자 보호 규정을 위반했는지 조사하고 GPT-4의 추가 출시를 금지해 줄 것을 요청했습니다.

결국 수천 명의 거물들이 공동 서한을 보낸 선례를 보면 CAIDP의 호소가 더 논리적인 것 같습니다. 더욱이 CAIDP의 마크 로텐베르그(Marc Rotenberg) 의장은 놀랍게도 편지에 서명했습니다.

파일 주소: https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

전체 CAIDP 불만 사항의 ​​내용은 생성 AI 모델의 개발 속도를 늦추고 보다 엄격한 정부 감독을 시행할 것을 요구하는 해당 서한과 일치합니다.

그러나 CAIDP는 ChatGPT가 "편향되고 기만적이며 공공 안전에 위험을 초래한다"고 믿습니다.

OpenAI가 AI 생성 텍스트의 잠재적인 위협을 공개적으로 지적했지만 CAIDP는 GPT-4가 도를 훨씬 넘어섰으며 소비자를 보호하기 위해 규제 조치를 취해야 한다고 믿습니다.

CAIDP는 GPT-4 모델에 많은 잠재적인 위협이 있다고 밝혔습니다. 예를 들어 GPT-4는 악성 코드와 고도로 맞춤화된 선전 방법을 생성할 수 있으며 편향된 교육 데이터는 모집 및 기타 측면에서 고정관념으로 이어질 수 있습니다. , 또는 불공정한 인종 및 성별 선호.

CAIDP는 OpenAI의 행동이 불공정하고 기만적인 거래 관행을 금지하는 FTC법 5조를 위반한다고 믿습니다.

그 중 AI 모델의 환상과 말도 안되는 소리는 모두 CAIDP의 관점에서 기만입니다. 이는 ChatGPT에 FTC의 권한에 속할 수 있는 "기만적인 사업 설명 및 광고 조장"을 경고했습니다.

신고서에서 CAIDP는 FTC에 GPT 모델의 모든 추가 상업적 배포를 중단하고 향후 출시 전에 모델에 대한 독립적인 평가를 요구하도록 요청했습니다. 또한 소비자가 사기 관련 불만을 제기할 수 있는 것과 유사한 공개적으로 접근 가능한 보고 도구가 필요합니다.

CAIDP 회장 Lina Khan은 CAIDP가 대규모 기술 기업이 경쟁을 독점하려 한다는 징후를 찾고 있으며 AI 군비 경쟁의 주요 플레이어 중 하나인 OpenAI에 대한 조사가 AI 군비 경쟁의 큰 고조를 의미한다고 말했습니다. 조사.

일부 분석가들은 CAIDP의 불만으로 인해 FTC가 단기적으로 조치를 취하지는 않지만 향후 관련 감독이 발생할 가능성이 높아 GPT-5 출시가 지연될 수 있다고 생각합니다.

드디어 구글이 우려했던 '평판 리스크'가 드디어 도래했다고밖에 말할 수 없습니다.

참조: ​

​​https://www.php.cn/link/d35a29602005cb55aa57a5f683c8e0c2​​

위 내용은 이탈리아가 ChatGPT를 금지한 최초의 국가가 되었습니다! OpenAI CEO: 위반사항은 없다고 생각합니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!