GPT-4는 OpenAI가 FTC가 발표한 인공지능 표준을 전혀 충족하지 않는다는 불만으로 인해 금지 요청을 받았습니다.

며칠 전 머스크, 요슈아 벤지오 등은 모든 AI 연구소에 GPT-4보다 더 강력한 AI 모델의 훈련을 즉시 중단할 것을 촉구하는 공개 서한에 서명했습니다. 이제 누군가는 공개된 GPT-4를 중단하고 싶어합니다.

이번에 GPT-4를 중단시킨 사람은 비영리단체 인공지능디지털정책센터(CAIDP)였습니다. CAIDP는 미국 연방거래위원회(FTC)에 OpenAI를 조사하고 회사가 GPT-4를 더 이상 출시하지 못하도록 금지하도록 요청했습니다.

파일 주소: https://cdn.arstechnica.net/wp-content/uploads/2023/03/CAIDP-FTC-Complaint-OpenAI-GPT-033023.pdf

CAIDP FTC에 이 신청서를 제출한 이유는 "OpenAI의 소비자 제품 GPT-4 출시는 편파적이고 기만적이며 개인 정보 보호 및 공공 안전에 위험을 초래합니다. 모델의 출력은 입증되거나 재현될 수 없습니다. 배포 전에는 보장이 없습니다." 독립적인 평가를 수행하세요."

CAIDP는 미국의 모든 상업용 AI 제품에 대한 독립적인 감독 및 평가를 요구하고 소비자, 기업 및 상업 시장을 보호하기 위해 필요한 "보호 조치"가 마련되어 있는지 확인합니다.

이전에 FTC는 "책임성을 촉진하면서 인공지능의 사용이 투명하고, 설명 가능하며, 공정하고, 경험적으로 합리적이어야 한다"는 인공지능 표준을 발표한 바 있으며, CAIDP는 "OpenAI의 GPT-4는 어떤 조건도 충족하지 않습니다"라고 밝혔습니다. 이러한 요구 사항 중 하나입니다."

GPT-4가 출시된 지 불과 2주밖에 안 됐는데, 이런 강력한 AI 모델에 대해 사람들은 이미 크게 분열되어 있습니다. 한편으로는 GPT-4와 같은 강력한 모델을 중단하려는 사람들은 이러한 모델이 정보 보안과 심지어 인간 사회에 더 큰 위험을 초래할 것이라고 믿는 반면, 일부 사람들은 지금이 인공 지능에 좋은 시기라고 믿습니다. 가속화된 기술 발전을 촉진해야 합니다.

흥미롭게도 OpenAI CEO인 Sam Altman은 "폭풍의 눈 속에서도 침착함을 유지하세요"라는 새로운 트윗을 올렸습니다. 이것은 최근 "GPT-4와 같은 모델 연구를 중단하라"는 일련의 요청에 대한 그의 반응일 수 있습니다.

위험 측면에서 OpenAI는 발행 당시 외부 전문가에게 GPT-4로 인한 잠재적 위험을 평가하도록 요청했다고 밝혔습니다. 그러나 CAIDP는 FTC에 제출할 때 GPT-4를 위반한 행위임을 분명히 밝혔습니다.

CAIDP는 GPT-4가 비즈니스 공정성에 심각한 영향을 미쳤다고 믿으며 "GPT-4의 상업적 출시는 인공지능 제품의 사용 및 광고에 대한 기업의 FTC 기준인 FTC법 제5조를 위반합니다. 인공 지능 거버넌스 등을 위한 새로운 규범.”

또한 OpenAI는 GPT-4의 기술적 세부 사항을 공개하지 않았습니다. 이것이 CAIDP가 FTC에 신청서를 제출한 이유 중 하나입니다.

CAIDP는 "OpenAI는 아키텍처, 모델 크기, 하드웨어, 컴퓨팅 리소스, 훈련 기술, 데이터 세트 구성 또는 훈련 방법에 대한 세부 정보를 공개하지 않았지만 연구 커뮤니티의 일반적인 관행은 훈련 데이터와 훈련을 기록하는 것입니다. 그러나 OpenAI는 GPT-4에 대해 이러한 작업을 수행하지 않기로 결정했습니다. 특히 생성 AI 모델은 사용 중에 비정상적인 동작이 나타날 수 있고 이러한 동작이 게시로 인해 발생할 수 있기 때문에 일반 소비자 제품이 아닙니다. 이전에는 발견되지 않았습니다. "

신고 내용

특히 CAIDP는 이번 신고서에서 GPT-4 및 관련 모델인 ChatGPT에 대한 일련의 잠재적인 위험을 지적했습니다.

예를 들어, OpenAI는 "GPT-4 시스템 카드" 기사에서 GPT-4가 특정 소외 집단에 대한 고정관념과 경멸적인 연관성을 포함하여 특정 편견과 세계관을 강화하고 재현할 수 있음을 분명히 했습니다. CAIDP는 또한 OpenAI 회사의 블로그 게시물을 인용하여 유사한 대형 모델인 ChatGPT가 때때로 유해한 지시에 응답하거나 편향된 행동을 보였다고 밝혔습니다.

FTC에 제출된 고소장에서 CAIDP는 "OpenAI가 위험을 충분히 이해했음에도 불구하고 상업용으로 GPT-4를 대중에게 공개했습니다"라고 밝혔습니다. 불만 사항은 또한 "GPT-4 시스템 카드는 OpenAI가 테스트 중에 수행한 보안 검사에 대한 세부 정보를 제공하지 않으며 OpenAI가 어린이를 보호하기 위해 취하는 모든 단계도 자세히 설명하지 않습니다. 이는 또한 GPT-4 사용에 대한 의문을 제기합니다. "

CAIDP도 유럽 소비자 단체 BEUC가 제기한 우려를 지적했습니다. "ChatGPT가 소비자 신용이나 보험 평가에 사용된다면 불공정하고 편향된 결과가 나올 가능성이 있나요?"라는 트윗도 등장합니다. CAIDP의 불만 사항 접수에 참조로 사용됩니다.

또한 네트워크 보안 측면에서 ChatGPT는 피싱, 가짜 텍스트 생성 또는 악성 코드 생성에 사용될 수 있습니다. 개인 정보 보호 측면에서 CAIDP는 이번 달 OpenAI가 다른 사용자에게 비공개 채팅을 표시하고 있다는 보고가 있었다고 말했습니다.

또 다른 사례에서는 AI 연구원이 ChatGPT가 어떻게 다른 사람의 계정을 장악하고, 채팅 기록을 보고, 상대방이 깨닫지 못하는 사이에 결제 정보에 액세스할 수 있는지 설명했습니다. 그러나 OpenAI는 취약점을 수정했습니다.

CAIDP는 또한 이미지 입력에서 텍스트 응답을 제공하는 GPT-4의 능력이 개인 정보 보호 및 개인 자율성에 큰 영향을 미치므로 사용자가 개인 이미지를 상세한 개인 데이터와 연결할 수 있다고 말했습니다. OpenAI가 이미지-텍스트 기능을 중단한 것으로 파악되지만, 실제 상황은 어떤지 말하기 어렵다.

CAIDP는 FTC가 OpenAI가 GPT를 추가로 상업적으로 배포하는 것을 금지하고, 배포 전과 GPT AI 수명 주기 전반에 걸쳐 GPT 제품에 대한 독립적인 평가를 요구하고, OpenAI가 FTC AI 표준을 준수하도록 요구하고, 공개적으로 액세스할 수 있는 GPT를 구축해야 한다고 믿습니다. - 4의 사고 보고 메커니즘은 소비자 사기를 신고하는 FTC의 메커니즘과 유사합니다.

CAIDP는 또한 FTC에 "생성 인공 지능 시장 분야 제품의 기본 표준"으로 사용될 표준 사양을 추가로 공개할 것을 촉구합니다.

AI 학계, 토론

이틀 전 수천 명의 사람들이 GPT-4의 후속 AI 모델 개발을 중단하라는 청원서에 서명했습니다. 오늘 CAIDP는 OpenAI의 새로운 광고 출시 금지를 조사해달라고 FTC에 요청했습니다. GPT-4 버전. 불과 하루 이틀 만에 다양한 논의가 폭발했고, AI 사장을 비롯한 전문가들이 나서 공개적으로 대응했다. 반대하는 사람도 있고 지지하는 사람도 있습니다.

GPT-4 후속 AI 대형 모델 개발 중단에 대해서는 튜링상 수상자 요슈아 벤지오, 테슬라 CEO(OpenAI 공동 창업자) 엘론 머스크, 뉴욕대 명예교수 게리 마커스, UC 버클리 스튜어트 교수 Russell과 다른 사람들은 모두 이에 찬성하며 대규모 AI 실험을 중단하라는 공개 서한에 서명했습니다. 특히 CAIDP의 회장이자 창립자인 Marc Rotenberg도 공개 서한에 서명했습니다.

공개 서한 주소: https://futureoflife.org/open-letter/pause-giant-ai-experiments/

그러나 그동안 ChatGPT를 비판해온 Yann LeCun은, 그는 서명하지 않겠다고 공개적으로 밝혔습니다. 저는 이 공개 서한의 내용에 동의하지 않습니다.

오레곤 주립 대학의 명예 교수인 Thomas G. Dietterich는 트위터에서 "저도 서명하지 않았습니다. 편지에는 끔찍한 수사와 효과가 없거나 존재하지 않는 정책으로 가득 차 있습니다. 몇 가지 중요한 기술적 문제와 정책적 문제 해결을 위해 노력하고 있다”고 밝혔고, 르쿤은 공개적으로 “동의한다”고 밝혔다.

Enda Ng은 또한 청원서에 서명한 수천 명의 사람들을 공개적으로 반대하는 기사를 발표하며 다음과 같이 말했습니다. "GPT-4는 교육, 의료, 식품 등에 많은 새로운 응용 프로그램을 가지고 있으며 많은 사람들에게 도움이 될 것입니다. 정부가 또한, 정부에 이해하지 못하는 신기술을 중단하라고 요구하는 것은 반경쟁적이며 나쁜 선례가 됩니다. 나쁜 정책."

나중에 Tian Yuandong도 이를 지지했습니다. Ng의 관점은 "이런 일이 시작되면 멈출 방법이 없다고 말했습니다. 아니면 이러한 추세를 뒤집어야 합니다. 우리는 다른 각도에서 기대하고 LLM을 더 잘 이해하고 이에 적응하고 그 힘을 활용하고 열기를 느껴야 합니다."

Yi Tay (전 선배) 구글 브레인 연구원)은 방금 구글 브레인에서 탈퇴를 선언했다. "인터넷에서 무작위로 LLM에 대해 논의하는 사람을 금지하면 6. 달에 서명하겠습니다."

위 내용은 GPT-4는 OpenAI가 FTC가 발표한 인공지능 표준을 전혀 충족하지 않는다는 불만으로 인해 금지 요청을 받았습니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!