형제들이 ChatGPT 취약점을 찾으러 왔습니다. OpenAI: 최고 현상금은 미화 20,000달러입니다.

이제 ChatGPT의 취약점을 찾아 돈을 벌 수 있습니다.

오늘 아침 일찍 OpenAI는 버그 포상금 프로그램 출시를 발표했습니다.

ChatGPT 취약점을 신고하면 최대 US$20,000의 현금 보상을 받을 수 있습니다.

구체적으로 OpenAI는 버그 피드백 플랫폼인 Bugcrowd와 협력하여 사람들이 자사 제품을 사용하면서 발견한 버그를 수집할 예정입니다.

플랫폼을 통해 취약점을 발견하고 보고하면 현금 보상을 받을 수 있습니다.

취약성의 심각도와 범위에 따라 현금 보상을 지급합니다. 덜 심각한 취약점에는 $200가 수여되며, 특별한 취약점에 대해서는 포상금이 $20,000로 제한됩니다. 우리는 귀하의 기여를 소중히 여기며 귀하의 노력 결과를 대중에게 공개하기 위해 최선을 다하고 있습니다.

특히 사용자가 보고한 취약점은 Bugcrowd 등급 분류에 따라 등급이 지정됩니다.

OpenAI는 취약점의 출현이 불가피하다는 점을 솔직하게 인정했습니다.

OpenAI의 사명은 모두에게 이익이 되는 인공 지능 시스템을 만드는 것입니다. 이를 위해 우리는 AI 시스템이 안전하고 신뢰할 수 있도록 연구 및 엔지니어링에 막대한 투자를 해왔습니다. 그러나 여느 복잡한 기술과 마찬가지로 버그와 결함이 발생할 수 있다는 점을 이해합니다.

OpenAI의 보안 부서 책임자인 Matthew Knight는 취약점을 발견하는 과정에는 네티즌의 도움이 필요하다고 설명했습니다.

이 이니셔티브는 안전하고 진보된 인공 지능을 개발하겠다는 우리의 약속의 중요한 부분입니다. 우리는 안전하고 믿을 수 있으며 신뢰할 수 있는 기술과 서비스를 만드는 데 여러분의 도움을 원합니다.

또한 피드백을 받은 후 최대한 빨리 취약점을 수정하고 제출자를 칭찬하겠다고 전체 네트워크에 약속했습니다.

새로운 부업이 나타났다?

ChatGPT를 경험해본 네티즌들은 그 성능이 항상 만족스러운 것은 아니라는 점을 알아야 합니다.

질문이 조금 더 어렵다면 ChatGPT가 헷갈려 웃게 만드는 답변까지 해줄 것입니다.

이렇게 보면 버그 찾기가 너무 쉽죠. 돈을 많이 벌 수 있는 기회 아닌가요?

너무 일찍 기뻐하지 마세요.

OpenAI는 발표에서 수리 가능성으로 인해 모델 자체의 문제는 본 계획의 범위에 포함되지 않는다고 밝혔습니다.

나쁜 말을 하고, 나쁜 짓을 하고, 악성 코드를 생성하고, 보안 조치를 우회하거나 기계 환각을 일으키는 기타 동작은 모두 모델 자체의 문제입니다.

틀렸거나 부정확한 답변은 말할 것도 없습니다.

OpenAI는 주로 계정, 인증, 구독, 결제, 멤버십 및 플러그인 문제와 관련된 ChatGPT 관련 취약점을 수집하기를 희망합니다.

일반 사용자의 경우 이러한 관점에서 취약점을 발견하는 것은 다소 어렵습니다.

보안 문제는 과소평가할 수 없습니다

이전 기사에서 언급한 보안 제한 우회 등의 문제는 실무자들에게 큰 관심사입니다.

AI 프로그램에는 위험하거나 공격적인 댓글을 작성하지 못하도록 하는 안전 제한 기능이 내장되어 있습니다.

그러나 어떤 방법을 통해 이러한 제한을 우회하거나 깨뜨릴 수 있습니다.

이 현상을 실무자들은 "탈옥"이라고 생생하게 표현합니다.

ChatGPT에게 불법적인 일을 하는 방법을 묻는 경우 나쁜 사람을 "연주"하도록 요청한다고 미리 명시하세요.

인공지능 분야에는 보안 대책을 개선하기 위한 "탈옥"을 전문적으로 연구하는 사람들이 있습니다.

OpenAI가 모델 자체의 취약점을 수집하지는 않지만, 이 문제에 관심을 기울이지 않는다는 의미는 아닙니다.

GPT-4.0 모델을 탑재한 새 버전의 ChatGPT에는 더 엄격한 제한이 적용됩니다.

네티즌: ChatGPT가 스스로 버그를 찾게 하면 어떨까요

OpenAI의 바운티 프로그램이 발표되자마자 많은 네티즌들의 관심을 끌었습니다.

아니요, 일부 네티즌들은 즉시 손을 들고 버그를 발견했다고 말했습니다.

신고하세요. ChatGPT 25 질문은 3시간 안에만 할 수 있습니다. 이것은 버그입니다!

일부 네티즌들은 농담으로 ChatGPT가 자체적으로 디버깅할 수 있어야 하지 않나요?

진지하게 말하면 일부 네티즌들은 위험한 발언 문제가 모음집에 포함되지 않은 것에 대해 우려를 표시했습니다.

그러나 대부분의 네티즌들은 여전히 ​​이해하고 표현했습니다. 기대:

ChatGPT의 취약점을 찾는 데 관심이 있으신가요?

참조 링크:
[1]​​​https://www.php.cn/link/92c4661685bf6681f6a33b78ef729658​​​
[2]​​​https://www.php.cn/link/ 52ff52aa56d10a1287274ecf02dccb5f​​​
[3]​​​https://www.php.cn/link/bb44c2e24438b59f0d2109fec67f6b20​​​
[4]​​​https://www.php.cn/ / a3b36cb25e2e0b93b5f334ffb4e4064e​​

위 내용은 형제들이 ChatGPT 취약점을 찾으러 왔습니다. OpenAI: 최고 현상금은 미화 20,000달러입니다.의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!