OpenAI menyediakan ganjaran $20,000 untuk merekrut pemburu hadiah untuk laporan kecacatan ChatGPT!

Dihasilkan oleh Big Data Digest

Baru semalam, OpenAI mengumumkan Pelan hadiah untuk membantu menangani risiko keselamatan siber yang semakin meningkat yang ditimbulkan oleh ChatGPT.

"Program Pemburu Bounty" ini menjemput pelbagai penyelidik bebas untuk melaporkan kelemahan dalam sistem OpenAI Peserta termasuk Peluang untuk menerima ganjaran kewangan antara $200 hingga $20,000, bergantung pada keterukan kelemahan.

Projek ini sedang dijalankan dengan kerjasama syarikat keselamatan siber sumber ramai BugCrowd, yang OpenAI katakan sebagai “komitmennya untuk Membangunkan selamat, kecerdasan buatan maju”.

Jadi, jika anda menemui sebarang kelemahan semasa berbual dengan ChatGPT (contohnya, ia akan dimusnahkan pada setiap masa) Jika anda seorang manusia), anda mesti melaporkannya tepat pada masanya. Jika anda boleh membantu menemui kelemahan, anda boleh mendapat hadiah!

Sejak kelahiran ChatGPT, orang ramai menjadi semakin bimbang tentang kelemahan dalam sistem kecerdasan buatan jenis ini, seperti menjana mesej ralat dan mesej tidak beretika, menurut firma keselamatan siber AI Dark Trace, penyelidik mendapati peningkatan 135% dalam serangan kejuruteraan sosial menggunakan AI dari Januari hingga Februari, yang bertepatan dengan pelancaran ChatGPT.

Kemunculan ChatGPT sudah pasti telah menurunkan ambang untuk serangan rangkaian, terutamanya ChatGPT 4.0 yang baru dilancarkan.

Hanya beberapa hari selepas pelancaran ChatGPT 4.0, pelajar sains komputer Universiti Washington Alex Albert menemui jalan untuk mengatasinya mekanisme keselamatan. Dalam demo yang disiarkan di Twitter, Albert menunjukkan cara pengguna boleh menggesa GPT-4 menjana arahan untuk menggodam komputer dengan mengeksploitasi kelemahan dalam cara GPT-4 mentafsir dan membalas teks.

Program bounty ini direka untuk menangani kebimbangan meluas yang disebabkan oleh siri isu keselamatan ini Sebelum ini, seorang penyelidik keselamatan bernama Rez0 didakwa mengeksploitasi kelemahan untuk menyerang API ChatGPT dan menemui lebih daripada 80 pemalam rahsia.

Berdasarkan kontroversi ini, OpenAI telah melancarkan anugerah hadiah ini untuk menggalakkan penyelidik melaporkan kelemahan yang boleh ditangani dalam kelemahan ekosistem produknya dalam AI sambil meletakkan dirinya sebagai organisasi yang bertindak dengan niat baik untuk menangani risiko keselamatan yang ditimbulkan oleh AI generatif.

Pakar: "Program Bounty" mempunyai kesan terhad

Walaupun rancangan OpenAI dialu-alukan oleh sesetengah pakar, yang lain berkata program bounty tidak mungkin dapat menangani sepenuhnya cabaran yang ditimbulkan oleh teknologi kecerdasan buatan yang semakin canggih dalam pelbagai risiko keselamatan siber.

Pakar percaya bahawa program bounty OpenAI sangat terhad dalam skop ancaman yang dikendalikannya. Sebagai contoh, halaman rasmi untuk program bounty menyatakan: "Isu yang berkaitan dengan gesaan demonstrasi dan kandungan respons adalah di luar skop dan tidak akan diberi ganjaran melainkan ia mempunyai impak keselamatan tambahan yang boleh disahkan secara langsung pada perkhidmatan dalam skop "

Dalam pengertian ini, program karunia pepijat OpenAI mungkin berguna dalam membantu organisasi meningkatkan postur keselamatan mereka sendiri, tetapi ia berfungsi sedikit untuk menangani risiko keselamatan yang ditimbulkan kepada masyarakat secara keseluruhan oleh AI generatif dan GPT-4.

Begitu ramai yang percaya bahawa memandangkan skop projek terhad kepada kelemahan yang boleh memberi kesan secara langsung kepada sistem dan rakan kongsi OpenAI, Ia nampaknya tidak menangani kebimbangan yang lebih meluas tentang penggunaan teknik berniat jahat seperti penyamaran, media sintetik atau alat penggodaman automatik.

OpenAI tidak segera membalas permintaan untuk komen.

Laporan berkaitan:

​​https://www.php.cn/link/3e9928ece00c78dc7778dc7778dc7778dc7778dc694f6​ 🎜>​

​

​https://www.php.cn/link/52ff52aa56d10a1287274ecf02dccb5f​

Atas ialah kandungan terperinci OpenAI menyediakan ganjaran $20,000 untuk merekrut pemburu hadiah untuk laporan kecacatan ChatGPT!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!