Kerentanan privasi dalam ChatGPT mungkin mendedahkan tajuk perbualan antara pengguna dan bot sembang

Pengguna di Reddit dan Twitter mula melaporkan kelemahan dalam ChatGPT pada 20 Mac dan menyiarkan beberapa tangkapan skrin yang menunjukkan sejarah web ChatGPT mereka Transkrip mengandungi tajuk perbualan yang tidak dikenali mereka.

Walaupun kandungan sembang kongsi nampaknya tidak boleh diakses dengan cara ini, OpenAI memadamkan sepenuhnya sejarah sembang apabila ia menutup kerentanan.

Menurut laporan media industri, ChatGPT juga mengalami gangguan besar pada hari itu, dan pengguna yang mempunyai akses menyedari perkhidmatan yang tidak konsisten. OpenAI mendokumentasikan gangguan pada halaman statusnya dan memulihkan perkhidmatan dalam beberapa jam selepas pelaporan awal.

Sam Altman, Ketua Pegawai Eksekutif OpenAI, tweet pada 22 Mac, “Kami telah mengalami masalah besar dengan ChatGPT kerana pepijat dalam perpustakaan sumber terbuka dan kini telah mengeluarkan pembetulan, kami baru sahaja menyelesaikan pengesahan kesal kerana sebilangan kecil pengguna dapat melihat tajuk sejarah perbualan pengguna lain.”

Altman berkata di Twitter bahawa walaupun isu ini serius, Sudah selesai. Dia tidak mendedahkan nama pustaka sumber terbuka tempat isu itu berlaku, dan juga tidak memberikan peratusan tepat pengguna yang terjejas.

Dengan berjuta-juta pelawat setiap hari, kelemahan privasi yang menjejaskan walaupun sebilangan kecil orang boleh membawa kepada perkongsian data yang meluas dan "post-mortem teknikal" yang dijanjikan oleh Altman harus menangani isu ini.

Setiap sembang pengguna dengan ChatGPT disimpan sebagai contoh dalam sejarah pengguna, dengan tajuk ditentukan berdasarkan kandungan perbualan.

Pada 27 Mac, sesetengah pengguna mendapati bahawa sejarah mereka mengandungi tajuk yang berkaitan dengan topik atau ciri yang tidak dikenali, serta tajuk yang ditulis dalam bahasa lain, menunjukkan bahawa kerentanan itu merupakan persoalan global.

Syarikat OpenAI mungkin perlu menggariskan polisi dan prosedur perlindungan data mereka dengan teliti dan memastikan pengguna bahawa rantaian bekalan sumber terbuka mereka selamat dan isu serupa tidak akan timbul lagi.

Sesetengah pengguna yang menyiarkan maklum balas pada Reddit melaporkan melihat jenis mesej lain, tetapi tidak memberikan bukti yang boleh disahkan untuk menyokong dakwaan ini.

Seorang pengguna berkata: "Saya melihat nombor telefon orang lain dipautkan ke akaun saya. Saya bimbang tentangnya, tetapi belum sampai ke tahap untuk berhenti daripada apl itu lagi." mereka mendaftar untuk ChatGPT Plus, pelan langganan $20 sebulan platform itu, melalui e-mel lain yang dipautkan ke akaun mereka, tetapi tidak diberikan akses kepada perkhidmatan tersebut.

Kerentanan datang pada masa yang kritikal untuk OpenAI, pembangun kecerdasan buatan yang baru sahaja mengeluarkan model GPT-4nya. Varian GPT-4 chatbot sudah tersedia untuk pengguna yang melanggan ChatGPT Plus, dan OpenAI telah berjanji untuk menyampaikan prestasi peringkat manusia.

Pesaing OpenAI dalam kecerdasan buatan, Google, baru-baru ini melancarkan chatbotnya sendiri Bard untuk pengguna di United Kingdom dan Amerika Syarikat Pengguna boleh mendaftar untuk akses terbuka melalui senarai menunggu.

Menurut laporan, untuk bersaing dengan ChatGPT, Google telah menyusun semula pasukan dalamannya dan menyatakan harapan bahawa Bard, yang dikuasakan oleh versi optimum 540 bilion parameter model bahasa besar (LLM) LaMDA, boleh dengan cepat dipertingkatkan melalui maklum balas pengguna.

Orang dalam industri membandingkan Bard dan ChatGPT dan menyatakan bahawa ChatGPT dan chatbot Bing berasaskan GPT-4 Microsoft akan menjadi pesaing yang cemerlang dalam era baharu kecerdasan buatan.

Walaupun Microsoft dan OpenAI telah pun bekerjasama, Google bergantung pada penguasaan pasarannya untuk memberikan Bard lebih banyak peluang.

Google juga telah lantang bersuara tentang kelemahan AI generatif. Pengerusi Alphabet John Hennessy memberi amaran pada bulan Februari bahawa Google telah teragak-agak untuk melepaskan Bard kerana ia masih dalam pembangunan, dan catatan blognya yang mengumumkan keluaran Bard memanggilnya sebagai "percubaan."

Dalam ujian dalaman oleh badan industri, chatbot beroperasi sama dengan versi Bing Chat yang terdahulu, dengan masa respons yang dijana teks yang pantas tetapi mempunyai kesan palsu atau palsu yang dikenali sebagai "Kecenderungan untuk mengada-adakan output." .

Atas ialah kandungan terperinci Kerentanan privasi dalam ChatGPT mungkin mendedahkan tajuk perbualan antara pengguna dan bot sembang. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!