Keselamatan ChatGPT telah menimbulkan kebimbangan Syarikat induk mengeluarkan dokumen yang mengatakan bahawa ia sentiasa memberi perhatian kepada keselamatan.

Dengan populariti model bahasa berskala besar yang diwakili oleh ChatGPT, orang ramai semakin bimbang tentang keselamatan mereka. Selepas Itali mengumumkan larangan sementara pada ChatGPT kerana isu privasi dan keselamatan pada 31 Mac, Kanada juga mengumumkan pada 4 April bahawa ia sedang menyiasat syarikat induk ChatGPT OpenAI untuk isu keselamatan data. Pada 5 April, blog rasmi OpenAI mengemas kini artikel, memfokuskan pada cara ia memastikan keselamatan AI, yang boleh dianggap sebagai tindak balas sampingan kepada kebimbangan orang ramai.

Ia mengambil masa 6 bulan untuk menguji GPT-4

Artikel tersebut menyebut bahawa selepas menguji model GPT-4 terkini Selepas selesai semua latihan, pasukan menghabiskan lebih daripada 6 bulan menjalankan ujian dalaman untuk menjadikannya lebih selamat apabila ia dikeluarkan kepada orang ramai. Ia percaya bahawa sistem kecerdasan buatan yang berkuasa harus menjalani penilaian keselamatan yang ketat dan perlu diawasi atas dasar memastikan penyeliaan. Kerajaan bekerjasama secara aktif untuk membangunkan pendekatan pengawalseliaan terbaik.

Artikel itu juga menyebut bahawa walaupun mustahil untuk meramalkan semua risiko semasa ujian percubaan, AI perlu terus belajar pengalaman dan menambah baik dalam penggunaan sebenar untuk mengulang versi yang lebih selamat, dan percaya bahawa masyarakat mesti Ia mengambil sedikit masa untuk menyesuaikan diri dengan AI yang semakin berkuasa.

Mementingkan perlindungan kanak-kanak

Artikel tersebut menyatakan bahawa salah satu fokus kerja keselamatan adalah untuk melindungi kanak-kanak, dan pengguna yang menggunakan alatan AI mestilah berumur lebih dari 18 tahun berumur, atau di bawah umur Lebih 13 tahun di bawah pengawasan ibu bapa.

OpenAI menekankan bahawa ia tidak membenarkan teknologinya digunakan untuk menghasilkan kandungan yang penuh kebencian, mengganggu, ganas atau dewasa Berbanding dengan GPT-3.5, GPT-4 mempunyai peningkatan 82% dalam keupayaannya untuk menolak untuk bertindak balas. kepada kandungan yang dilarang Dan melalui sistem pemantauan untuk mengesan kemungkinan situasi penderaan, contohnya, apabila pengguna cuba memuat naik bahan penderaan seksual kanak-kanak ke alat imej, sistem akan menyekat dan melaporkannya kepada Pusat Kebangsaan untuk Kanak-Kanak Hilang dan Dieksploitasi.

Hormati privasi dan tingkatkan ketepatan fakta

Artikel tersebut menyatakan bahawa model bahasa besar OpenAI dilatih pada pelbagai korpora teks, termasuk kandungan yang tersedia secara umum, kandungan lesen dan kandungan yang dijana oleh penyemak manusia, data tidak akan digunakan untuk menjual perkhidmatan, mengiklankan atau profil pengguna. OpenAI mengakui bahawa ia memperoleh maklumat peribadi daripada Internet awam semasa proses latihan, tetapi akan berusaha untuk mengalih keluar maklumat peribadi daripada set data latihan apabila boleh, memperhalusi model untuk menolak permintaan untuk maklumat peribadi, dan bertindak balas secara aktif kepada permintaan untuk mengalih keluar individu yang terlibat dalam sistem Permintaan untuk kandungan maklumat.

Dari segi ketepatan kandungan yang disediakan, artikel tersebut menyatakan bahawa melalui maklum balas pengguna mengenai pelabelan kandungan palsu, ketepatan kandungan yang dihasilkan oleh GPT-4 adalah 40% lebih tinggi daripada GPT-3.5.

Artikel itu percaya bahawa cara praktikal untuk menyelesaikan masalah keselamatan AI bukan sahaja untuk melaburkan lebih banyak masa dan sumber untuk menyelidik teknologi mitigasi yang berkesan dan menguji penyalahgunaan dalam senario penggunaan sebenar dalam persekitaran eksperimen, tetapi yang lebih penting, untuk meningkatkan keselamatan dan meningkatkan keupayaan AI berjalan seiring, OpenAI mempunyai keupayaan untuk memadankan model AI yang paling berkuasa dengan langkah perlindungan keselamatan terbaik, mencipta dan menggunakan model yang lebih berkuasa dengan lebih berhati-hati, dan adakah langkah keselamatan akan terus diperkukuh apabila sistem AI berkembang.

Atas ialah kandungan terperinci Keselamatan ChatGPT telah menimbulkan kebimbangan Syarikat induk mengeluarkan dokumen yang mengatakan bahawa ia sentiasa memberi perhatian kepada keselamatan.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!