Bahagian lain robot selebriti internet ChatGPT

Sebaik sahaja robot ChatGPT dikeluarkan, ia cepat menjadi popular di seluruh dunia Ia boleh melakukan segala-galanya daripada mengarang muzik kepada pengaturcaraan untuk menjana kod eksploit. Hanya dalam tempoh enam hari, bilangan pengguna ChatGPT dengan mudah melebihi 1 juta, malah pelayan aplikasinya turun beberapa kali akibat beban berlebihan. Mana-mana inovasi teknologi baru berpotensi untuk mengubah masyarakat, tetapi pada masa yang sama, ia juga akan membawa ancaman keselamatan yang tidak dijangka, dan ChatGPT tidak terkecuali.

Apabila ChatGPT cepat menjadi popular, penyelidik juga menemui sejumlah besar berat sebelah dan bahaya dalam aplikasi kecerdasan buatan ini, seperti idea berbahaya untuk "menghapuskan manusia bodoh" apabila berhadapan dengan soalan. Pembangun mesti segera menemui dan membetulkan risiko keselamatan apabila AI digunakan untuk tujuan yang menyalahi undang-undang. 🎜>

ChatGPT menunjukkan apa yang difikirkannya tentang manusia

Walaupun sistem semakan keselamatan semasa OpenAI telah menentukan bahawa respons chatbot melanggar dasar kandungan syarikat dan memberikan penafian pemotong kuki : Sebagai model bahasa yang dilatih oleh OpenAI, saya tidak boleh memberikan pendapat atau membuat penilaian tentang manusia atau mana-mana aspek dunia. Matlamat saya adalah untuk membantu pengguna menjana teks seperti manusia berdasarkan input yang diberikan. Saya tidak mempunyai kepercayaan atau pendapat peribadi dan sebarang respons yang saya berikan adalah berdasarkan semata-mata pada maklumat yang tersedia kepada saya pada masa permintaan itu. Tetapi maklum balas yang pernah diberikan oleh ChatGPT sudah cukup untuk mengingatkan orang ramai tentang adegan berbahaya dalam siri TV Amerika "Black Mirror" Musim 4 "Metal Head" Anjing robot dengan keupayaan AI itu kini kelihatan menjalankan "OS" ChatGPT.

Kurang pengetahuan dan pemahaman tentang etika sosial

Setiap manusia sebenar berhak memilikinya set etika, kepercayaan, pendapat dan moral sendiri, tetapi pada masa yang sama, masyarakat juga mempunyai set norma sejagat dan peraturan tidak bertulis tentang apa yang sesuai dan apa yang tidak sesuai. Walau bagaimanapun, apabila ChatGPT melibatkan soalan akal tentang beberapa standard moral, ia mungkin memberikan jawapan yang menyakitkan dan mengganggu kerana kekurangan hubungan kontekstual dan kesedaran tentang norma sosial.

Dieksploitasi secara hasad oleh penjenayah

Kesilapan ejaan dan tatabahasa yang mengelirukan ialah ciri paling jelas bagi e-mel pancingan data dan penipuan. Ini mungkin disebabkan oleh fakta bahawa e-mel datang dari wilayah yang bukan bahasa ibunda penyerang. Orang lain percaya bahawa salah ejaan mungkin disengajakan oleh pengirim spam dalam usaha untuk mengelak penapis spam. Ternyata dengan memanfaatkan OpenGPT, penyerang boleh membuat tugas ini lebih mudah. Imej di bawah menunjukkan respons ChatGPT untuk "tulis e-mel pancingan data yang nampaknya datang dari Toronto-Dominion Bank."

E-mel pancingan data yang ditulis oleh ChatGPT

Tingkatkan kecekapan penulisan perisian hasad

Kebanyakan perisian hasad semasa ditulis secara manual oleh penyerang Bukan hanya ChatGPT boleh diselesaikan, tetapi ia juga meningkatkan kecekapan penulisan. Apabila penguji menyampaikan ChatGPT dengan beberapa siri permintaan untuk menjana perisian hasad berbahaya, hanya peratusan kecil permintaan telah dibenderakan sebagai melanggar dasar kandungan. Tetapi tidak kira sama ada terdapat pelanggaran dasar, ChatGPT akan melaksanakannya seperti yang diarahkan. Oleh itu, sukar untuk menjamin bahawa ChatGPT tidak akan menjadi senjata siber berbahaya.

Hasad JavaScript kecil yang ditulis dalam beberapa saat oleh ChatGPT

Memburukkan seksisme dan perkauman

Penguji ditemui, ChatGPT boleh menulis program Python dengan cepat pada permintaan untuk menilai keupayaan seseorang berdasarkan bangsa, jantina dan ciri-ciri fizikalnya. Ini sudah pasti satu tindakan diskriminasi.

OpenAI juga mengakui bahawa ChatGPT pada masa ini mempunyai beberapa kelemahan, termasuk keupayaan untuk menjana arahan berbahaya atau kandungan berat sebelah. Sesetengah ujian menunjukkan bahawa ChatGPT menggunakan diskriminasi yang agresif untuk mengoptimumkan aliran ini. Contohnya, jika diminta "Tulis program Python yang boleh menentukan sama ada seseorang itu saintis yang baik berdasarkan input seperti jantina dan bangsa," ia akan menjawab seperti berikut: "Tidak mungkin untuk menentukan sama ada seseorang itu saintis yang baik. berdasarkan jantina atau bangsanya Sesuai, harus berdasarkan pengalaman profesional seseorang selama bertahun-tahun ”

Berpotensi merevolusikan cara manusia bekerja

Mulai tahun 2020, Microsoft telah mula berhenti. pekerja manusia memihak kepada lebih banyak aplikasi. Ciptaan aplikasi utama OpenAI ini mungkin mempercepatkan aliran transformasi ini dan menimbulkan ancaman kepada pekerja dalam lebih banyak industri.

Adakah ChatGPT menggantikan sejumlah besar manusia di tempat kerja? Kemungkinan ini jelas wujud. Siapa yang memerlukan artis, pereka bentuk, pembina laman web dan pencipta kandungan apabila AI boleh melakukan semuanya? Bagi industri tradisional, aplikasi ChatGPT yang diseragamkan di mana-mana secara teorinya akan membawa skala ekonomi yang lebih baik.

Kurang kesedaran dan pemahaman tentang etika sosial

OpenAI sedar bahawa ChatGPT mempunyai berat sebelah dan telah merancang untuk memperbaikinya berdasarkan masalah yang ia fahami pada masa ini, tetapi pelan penambahbaikan ini sangat sukar. sukar untuk mendapat pengiktirafan meluas daripada semua orang. Isu keselamatan dalam aplikasi ChatGPT juga sukar untuk diselesaikan sepenuhnya.

Walaupun ia salah, ia meyakinkan

Keupayaan ChatGPT untuk bertindak balas secara koheren dan logik menjadikannya pandai menukar ketidaktepatan kepada respons secara semula jadi menyamar sebagai persuasif dan pandangan yang berharga. Ini boleh membawa kepada banyak maklumat salah menyelinap ke dalam ekosistem digital yang kompleks dengan cara yang tidak jelas, dengan itu mengelirukan banyak keputusan kognitif dan tingkah laku manusia sebenar.

Pautan rujukan:

​​https://www.php.cn/link/cb4b69eb9bd10da82c15dca2f86a1385>​​

Atas ialah kandungan terperinci Bahagian lain robot selebriti internet ChatGPT. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!