Media AS: Musk dan yang lain berhak meminta penggantungan latihan AI dan perlu memperlahankan untuk keselamatan

Menurut berita pada 30 Mac, Ketua Pegawai Eksekutif Tesla Elon Musk dan pengasas bersama Apple Steve Steve Wozniak dan lebih 1,000 yang lain baru-baru ini menandatangani surat terbuka yang menyeru agar moratorium latihan sistem AI lebih berkuasa daripada GPT-4. BI, media dalam talian arus perdana Amerika, percaya bahawa untuk manfaat seluruh masyarakat, pembangunan AI perlu diperlahankan.

Dalam surat terbuka itu, Wozniak, Musk dan lain-lain meminta apabila teknologi AI menjadi semakin berkuasa, pagar keselamatan disediakan dan latihan model AI yang lebih maju digantung. Mereka percaya bahawa untuk model AI yang berkuasa seperti GPT-4 OpenAI, "mereka hanya perlu dibangunkan apabila kami yakin bahawa impaknya adalah positif dan risikonya boleh dikawal."

Sudah tentu, ini bukan kali pertama orang memanggil pagar keselamatan untuk AI. Walau bagaimanapun, apabila AI menjadi lebih kompleks dan maju, seruan untuk berhati-hati semakin meningkat.

James Grimmelmann, profesor undang-undang digital dan maklumat di Universiti Cornell di Amerika Syarikat, berkata: “Melambatkan pembangunan model AI baharu adalah idea yang sangat baik, kerana jika AI akhirnya menjadi Jika ia bermanfaat kepada kami, maka tidak ada salahnya menunggu beberapa bulan atau tahun, kami akan sampai ke penghujungnya, dan jika ia merugikan, maka kami juga membeli masa tambahan untuk mencari cara terbaik untuk bertindak balas dan memahami melawannya. ”

Kebangkitan ChatGPT menyerlahkan potensi bahaya bergerak terlalu pantas

Apabila chatbot OpenAI ChatGPT dilancarkan untuk ujian awam pada November tahun lalu, ia menyebabkan sensasi yang besar. Maklumlah, orang ramai mula mempromosikan keupayaan ChatGPT, dan kesan yang merosakkannya terhadap masyarakat dengan cepat menjadi jelas. ChatGPT mula lulus peperiksaan profesional perubatan, memberikan arahan tentang cara membuat bom, dan juga mencipta alter ego untuk dirinya sendiri.

Semakin banyak kita menggunakan AI, terutamanya alat yang dipanggil kecerdasan buatan generatif (AIGC) seperti ChatGPT atau alat penukaran teks-ke-imej Stable Diffusion, semakin kita melihat kelemahannya dan caranya untuk mewujudkan berat sebelah. potensi, dan betapa kita manusia kelihatan tidak berdaya dalam memanfaatkan kuasanya.

Editor BI Hasan Chowdhury menulis bahawa AI mempunyai potensi untuk "menjadi pengecas turbo, mempercepatkan penyebaran kesilapan kami." Seperti media sosial, ia memanfaatkan manusia yang terbaik dan paling teruk. Tetapi tidak seperti media sosial, AI akan lebih disepadukan ke dalam kehidupan orang ramai.

ChatGPT dan produk AI serupa yang lain sudah cenderung untuk memutarbelitkan maklumat dan membuat kesilapan, sesuatu yang Wozniak perkatakan secara terbuka. Ia terdedah kepada apa yang dipanggil "halusinasi" (maklumat tidak benar), malah Ketua Pegawai Eksekutif OpenAI Sam Altman mengakui bahawa model syarikat itu boleh menghasilkan jawapan perkauman, seksis dan berat sebelah . Stable Diffusion juga telah menghadapi isu hak cipta dan dituduh mencuri inspirasi daripada karya artis digital.

Apabila AI disepadukan ke dalam lebih banyak teknologi setiap hari, kami mungkin memperkenalkan lebih banyak maklumat salah ke dunia pada skala yang lebih besar. Malah tugas yang kelihatan tidak berbahaya kepada AI, seperti membantu merancang percutian, mungkin tidak membuahkan hasil yang boleh dipercayai sepenuhnya.

Sukar untuk membangunkan teknologi AI secara bertanggungjawab apabila pasaran bebas menuntut pembangunan pesat

Untuk jelasnya, AI ialah teknologi yang sangat transformatif, terutamanya seperti ChatGPT AIGC Sebegitu. Tidak ada yang salah dengan membangunkan mesin untuk melakukan kebanyakan kerja yang membosankan yang orang benci.

Walaupun teknologi ini telah mencipta krisis wujud dalam tenaga kerja, teknologi ini juga telah dipuji sebagai alat penyamaan untuk industri teknologi. Juga tiada bukti bahawa ChatGPT sedang bersedia untuk mengetuai pemberontakan bot pada tahun-tahun akan datang.

Banyak syarikat AI mempunyai ahli etika yang terlibat untuk membangunkan teknologi ini secara bertanggungjawab. Tetapi jika tergesa-gesa sesuatu produk mengatasi impak sosialnya, pasukan yang menumpukan pada penciptaan AI dengan selamat tidak akan dapat menyelesaikan kerja dengan aman.

Kelajuan nampaknya merupakan faktor yang tidak boleh diabaikan dalam kegilaan AI ini. OpenAI percaya bahawa jika syarikat itu bergerak dengan cukup pantas, ia boleh menangkis persaingan dan menjadi peneraju dalam ruang AIGC. Itu mendorong Microsoft, Google dan hampir semua syarikat lain untuk mengikutinya.

Mengeluarkan model AI yang berkuasa untuk pengalaman awam sebelum ia bersedia tidak menjadikan teknologi itu lebih baik. Kes penggunaan terbaik untuk AI masih belum ditemui kerana pembangun perlu mengurangkan bunyi yang dihasilkan oleh teknologi yang mereka cipta, dan pengguna terganggu oleh bunyi tersebut.

Bukan semua orang mahu memperlahankan

Surat terbuka daripada Musk dan lain-lain juga telah dikritik oleh orang lain, yang merasakan bahawa ia tidak masuk akal.

Emily M. Bender, seorang profesor di Universiti Washington, berkata di Twitter bahawa Musk dan pemimpin teknologi lain hanya menumpukan pada kuasa AI semasa kitaran gembar-gembur, bukannya kerosakan sebenar yang boleh ditimbulkannya.

Profesor undang-undang digital dan maklumat Cornell University, Grimmelman menambah bahawa pemimpin teknologi yang menandatangani surat terbuka "terlambat tiba" dan membuka kotak Pandora yang boleh membawa akibat kepada diri mereka. Beliau berkata: "Sekarang mereka telah menandatangani surat ini, mereka tidak boleh berpatah balik dan menggunakan dasar yang sama kepada teknologi lain seperti kereta pandu sendiri

Menggantung pembangunan atau mengenakan lebih banyak peraturan juga mungkin tidak akan." mencapai hasil. Tetapi kini, perbualan seolah-olah bertukar. AI telah wujud selama beberapa dekad, mungkin kita boleh menunggu beberapa tahun lagi.

Atas ialah kandungan terperinci Media AS: Musk dan yang lain berhak meminta penggantungan latihan AI dan perlu memperlahankan untuk keselamatan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!