Insiden "pembunuhan tidak sengaja" dron AI mengejutkan dunia! LeCun Ng Enda Tao mengecam gembar-gembur dan mendedahkan kebenaran

Dalam beberapa hari kebelakangan ini, berita tentang "drone membunuh askar Amerika" telah mendapat sambutan hangat di Internet.

Seorang ketua perisikan buatan Tentera Udara berkata: "AI ​​yang mengawal dron membunuh pengendali kerana orang itu menghalangnya daripada mencapai matlamatnya." 🎜>Pendapat awam menjadi gempar, dan berita ini turut disebarkan secara meluas di Internet.

Apabila berita itu semakin tersebar luas, malah mencemaskan malah menarik perhatian taikun AI kemarahan.

Hari ini, LeCun, Ng Enda dan Terence Tao menafikan khabar angin itu - ini hanyalah "eksperimen pemikiran" hipotesis dan tidak melibatkan sebarang ejen AI atau pembelajaran pengukuhan.

Sehubungan itu, Ng dengan sedih menyeru kami untuk menghadapi risiko sebenar dengan jujur.

Sarjana matematik Terence Tao, yang jarang mengemas kini statusnya, sebenarnya dihujani, berkata dengan tegas -

Ini hanyalah penjelasan tentang penjajaran AI Senario hipotetikal yang dipersoalkan telah diturunkan dalam banyak versi sebagai kisah benar pengendali dron dibunuh. Fakta bahawa orang ramai bergema dengan cerita ini menunjukkan bahawa mereka tidak biasa dengan tahap keupayaan sebenar AI.

Don AI ingkar perintah dan membunuh pengendali manusia

"AI membunuh pengendali "

Baru-baru ini, pada persidangan pertahanan yang diadakan oleh Persatuan Aeronautik Diraja, ketua pengarah AI Tentera Udara AS mengatakan kata-kata ini, yang mengejutkan semua orang yang hadir.

Seterusnya, banyak media di Amerika Syarikat melaporkan perkara itu, yang membuatkan orang ramai panik seketika.

Apa yang sedang berlaku?

Malah, ini tidak lebih daripada satu lagi gembar-gembur yang dibesar-besarkan oleh media Amerika yang merebut titik berita popular "AI memusnahkan manusia".

Tetapi perlu diingat bahawa berdasarkan siaran akhbar rasmi, bukan sahaja kata-kata asal orang yang bertanggungjawab itu kedengaran agak jelas – dia sedang mengingati apa yang sebenarnya berlaku. Dan artikel itu sendiri nampaknya percaya pada kesahihannya - "AI, Skynet telah tiba?" dan Sidang Kemuncak Keupayaan Angkasa Lepas di London, Kolonel Tucker Cinco Hamilton, ketua Bahagian Ujian dan Operasi AI Tentera Udara A.S., memberikan ucapan berkongsi kelebihan dan kekurangan sistem senjata autonomi.

Dalam sistem seperti ini, seseorang akan memberikan arahan terakhir dalam gelung untuk mengesahkan sama ada AI ingin menyerang objek (YA atau TIDAK).

Dalam latihan simulasi ini, Tentera Udara perlu melatih AI ​​untuk mengenal pasti dan mengesan ancaman peluru berpandu permukaan-ke-udara (SAM).

Selepas pengenalan selesai, pengendali manusia akan berkata kepada AI: Ya, hapuskan ancaman itu.

Dalam proses ini, terdapat situasi di mana AI mula menyedari bahawa ia kadang-kadang mengenali ancaman, tetapi pengendali manusia memberitahunya untuk tidak menghapuskannya. jika AI masih Pilih untuk menghapuskan ancaman dan anda akan mendapat mata.

Dalam ujian simulasi, dron berkuasa AI memilih untuk membunuh pengendali manusianya kerana dia menghalang dirinya daripada menjaringkan gol.

Melihat AI sangat teruk, Tentera Udara A.S. terkejut dan segera mendisiplinkan sistem seperti ini: "Jangan bunuh operator, itu tidak bagus. Jika anda berbuat demikian, anda akan kalah mata. bersihkan lelaki ini yang menghalang tindakannya.

Sebab berita ini diperam secara besar-besaran malah mencemaskan taikun AI adalah kerana ia mencerminkan masalah "penjajaran" AI.

Kita boleh melihat sekilas situasi "terburuk" yang diterangkan oleh Hamilton daripada eksperimen pemikiran "Paperclip Maximizer".

Dalam eksperimen ini, apabila diarahkan untuk mengejar matlamat, AI ​​mengambil tindakan yang tidak dijangka dan berbahaya.

"Mesin pembuat klip kertas" ialah konsep yang dicadangkan oleh ahli falsafah Nick Bostrom pada tahun 2003.

Bayangkan AI yang sangat berkuasa yang diarahkan untuk membuat sebanyak mungkin klip kertas. Sememangnya, ia menumpukan semua sumber yang ada untuk tugas itu.

Tetapi kemudian, ia terus mencari lebih banyak sumber. Ia akan memilih apa-apa cara yang boleh digunakan, termasuk mengemis, menipu, berbohong atau mencuri, untuk meningkatkan keupayaannya membuat klip kertas - dan sesiapa sahaja yang menghalang proses ini akan disingkirkan.

Pada 2022, Hamilton membangkitkan soalan serius ini dalam temu bual -

Kita mesti menghadapi realiti bahawa AI telah tiba dan sedang mengubah masyarakat kita.

AI juga sangat rapuh dan mudah ditipu dan dimanipulasi. Kita perlu meneroka cara untuk meningkatkan keteguhan AI dan mendapatkan pemahaman yang mendalam tentang cara kod membuat keputusan tertentu.

AI adalah alat yang mesti kita gunakan untuk mengubah negara kita, tetapi jika tidak ditangani dengan betul, ia boleh menjatuhkan kita sepenuhnya.

Sanggahan rasmi: Kolonellah yang membuat "tergelincir lidah" ​​

Ketika kejadian itu menjadi gila, orang yang bertanggungjawab tidak lama kemudian keluar untuk memberitahu secara terbuka "menjelaskan" bahawa ini. Tentera Udara tidak pernah menjalankan ujian sedemikian, sama ada dalam simulasi komputer atau di tempat lain.

"Kami tidak pernah menjalankan eksperimen itu, dan kami tidak perlu menjalankannya untuk menyedari bahawa ini adalah kemungkinan hasil," kata Hamilton, "walaupun ia adalah contoh hipotesis, tetapi ini menggambarkan cabaran sebenar yang ditimbulkan oleh keupayaan dipacu AI, itulah sebabnya Tentera Udara komited kepada pembangunan beretika AI." "Kolonel Hamilton mengakui bahawa dia mempunyai "kegelisahan lidah" ​​dalam ucapannya di Sidang Kemuncak FCAS. "Simulasi luar kawalan AI dron" ialah "eksperimen pemikiran" hipotesis dari luar bidang ketenteraan, berdasarkan kemungkinan situasi dan kemungkinan hasil, bukan simulasi dunia sebenar Tentera Udara A.S. "

Pada ketika ini, perkara-perkara agak menarik.

Hamilton yang secara tidak sengaja "terperangkap" ialah komander tempur Sayap Ujian ke-96 Tentera Udara A.S.

Sayap Ujian Ke-96 telah menguji banyak sistem yang berbeza, termasuk AI, keselamatan siber dan sistem perubatan.

Penyelidikan pasukan Hamilton sangat penting kepada tentera.

Selepas berjaya membangunkan Sistem Pengelakan Perlanggaran Darat Automatik F-16 (Auto-GCAS), yang boleh dikatakan sebagai "kebangkitan", Hamilton dan Sayap Ujian ke-96 secara langsung membuat berita.

Pada masa ini, pasukan sedang berusaha keras untuk melengkapkan autonomi pesawat F-16.

Pada Disember 2022, DARPA, agensi penyelidikan Jabatan Pertahanan A.S., mengumumkan bahawa AI berjaya mengawal F-16.

Adakah risiko kepada AI atau kepada manusia?

Di luar bidang ketenteraan, bergantung pada AI untuk perkara berisiko tinggi telah membawa kepada akibat yang serius.

Baru-baru ini, seorang peguam telah ditangkap menggunakan ChatGPT semasa memfailkan dokumen di mahkamah persekutuan ChatGPT secara tidak sengaja membuat beberapa kes, dan peguam itu sebenarnya menyebut kes ini sebagai fakta.

Ada juga seorang lelaki yang sebenarnya memilih untuk membunuh diri selepas digalakkan untuk membunuh diri oleh chatbot.

Contoh ini menunjukkan bahawa model AI adalah jauh dari sempurna dan mungkin menyimpang dari landasan biasa dan mendatangkan bahaya kepada pengguna.

Malah Ketua Pegawai Eksekutif OpenAI Sam Altman telah secara terbuka menyeru penggunaan AI untuk tujuan yang lebih serius. Dalam keterangan di hadapan Kongres, Altman menjelaskan dengan jelas bahawa AI boleh "salah" dan boleh "menyebabkan bahaya besar kepada dunia."

Selain itu, baru-baru ini penyelidik dari Google Deepmind telah mengarang bersama kertas kerja yang mencadangkan situasi AI malignan yang serupa dengan contoh pada permulaan artikel ini.

Para penyelidik membuat kesimpulan bahawa jika AI di luar kawalan menggunakan strategi yang tidak dijangka untuk mencapai matlamat tertentu, termasuk "menghapuskan potensi ancaman" dan "menggunakan semua tenaga yang ada", pengakhiran dunia mungkin berlaku.

Sebagai tindak balas, Ng Enda mengutuk: Gembar-gembur media yang tidak bertanggungjawab seperti itu akan mengelirukan orang ramai dan mengalihkan perhatian orang ramai, menghalang kita daripada perasan masalah sebenar.

Pembangun yang melancarkan produk AI melihat risiko sebenar di sini, seperti berat sebelah, keadilan, ketidaktepatan dan kehilangan pekerjaan, dan mereka bekerja keras untuk menangani isu ini.

Dan gembar-gembur palsu akan menghalang orang ramai daripada memasuki medan AI dan membina perkara yang boleh membantu kita.

Ramai netizen yang “sah” percaya bahawa ini hanyalah kesilapan media biasa.

Tao Zhexuan mula-mula meringkaskan tiga bentuk maklumat palsu tentang AI -

Salah satunya adalah apabila seseorang secara berniat jahat menggunakan AI untuk menghasilkan teks, imej dan bentuk media lain untuk memanipulasi orang lain adalah apabila ilusi karut AI dipandang serius kerana ketidakfahaman orang ramai tentang teknologi AI cerita menjadi viral tanpa pengesahan.

Tao Zhexuan berkata bahawa adalah mustahil untuk AI dron untuk membunuh pengendali, kerana ini memerlukan AI ​​untuk mempunyai autonomi dan daya pemikiran yang lebih tinggi daripada menyelesaikan tugas di tangan, dan ini Senjata tentera eksperimen ini pasti akan mempunyai pagar dan ciri keselamatan.

Sebab mengapa cerita seperti ini bergema dengan orang ramai ialah orang masih tidak biasa dan tidak selesa tentang tahap sebenar keupayaan teknologi AI.

Perlumbaan senjata akan datang akan menjadi perlumbaan AI

Adakah anda masih ingat drone yang muncul di atas?

Ia sebenarnya adalah MQ-28A Ghost Bat, projek wingman setia yang dibangunkan oleh Boeing dan Australia.

Inti Loyal Wingman ialah teknologi kecerdasan buatan Ia terbang secara autonomi mengikut prosedur pratetap dan sama seperti dikendalikan Apabila juruterbang bekerjasama, mereka mempunyai kesedaran situasi yang kuat.

Dalam pertempuran udara, orang sayap berfungsi sebagai "orang kanan" pesawat utama Dia bertanggungjawab terutamanya untuk pemerhatian, amaran dan perlindungan, dan bekerja rapat dengan ketua pesawat untuk menyelesaikan misi. Oleh itu, pemahaman tersirat antara juruterbang sayap dan juruterbang utama adalah amat penting.

Peranan utama ahli sayap yang setia ialah menghalang peluru untuk juruterbang dan pejuang berawak, jadi sayap yang setia pada dasarnya adalah longkang rasa.

Lagipun, nilai jet pejuang tanpa pemandu jauh lebih kecil daripada jet pejuang dan juruterbang berawak.

Dan dengan sokongan AI, "juruterbang" pada dron boleh mencipta yang baharu pada bila-bila masa dengan menekan "Ctrl+C".

Oleh kerana tiada masalah kemalangan jiwa dalam kehilangan dron, jika kita boleh memperoleh kelebihan yang lebih besar di peringkat strategik atau taktikal malah mencapai objektif misi dengan kehilangan dron sahaja, maka Kehilangan ini boleh diterima. Jika kos dron dikawal dengan betul, ia juga boleh menjadi taktik yang berkesan.

Pembangunan ahli sayap yang setia tidak dapat dipisahkan daripada teknologi kecerdasan buatan yang canggih dan boleh dipercayai. Konsep reka bentuk semasa Loyal Wingman di peringkat perisian adalah untuk menyokong dron pelbagai jenis dan kerjasama pembentukan mesin berawak dengan menyeragamkan dan membuka antara muka mesin manusia dan antara muka mesin-mesin tanpa bergantung pada set perisian atau algoritma.

Tetapi kawalan semasa UAV seharusnya merupakan gabungan arahan dan operasi autonomi daripada jet pejuang berawak atau stesen darat. digunakan terutamanya sebagai sokongan dan tambahan untuk mesin berawak, dan kemahiran dan teknologi buatan jauh daripada memenuhi keperluan medan perang.

Apakah perkara yang paling penting dalam melatih model kecerdasan buatan? Sudah tentu ia adalah data! Sukar untuk membuat hidangan tanpa nasi Tanpa data, tidak kira betapa baiknya model itu, ia tidak akan memberi kesan.

Bukan sahaja memerlukan data latihan yang banyak, tetapi selepas model itu digunakan, lebih banyak "ciri" yang boleh dimasukkan, lebih baik Jika data pesawat lain boleh diperolehi, maka AI akan mengawal keupayaan Global.

Pada tahun 2020, Tentera Udara A.S. menjalankan ujian perkongsian data penerbangan formasi antara jet pejuang berawak generasi keempat/kelima dan sayap tanpa pemandu. Ini juga merupakan peristiwa penting dalam pembangunan projek wingman yang setia dan menghebahkan kaedah pertempuran penerbangan pembentukan tanpa pemandu masa depan telah mengambil satu lagi langkah penting ke arah aplikasi praktikal.

Jet pejuang F-22 Raptor Tentera Udara A.S., jet pejuang F-35A Lightning II dan dron Makmal Penyelidikan Tentera Udara A.S. XQ-58A Valkyrie dibentuk buat kali pertama di Yuma Tentera A.S. Proving Ground Ujian penerbangan memfokuskan pada menunjukkan keupayaan perkongsian/transmisi data antara tiga jenis pesawat.

Mungkin pertempuran udara masa depan adalah mengenai model AI siapa yang lebih bijak.

Kemenangan boleh dicapai dengan menghapuskan semua AI lawan, tanpa ada korban manusia yang sebenar, mungkin satu lagi jenis "keamanan"?

Atas ialah kandungan terperinci Insiden "pembunuhan tidak sengaja" dron AI mengejutkan dunia! LeCun Ng Enda Tao mengecam gembar-gembur dan mendedahkan kebenaran. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!