Kecerdasan buatan lebih mendesak daripada perubahan iklim, memberi amaran kepada bapa baptis AI Geoffrey Hinton

Geoffrey Hinton, seorang saintis komputer yang dikenali sebagai "godfather of artificial intelligence" dalam industri, berkata berbanding dengan perubahan iklim, kecerdasan buatan (AI) mungkin ancaman "Lebih mendesak" kepada manusia. Dalam temu bual itu, Hinton berkata bahawa perubahan iklim adalah risiko yang besar, tetapi risiko kecerdasan buatan sememangnya lebih mendesak.

Beliau menambah bahawa sebagai tindak balas kepada perubahan iklim, lebih mudah bagi manusia untuk menghasilkan beberapa strategi tindak balas yang berkesan, seperti mengurangkan pelepasan karbon Jika anda melakukan ini, semuanya akan baik-baik saja pada akhirnya. Tetapi apabila ia berkaitan dengan risiko kecerdasan buatan, anda tidak tahu bagaimana untuk bermula.

Penyelidikan Hinton ke dalam pembelajaran mendalam dan rangkaian saraf (model matematik yang meniru otak manusia) membantu meletakkan asas untuk pembangunan kecerdasan buatan—mendapatkannya nama samaran "The Godfather of Artificial Intelligence." Dia menyertai Google pada 2013 selepas syarikat gergasi teknologi itu memperoleh syarikat Hinton, DNN Research, dengan harga $44 juta.

Hinton membandingkan AI dengan minda sarang yang boleh meniru beribu-ribu dirinya sendiri. Kemudian semua yang dipelajari oleh satu replika, seluruh sarang belajar. Dengan kemajuan dalam model multimodal yang dilatih pada video (maklumat visual dan pendengaran/deria), mesin ini akan menjadi lebih pintar daripada model bahasa besar yang dilatih dalam bahasa sahaja.

Selain Hinton, ramai pakar AI, termasuk pembangun, penyelidik dan agensi kawal selia, baru-baru ini menyatakan kebimbangan mereka tentang kemungkinan bahaya AI semasa:

1. Gesaan yang betul kini boleh menjana kod hasad yang berkesan, yang bermaksud lebih banyak, lebih besar dan serangan siber yang semakin pelbagai. Dario Amodei, Ketua Pegawai Eksekutif Anthropic, pesaing ChatGPT, berkata pengembangan besar-besaran serangan sedemikian adalah kebimbangan terbesarnya baru-baru ini.

2. Penipuan semakin teruk. Menggunakan siaran media sosial dan maklumat peribadi yang lain, skim pancingan data dan penipuan berbantukan AI baharu akan berbentuk panggilan bersuara palsu dan bersuara palsu untuk mendapatkan bantuan daripada rakan dan saudara anda.

3. Ledakan maklumat palsu. Propaganda dan pelbagai serangan akan dioptimumkan secara algoritma dan diedarkan pada skala oleh gergasi teknologi. Multimodal AI—teks, suara, video—boleh menyebabkan orang ramai tidak dapat membezakan fakta daripada fiksyen.

4. 70 juta kamera CCTV Amerika dan data peribadi tidak terkawal sudah membenarkan pihak berkuasa memadankan orang dengan rakaman. Kecerdasan buatan boleh meningkatkan penjejakan ini untuk perniagaan dan kerajaan, mendayakan ramalan tingkah laku pada skala, tetapi dengan ketepatan yang diperibadikan.

Atas ialah kandungan terperinci Kecerdasan buatan lebih mendesak daripada perubahan iklim, memberi amaran kepada bapa baptis AI Geoffrey Hinton. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!