Adakah masa untuk mula bimbang tentang penggodam AI?

Serangan AI akan terlebih dahulu menentukan sasaran, kemudian mendapatkan maklum balas dan terus mengoptimumkan serta menambah baik. Jika suatu hari nanti AI boleh membangunkan penyelesaian baru sepenuhnya atau bahkan mula mengoptimumkan penyelesaian, kematiannya akan menjadi besar.

Kekaburan sistem ialah halangan semasa terhadap penggodam AI

Untuk permainan seperti Go, peraturan, matlamat dan maklum balas semuanya mudah dan pasti bukanlah sesuatu yang luaran untuk mengganggu keadaan, kalah atau menang adalah maklum balas. GPT-3 AI boleh menulis artikel yang koheren kerana dunia yang didiaminya hanyalah teks. Oleh sebab itu, banyak aktiviti ganjaran penggodam semasa dijalankan dalam persekitaran simulasi, semua buatan, semua dikekang, dan semua peraturan disediakan untuk AI.

Kekaburan sistem adalah kuncinya. Kita boleh memasukkan semua undang-undang cukai global ke dalam AI, kerana terdapat formula dalam undang-undang cukai untuk menentukan jumlah cukai yang perlu dibayar. Walaupun begitu, semua undang-undang mempunyai kesamaran. Kabur sukar untuk diterjemahkan ke dalam kod dan sukar untuk dikendalikan oleh AI. Jadi walaupun dengan AI, masih terdapat keperluan untuk banyak peguam cukai pada masa hadapan.

Kebanyakan sistem manusia lebih samar-samar. Bolehkah AI digunakan untuk menggodam permainan sukan dunia sebenar (seperti permainan hoki)? Saya takut ia sukar. AI mesti memahami peraturan permainan, tetapi itu tidak mencukupi. Ia juga perlu memahami fisiologi manusia, aerodinamik kelab dan bola, dan banyak lagi. Sudah tentu kita tidak boleh mengatakan ia benar-benar mustahil, tetapi ia pasti lebih sukar daripada berurusan dengan Go.

Dalam jangka pendek, adalah tepat kerana sistem sosial adalah sangat kompleks dan samar-samar bahawa pertahanan sistem terhadap penggodam AI dipertingkatkan. Tidak mungkin penggodam sukan AI akan muncul pada masa hadapan. Jika robot mengambil bahagian dalam permainan secara peribadi, atau suatu hari nanti AI sangat maju sehingga dapat memahami dunia yang luas dari semua dimensi, maka mungkin penggodam sukan AI akan dilahirkan.

Begitu juga, penggodam AI kasino dan penggodam AI proses undang-undang tidak mudah dibangunkan. AI akan mengambil masa yang lama untuk mensimulasikan kerja individu atau kumpulan, dan ia tidak mungkin buat sementara waktu.

Tetapi jangan memandang rendah keupayaan evolusi bukan linear AI

Dunia penuh dengan penggodam AI Ini adalah masalah fiksyen sains, tetapi ia bukan masalah fiksyen sains yang bodoh. AI bertambah baik dengan pantas, tetapi kemajuannya tidak stabil dan tidak koheren. Masalah yang kita anggap sukar mungkin menjadi mudah, dan masalah yang kita fikir mudah mungkin menjadi sukar. Beberapa dekad yang lalu, kami mungkin mentertawakan AI dan menganggap mustahil untuk menakluki Go kerana Go terlalu rumit: bukan kerana peraturan itu rumit, tetapi terdapat terlalu banyak kemungkinan pergerakan. Apa sekarang? AI telah memenangi Go.

Jadi, kita harus memikirkan masalah penggodam AI terlebih dahulu dan menyediakan rancangan lebih awal.

Perkara pertama yang perlu kita perhatikan mungkin adalah penggodam AI dalam sistem kewangan, kerana peraturan sistem kewangan mudah dieksploitasi oleh algoritma. Algoritma perdagangan frekuensi tinggi adalah contoh yang baik dan akan menjadi lebih kompleks pada masa hadapan. Kami boleh melengkapkan AI dengan maklumat kewangan global masa nyata, menambah undang-undang dan peraturan global, menambah maklumat berita dan menambah maklumat lain yang berkaitan, dan kemudian menugaskan AI untuk menyelesaikan matlamat, mengejar "keuntungan undang-undang maksimum" atau "mendapatkan keuntungan terbesar yang mungkin. ". untung". Pada masa itu, mungkin terdapat beberapa tingkah laku penggodaman yang di luar pemahaman manusia, bermakna manusia tidak akan menyedari bahawa tingkah laku penggodaman telah berlaku. Sudah tentu, perkara sedemikian kelihatan agak jauh sekarang.

Dalam jangka pendek, AI mungkin bekerjasama dengan manusia untuk menyelesaikan serangan penggodaman. AI boleh mencari kelemahan, dan akauntan berpengalaman atau peguam cukai boleh bekerjasama dan menggunakan pengalaman mereka yang kaya untuk menentukan sama ada kelemahan boleh dieksploitasi untuk keuntungan.

Kematian penggodam AI yang matang tidak dapat diukur

Sepanjang sejarah manusia, serangan penggodam secara umumnya adalah tingkah laku manusia. Jika AI mula menyerang, semuanya akan berubah. AI tidak akan terhad kepada kaedah tertentu dan tidak akan tertakluk kepada banyak sekatan seperti manusia. AI tidak berehat sama sekali, mereka berfikir seperti makhluk asing, dan ia boleh menggodam sistem dengan cara yang tidak dapat diramalkan oleh manusia.

Komputer meningkatkan serangan dalam empat dimensi: kelajuan, skala, skop dan kerumitan. AI boleh meningkatkan kuasa serangan berkali-kali.

Kelajuan: Ia mungkin mengambil masa berbulan-bulan atau bahkan bertahun-tahun untuk manusia melancarkan serangan, tetapi AI tidak perlu melakukannya. Sebagai contoh, apakah yang akan berlaku jika anda memasukkan keseluruhan kod cukai A.S. ke dalam AI dan memberitahunya untuk mencari rancangan untuk meminimumkan bil cukai seseorang? Jika ia adalah syarikat multinasional, AI boleh digunakan untuk menganalisis undang-undang cukai global dan mengurangkan cukai untuk syarikat itu.

Skala: Setelah AI ​​menemui kelemahan, ia mungkin mengeksploitasinya pada skala yang sangat besar. Apabila AI mula menceroboh sistem kewangan, mereka akan menguasai keseluruhan industri. Pada masa itu, pasaran kredit, undang-undang cukai dan undang-undang am semuanya mungkin memihak kepada orang kaya. AI akan memburukkan lagi ketidaksamaan. Penggodam kewangan AI yang pertama mungkin tidak dibangunkan oleh penyelidik yang mengejar kesaksamaan, tetapi oleh bank multinasional, dana lindung nilai dan perunding pengurusan.

Skop: Masyarakat memang mempunyai rancangan untuk menangani penggodam, tetapi ia terutamanya menangani penggodam manusia dan serangan pada kelajuan manusia. Jika AI boleh mencari beratus-ratus kelemahan dalam undang-undang cukai dengan cepat, bagaimanakah negara ini akan mengatasi kepantasan meminda undang-undang cukai.

Kerumitan: Dengan bantuan AI, penggodam manusia boleh melancarkan serangan kompleks yang kerumitannya melebihi tahap pemahaman manusia tanpa bantuan. Analisis statistik canggih AI boleh mendedahkan hubungan antara pembolehubah dan mencari kelemahan tersembunyi yang mungkin tidak diketahui oleh ahli strategi dan pakar terbaik sekalipun.

Apabila AI melancarkan serangan pada kelajuan ultra pantas, skala ultra besar, julat ultra lebar dan kerumitan ultra tinggi, masyarakat mungkin tidak dapat menanganinya sama sekali. Adakah AI akan menembusi batasan manusia dan bahkan menguasai masyarakat? Sesetengah penyelidik AI sememangnya bimbang. Walaupun kedengaran seperti spekulasi sekarang, pencegahan awal masih diperlukan untuk manusia. (Xiao Ge)

Atas ialah kandungan terperinci Adakah masa untuk mula bimbang tentang penggodam AI?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!