Pendengaran Badan Kehakiman Senat: AI sukar dikawal dan mungkin digunakan oleh unsur berniat jahat untuk membangunkan senjata biokimia

Pada 26 Julai, menurut media asing TechCrunch, Jawatankuasa Kehakiman Senat A.S. telah mengadakan perbicaraan mengenai kecerdasan buatan semalam semasa mesyuarat itu, ramai pengamal industri AI memberi amaran bahawa manusia tidak dapat mengawal perkembangan pesat AI dengan betul AI boleh menyebabkan kemudaratan serius dalam beberapa tahun akan datang, dan unsur berniat jahat mungkin menggunakan alat AI yang memintas penyeliaan untuk mencipta senjata biologi dan kimia.

Pengerusi Jawatankuasa Kecil Jawatankuasa Kehakiman Senat Richard Blumenthal, yang mempengerusikan pendengaran itu, berkata bahawa manusia telah membuktikan diri mereka mampu mencipta teknologi baharu yang sukar dipercayai pada masa itu. Dia membandingkan AI dengan "Projek Manhattan" kedua Amerika atau "Pelan Pendaratan Bulan Berawak" kedua NASA, tetapi wakil industri dalam penonton menunjukkan lebih banyak kebimbangan tentang AI. Dario Amodei, Ketua Pegawai Eksekutif American AI startup Anthropic, berkata pada perbicaraan itu bahawa

dia bimbang teknologi AI termaju mungkin digunakan untuk mencipta virus berbahaya dan senjata biokimia lain dalam masa dua tahun sahaja

Syarikat itu pernah mempunyai Google menerima pelaburan sebanyak AS$300 juta (nota IT Home: kira-kira 2.147 bilion yuan) dan bergantung pada pusat data Google untuk melatih model AI yang "lebih dipercayai". Yoshua Bengio, profesor AI di Universiti Montreal dan "bapa sains AI moden", berkata bahawa dia terkejut dengan lonjakan besar yang dicapai oleh model seperti GPT-4 Dia percaya bahawa

pada masa ini negara harus bekerjasama secara aktif untuk mengawal pembangunan AI , mewujudkan sistem yang serupa dengan peraturan peraturan teknologi nuklear

. Stuart Russell, seorang profesor sains komputer di University of California, Berkeley, percaya bahawa cara kecerdasan buatan semasa berfungsi penuh dengan ketidakpastian Berbanding dengan teknologi lain yang boleh dikawal dan berkuasa, kecerdasan buatan pada peringkat ini tidak mempunyai alat pengurusan super. , jadi kami tidak dapat memahami dengan tepat niat sebenar kecerdasan buatan dan semua tindakan yang mungkin diambil

Menurut laporan, dalam tempoh enam bulan yang lalu, industri secara amnya percaya bahawa masa apabila "AI super" mungkin muncul dalam filem blockbuster Hollywood telah telah maju sejak beberapa dekad kemudian Hanya beberapa tahun kemudian, ini mencetuskan kebimbangan yang meluas di kalangan semua sektor masyarakat tentang pelbagai masalah yang mungkin dibawa oleh "AI super"

Atas ialah kandungan terperinci Pendengaran Badan Kehakiman Senat: AI sukar dikawal dan mungkin digunakan oleh unsur berniat jahat untuk membangunkan senjata biokimia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!