Ketua Pegawai Eksekutif OpenAI menghadiri perbicaraan Senat A.S. untuk membincangkan cara mengawal selia AI dengan lebih baik

Baru-baru ini, Google sedang membangunkan sepenuhnya teknologi kecerdasan buatan generatif. Pada persidangan I/O tahunannya, syarikat itu mengumumkan rancangan untuk membenamkan alatan AI ke dalam hampir semua produknya, daripada Dokumen Google kepada pengaturcaraan dan carian dalam talian.

Pengumuman Google adalah penting. Berbilion orang kini akan mempunyai akses kepada model kecerdasan buatan yang berkuasa dan canggih yang membantu mereka menyelesaikan tugasan daripada menjana teks kepada menjawab soalan kepada menulis dan menyahpepijat kod. Seperti yang ditulis oleh ketua pengarang MIT Technology Review Mat Honan dalam analisisnya tentang persidangan I/O, jelas bahawa kecerdasan buatan kini merupakan produk teras Google.

(Sumber: STEPHANIE ARNET/MITTR)

Memperkenalkan ciri baharu ini secara beransur-ansur ke dalam produk Google adalah pendekatan mereka, tetapi lambat laun masalah akan timbul. Syarikat itu tidak menyelesaikan sebarang masalah biasa dengan model AI ini: Mereka masih suka mengada-adakan mereka masih mudah dimanipulasi untuk melanggar peraturan yang ditetapkan oleh manusia; mereka masih terdedah kepada serangan; menghalang mereka daripada digunakan sebagai penjana Alat untuk disinformasi, penipuan dan spam.

Jenis alat AI ini agak baharu, jadi sebahagian besarnya masih tidak dikawal. Tetapi ini tidak mampan. Populariti ChatGPT semakin berkurangan, tetapi keperluan kawal selia terus berkembang, dan agensi kawal selia mula menghadapi cabaran yang ditimbulkan oleh teknologi ChatGPT.

Pengawal selia AS cuba mencari cara untuk mengawal selia alat kecerdasan buatan yang berkuasa ini. Minggu ini, Ketua Pegawai Eksekutif OpenAI Sam Altman memberi keterangan di hadapan Senat A.S. (selepas mengadakan makan malam "pendidikan" dengan ahli politik pada malam sebelumnya). Perbicaraan itu diadakan seminggu selepas Naib Presiden AS Kamala Harris mengadakan pertemuan dengan Ketua Pegawai Eksekutif Alphabet, Microsoft, OpenAI dan Anthropic.

Gambar |. Pengasas OpenAI Sam Altman (Sumber: Peta data)

Dalam kenyataan itu, Harris menegaskan bahawa syarikat-syarikat ini mempunyai tanggungjawab etika dan undang-undang untuk memastikan keselamatan produk mereka. Pemimpin Majoriti Chuck Schumer, D-N.Y., telah memperkenalkan undang-undang untuk mengawal selia kecerdasan buatan, yang boleh termasuk mewujudkan agensi baharu untuk menguatkuasakan peraturan.

"Semua orang mahu sesuatu yang mereka lakukan dilihat," kata Jennifer King, penyelidik privasi dan dasar data di Institut Kecerdasan Buatan Berpusatkan Manusia Universiti Stanford "Orang ramai bertindak balas terhadap semua perkembangan ini "

King berkata sukar untuk mendapatkan sokongan dwipartisan bagi rang undang-undang AI baharu: “Ia akan bergantung pada sejauh mana (AI generatif) dilihat sebagai ancaman sebenar di peringkat masyarakat Namun, , beliau seterusnya menyatakan bahawa Persekutuan Pengerusi Suruhanjaya Perdagangan Lena Khan telah mengambil tindakan agresif Awal bulan ini, Khan menulis seruan op-ed untuk peraturan kecerdasan buatan sekarang untuk mengelakkan industri teknologi daripada menjadi terlalu longgar pada masa lalu, menurutnya, agensi AS yang mengawal selia AI memanfaatkan kit alat undang-undang sedia ada, seperti undang-undang antitrust dan amalan perniagaan.

Sementara itu, di Eropah, penggubal undang-undang akan mencapai persetujuan muktamad mengenai Akta Kepintaran Buatan (Akta AI). Ahli Parlimen Eropah minggu lalu menandatangani draf peraturan yang menyeru larangan penggunaan teknologi pengecaman muka di tempat awam. Ia juga melarang kepolisan ramalan dan pengecaman emosi apabila data biometrik dituai dalam talian, serta penangkapan sembarangan terhadap semua orang.

Parlimen berharap untuk memperkenalkan lebih banyak peraturan untuk mengawal selia kecerdasan buatan generatif, manakala Kesatuan Eropah juga akan mengukuhkan penyeliaan dan memerlukan lebih ketelusan daripada syarikat yang terlibat dalam membangunkan model kecerdasan buatan berskala besar. Langkah-langkah yang berpotensi termasuk pelabelan kandungan yang dijana AI, mendedahkan dalam bentuk ringkasan data berhak cipta yang digunakan dalam latihan model dan mewujudkan perlindungan untuk menghalang model daripada menjana kandungan haram.

Tetapi inilah perkaranya: EU masih jauh untuk melaksanakan peraturan ini. Banyak elemen yang dicadangkan Akta Kepintaran Buatan tidak berjaya ke versi akhir. Rundingan yang sukar kekal antara Parlimen, Suruhanjaya Eropah dan negara anggota EU. Ia akan mengambil masa beberapa tahun sebelum kita melihat Akta Kepintaran Buatan berkuat kuasa.

Tokoh teknologi terkenal mula bekerja ke arah yang bertentangan dan melakukan sebaliknya. Ketua ekonomi Microsoft Michael Schwarz berkata pada satu acara baru-baru ini bahawa kita harus menunggu sehingga kita melihat "kemudaratan yang bermakna" daripada kecerdasan buatan sebelum mengawalnya. Dia menyamakan AI seperti lesen memandu—ramai orang hanya mendapat lesen memandu selepas terbunuh dalam kemalangan. Hanya dengan tahap bahaya tertentu kita boleh benar-benar memahami masalahnya. ”

Kenyataan ini keterlaluan. Kemudaratan yang disebabkan oleh kecerdasan buatan telah didokumenkan dengan baik selama bertahun-tahun. Ia berat sebelah dan diskriminasi serta menghasilkan berita palsu dan penipuan. Beribu-ribu orang telah ditolak ke dalam kemiskinan kerana tuduhan palsu penipuan, akibat daripada penangkapan tidak bersalah yang disebabkan oleh sistem AI lain. Memandangkan Google mengiklankan langkah seterusnya secara besar-besaran, dan AI generatif menjadi semakin bersepadu ke dalam masyarakat kita, bahaya ini boleh berkembang dengan pesat.

Persoalan yang harus kita tanyakan kepada diri sendiri ialah: Sejauh mana kemudaratan yang kita sanggup lihat? Dan jawapan saya ialah: Kami sudah cukup melihat.

Disokong oleh: Ren

Teks asal:

https://www.technologyreview.com/2023/05/16/1073167/how-do-you-solve-a-problem-like-out-of-control-ai/

Atas ialah kandungan terperinci Ketua Pegawai Eksekutif OpenAI menghadiri perbicaraan Senat A.S. untuk membincangkan cara mengawal selia AI dengan lebih baik. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!