Perbicaraan Kongres A.S. dan sembilan detik penting dengan pengasas OpenAI ChatGPT

Menurut berita pada 17 Mei, Ketua Pegawai Eksekutif OpenAI Sam Altman semalam telah menjawab soalan Jawatankuasa Kecil Badan Kehakiman Senat tentang kemungkinan kesan yang mengancam kecerdasan buatan generatif. Altman menggalakkan penggubal undang-undang untuk segera menggubal undang-undang dan peraturan AI baharu yang akan menetapkan piawaian untuk cara OpenAI, Google dan syarikat teknologi lain boleh membangunkan sistem AI baharu.

"Kami percaya campur tangan kawal selia kerajaan adalah penting untuk mengurangkan risiko yang ditimbulkan oleh AI yang semakin berkuasa," kata Altman pada pendengaran itu.

Altmann dan saksi pakar lain yang memberi keterangan bersetuju bahawa model ChatGPT, jika dibiarkan tidak dikawal, boleh meningkatkan maklumat salah di web, menyemarakkan jenayah siber, malah mengancam sistem pilihan raya. Penggubal undang-undang dan Altman membincangkan banyak dasar dan penyelesaian yang berpotensi, malah mempertimbangkan untuk mewujudkan agensi kawal selia AI baharu untuk mengawasi pembangunan dan penggunaan teknologi AI.

1. Richard Blumenthal menggunakan ChatGPT untuk berpura-pura menjadi dirinya sendiri dan menulis kenyataan

Senator Connect Richard Blumenthal "rakaman dia" dimainkan pada permulaan perbicaraan. Rakaman ini bukan dihasilkan oleh senator sendiri, tetapi merupakan "karya" yang dihasilkan oleh perisian pengklonan suara selepas membaca teks yang dihasilkan oleh ChatGPT.

"Ini bukan masa depan yang kita inginkan," kata Blumenthal yang dijana AI.

2 Altman meminta Kongres untuk mengawal selia kecerdasan buatan (tetapi hanya sedikit, tidak terlalu banyak)

Altman mengakui bahawa produknya dan produk kecerdasan buatan lain mungkin membawa akibat yang tidak dijangka Dengan kejatuhan itu, dia mengalu-alukan Kongres untuk menetapkan piawaian kawal selia baharu, menetapkan peraturan untuk jalan raya dan, mungkin yang lebih penting, menetapkan peraturan untuk pesaingnya.

Altmann percaya bahawa campur tangan peraturan kerajaan adalah penting untuk mengurangkan risiko yang ditimbulkan oleh model kecerdasan buatan yang semakin meningkat. Altman menggesa penggubal undang-undang untuk memberi tumpuan kepada mengekang syarikat besar dan mengelakkan menyekat syarikat permulaan yang lebih kecil.

3. Kongres cuba mengelak daripada mengulangi kesilapan kerana gagal mengawal media sosial

Termasuk Senator Blumenthal dan Senator New Jersey Cory Booker Beberapa ahli parlimen memberi amaran bahawa mereka telah membuat kesilapan dalam menghalang media sosial daripada menjadi sumber maklumat salah dan kandungan berbahaya. Penebusan mungkin datang melalui peraturan kecerdasan buatan.

"Kongres gagal mengambil tindakan tepat pada masanya di media sosial, dan kini kami mempunyai kewajipan untuk mengambil langkah yang diperlukan mengenai kecerdasan buatan sebelum ancaman dan risiko menjadi kenyataan," kata Blumenthal

4. Josh Hawley : Kecerdasan buatan mungkin mesin cetak seterusnya, atau bom atom seterusnya

Senator Missouri Josh Hawley percaya bahawa kecerdasan buatan seperti GPT4 Intelligence mungkin berkembang dalam dua arah yang berbeza.

"Kami mungkin melihat salah satu inovasi teknologi yang paling penting dalam sejarah manusia," kata Hawley. Saya tertanya-tanya apakah bentuk inovasi ini, adakah ia akan menyebarkan pengetahuan, keupayaan dan pembelajaran seperti mesin cetak, atau lebih seperti bom atom?

Yang lain, seperti Senator Carolina Selatan Lindsey Graham, telah menyuarakan retorik bom atom, walaupun mereka telah memperkecilkan senario kiamat AI yang membawa bencana.

5 Altman berkata kecerdasan buatan boleh "menyebabkan bahaya besar kepada dunia"

Altman mungkin tidak membandingkan kecerdasan buatan dengan senjata nuklear, seperti yang dilakukan oleh beberapa penggubal undang-undang, tetapi dia mengakui bahawa dia Prihatin. bahawa produk mereka boleh "menyebabkan bahaya besar kepada dunia." Kemudaratan ini mungkin nyata melalui penyebaran maklumat yang salah secara besar-besaran, menjalankan penipuan, menyebabkan pengangguran beramai-ramai dan mengganggu realiti rangkaian.

Altmann memberi jaminan kepada senator bahawa dia percaya "faedah AI jauh melebihi risiko", tetapi mengakui bahawa campur tangan dan peraturan kerajaan mungkin penting untuk melindungi daripada kesan sampingan AI.

6. Marsha Blackburn berasa gelisah tentang kecerdasan buatan

Senator Tennessee Marsha Blackburn menggunakan contoh yang tidak dijangka untuk menimbulkan persoalan tentang penggunaan model kecerdasan buatan Kontroversi mengenai bahan berhak cipta: AI Garth Brooks.

Altman mengetahui bahawa seorang senator berkata dia telah mendengar bahawa kecerdasan buatan yang dilatih oleh penyanyi country telah berjaya menghasilkan adaptasi yang meyakinkan tentang karyanya. Blackburn memetik kes itu sebagai satu cara untuk meminta artis menerima pampasan daripada Altman apabila kerja mereka digunakan untuk melatih kecerdasan buatan. Walaupun Altmann kelihatan terbuka untuk memberi pampasan kepada artis, dia tidak menawarkan sebarang penyelesaian konkrit.

7 Altman berkata bahawa kesan kecerdasan buatan pada masyarakat mungkin seperti "steroid" untuk Photoshop

Altman mengakui bahawa kecerdasan buatan boleh menjadikan pengguna lebih terdedah melalui chatbot yang canggih dan deep fake semakin risau. Walaupun dia mengakui dia "prihatin," Altman berkata masyarakat mempamerkan fenomena yang sama dengan Photoshop Adobe.

"Saya rasa orang akan menyesuaikan diri dengan cepat," kata Altman. "Dahulu, apabila Photoshop muncul di hadapan orang ramai, orang ramai akan tertipu dengan imej yang dipotret pada mulanya, tetapi fenomena ini tidak akan bertahan lama. Ia seperti atlet yang mengambil steroid.

8 , AI skeptis bersetuju dengan idea Altman untuk mewujudkan jabatan kerajaan untuk kecerdasan buatan

Profesor Universiti New York Emeritus Gary Marcus bercakap di Senat Privasi, Teknologi, Washington, DC, pada 16 Mei 2023 Altman dan segelintir penggubal undang-undang dalam Jawatankuasa Kecil Privasi, Teknologi & Undang-undang nampaknya bersetuju bahawa sebuah jawatankuasa yang diketuai oleh pakar diperlukan, yang mampu mengawal pembangunan dan penggunaan kecerdasan buatan ini akan bebas daripada agensi kawal selia yang lain FTC dan FCC, dan secara teori, ia boleh mengeluarkan lesen kepada syarikat kecerdasan buatan dan membatalkan lesen yang dianggap tidak sah untuk syarikat yang tidak layak, Gary Marcus, seorang penyelidik kecerdasan buatan dan bekas profesor Universiti New York, memberi keterangan pada pendengaran bahawa dia menyokong. penubuhan agensi kawal selia kecerdasan buatan dan berkata bahawa agensi itu harus bekerjasama rapat dengan rakan kongsi antarabangsa untuk membangunkan Piawaian Kecerdasan Buatan Global

9. Altman bertanya kepada penggubal undang-undang jika pengguna ChatGPT boleh menyamannya

Penggubal undang-undang dan pakar yang bercakap pada pendengaran mungkin telah menyatakan kebimbangan tentang beberapa masalah yang disebabkan oleh kecerdasan buatan Terdapat konsensus mengenai bahaya kepada masyarakat, tetapi tidak banyak yang boleh dikatakan tentang perkara yang boleh dilakukan oleh pengguna yang telah terjejas sekarang untuk memegang OpenAI atau syarikat AI lain. Penggubal undang-undang dan pakar tidak bersetuju tentang chatbots, sebagai contoh, meramalkan sama ada syarikat media sosial harus mendapat imuniti yang sama di bawah Seksyen 230 Akta Kesopanan Komunikasi, Altman kelihatan keliru apabila Hawley bertanya secara langsung cara pengguna: "Orang boleh'. tidak menuntut Kami? Altmann bertanya dengan membimbangkan, jawapan kepada soalan yang kelihatan mudah ini masih belum jelas. ”

Atas ialah kandungan terperinci Perbicaraan Kongres A.S. dan sembilan detik penting dengan pengasas OpenAI ChatGPT. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!