ChatGPT mencetuskan revolusi intelektual! OpenAI mengeluarkan peta jalan AGI, yang akhirnya membawa kepada dunia yang sangat pintar

Selepas ChatGPT menjadi popular, syarikat utama seperti Microsoft, Google dan Meta telah memasuki permainan.

Oleh itu, orang ramai juga telah menimbulkan kebimbangan mengenai aplikasinya yang meluas.

Bekas pengarah eksekutif Alphabet Eric Schmidt dan pengarang bersama lain berkata dalam artikel yang diterbitkan oleh WSJ,

Kecerdasan buatan generatif menimbulkan cabaran falsafah dan praktikal yang tidak dialami sejak Pencerahan.

Baru semalam, Ketua Pegawai Eksekutif OpenAI Sam Altman mengeluarkan artikel berkongsi rancangan semasa dan susulan OpenAI untuk kecerdasan buatan am (AGI).

Artikel tersebut menekankan bahawa misi OpenAI adalah untuk memastikan AGI memberi manfaat kepada semua manusia.

Visi OpenAI: Memastikan AGI memberi manfaat kepada semua umat manusia

Dalam artikel ini, tiga prinsip yang paling dibimbangkan oleh OpenAI dikemukakan.

Jika AGI akhirnya berjaya dibina, teknologi ini bukan sahaja akan membawa lebih banyak kemungkinan dan menggalakkan pembangunan ekonomi global, tetapi juga mengubah penemuan pengetahuan saintifik yang muncul dan membantu manusia meningkatkan taraf hidup mereka dalam semua aspek.

AGI boleh memberi semua orang kebolehan baharu yang luar biasa.

Dalam dunia di mana AGI berada dalam jangkauan, semua orang boleh mendapatkan bantuan dengan hampir semua kebolehan kognitif, dan AGI mungkin menjadi penguat kuasa yang besar untuk kecerdasan dan kreativiti manusia.

Tetapi sebaliknya, seperti yang ditakuti sesetengah orang, kecerdasan buatan am juga boleh menyebabkan penderaan yang serius, kemalangan dan kekacauan sosial.

Walau bagaimanapun, faedah AGI sangat mengagumkan.

Gambaran masa depan hidup dengan kecerdasan buatan am sukar untuk diramalkan Kemajuan semasa AI mungkin menghadapi cabaran baharu, tetapi kini ChatGPT berjaya, kami telah menyenaraikan beberapa prinsip yang paling dibimbangkan oleh syarikat:

1. Saya berharap AGI dapat memperkasakan manusia supaya mereka dapat mencapai kemakmuran yang maksimum di alam semesta. Kami tidak mahu masa depan menjadi utopia palsu, tetapi kami berharap dapat memaksimumkan sisi baik teknologi dan meminimumkan sisi buruk, supaya AGI boleh menjadi penguat kebaikan manusia.

2. Semoga manfaat, akses dan tadbir urus AGI dapat dikongsi dengan lebih meluas secara adil.

3. Bertindak balas terhadap potensi risiko dengan betul. Dalam menghadapi risiko ini, perkara yang kelihatan betul dalam teori selalunya lebih sukar untuk dikawal dalam amalan daripada yang dijangkakan. Kita mesti terus belajar dan menyesuaikan diri dengan menggunakan versi teknologi yang kurang berkuasa untuk meminimumkan "titik tiada pulangan".

Matlamat jangka pendek: Buat tiga persediaan untuk AGI

Jadi dalam jangka pendek, OpenAI merancang untuk melakukan perkara berikut.

Pertama sekali, memandangkan syarikat terus membina sistem AI yang lebih berkuasa, kami berharap dapat menggunakan AGI dengan cepat untuk mengumpul pengalaman aplikasi yang sepadan.

Pada pandangan OpenAI, cara terbaik untuk mengurus AGI dengan berhati-hati adalah dengan beralih secara beransur-ansur ke dunia di mana AGI berada di mana-mana. Pada masa hadapan kami menjangkakan, teknologi kecerdasan buatan yang berkuasa boleh mempercepatkan kadar kemajuan dunia

Pendekatan secara beransur-ansur membolehkan orang ramai, penggubal dasar dan institusi penyelidikan mempunyai masa untuk memahami perubahan yang dibawa oleh teknologi AGI dan mengalami pengalaman tersebut. manfaat sistem ini secara langsung kelebihan dan kekurangan, menyesuaikan bentuk organisasi ekonomi, dan melaksanakan penyeliaan yang berkesan.

Pada masa yang sama, kaedah pembangunan secara beransur-ansur juga boleh menggalakkan kemajuan masyarakat dan AI, membolehkan orang ramai memahami diri mereka pada risiko yang agak rendah.

OpenAI percaya bahawa cara terbaik untuk berjaya menyelesaikan cabaran aplikasi AI adalah dengan menggunakan gelung maklum balas yang ketat bagi pembelajaran pantas dan lelaran yang teliti. Di bawah kesan teknologi baharu, masyarakat akan menghadapi isu utama seperti "apa yang sistem kecerdasan buatan dibenarkan lakukan, cara menghapuskan berat sebelah, dan cara menangani kehilangan pekerjaan."

Meningkatkan penggunaan teknologi AI memberi manfaat yang besar, dan OpenAI berharap untuk menjadi sebahagian daripada mempromosikan teknologi ini dengan meletakkan model ke dalam API perkhidmatan dan menjadikannya sumber terbuka.

OpenAI berkata apabila sistem yang dibangunkannya semakin hampir dengan AGI, agensi itu telah menjadi semakin berhati-hati dalam kedua-dua penciptaan dan penggunaan model.

OpenAI perlu mempertimbangkan kebaikan dan keburukan menggunakan model besar. Di satu pihak, penggunaan model berskala besar yang canggih menandakan kemajuan saintifik dan teknologi yang penting di sisi lain, selepas menggunakan model, syarikat dan institusi juga perlu mempertimbangkan isu-isu seperti bagaimana untuk menyekat pelakon yang berniat jahat dan mengelakkan kesan buruk ke atas; masyarakat dan ekonomi.

Kedua, OpenAI sedang berusaha keras untuk mencipta model yang lebih konsisten dan boleh dikawal. Daripada versi pertama GPT-3 kepada InstructGPT dan ChatGPT, transformasi langkah demi langkah ini menunjukkan usaha OpenAI dalam keselamatan AI.

Perlu diingat bahawa masyarakat manusia perlu mencapai sempadan yang sangat luas tentang cara menggunakan kecerdasan buatan. Apabila model menjadi lebih berkuasa, OpenAI perlu membangunkan teknik penjajaran baharu.

Pelan jangka pendek OpenAI adalah untuk menggunakan AI untuk membantu manusia menilai output model yang lebih kompleks dan memantau sistem yang kompleks, dan dalam jangka panjang, OpenAI akan menggunakan AI untuk membantu mendapatkan teknologi penjajaran yang lebih baik.

OpenAI percaya bahawa keselamatan dan keupayaan kecerdasan buatan adalah sama penting, dan kedua-duanya tidak seharusnya dibincangkan secara berasingan. OpenAI berkata kerjanya yang paling selamat datang daripada model yang paling berkebolehan. Dengan kata lain, meningkatkan keselamatan kecerdasan buatan adalah sangat penting untuk kemajuan penyelidikan AI.

Ketiga, OpenAI berharap dapat menyelesaikan tiga isu utama pada skala global: tadbir urus sistem kecerdasan buatan, pengagihan faedah yang dihasilkan oleh sistem AI dan perkongsian hak akses.

Selain itu, menurut piagam syarikat OpenAI, OpenAI perlu membantu organisasi lain untuk meningkatkan keselamatan dan tidak boleh bersaing dengan pihak lawan dalam pembangunan AGI nanti.

Peraturan pelaburan OpenAI menetapkan had pada pulangan yang boleh diterima oleh pemegang saham, supaya institusi penyelidikan sendiri tidak akan tergoda untuk cuba menangkap nilai atau risiko tanpa had menggunakan teknologi dengan bahaya bencana.

OpenAI ditadbir oleh organisasi bukan untung untuk memastikan institusi itu dijalankan untuk manfaat manusia dan mengatasi sebarang kepentingan untuk keuntungan.

Akhirnya, OpenAI percaya bahawa kerajaan di seluruh dunia harus mengekalkan penyeliaan latihan pembelajaran mesin melebihi skala tertentu.

Matlamat jangka panjang: dunia super-pintar yang lebih makmur

Berbanding dengan rancangan jangka pendek, pembangunan jangka panjang AGI OpenAI adalah lebih bercita-cita tinggi.

OpenAI percaya bahawa masa depan manusia harus ditentukan oleh manusia sendiri, dan adalah penting untuk berkongsi maklumat tentang kemajuan dengan orang ramai. Oleh itu, semua projek pembangunan AGI harus diteliti dengan teliti dan orang ramai berunding mengenai keputusan utama.

Pada pandangan OpenAI, AGI pertama hanya akan menjadi nod kecil dalam pembangunan berterusan kecerdasan buatan, dan kemajuan baharu akan terus diperoleh daripada nod ini. Syarikat itu meramalkan bahawa pembangunan masa depan AI mungkin serupa dengan kadar kemajuan yang telah kami alami sejak sedekad lalu untuk masa yang lama.

Mungkin suatu hari nanti, dunia akan mengalami perubahan yang menggegarkan bumi, dan kemajuan teknologi juga boleh membawa risiko besar kepada manusia. AGI super-pintar yang "salah letak" boleh menyebabkan kemudaratan yang serius kepada dunia.

Oleh itu, OpenAI percaya bahawa lebih mudah untuk memastikan keselamatan dengan memperlahankan pembangunan AGI. Walaupun kemajuan teknologi memberi kita keupayaan untuk membangunkan AGI dengan pantas, mengekalkan kelembapan akan memberi masa yang cukup kepada masyarakat untuk menyesuaikan diri.

Peralihan yang berjaya ke dunia dengan superintelligence mungkin merupakan projek yang paling penting, menjanjikan dan menakutkan dalam sejarah manusia. Tiada siapa yang boleh menjamin bila hari itu akan tiba, tetapi taruhannya jelas dan membantu menyatukan semua orang.

Apa pun, ia akan menjadi dunia yang makmur di luar dugaan. Dan OpenAI berharap dapat menyumbang kepada dunia kecerdasan buatan umum yang konsisten dengan kemakmuran ini.

ChatGPT menandakan revolusi intelektual

Baru-baru ini, bekas Setiausaha Negara AS Henry Kissinger, bekas pengarah eksekutif Alphabet Eric Schmidt, dan Daniel Huttenlocher, dekan pertama MIT Schwarzman School of Computing, menulis artikel Artikel "ChatGPT menandakan revolusi intelektual".

Artikel itu mendedahkan kebimbangan mereka tentang AI generatif semasa:

AI Generatif membentangkan cabaran falsafah dan praktikal yang tidak dialami sejak Zaman Pencerahan.

Permulaan artikel menerangkan kesan semasa ChatGPT pada manusia.

Teknologi baharu bertujuan untuk mengubah proses kognitif manusia kerana ia tidak pernah goyah sejak penciptaan percetakan.

Teknologi yang digunakan untuk mencetak Bible Gutenberg pada tahun 1455 membenarkan idea-idea abstrak manusia tersebar secara meluas dan pantas. Tetapi teknologi baharu hari ini membalikkan proses ini.

Akhbar cetak menyebabkan kemunculan pemikiran manusia moden, dan teknologi baharu membolehkan pemurnian dan penghuraian.

Dalam proses itu, ia mewujudkan jurang antara pengetahuan manusia dan pemahaman manusia.

Jika kita ingin berjaya mengemudi peralihan ini, kita perlu mencipta konsep baharu tentang minda manusia dan interaksi dengan mesin. Ini adalah cabaran asas dalam era kecerdasan buatan.

Teknologi baharu ini dipanggil kecerdasan buatan generatif, dan yang paling mewakili ialah ChatGPT yang dibangunkan oleh OpenAI Research Laboratory.

Apabila keupayaannya semakin meluas, mereka akan mentakrifkan semula pengetahuan manusia, mempercepatkan perubahan dalam fabrik realiti kita, dan menyusun semula politik dan masyarakat.

Kecerdasan buatan generatif juga akan membuka laluan revolusioner untuk rasional manusia dan membuka ufuk baharu untuk penyatuan pengetahuan.

Tetapi terdapat juga perbezaan yang jelas antara keduanya. Ilmu makrifat dicapai selangkah demi selangkah, setiap langkah boleh diukur dan boleh diajar.

Sistem AI, seperti ChatGPT, boleh menyimpan dan memperhalusi sejumlah besar maklumat sedia ada, dan mampu mengeluarkan hasil tanpa menjelaskan prosesnya, yang tidak boleh dilakukan oleh manusia.

Selain itu, keupayaan kecerdasan buatan tidak statik, tetapi meningkat secara eksponen dengan kemajuan teknologi.

Kita perlu segera membangunkan dialektik canggih yang membolehkan orang ramai mencabar interaktiviti AI generatif dan bukan sekadar mewajarkan atau menerangkan jawapan AI tetapi juga menyoal siasatnya.

Dengan dos keraguan yang konsisten, kita harus belajar meneroka AI secara berkaedah dan menilai sama ada dan sejauh mana jawapannya boleh dipercayai. Ini memerlukan usaha sedar untuk mengurangkan berat sebelah bawah sedar kita, latihan yang ketat, dan banyak latihan.

Persoalannya tetap: bolehkah kita belajar dengan cukup cepat untuk mencabar daripada mematuhi? Atau adakah kita akhirnya terpaksa patuh? Adakah apa yang kita anggap sebagai kesilapan sebahagian daripada reka bentuk yang disengajakan? Bagaimana jika terdapat unsur jahat dalam kecerdasan buatan?

Satu lagi tugas utama ialah memikirkan masalah mana yang mesti diserahkan kepada pemikiran manusia dan masalah yang boleh dipertaruhkan kepada sistem automatik.

Namun walaupun dengan kesangsian dan teknik soal siasat yang lebih tinggi, ChatGPT membuktikan bahawa jin teknologi generatif telah meninggalkan botol. Kita mesti berfikir tentang soalan yang kita ajukan.

Memandangkan teknologi ini semakin difahami secara meluas, ia akan memberi kesan yang mendalam terhadap hubungan antarabangsa. Melainkan teknologi pengetahuan dikongsi secara universal, imperialisme mungkin menumpukan pada memperoleh dan memonopoli data untuk mencapai kemajuan terkini dalam kecerdasan buatan.

Model mungkin menghasilkan hasil yang berbeza berdasarkan data yang dikumpul. Evolusi masyarakat yang berbeza mungkin akan berkembang berdasarkan asas pengetahuan yang semakin berbeza dan dengan itu persepsi yang berbeza terhadap cabaran.

Di penghujung artikel, dua soalan dibangkitkan yang patut difikirkan:

Apakah yang akan berlaku jika teknologi ini tidak dapat dikawal sepenuhnya?

Bagaimana jika sentiasa ada cara untuk berbohong, mencipta gambar dan video palsu, dan orang tidak pernah belajar untuk tidak mempercayai apa yang mereka lihat dan dengar?

Meta ketua saintis AI LeCun menjawab,

- Orang ramai akan belajar untuk menjejaki sumber dengan lebih baik dan menilai kebolehpercayaan apa yang mereka lihat dan dengar, Ini akan paling mungkin dengan bantuan teknologi baharu.

- LLM autoregresif semasa terkenal tidak boleh dikawal, tetapi sistem AI baharu boleh dikawal, realistik dan tidak toksik apabila diperlukan.

Sesetengah netizen memetik Andy Grove sebagai berkata, "Ada dua pilihan: menyesuaikan diri atau mati."

Apa yang anda akan lakukan sekiranya anda?

Rujukan:

https://openai.com/blog/planning-for-agi-and-beyond/

https://www.wsj.com / artikel/chatgpt-mengerjakan-revolusi-intelek-pencerahan-kecerdasan-buatan-homo-technicus-technology-cognition-morality-philosophy-774331c6

https://twitter.com/ericschmidt/status/ 16129364166

Atas ialah kandungan terperinci ChatGPT mencetuskan revolusi intelektual! OpenAI mengeluarkan peta jalan AGI, yang akhirnya membawa kepada dunia yang sangat pintar. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!