Bos GPT-4: Jangan panik, saya ada rancangan, masa depan AGI benar-benar cerah!

Bot sembang OpenAI menggemparkan dunia.

Tetapi apabila orang ramai menyedari bahawa teknologi ini juga merupakan cara untuk menyebarkan maklumat yang salah dan memujuk orang ramai untuk melakukan perkara yang berbahaya, beberapa pengkritik menuduh Ultraman berkelakuan melulu.

Ramai pemimpin industri, penyelidik kecerdasan buatan dan ahli akademik menganggap ChatGPT sebagai anjakan teknologi asas, sama pentingnya dengan kelahiran penyemak imbas web atau iPhone. Tetapi hanya sedikit yang boleh bersetuju dengan masa depan teknologi.

Sesetengah orang berpendapat ia akan membawa utopia di mana setiap orang mempunyai semua masa dan wang yang mereka perlukan. Yang lain percaya ia boleh memusnahkan manusia. Yang lain menghabiskan banyak masa mereka dengan berhujah bahawa teknologi itu tidak akan pernah sekuat yang dikatakan semua orang, menegaskan bahawa nirvana mahupun kiamat masih jauh.

Sepanjang minggu lalu, lebih seribu pakar AI dan pemimpin teknologi telah menyeru OpenAI dan syarikat lain untuk menangguhkan usaha mereka pada sistem seperti ChatGPT pekerjaan, mengatakan mereka "menimbulkan risiko yang mendalam kepada masyarakat dan manusia."

Sebagai Ketua Pegawai Eksekutif OpenAI, Altman merangkumi setiap pandangan yang kelihatan bercanggah ini dalam beberapa cara, dan dia berharap dapat membawa teknologi cacat dan cacat yang aneh dan berkuasa ini ke masa hadapan sambil mengimbangi pelbagai kemungkinan.

Ini bermakna dia sentiasa dikritik dari semua arah. Tetapi Greg Brockman, presiden OpenAI, berpendapat ini sesuai: "Jika anda membuat orang yang berada dalam kedua-dua ekstrem sama tidak selesa, maka anda melakukan sesuatu dengan betul." percaya bahawa bom atom adalah produk kemajuan saintifik yang tidak dapat dielakkan, dan Ultraman berkongsi hari lahir yang sama dengan Oppenheimer. Apabila bercakap tentang teknologi OpenAI, Altman juga memetik beliau sebagai berkata: "Teknologi berlaku kerana ia adalah mungkin bahawa kecerdasan buatan akan berlaku dalam beberapa cara, dan ia akan melakukan perkara yang dia tidak boleh bayangkan, dan kita boleh mencari cara untuk mengurangkan kemudaratan yang boleh ditimbulkannya.

Sikap ini menggambarkan trajektori Ultraman sendiri. Dia mendaki agak mantap ke arah kejayaan dan kekayaan, didorong oleh kemahiran peribadi yang berkesan. Ia masuk akal bahawa dia percaya perkara yang baik akan berlaku.

Walau bagaimanapun, dia juga berkata bahawa jika dia salah, ada jalan keluar: Dalam kontrak dengan pelabur seperti Microsoft, lembaga OpenAI berhak untuk menutup teknologi pada bila-bila masa hak.

Tarik sendiri

Ultraman adalah seorang yang hidup dalam percanggahan Dia seorang vegetarian tetapi menternak lembu.

Apabila dia bercakap tentang teknologi yang dibangunkan oleh syarikat, dia percaya bahawa teknologi akan "menyelesaikan beberapa masalah paling mendesak kita, benar-benar meningkatkan taraf hidup, dan mencari jalan untuk kehendak manusia. dan kreativiti kepada penggunaan yang lebih baik. Pada masa yang sama, beliau juga bimbang bahawa teknologi itu boleh menyebabkan kemudaratan yang serius jika ia jatuh ke tangan kerajaan autoritarian.

Kelly Sims, rakan kongsi di firma modal teroka Thrive Capital yang bekerja dengan Altman sebagai penasihat lembaga di OpenAI, berkata dia berasa seperti dia sentiasa berdebat dengan dirinya sendiri: "Dalam perbualan, dia sendiri berada di kedua-dua belah perdebatan."

Persoalannya sama ada kedua-dua pihak Ultraman akhirnya serasi: adakah masuk akal untuk berada di hadapan jika ia boleh berakhir dengan bencana? Ultraman sudah tentu berazam untuk melihat bagaimana ini berlaku.

Sebagai presiden pemecut permulaan Silicon Valley dan pelabur benih Y Combinator dari 2014-2019, beliau menasihati aliran syarikat baharu yang berterusan dan bijak melabur dalam beberapa syarikat yang kini terkenal, termasuk Airbnb, Reddit dan Stripe.

Dia berbangga dengan keupayaannya untuk mengenal pasti sama ada sesuatu teknologi boleh mencapai pertumbuhan eksponen.

Saya tidak berminat dengan wang

Ramai orang di Silicon Valley mempunyai kekayaan peribadi mereka yang terikat dalam pelbagai syarikat awam dan swasta, dan Altman adalah seperti mereka. Dan kekayaannya tidak menakjubkan.

Dia tidak mempunyai sebarang saham dalam OpenAI. Satu-satunya wang yang dia peroleh daripada syarikat itu ialah gaji tahunan kira-kira $65,000 dan sebahagian kecil daripada pelaburan lama Y Combinator dalam syarikat itu.

Paul Graham, pengasas Y Combinator, ialah rakan kongsi dan mentornya Dia menerangkan motivasi Ultraman dengan cara ini:

“Kenapa dia. Untuk mengambil pekerjaan yang tidak menjadikannya lebih kaya? Satu jawapan ialah ramai orang melakukannya apabila mereka mempunyai wang yang cukup, dan jawapan yang lain ialah dia suka kuasa."

Bill Gates mesti begini

Pada akhir 1990-an, badan pelajar John Burroughs, sebuah sekolah persediaan swasta yang dinamakan sempena naturalis dan ahli falsafah Amerika abad ke-19, dipenuhi dengan sentimen anti-gay .

Pada awal abad ke-21, Ultraman pelajar berusia 17 tahun mula mengubah budaya sekolah, meyakinkan guru satu demi satu untuk memasang papan tanda "ruang selamat" di bilik darjah pintu sebagai cara untuk menyokong orang seperti beliau Kenyataan daripada pelajar gay.

Georgeann Kepchar, yang mengajar kursus sains komputer lanjutan sekolah itu, menganggap Altman sebagai salah seorang pelajar sains komputer yang paling berbakat: "Dia mempunyai kreativiti dan visi, ditambah dengan cita-cita dan kekuatan wataknya. , dia boleh memujuk orang lain untuk bekerjasama dengannya dan melaksanakan ideanya Altman juga memberitahu saya bahawa dia pernah berjaya meminta seorang guru homofobik untuk menyiarkan tanda ruang selamat."

Selepas. tahun pertamanya, beliau bekerja di makmal kecerdasan buatan dan robotik Profesor Andrew Ng, yang kemudiannya mengasaskan makmal kecerdasan buatan utama di Google. Tetapi dia berkata dia belajar lebih banyak daripada bermain poker pada waktu malam semasa tinggal singkatnya di Stanford berbanding daripada aktiviti kolej lain, dan poker itu mengajarnya cara melihat orang dan menilai risiko.

"Bagaimana untuk melihat corak dalam orang dari semasa ke semasa, cara membuat keputusan dengan maklumat yang sangat tidak sempurna, bagaimana untuk membuat keputusan apabila berbaloi dengan kesakitan untuk mendapatkan maklumat lanjut, ini adalah permainan yang Hebat. "

Graham, yang telah bekerja dengan Altman selama sedekad, melihat daya pujukan yang sama dalam orang asli St. Louis: "Dia mempunyai keupayaan semula jadi, Keupayaan untuk memujuk orang untuk melakukan sesuatu. , jika bukan semula jadi, sekurang-kurangnya telah berkembang sepenuhnya sebelum dia berumur 20 tahun, saya terfikir sendiri ketika pertama kali bertemu Sam ketika dia berumur 19 tahun. : 'Bill Gates mesti begini'"

Apabila Graham meletak jawatan sebagai presiden Y Combinator, dia memilih Altman yang berusia 28 tahun sebagai penggantinya mengejutkan orang ramai di Silicon Valley kerana ini bukan tentang mengupah pengkod atau jurutera penyelidik kecerdasan buatan; dia adalah orang yang akan menetapkan agenda, membina pasukan, dan menutup tawaran.

Sebagai presiden YC, Altman hampir berputus asa dengan pengembangan syarikat, menubuhkan dana pelaburan baharu dan makmal penyelidikan baharu, dan menyediakan syarikat perundingan tahunan Bilangan syarikat berkembang kepada ratusan.

Dia juga mula mengusahakan beberapa projek di luar syarikat pelaburan, termasuk OpenAI, sebuah organisasi bukan untung yang diasaskan pada 2015 dengan kumpulan termasuk Musk. YC menjadi semakin bimbang bahawa Ultraman meletihkan dirinya sendiri, jadi dia memutuskan untuk menumpukan semula perhatiannya pada projek yang, seperti yang dia katakan, akan memberi kesan sebenar kepada dunia: kecerdasan buatan.

Menurut abangnya, dia percaya dia adalah antara segelintir orang yang boleh mengubah dunia melalui penyelidikan kecerdasan buatan.

Pada tahun 2019, ketika penyelidikan mengenai OpenAI mula berkembang, Encik Altman merebut peluang itu dan meletak jawatan sebagai presiden Y Combinator untuk memberi tumpuan kepada syarikat yang mempunyai kurang daripada 100 pekerja, sebuah syarikat yang tidak tahu cara membuka senarai gaji.

Dalam tempoh setahun, beliau mengubah OpenAI menjadi organisasi bukan untung dengan cabang mencari keuntungan. Dengan cara itu, dia boleh mendapatkan pembiayaan untuk membina mesin yang boleh melakukan apa sahaja yang boleh dilakukan oleh otak manusia.

Beliau bertemu Ketua Pegawai Eksekutif Microsoft Satya Nadella pada perhimpunan tahunan pemimpin teknologi yang sering dirujuk sebagai "Billionaire Summer Camp," dan kemudian bertemu secara peribadi dengan Nadella dan ketua pegawai teknologi Microsoft, Official Kevin Scott merundingkan perjanjian itu.

Encik Brockman, presiden OpenAI, berkata bahawa bakat Altman terletak pada memahami keperluan orang: “Dia benar-benar cuba mencari orang yang sesuai untuk Menyatakan perkara yang paling penting dan kemudian mencari cara untuk menyampaikannya kepada mereka ialah algoritma yang dia gunakan berulang kali Perjanjian ini meletakkan OpenAI dan Microsoft di tengah-tengah pergerakan , pergerakan yang bersedia untuk membentuk semula segala-galanya daripada enjin carian ke apl e-mel kepada tutor dalam talian. Dan kelajuan di mana ini berlaku telah mengejutkan mereka yang telah menjejaki teknologi ini selama beberapa dekad.

Di tengah kegilaan ini, Ultraman kekal tenang seperti biasa. CTO Microsoft Scott percaya bahawa Ultraman akhirnya akan menjadi sehebat Steve Jobs, Bill Gates dan Mark Zuckerberg.

“Ini adalah orang yang telah meninggalkan kesan yang tidak terhapuskan pada fabrik industri teknologi, dan mungkin fabrik dunia saya fikir Sam akan menjadi salah seorang daripada mereka. 》

Jalan panjang menuju impian

Yudkowsky dan karyanya memainkan peranan penting dalam penciptaan OpenAI dan DeepMind. Dia juga membantu melahirkan komuniti rasionalis dalam talian yang luas dan altruis yang berkesan yang percaya kecerdasan buatan adalah risiko kewujudan dan bimbang ia akan memusnahkan dunia suatu hari nanti.

Penyelidik dari banyak makmal kecerdasan buatan terkemuka, termasuk OpenAI, tergolong dalam kumpulan yang sangat berpengaruh ini. Mereka tidak melihat ini sebagai kemunafikan: Ramai daripada mereka percaya bahawa kerana mereka berada dalam kedudukan terbaik untuk membina teknologi ini, mereka memahami bahaya lebih baik daripada yang lain.

Altman percaya bahawa altruis yang berkesan memainkan peranan penting dalam peningkatan kecerdasan buatan dan boleh menyedarkan industri tentang bahaya. Dia juga fikir mereka membesar-besarkan bahaya.

Semasa OpenAI membangunkan ChatGPT, banyak syarikat lain, termasuk Google dan Meta, sedang membina teknologi serupa. Tetapi Ultraman dan OpenAI yang memilih untuk berkongsi teknologi ini dengan dunia.

Ramai di lapangan telah mengkritik keputusan itu, dengan alasan ia mencetuskan perlumbaan untuk mengeluarkan teknologi yang salah, dibuat-buat dan mungkin digunakan dengan cepat untuk menyebarkan maklumat palsu dengan cepat .

Pada hari Jumaat, kerajaan Itali melarang sementara ChatGPT daripada digunakan di negara itu, dengan alasan kebimbangan mengenai privasi dan pendedahan kanak-kanak di bawah umur kepada kandungan berbahaya.

Altman percaya bahawa daripada membangunkan dan menguji teknologi ini sepenuhnya secara tertutup sebelum mengeluarkannya sepenuhnya, adalah lebih baik untuk berkongsinya secara beransur-ansur supaya semua orang lebih memahami risiko dan cara menanganinya dengan mereka ini lebih selamat.

Ia akan menjadi "berlepas yang sangat perlahan," katanya. Dia berkata dia tidak dapat membayangkan dunia di mana kecerdasan manusia tidak berguna. Jika dia salah, dia fikir dia boleh menebus kesalahan manusia.

Beliau membina semula OpenAI menjadi apa yang beliau panggil syarikat bermodal keuntungan. Ini membolehkannya memperoleh berbilion dolar dalam pembiayaan dengan menjanjikan keuntungan kepada pelabur seperti Microsoft. Tetapi keuntungan tersebut dihadkan, dan sebarang hasil tambahan akan disedut semula ke dalam organisasi bukan untung OpenAI yang diasaskan pada 2015.

Idea utamanya ialah OpenAI akan menawan sebahagian besar kekayaan dunia dengan mewujudkan AGI dan kemudian mengagihkan semula kekayaan ini kepada rakyat.

Namun, dia tidak pasti cara mengagihkan semula kekayaan itu. Dia percaya bahawa dalam dunia baru ini, wang mungkin membawa maksud yang berbeza, tetapi "Saya rasa AGI boleh membantu menyelesaikan masalah ini."

Atas ialah kandungan terperinci Bos GPT-4: Jangan panik, saya ada rancangan, masa depan AGI benar-benar cerah!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!