OpenAI memecat dua ahli pasukan Ilya, adakah ia berkaitan dengan kebocoran "Gong Dou"?

OpenAI, sebuah syarikat yang mengalami pasang surut perselisihan dalaman dalam tempoh enam bulan yang lalu, sekali lagi mendengar berita tentang pertukaran kakitangan.

Maklumat melaporkan bahawa OpenAI telah memecat dua pekerja yang disyaki membocorkan maklumat, menurut orang yang biasa dengan perkara itu.

Salah seorang ialah Leopold Aschenbrenner, seorang penyelidik dalam pasukan Super Alignment OpenAI.

Beliau adalah sekutu ketua saintis OpenAI, Ilya Sutskever, yang terlibat dalam usaha gagal untuk menyingkirkan Ketua Pegawai Eksekutif OpenAI Sam Altman pada musim gugur lalu.

Seorang lagi pekerja yang dipecat, Pavel Izmailov, terlibat dalam penyelidikan berkaitan inferens di OpenAI dan juga bekerja dalam pasukan Super Alignment untuk satu tempoh masa.

Kedua-duanya telah bekerjasama dalam banyak karya pasukan, termasuk "Generalisasi Lemah-ke-Kuat" yang ditonton secara meluas ini (https://arxiv.org/abs/2312.09390).

Apa yang masih tidak jelas ialah maklumat yang bocor oleh dua pekerja yang dipecat itu.

Dua pelepasan itu merupakan pertukaran kakitangan awam pertama sejak Sam Altman kembali ke lembaga pengarah pada Mac tahun ini. Ia berlaku selepas lembaga bukan untung OpenAI mengetuai penyiasatan untuk membebaskan Altman atas tindakannya sebelum dia dipecat sebentar pada November lalu.

Mengimbas kembali butiran kejadian "Gong Fight", kita mungkin dapat mencari beberapa petunjuk. Sebelum penyingkirannya, pekerja OpenAI berbelah bagi sama ada syarikat itu membangunkan kecerdasan buatan dengan cukup selamat.

Pengasas bersama Ilya Sutskever adalah salah seorang ahli lembaga pengarah yang memecat Altman, dengan alasan kurang berterus terang. Sutskever meninggalkan lembaga selepas Altman kembali sebagai CEO. Sejak kejadian itu, dia pada dasarnya tidak muncul di pentas OpenAI lagi.

Tetapi selepas insiden pergaduhan di istana, Sam Altman tidak segan memuji Ilya, mengatakan bahawa dia sangat menghormati dan mengagumi Ilya, dan berharap dapat bekerjasama dengannya dalam kehidupan kerja masa depannya: "Ilya tidak melihat kecerdasan buatan umum, tapi Ilya Dia hero umat manusia Ilya banyak fikir pasal keselamatan dan risau sangat "Ada orang kata Ilya nampak sesuatu, mungkin AGI, yang buat dia rasa tak sedap hati. Jadi, apa yang Ilya nampak? "

Sam. Altman: "Apa yang Ilya lihat bukanlah AGI, tiada siapa yang melihat AGI, kami belum membina AGI. Saya fikir salah satu daripada banyak sebab saya mengagumi Ilya ialah dia mengambil AGI dan keselamatan dengan sangat serius, Secara umum, ini termasuk kesan AGI kepada masyarakat, kerana OpenAI terus membuat kemajuan yang ketara, dan salah seorang yang paling lama saya bersama sejak beberapa tahun lalu telah bercakap tentang maksud ini , Apakah yang perlu kita lakukan untuk memastikannya kami melakukan perkara yang betul dan memastikan bahawa kami berjaya menyelesaikan misi kami? Jadi Ilya tidak melihat kecerdasan buatan umum, tetapi Ilya adalah seorang wira manusia yang banyak berfikir dan bimbang. Aschenbrenner juga merupakan salah seorang ketua pasukan OpenAI Super Alignment. Pasukan itu dibentuk pada musim panas lalu oleh Ilya Sutskever untuk membangunkan teknologi untuk mengawal dan membimbing kecerdasan buatan termaju, dikenali sebagai superintelligence, yang berpotensi menyelesaikan masalah gabungan nuklear atau menjajah planet lain.

Aschenbrenner lulus dari Columbia University pada usia 19 tahun dan pernah bekerja di Future Fund, sebuah yayasan amal yang diasaskan oleh bekas Ketua Pegawai Eksekutif FTX Sam Bankman-Fried untuk membiayai projek yang "memperbaiki prospek jangka panjang umat manusia."

Jelas sekali, Aschenbrenner lebih mengutamakan kedudukan "altruisme yang berkesan", yang meletakkan penyelesaian bahaya kecerdasan buatan di atas keuntungan jangka pendek atau faedah produktiviti. Aschenbrenner menyertai OpenAI hanya setahun yang lalu.

Beberapa ahli lembaga yang memecat Altman juga dikaitkan dengan altruisme yang berkesan. Sebagai contoh, Tasha McCauley menganggotai lembaga pengarah Effective Ventures, badan amal yang dibiayai oleh FTX dan syarikat induk Pusat Altruisme Berkesan, dan Helen Toner telah mengusahakan projek dermawan yang memfokuskan pada altruisme yang berkesan. Kedua-dua lelaki meninggalkan lembaga apabila Altman kembali sebagai Ketua Pegawai Eksekutif pada akhir November.

Bagi Pavel Izmailov, beliau sebelum ini telah mendedahkan rancangan masa depannya di laman utama peribadinya: menyertai Universiti New York sebagai penolong profesor pada musim gugur 2025.

Baik pihak mahupun Ilya secara rasminya tidak menjawab berita ini. Mungkin perkara yang paling dibimbangkan oleh semua orang ialah, adakah Ilya akan meninggalkan OpenAI seterusnya? Ia hanya boleh dikatakan sukar untuk diramalkan.

^{Pautan rujukan: https://www.theinformation.com/articles/openai-researchers-including-ally-of-sutskever-fired-for- alleged-leaking}

Atas ialah kandungan terperinci OpenAI memecat dua ahli pasukan Ilya, adakah ia berkaitan dengan kebocoran "Gong Dou"?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!