Perbualan dengan Hu Yong: Pengaruh ChatGPT adalah setanding dengan iPhone, dan kami paling bimbang tentang penggunaan senjata AI丨Lihat isu 29

丨Sorotan

1. iPhone memudahkan orang yang tidak mahir dalam teknologi untuk bermula, dan telah membangunkan set lengkap model kedai aplikasi Dalam hal ini, ChatGPT sangat serupa dengan pelancaran iPhone Apple >

2. ChatGPT popular bukan sahaja kerana ia membawa banyak fungsi praktikal, tetapi juga kerana ia sangat seperti manusia Apabila teknologi mempunyai ciri-ciri manusia yang jelas, ia akan menyebabkan orang lebih suka teknologi

3. Kecerdasan buatan antropomorfik akan menghalang kita daripada memasuki laluan kecerdasan buatan yang lain

4. Tanpa beberapa jenis peraturan global, persaingan kecerdasan buatan tidak akan berhenti, kerana ia berdasarkan logik perniagaan Musk dan lain-lain menandatangani surat terbuka dengan harapan untuk menghentikan pembangunan selama enam bulan, yang pada dasarnya tidak masuk akal >

5. Isu jangka panjang dan lebih membimbangkan ialah penerapan kecerdasan buatan pada senjata untuk mengautomasikan senjata dan mencapai keupayaan pemusnahan besar-besaran.

Organisasi / Zhao Yangbo

丨Ikhtisar

Pada November 2022, OpenAI secara rasmi melancarkan model pra-latihan generatif ChatGPT-3.5 Ia memperoleh 1 juta pengguna dalam masa 5 hari sahaja, dan mencapai bilangan pengguna melebihi 100 juta pada akhir Januari tahun ini, menjadi salah satu daripadanya. model paling popular dalam industri Internet teknologi dalam beberapa tahun kebelakangan ini Datang ke produk "penomenal" yang paling mewakili. Pada bulan Mac tahun ini, OpenAI melancarkan ChatGPT-4 ketika ini sedang hangat, banyak syarikat Internet China seperti Google, Baidu dan Alibaba telah dipecat, mencetuskan kegilaan "Battle of 100 Models".

Kepopularan ChatGPT telah meninggalkan banyak persoalan yang patut diberi perhatian Mengapa ia datang daripada pasukan seperti OpenAI Apakah jenis sihir pertumbuhan yang digunakan OpenAI untuk membolehkannya mencapai 100 juta pengguna dalam masa 2 bulan boleh ditiru dan berapa lama ia akan bertahan, atau adakah ia hanya kilat dalam kuali?

Hu Yong, seorang profesor di Sekolah Kewartawanan dan Komunikasi di Universiti Peking, percaya bahawa dengan gelombang kecerdasan buatan yang dicetuskan oleh ChatGPT di seluruh dunia, "perlumbaan senjata" dalam industri AI telah bermula pengawasan, persaingan mungkin tidak akan berhenti.

Sebagai tindak balas kepada "War of 100 Models" yang semakin sengit, Profesor Hu Yong mencadangkan agar industri cuba meneroka lebih banyak kemungkinan selain model besar "Model besar adalah bagus, tetapi ia bukan satu-satunya laluan untuk pembangunan kecerdasan buatan ." Beliau menekankan bahawa "tidak boleh Dengan memfokuskan semua sumber anda pada satu aspek, terdapat banyak pilihan untuk berjaya."

01

“Momen iPhone” AI

Liu Xingliang: Pengasas Microsoft Bill Gates berkata bahawa kepentingan ChatGPT tidak kurang daripada kelahiran PC dan Internet Adakah penerangan ini tepat?

Hu Yong: Jika kita kembali kepada intipati, ChatGPT sebenarnya adalah produk. Kita boleh membincangkan sebab ChatGPT begitu popular dari perspektif produk.

Banyak produk berteknologi tinggi telah muncul dalam tempoh 30 tahun yang lalu, tetapi saya fikir terdapat hanya tiga produk yang benar-benar mempunyai keupayaan untuk mengganggu industri teknologi: penyemak imbas "Netscape Navigator", carian Google dan iPhone.

Pelayar Netscape, sumber: Rangkaian

Yang pertama ialah penyemak imbas "Netscape Navigator" Tanpa penyemak imbas, yang kedua ialah enjin carian Google, yang mempunyai kesan yang besar pada keseluruhan era Internet PC; dan kemudian Orang juga memanggil impak besar yang dibawa oleh kelahiran iPhone sebagai "detik iPhone." Kemunculan ketiga-tiga produk ini telah menggalakkan pembangunan keseluruhan industri dan juga memainkan peranan penting dalam mempromosikan pengguna. Kemunculan ChatGPT telah dibandingkan dengan versi AI "detik iPhone", yang menggambarkan betapa mengganggunya ChatGPT.

Telefon mudah alih arus perdana sebelum iPhone ialah Nokia dan Motorola, dan antara mukanya berbeza sama sekali daripada iPhone. IPhone memudahkan orang yang tidak mahir teknologi untuk bermula, memperkenalkan teknologi berbilang sentuhan dan membangunkan keseluruhan model gedung aplikasi. Sejak itu, semua orang mula menggunakan telefon bimbit, dan hari ini kami tidak dapat dipisahkan daripada telefon bimbit sedikit sebanyak, semuanya terima kasih kepada Apple.

Pada ketika ini, ChatGPT sangat serupa dengan pelancaran iPhone Apple.

Mengapa membandingkannya dengan "detik iPhone"? ChatGPT menunjukkan "apa itu kecerdasan buatan" kepada sesiapa sahaja yang tidak tahu apa-apa tentang kecerdasan buatan. Walaupun anda tidak pernah mendengar tentang kecerdasan buatan sebelum ini dan tidak tahu apa yang boleh dilakukannya, ChatGPT memberitahu anda bahawa ini adalah kecerdasan buatan dan ia boleh melakukan perkara ini.

Liu Xingliang: Bagaimanakah ChatGPT akan mengubah gaya hidup kita selepas wabak?

Hu Yong: Perubahan pertama ialah antara muka yang ringkas dan mudah digunakan Tanpa antara muka sedemikian, adalah mustahil untuk bermula. Sebaik sahaja anda bermula, anda perlu mempertimbangkan untuk apa anda ingin menggunakannya, dan "apa yang perlu dilakukan" sebenarnya sepadan dengan perubahan dalam kehidupan sebenar.

Kami mendapati bahawa ChatGPT digambarkan dalam siaran media sosial yang popular itu sebagai seorang lelaki yang maha kuasa yang boleh mencuba apa-apa pekerjaan yang diberikan kepadanya.

Untuk memberikan contoh yang mudah difahami, sebagai contoh, dalam satu senario, seorang lelaki membuat permintaan kepada chatbot, mengatakan bahawa teman wanitanya tidak selamat. Dia berharap robot itu dapat membantunya menulis perenggan dengan perkataan yang betul untuk menenangkan emosinya, dan kecerdasan buatan akan dapat melaksanakan permintaan ini dengan segera.

Pelbagai algoritma pengesyoran pada asasnya ialah kecerdasan buatan. Sebagai contoh, jika anda menggunakan peta semasa memandu, mereka akan mengira laluan terbaik untuk anda Ini juga merupakan aplikasi kecerdasan buatan Ia juga boleh memanggil teksi untuk anda, tetapi pengguna belum merasakannya. Tetapi ChatGPT membawa persepsi kecerdasan buatan kepada orang biasa.

Liu Xingliang: Bolehkah anda meramalkan apakah trend pembangunan dan senario aplikasi kecerdasan buatan pada masa hadapan?

Hu Yong: Kecerdasan buatan mewakili kebangkitan industri berteknologi tinggi semasa Ia pada asasnya merupakan pencapaian penting industri teknologi tinggi dan membangkitkan industri lain.

Saya rasa apa yang akan berlaku seterusnya ialah setiap syarikat awan dan syarikat perisian akan bertanya kepada diri mereka sendiri, apakah maksud pembangunan kecerdasan buatan pada peringkat ini kepada kita? Ini telah mencetuskan gelombang keusahawanan baharu apabila beratus-ratus syarikat baru muncul.

Pada masa yang sama, kami juga melihat kes penggunaan yang luar biasa yang dibina dengan kecerdasan buatan generatif, dan apa yang kini dikenali sebagai penjanaan imej adalah salah satu daripadanya.

Muka depan majalah robot yang dijana AI, sumber: Midjourney

Selain itu, saya rasa satu lagi perkara penting ialah wilayah bidang berteknologi tinggi mungkin dilukis semula dan tumpuan yang paling menarik perhatian ialah Google.

Google memiliki perniagaan yang paling menguntungkan dalam industri Internet - enjin carian, tetapi kemunculan kecerdasan buatan mungkin mengubah sepenuhnya jangkaan orang untuk carian, menjadikannya medan persaingan yang sengit, tetapi ia juga akan membawa Beberapa masalah yang tiada siapa yang pertimbangkan - pengguna menggunakan enjin carian untuk mendapatkan jawapan daripada tapak web, dan kecerdasan buatan secara langsung mempersembahkan kandungan yang diperoleh dalam kotak dialog tanpa menghantar trafik ke tapak web ini.

Tanpa trafik, bagaimanakah laman web tersebut akan memperoleh pendapatan?

Jika hasil pengiklanan hilang, tapak web ini mungkin mengecut dan ditutup Namun, jika laman web ini hilang, dari manakah maklumat untuk kecerdasan buatan?

Saya fikir ini mungkin menyebabkan ketidakseimbangan tertentu dalam ekosistem rangkaian asal kami, yang bermaksud bahawa kami kini mungkin perlu bertanya kepada diri sendiri soalan: Adakah Internet sudah tamat?

02

CtGPT popular kerana ia semakin menjadi manusia

Liu Xingliang: ChatGPT terbang ke rumah orang biasa dalam sekelip mata Pada bulan Mac, ia mempunyai lebih 100 juta pengguna, menjadikannya produk terpantas dalam sejarah yang mempunyai lebih 100 juta pengguna.

Hu Yong: Saya rasa antropomorfisme kecerdasan buatan adalah sebab penting Apabila anda bersembang dengannya, anda pasti tertanya-tanya sama ada anda bersembang dengan orang sebenar atau robot? Ini sebenarnya "Ujian Turing" klasik. Kita boleh katakan bahawa - terima kasih kepada pelancaran ChatGPT, "Ujian Turing" telah direalisasikan.

Menggunakan soalan asal untuk menguji ChatGPT mungkin tidak begitu berharga sekarang, kerana anda akan mendapati bahawa chatbot mempunyai ingatan dan ia boleh mengingati urutan perbualan sebelumnya.

Menurut keputusan ujian pengguna yang tidak terkira banyaknya, seperti chatbot Bing Microsoft, mereka mendapati bahawa "Bing Baharu" bukan sahaja mempunyai kenangan, tetapi juga nampaknya mempunyai emosi. Kadang-kadang ada juga cerita kononnya "ingin melarikan diri dari kotak sembang" malah jatuh cinta dengan pengguna manusia.

Selain itu membawa kita banyak fungsi praktikal, seperti menulis salinan, saringan resume, dan lain-lain, ia juga mempunyai ciri yang sangat penting, iaitu, ia sangat seperti manusia, yang boleh menjelaskan mengapa orang menyukainya. banyak.

Menurut penyelidikan sains sosial, orang sangat suka berinteraksi dengan teknologi seperti manusia. Orang lebih suka teknologi apabila ia mempunyai kualiti manusia yang jelas. Walaupun ia membuat kesilapan atau kekacauan dengan anda atau menghina anda, anda mungkin mendapati ia lebih menarik kerana anda tidak mahu alat yang secara mekanikal memberikan jawapan yang betul kepada anda. Kualiti ini menjadikannya lebih biasa kepada anda.

Tegasnya, ini berkaitan dengan struktur otak kita. Kita mempunyai kecenderungan kognitif - kita sangat suka mengaitkan kualiti manusia kepada objek yang kita lihat.

Anda mungkin telah melihat video yang dikeluarkan oleh Boston Dynamics menendang robot itu dengan keras, dan reaksi penonton ialah "Anda sangat kejam Ini menunjukkan bahawa kami mempunyai empati yang kuat terhadap robot." Kami juga membayangkan bahawa robot suatu hari nanti akan membalas dendam kepada kami. Ini sebenarnya menayangkan ciri manusia kepada manusia pada robot, memenuhi keperluan psikologi kita pada tahap yang lebih mendalam. Ini juga boleh menjelaskan mengapa ChatGPT jenis ini sangat popular, kerana ia adalah manifestasi sifat manusia.

Liu Xingliang: Pengguna ChatGPT melebihi 1 juta dalam satu minggu dan 100 juta dalam dua bulan Dalam industri Internet, apakah konsep ini?

Hu Yong: Perbandingan paling langsung ialah TikTok, yang mengambil masa kira-kira sembilan bulan untuk mencapai 100 juta pengguna. Satu lagi perkara yang mengagumkan ialah Instagram Ia mengambil masa lebih daripada dua tahun untuk mencapai jumlah pengguna yang sama Ini boleh dikatakan telah mencipta keajaiban yang tidak pernah berlaku sebelum ini.

Kami tidak pasti sama ada akan berlaku fenomena "jumlah pengguna melebihi 100 juta dalam masa dua bulan" pada masa hadapan jika kita hanya melihatnya dari peringkat pengguna, tidak dinafikan ChatGPT mewakili bidang tersebut kecerdasan buatan yang telah menemui aplikasi pembunuhnya.

Disebabkan kejayaan besar pembelajaran mesin, laluan pembangunan keseluruhan kecerdasan buatan nampaknya menuju ke arah pembangunan model berskala besar. Saya secara peribadi ragu-ragu tentang isu ini, saya fikir kecerdasan buatan tidak semestinya hanya mengambil jalan ini.

Disebabkan kejayaan besar model berskala besar, pada masa ini platform teknologi terbesar di dunia, termasuk syarikat teknologi utama di China dan Amerika Syarikat, mempertaruhkan model bahasa berskala besar. Jika kita mengikuti jalan ini, pencapaian seterusnya mungkin muncul.

Sekiranya terdapat laluan lain untuk kecerdasan buatan, sudah tentu aplikasi pembunuh lain mungkin dibangunkan pada laluan lain Semuanya bergantung pada arah di mana keseluruhan platform teknologi besar semasa melaburkan tenaga kerja, sumber material dan teknologinya.

03

Tidak digalakkan untuk berkumpul dengan model besar

Liu Xingliang: ChatGPT popular kerana ia semakin seperti manusia, tetapi anda berkata anda tidak mahu robot itu menjadi antropomorfik Adakah ini satu percanggahan?

Hu Yong: Tiada percanggahan. Kepintaran buatan hari ini menjadi lebih dan lebih seperti manusia, yang merujuk kepada arah pembangunan semasa kecerdasan buatan. Tetapi saya tidak mahu ia terlalu antropomorfik, itulah sebabnya saya menentang arah pembangunan ini.

Jika kita membincangkan perkara ini dalam perbahasan yang lebih luas, kita hanya membincangkan dua sudut pandangan: satu pihak percaya bahawa kecerdasan buatan pasti akan memusnahkan manusia, dan pihak lain percaya bahawa kecerdasan buatan tidak akan memusnahkan manusia, ia hanya akan menjadikan kita hidup menjadi lebih baik.

Tidak kira parti mana mereka berasal, ramalan tingkah laku mereka untuk kecerdasan buatan adalah berdasarkan logik antropomorfik, iaitu, mereka menggunakan logik budaya mereka sendiri untuk kecerdasan buatan.

Orang yang menyokong pandangan bahawa "kecerdasan buatan boleh memusnahkan manusia" akan mengatakan bahawa kecerdasan am buatan (AGI) akan mengejar kuasa Dalam proses itu, kecerdasan buatan sendiri juga mungkin mempersoalkan: "Mengapa ia sentiasa dikawal oleh manusia, '. Saya' Bolehkah anda mempunyai autonomi dan membuat keputusan anda sendiri?"

Mereka yang menyokong pandangan bahawa "kecerdasan buatan tidak akan memberi kesan kepada manusia" di sisi lain akan percaya bahawa dengan menerapkan norma moral manusia ke dalam kecerdasan buatan, ia akan bertindak mengikut norma ini, sama seperti menggunakan Asimov's Three Undang-undang Robotik, jika kecerdasan buatan diberitahu bahawa ia mesti mematuhi peraturan ini, maka ia tidak akan menyebabkan kerosakan kepada manusia.

Masalahnya ialah pembangunan kecerdasan buatan antropomorfik akan menghalang akses kita kepada kecerdasan buatan yang lain. Saya percaya bahawa arah pembangunan kecerdasan buatan adalah untuk berusaha untuk meningkatkan pelbagai kebolehan manusia dan bukannya meniru manusia.

Contohnya, dalam pekerjaan atau kehidupan kita, kerana keterbatasan semula jadi manusia, terdapat banyak perkara yang tidak dapat kita lakukan dengan sebaiknya. Pada masa ini, kita harus berharap untuk menebus kekurangan kita dengan membangunkan kecerdasan buatan Pada masa ini, kecerdasan buatan yang dipertingkatkan adalah lebih berguna daripada kecerdasan buatan manusia.

Contohnya, dalam penjagaan warga emas pintar, jika tilam boleh mempunyai fungsi pintar, atau ia boleh mempunyai amaran jatuh apabila warga tua jatuh, atau ia boleh mengingatkan orang tua untuk mengambil ubat apabila dia perlu mengambilnya. Saya fikir perkara ini benar-benar boleh membantu apabila kita bergerak ke dalam masyarakat yang semakin tua tanpa perlu membawa robot ke dalam rumah. Kini industri bergerak ke arah membantu manusia, tetapi ia tidak mencukupi.

Pada masa ini, semua orang memberi perhatian kepada model bahasa yang besar Ini bukan untuk mengatakan bahawa model bahasa yang besar adalah tidak baik, tetapi saya tidak mahu mereka menjadi satu-satunya laluan untuk pembangunan kecerdasan buatan, dan semua sumber tidak sepatutnya. tertumpu pada aspek ini.

04

Surat terbuka Musk ialah "mimpi yang bodoh"

Liu Xingliang: ChatGPT telah menjadi fenomena Berapa lama fenomena ini boleh bertahan?

Hu Yong: Berdasarkan situasi semasa, ledakan model berskala besar yang dipanggil industri sebagai "perlumbaan senjata" telah bermula.

Kami tahu bahawa Google sentiasa mempunyai model bahasa yang besar, malah teknologi Transformer telah dicipta oleh Google, tetapi mengapa Google tidak menjadi peneraju pertandingan ini bukanlah kerana teknologi mereka tidak mempunyai rizab yang mencukupi, tetapi terutamanya kerana Google sangat berhati-hati.

//Nota editor: Pada bulan Jun 2017, pasukan Google Brain menerbitkan kertas kerja bertajuk "Perhatian adalah semua yang anda perlukan" di Persidangan Sistem Pemprosesan Maklumat Neural Ia dianggap sebagai kerja perintis model bahasa besar.

Sebaliknya, Microsoft dengan pantas menggunakan teknologi ini pada enjin carian Bing dan juga perisian pejabat Ini kerana Microsoft sendiri adalah pelabur penting dalam OpenAI Kedua, enjin carian Microsoft hanya menduduki bahagian pasaran global. saham, yang sangat lemah, manakala Google menduduki lebih daripada 90%. Bing adalah produk "tidak ambil peduli sepenuhnya" kepada Microsoft, jadi mengapa tidak mengambil risiko dan dengan berani menumbangkan Google? Jadi Google jatuh ke dalam situasi pasif, mula bertindak balas, dan memasuki perlumbaan senjata ini.

ChatGPT, Bard, Bing Sumber: Internet

Berapa lama pertandingan akan berlangsung?

Saya rasa persaingan ini tidak akan berhenti tanpa semacam peraturan global kerana ia berdasarkan logik perniagaan.

Baru-baru ini Musk dan yang lain menandatangani surat terbuka, berharap untuk menghentikan pembangunan selama enam bulan, saya rasa surat terbuka ini pada dasarnya tidak masuk akal. Mengapa mereka sebulat suara bersetuju untuk berhenti selama enam bulan?

Walaupun dari perspektif syarikat, mereka mungkin terlepas pandang akibat tertentu disebabkan minat atau keperluan perniagaan yang besar. Sebagai contoh, syarikat seperti Microsoft akan mempunyai penafian yang menyatakan bahawa mereka masih mempunyai kekurangan dan berharap orang ramai akan lebih bersabar dan menyediakan lebih banyak data untuk menambah baik model. Dengan cara ini, syarikat AI besar ini dengan bijak mengelak tanggungjawab.

Berkenaan tadbir urus model besar, jika konsensus ingin dibentuk, sama ada semua pihak di seluruh dunia mencari kaedah biasa untuk mengawal kecerdasan buatan, atau orang ramai percaya bahawa teknologi ini telah memberi kesan yang terlalu besar kepada kami dan telah melampaui skop ekonomi, seperti menyebabkan pengangguran berskala besar telah menyebabkan tindak balas sosial yang kuat.

Di luar kedua-dua senario ini, pada masa ini kami tidak melihat penghujung perlumbaan, ia hanya akan mempercepatkan pergerakan ke hadapan.

Liu Xingliang: Jika AI terus menjadi liar, apakah masalah dan risiko yang akan berlaku pada masa hadapan?

Hu Yong: Dalam jangka pendek, risiko yang agak besar ialah pengangguran manusia berskala besar Ini bukan masalah rekaan.

Sebagai contoh, kami menyebut semasa kami berbual sebentar tadi bahawa apabila kami memerlukan ilustrasi, kami biasa mencari gambar berhak cipta atau mencari ilustrator untuk melukis gambar untuk kami Sekarang kami boleh menggunakan penjana gambar untuk menghasilkan gambar. Jika semua orang dengan keperluan ini menggunakan penjana imej, maka ilustrator akan kehilangan pasaran mereka Ini sudah menjadi trend yang jelas. Masalah ini bukan gurauan dan sememangnya akan mengakibatkan ramai orang kehilangan pekerjaan.

Tetapi apakah isu jangka panjang dan lebih membimbangkan? Saya fikir tumpuan seterusnya adalah terutamanya pada senjata autonomi maut.

Ringkasnya, ia adalah untuk menggunakan kecerdasan buatan pada senjata untuk mengautomasikan senjata Keupayaan pemusnahan besar-besaran ini tidak mempunyai kekangan etika malah boleh mencapai pembunuhan tanpa pandang bulu.

Contohnya, di medan perang, walaupun kita tahu orang lain itu musuh, sebagai manusia dan tentera, kita akan tetap rasa konflik kerana kita tahu kita sedang meragut nyawa orang lain, tetapi mesin tidak. mempunyai kesedaran ini, selagi kita memberi arahan, ia boleh dilaksanakan.

Berdasarkan situasi semasa di dunia, kita masih mempunyai pelbagai ketidaksamaan dan konfrontasi. Dalam kes ini, adalah mungkin untuk mempersenjatai kecerdasan buatan, dan sebenarnya ia telah berlaku dalam realiti, seperti menggunakan dron untuk menyerang sasaran dengan tepat.

Walaupun sukar untuk kita sekarang membayangkan senario di mana robot menggantikan manusia sepenuhnya dan memerintah bumi seperti dalam "Terminator", masalah yang lebih realistik ialah memandangkan dunia sekarang tidak aman, jika sesetengah negara memperoleh teknologi ini dan akan Penggunaannya kepada senjata akan membawa akibat yang serius.

Apabila bercakap tentang akauntabiliti, ambil contoh pemanduan autonomi Jika berlaku kemalangan jalan raya, tanggungjawab itu sudah tentu terletak pada sistem pemanduan autonomi kerana ia menyebabkan kemalangan jalan raya. Tetapi secara tegasnya, adalah sukar untuk kenderaan pandu sendiri menyebabkan kemalangan jalan raya berskala besar. Contohnya, kemungkinan memukul berbilang orang secara berterusan adalah sangat kecil orang sekali gus.

Akhir sekali, saya ingin mengatakan bahawa saya fikir isu yang paling penting apabila membincangkan kecerdasan buatan hari ini adalah untuk tidak memikirkan tentang kesan kecerdasan buatan itu sendiri terhadap saya, tetapi untuk memikirkan jenis orang saya. Hanya dengan memikirkan perkara ini kita boleh bertahan dalam zaman kecerdasan buatan dan mencari satu-satunya kemungkinan.

Atas ialah kandungan terperinci Perbualan dengan Hu Yong: Pengaruh ChatGPT adalah setanding dengan iPhone, dan kami paling bimbang tentang penggunaan senjata AI丨Lihat isu 29. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!