Demis Hassabis: AI lebih berkuasa daripada yang kita bayangkan

Baru-baru ini, Demis Hassabis, pengasas DeepMind, adalah tetamu di podcast Lex Fridman dan bercakap tentang banyak perkara menarik.

Pada awal temu bual, Hassabis secara terang-terangan menyatakan bahawa ujian Turing sudah lapuk kerana ia adalah penanda aras yang telah dicadangkan selama beberapa dekad, dan ujian Turing adalah berdasarkan tindakan dan reaksi manusia terdedah kepada "gurauan" yang serupa dengan yang dilaporkan oleh seorang jurutera Google suatu ketika dahulu bahawa sistem AI sedar: penyelidik bercakap dengan model bahasa dan memetakan persepsinya sendiri kepada pertimbangan model, yang tidak objektif.

Sejak penubuhannya pada 2015, pembangunan DeepMind dalam bidang kecerdasan buatan telah membawa kejutan kepada dunia berulang kali: daripada program permainan AlphaGo kepada model ramalan protein AlphaFold, penemuan teknologi pembelajaran pengukuhan mendalam telah menyelesaikan masalah yang melanda umat manusia Para saintis telah menangani isu-isu saintifik utama selama bertahun-tahun, dan pemikiran serta motivasi pasukan di belakang mereka adalah menarik.

Dalam temu bual bersama Hassabis ini, beliau turut bercakap tentang satu perkara yang menarik iaitu AI melepasi batasan kecerdasan manusia. Walaupun manusia mungkin telah terbiasa dengan dunia tiga dimensi ini dengan masa, AI mungkin dapat mencapai kecerdasan memahami dunia dari dua belas dimensi dan menyingkirkan sifat alat, kerana masih terdapat banyak kekurangan dalam pemahaman manusia kita tentang dunia.

Berikut ialah temu bual dengan Demis Hassabis:

1 Daripada Permainan kepada AI

Lex Fridman: Bilakah anda mula jatuh cinta dengan pengaturcaraan?

Demis Hassabis: Saya mula bermain catur ketika saya berumur kira-kira 4 tahun dan membeli komputer pertama saya ketika berumur 8 tahun dengan kemenangan yang saya menangi daripada kejohanan catur Taiwan zx spektrum, kemudian saya membeli buku tentang pengaturcaraan. Saya jatuh cinta dengan komputer apabila saya mula menggunakannya untuk membuat permainan, saya fikir ia adalah ajaib dan lanjutan daripada fikiran anda.

Sudah tentu, semua mesin melakukan ini sedikit sebanyak, meningkatkan kebolehan semula jadi kita, seperti kereta yang membolehkan kita bergerak lebih pantas daripada yang kita boleh berlari. Tetapi kecerdasan buatan adalah ungkapan muktamad semua pembelajaran yang boleh dilakukan oleh mesin, jadi pemikiran saya secara semula jadi meluas kepada kecerdasan buatan juga.

Lex Fridman: Bilakah anda jatuh cinta dengan kecerdasan buatan? Bilakah saya mula memahami bahawa ia bukan sahaja boleh menulis program dan melaksanakan operasi matematik semasa tidur, tetapi juga boleh melaksanakan tugas yang lebih kompleks daripada operasi matematik?

Demis Hassabis: Ia boleh dibahagikan secara kasar kepada beberapa peringkat.

Saya adalah kapten pasukan catur remaja Ketika saya berumur kira-kira 10 atau 11 tahun, saya merancang untuk menjadi pemain catur profesional. Pada usia 12 tahun saya mencapai tahap Grandmaster dan merupakan pemain catur peringkat kedua di dunia, di belakang Judith Pologer. Apabila saya cuba meningkatkan kemahiran catur saya, saya perlu memperbaiki proses pemikiran saya terlebih dahulu. Bagaimanakah otak menghasilkan idea-idea ini? Mengapa ia membuat kesilapan? Bagaimanakah proses pemikiran ini boleh diperbaiki?

Seperti komputer catur pada awal hingga pertengahan 80-an, saya sudah biasa mempunyai versi Kasparov berjenama yang, walaupun tidak sekuat hari ini, boleh diperbaiki dengan berlatih dengannya. Saya fikir pada masa itu, ini benar-benar menakjubkan, seseorang memprogramkan papan ini untuk bermain catur. Saya membeli salinan "Buku Panduan Komputer Catur" oleh David Levy, diterbitkan pada tahun 1984. Ia adalah buku yang sangat menarik dan membolehkan saya memahami sepenuhnya bagaimana program catur dibuat.

Kapsyen: Kasparov, bekas pemain catur profesional Soviet dan Rusia, guru besar catur

Program kecerdasan buatan pertama saya dicipta oleh Programming my Amiga, saya menulis atur cara untuk bermain Othello ke belakang, iaitu permainan yang lebih mudah sedikit daripada catur, tetapi saya menggunakan semua prinsip pengaturcaraan catur di dalamnya, iaitu carian alfa-beta dsb.

Peringkat kedua ialah permainan yang dipanggil "Taman Tema" yang saya reka semasa saya berumur kira-kira 16 atau 17 tahun, yang melibatkan simulasi AI dalam permainan, walaupun ia sangat mudah mengikut piawaian AI hari ini, tetapi ia bertindak balas terhadap cara anda bermain sebagai pemain, jadi ia juga dipanggil permainan kotak pasir.

Lex Fridman: Bolehkah anda memberitahu kami beberapa hubungan utama anda dengan AI? Apakah yang diperlukan untuk mencipta sistem AI dalam permainan?

Demis Hassabis: Saya melatih diri saya dalam permainan ketika saya masih kecil, dan kemudiannya melalui fasa mereka bentuk permainan dan menulis AI untuk permainan. Semua permainan yang saya tulis pada tahun 1990-an mempunyai kecerdasan buatan sebagai komponen teras. Sebab mengapa saya melakukan ini dalam industri permainan adalah kerana pada masa itu saya fikir industri permainan berada di barisan hadapan teknologi Orang seperti John Carmack dan Quake nampaknya melakukannya dalam permainan. Kami masih mendapat faedah daripadanya, seperti GPU, yang dicipta untuk grafik komputer tetapi kemudiannya didapati penting untuk AI. Jadi saya fikir pada masa itu, permainan itu mempunyai kecerdasan buatan yang canggih.

Pada masa awal, saya menyertai permainan yang dipanggil "Hitam dan Putih", yang merupakan contoh paling mendalam tentang penerapan pembelajaran pengukuhan dalam permainan komputer. Anda boleh melatih haiwan peliharaan kecil dalam permainan, dan ia akan belajar daripada cara anda memperlakukannya dengan buruk, ia akan menjadi jahat dan jahat kepada penduduk kampung anda dan puak kecil yang anda uruskan. Tetapi jika anda memperlakukannya dengan baik, ia akan menjadi baik.

Lex Fridman: Pemetaan baik dan jahat permainan ini menyedarkan saya bahawa anda boleh menentukan keputusan melalui pilihan yang anda buat. Permainan boleh membawa maksud falsafah seperti ini.

Demis Hassabis: Saya rasa permainan adalah medium yang unik kerana sebagai pemain anda bukan sahaja mengambil hiburan secara pasif, anda sebenarnya mengambil bahagian secara aktif sebagai wakil . Jadi saya fikir itulah sebabnya permainan mempunyai lebih banyak bahan dalam beberapa cara berbanding media lain, seperti filem dan buku.

Kami telah memikirkan secara mendalam tentang AI dari awal, menggunakan permainan sebagai tempat pembuktian untuk algoritma AI yang terbukti dan terbuka. Itulah sebabnya Deepmind pada mulanya menggunakan sejumlah besar permainan sebagai platform ujian utama, kerana permainan sangat cekap dan mudah untuk mempunyai penunjuk untuk melihat bagaimana sistem AI bertambah baik, arah pemikirannya, dan sama ada ia membuat penambahbaikan tambahan.

Lex Fridman: Dengan mengandaikan kita tidak boleh membina mesin yang boleh menewaskan manusia dalam catur, orang akan berfikir bahawa Go adalah permainan yang tidak boleh dipecahkan kerana kerumitan kombinasi. Tetapi pada akhirnya, penyelidik AI membina mesin ini, dan manusia menyedari bahawa kita tidak sepandai yang kita sangka.

Demis Hassabis: Ini adalah perjalanan pemikiran yang menarik, terutamanya apabila saya memahaminya dari dua perspektif (pencipta AI dan pemain permainan), ia terasa lebih ajaib, Terasa sedikit pahit pada masa yang sama.

Kasparov menggelar catur sebagai "fruit fly" yang bijak Saya cukup menyukai penerangan ini, kerana catur berkait rapat dengan AI sejak awal. Saya rasa setiap pengamal AI, termasuk Turing dan Shannon, dan semua nenek moyang di lapangan, telah cuba menulis program catur. Shannon menulis dokumen program pertama tentang catur pada tahun 1949. Turing juga menulis program catur yang terkenal, tetapi kerana komputer terlalu lambat untuk dijalankan, dia menggunakan pensel dan kertas untuk menjalankan program secara manual dan bercakap dengan rakan-rakan Main.

DeepBlue muncul sebagai detik besar, menggabungkan semua perkara yang saya suka tentang catur, komputer dan kecerdasan buatan. Pada tahun 1996, ia mengalahkan Garry Kasparov. Selepas itu, saya lebih kagum dengan fikiran Kasparov berbanding DeepBlue, kerana Kasparov adalah minda manusia dan bukan sahaja dia boleh berada di tahap yang sama dengan komputer dalam bermain catur, Kasparov juga boleh melakukan semua yang manusia boleh lakukan, seperti menunggang kereta. basikal, bercakap Multilingualisme, penyertaan dalam aktiviti politik, dan banyak lagi.

DeepBlue, sementara ia mempunyai detik-detik dalam catur, pada asasnya menyuling pengetahuan seorang grandmaster catur ke dalam program yang tidak boleh melakukan apa-apa lagi. Jadi saya rasa ada sesuatu yang pintar yang hilang daripada sistem, dan itulah sebabnya kami cuba melakukan AlphaGo.

Lex Fridman: Mari kita bercakap secara ringkas tentang sisi manusia dalam catur. Dari perspektif reka bentuk permainan, anda mencadangkan bahawa catur menarik kerana ia adalah permainan. Bolehkah anda jelaskan sama ada terdapat ketegangan kreatif antara biskop (bishop dalam catur) dan kesatria (ksatria dalam catur)? Apakah yang menjadikan permainan menarik dan boleh menjangkau berabad-abad?

Demis Hassabis: Saya juga sedang memikirkan perkara ini. Malah, ramai pemain catur yang cemerlang tidak semestinya memikirkan isu ini dari perspektif pereka permainan.

Mengapa catur sangat menarik? Saya fikir sebab utama adalah dinamik kedudukan yang berbeza, anda boleh mengetahui sama ada ia ditutup atau terbuka, fikirkan betapa berbezanya uskup dan kesatria bergerak, dan catur telah berkembang untuk mengimbangi kedua-duanya, kira-kira 3 mata.

Lex Fridman: Jadi anda fikir dinamik sentiasa ada dan selebihnya peraturan cuba menstabilkan permainan.

Demis Hassabis: Mungkin ini agak seperti situasi ayam-dan-telur, tetapi kedua-duanya mencapai keseimbangan yang indah Bishop, kesatria, dan kesatria mempunyai kuasa yang berbeza Tetapi nilainya adalah sama di seluruh alam semesta. Mereka telah diseimbangkan oleh manusia sejak beberapa ratus tahun yang lalu, yang saya fikir memberikan permainan ketegangan kreatif.

Lex Fridman: Adakah anda fikir sistem AI boleh menarik manusia untuk mereka bentuk permainan?

Demis Hassabis: Itu soalan yang menarik. Jika kreativiti ditakrifkan sebagai menghasilkan sesuatu yang asli dan berguna untuk sesuatu tujuan, maka tahap kreativiti yang paling rendah adalah seperti ungkapan interpolasi, dan sistem AI asas mempunyai keupayaan ini. Tunjukkan berjuta-juta gambar kucing, dan kemudian tunjukkan kepada saya kucing biasa Ini dipanggil interpolasi.

Juga seperti AlphaGo, ia boleh membuat kesimpulan. Selepas bermain berjuta-juta permainan menentang dirinya sendiri, AlphaGo menghasilkan beberapa idea baharu yang hebat, seperti membuat 37 langkah dalam permainan, menyediakan strategi yang tidak pernah difikirkan oleh manusia, walaupun kami telah bermain permainan itu selama ratusan dan ribuan tahun .

Ada satu lagi tahap di atas ini, iaitu sama ada anda boleh berfikir di luar kotak dan melakukan inovasi sebenar. Bolehkah anda mencipta catur dan bukannya membuat langkah? Bolehkah catur, atau sesuatu yang serupa dengan catur atau Go, dicipta?

Saya rasa AI akan dapat melakukannya satu hari nanti, tetapi persoalannya sekarang ialah bagaimana untuk menetapkan tugasan ini kepada program. Kami masih belum dapat mengkonkretkan konsep abstrak peringkat tinggi ke dalam sistem kecerdasan buatan, dan mereka masih kekurangan sesuatu dari segi memahami konsep peringkat tinggi atau konsep abstrak yang benar-benar. Seperti sedia ada, mereka boleh digabungkan dan digubah, dan AI boleh melakukan interpolasi dan inferens, tetapi tiada satu pun daripadanya benar-benar ciptaan.

Lex Fridman: Menghasilkan set peraturan dan mengoptimumkannya, dan membangunkan matlamat yang kompleks di sekeliling set peraturan tersebut, adalah sesuatu yang tidak dapat kami lakukan pada masa ini. Tetapi adakah mungkin untuk mengambil set peraturan tertentu dan menjalankannya dan melihat berapa lama masa yang diperlukan oleh sistem AI untuk belajar dari awal?

Demis Hassabis: Saya sebenarnya memikirkannya, ini sangat mengagumkan untuk pereka permainan. Jika terdapat sistem yang memainkan permainan anda berpuluh juta kali, sistem itu mungkin dapat melaksanakan peraturan pengimbangan automatik dalam sekelip mata. Unit atau peraturan dalam permainan boleh diselaraskan melalui persamaan atau parameter untuk menjadikan permainan lebih seimbang. Ia seperti memberikan set asas dan menerokainya melalui carian kaedah Monte Carlo atau sesuatu seperti itu, itu akan menjadi alat yang sangat berkuasa.

Dan untuk pengimbangan automatik, latihan beribu-ribu jam daripada ratusan permainan selalunya diperlukan untuk mengimbangi permainan seperti StarCraft, Blizzard, dan sebagainya. Jadi boleh dibayangkan, pada satu ketika perkara ini menjadi cukup berkesan, anda mungkin mahu melakukannya semalaman.

Lex Fridman: Adakah anda fikir kita hidup dalam simulasi?

Demis Hassabis: Ya. Nick Bostrom terkenal pertama kali mencadangkan teori simulasi, tetapi saya tidak begitu mempercayainya. Dari satu segi, kita berada dalam sejenis permainan komputer, atau keturunan kita entah bagaimana membentuk semula planet ini pada abad ke-21.

Cara terbaik untuk memahami fizik dan alam semesta adalah dengan memahaminya dari perspektif pengiraan sebagai alam semesta maklumat, sebenarnya, maklumat adalah unit realiti yang paling asas. Berbanding dengan jirim atau tenaga, ahli fizik akan mengatakan E=mc², yang merupakan asas alam semesta. Tetapi saya fikir maklumat itu mungkin cara paling asas untuk menggambarkan alam semesta, dan ia sendiri boleh menentukan tenaga atau perkara yang betul. Jadi boleh dikatakan bahawa kita berada dalam beberapa jenis simulasi. Tetapi saya tidak bersetuju dengan idea membuang berbilion-bilion simulasi ini.

Lex Fridman: Berdasarkan pemahaman anda tentang istilah umum mesin, pemahaman anda tentang komputer, adakah anda fikir terdapat sesuatu di alam semesta di luar kemampuan komputer? Anda tidak bersetuju dengan Roger Penrose (ahli fizik matematik)?

Demis Hassabis: Roger Penrose sangat terkenal dan telah mengambil bahagian dalam banyak perdebatan hebat Saya telah membaca buku klasiknya "The Emperor's New Brain" di mana dia menerangkan kesedaran dalam otak Lebih banyak barangan kuantum juga diperlukan. Saya juga telah banyak berfikir dalam kerja saya tentang apa yang kami lakukan, sebenarnya, mendorong mesin Turing atau pengkomputeran klasik ke hadnya. Apakah had pengkomputeran klasik? Saya juga belajar neurosains, yang merupakan sebab saya memilih arah ini untuk PhD saya, untuk melihat sama ada terdapat kehadiran kuantum dalam otak dari perspektif neurosains atau biologi.

Setakat ini, kebanyakan ahli sains saraf dan ahli biologi akan mengatakan tidak ada bukti sebarang sistem atau kesan kuantum dalam otak, dan kebanyakannya boleh dijelaskan menggunakan teori klasik dan pengetahuan biologi. Tetapi pada masa yang sama, bermula dengan apa yang boleh dilakukan oleh mesin Turing, termasuk sistem AI, adalah proses yang berterusan, terutamanya dalam dekad yang lalu. Saya tidak akan bertaruh pada sejauh mana mesin Turing universal dan paradigma pengkomputeran klasik boleh pergi, tetapi mungkin apa yang berlaku di otak boleh dicontohi pada mesin tanpa memerlukan bahan metafizik atau kuantum.

2Al untuk sains

Lex Fridman: Mari kita bincangkan tentang AlphaFold, adakah anda fikir pemikiran manusia berasal daripada rangkaian neural ini ? Siber, bubur pengkomputeran biologi dan bukannya bekerja secara mental?

Demis Hassabis: Pada pendapat saya, keajaiban terbesar di alam semesta ialah terdapat hanya beberapa paun bubur dalam tengkorak kita, yang juga merupakan otak dan terbesar. objek yang diketahui di alam semesta. Saya fikir ia adalah mesin yang sangat cekap, dan ia adalah salah satu sebab saya sentiasa mahu membina AI. Dengan membina ejen seperti AI dan membandingkannya dengan minda manusia, kami mungkin dapat membantu kami tertanya-tanya dari segi sejarah tentang keunikan minda dan rahsia sebenar, kesedaran, mimpi, kreativiti, emosi, dan segala-galanya di antaranya.

Kini terdapat banyak alat untuk melakukan ini. Semua alat neurosains, mesin FMI boleh merakam, dan terdapat juga kuasa pengkomputeran AI untuk membina sistem pintar. Sungguh menakjubkan apa yang boleh dilakukan oleh minda manusia Hakikat bahawa manusia mencipta perkara seperti komputer dan memikirkan dan mengkaji masalah ini adalah bukti kepada minda manusia dan membantu kita memahami alam semesta dan fikiran manusia dengan lebih jelas. Malah boleh dikatakan bahawa kita mungkin menjadi mekanisme di mana alam semesta mencuba dan memahami keindahannya sendiri.

Melihat daripada perspektif yang lain, blok binaan asas biologi juga boleh digunakan untuk memahami minda dan badan manusia Sangat mengagumkan untuk mensimulasikan dan membina model bermula dari blok binaan asas, dan anda boleh membina yang lebih besar dan lebih besar, sistem yang lebih kompleks, dan juga biologi manusia secara keseluruhan.

Ada satu lagi masalah yang dianggap mustahil untuk diselesaikan, iaitu lipatan protein AlphaFold menyelesaikan masalah lipatan protein, yang merupakan satu kejayaan terbesar dalam sejarah biologi struktur. Protein adalah penting untuk semua kehidupan dan setiap fungsi badan bergantung kepada protein.

Protein ditentukan oleh jujukan gennya (juga dipanggil jujukan asid amino), yang boleh dianggap sebagai blok binaan asasnya. Mereka melipat ke dalam struktur tiga dimensi dalam badan dan dalam alam semula jadi, dan struktur tiga dimensi ini menentukan fungsinya dalam badan. Tambahan pula, jika anda berminat dengan ubat atau penyakit dan ingin menggunakan sebatian ubat untuk menyekat tindakan protein, prasyaratnya adalah untuk memahami struktur tiga dimensi tapak pengikat pada permukaan protein.

Ilustrasi: Pada Julai 2021, DeepMind secara terbuka mengeluarkan hasil ramalan AlphaFold buat kali pertama melalui pangkalan data yang ditubuhkan dengan kerjasama Makmal Biologi Molekul Eropah (EMBL). pangkalan data termasuk 98% daripada semua protein manusia

Lex Fridman: Intipati masalah lipatan protein ialah, bolehkah anda mendapatkan rentetan huruf satu dimensi daripada jujukan asid amino? Bolehkah struktur tiga dimensi diramalkan dengan serta-merta secara pengiraan? Ini telah menjadi cabaran utama dalam biologi selama lebih daripada 50 tahun. Pemenang Hadiah Nobel Christian Anfinsen pertama kali menyatakan pada tahun 1972 bahawa dia membuat spekulasi bahawa adalah mungkin untuk beralih daripada urutan asid amino kepada struktur tiga dimensi.

Demis Hassabis: Ayat oleh Christian Anfinsen ini membuka keseluruhan 50 bidang kelebihan biologi pengiraan, yang mana mereka terperangkap dan tidak melakukannya dengan baik.

Sebelum kemunculan AlphaFold, ini semua dilakukan secara eksperimen Sangat sukar untuk mengkristalkan protein Sesetengah protein tidak boleh dihablurkan seperti protein membran, dan mikroskop elektron yang mahal atau analisis kristalografi sinar-X. . Instrumen boleh digunakan untuk mendapatkan struktur tiga dimensi dan menggambarkan strukturnya. Dengan AlphaFold, dua orang boleh meramalkan struktur tiga dimensi dalam beberapa saat.

Lex Fridman: Terdapat set data, ia dilatih mengenai set data ini, dan cara memetakan asid amino. Hebatnya, komputer kimia kecil ini boleh melakukan pengiraan dengan cara teragih dan melakukannya dengan sangat pantas.

Demis Hassabis: Mungkin kita patut membincangkan asal usul kehidupan. Malah, protein itu sendiri adalah makhluk kecil dan mesin haiwan yang menakjubkan. Cyrus Levinthal, saintis yang mencadangkan paradoks Levinthal, secara kasar mengira bahawa purata protein mungkin 2,000 bes asid amino panjang dan boleh mempunyai 10 hingga 300 kaedah lipatan protein yang berbeza. Dan secara semula jadi, fizik entah bagaimana menyelesaikan masalah ini, dan protein dilipat dalam badan anda dalam beberapa milisaat, atau sesaat.

Lex Fridman: Jujukan ini mempunyai cara yang unik untuk membentuk dirinya, ia mencari cara untuk kekal stabil di tengah-tengah kemungkinan yang luas. Dalam sesetengah kes mungkin terdapat perkara seperti disfungsi, tetapi kebanyakan masa ia adalah pemetaan unik yang tidak jelas.

Demis Hassabis: Sekiranya kesihatan biasanya mempunyai pemetaan yang unik, maka apabila bercakap mengenai penyakit, apa sebenarnya masalahnya? Sebagai contoh, satu hipotesis untuk penyakit Alzheimer ialah beta-amyloid melipat dengan cara yang salah, menyebabkan ia menjadi tersilap lipatan sehingga ia terjerat dalam neuron.

Jadi untuk memahami kesihatan, fungsi dan penyakit, anda perlu memahami cara ia distrukturkan, dan mengetahui perkara yang dilakukan oleh perkara ini adalah sangat penting. Langkah seterusnya ialah apabila protein berinteraksi dengan sesuatu, ia berubah bentuk. Jadi dalam biologi, mereka tidak semestinya statik.

Lex Fridman: Mungkin anda boleh memberikan beberapa penyelesaian kepada AlphaFold, yang merupakan sistem fizik sebenar tidak seperti permainan. Apa yang sukar untuk diselesaikan dalam hal ini? Penyelesaian mana yang relevan?

Demis Hassabis: AlphaFold ialah sistem yang paling kompleks dan mungkin paling bermakna yang telah kami bina setakat ini.

Kami pada asalnya membina AlphaGo dan AlphaZero untuk berkaitan permainan, tetapi matlamat utamanya bukan hanya untuk memecahkan permainan, tetapi untuk menggunakannya untuk membimbing sistem pembelajaran umum dan menyelesaikan cabaran dunia sebenar. Kami ingin bekerja lebih lanjut mengenai cabaran saintifik seperti lipatan protein, dan AlphaFold ialah titik bukti penting kami yang pertama.

Dari segi data, bilangan inovasi memerlukan kira-kira 30 algoritma komposisi yang berbeza, disatukan untuk memecahkan lipatan protein. Beberapa inovasi besar adalah sekitar fizik dan biologi evolusi, membina pengekodan keras untuk mengekang perkara seperti sudut ikatan dalam protein, tetapi tanpa menjejaskan sistem pembelajaran, jadi sistem masih boleh mempelajari fizik daripada contoh.

Dengan mengandaikan hanya terdapat kira-kira 150,000 protein, walaupun selepas 40 tahun percubaan, hanya kira-kira 50,000 struktur protein akan ditemui. Set latihan jauh lebih kecil daripada yang biasa digunakan, tetapi pelbagai teknik seperti pengekstrakan diri digunakan. Oleh itu, apabila menggunakan AlphaFold untuk membuat beberapa ramalan yang sangat yakin, adalah penting untuk AlphaFold berfungsi dengan meletakkannya semula ke dalam set latihan untuk menjadikan set latihan lebih besar.

Sebenarnya, banyak inovasi diperlukan untuk menyelesaikan masalah ini, apa yang AlphaFold hasilkan ialah histogram, matriks jarak berpasangan antara semua molekul dalam protein, mereka perlu menjadi satu proses pengoptimuman untuk mencipta tiga- struktur dimensi. Untuk menjadikan AlphaFold benar-benar hujung ke hujung, ia boleh pergi terus dari urutan asas asid amino ke struktur tiga dimensi, melangkau langkah perantaraan.

Ia juga boleh didapati daripada pembelajaran mesin bahawa lebih banyak hujung ke hujung, lebih baik sistem itu lebih baik dalam mempelajari kekangan daripada pereka bentuk manusia. Dalam kes ini, struktur 3D adalah lebih baik daripada mempunyai langkah perantaraan di mana seseorang perlu pergi ke langkah seterusnya secara manual. Pendekatan terbaik adalah untuk membiarkan kecerunan dan pembelajaran mengalir sepanjang jalan melalui sistem, dari titik akhir ke output akhir yang dikehendaki kepada input.

Lex Fridman: Berkenaan dengan idea AlphaFold, ia mungkin langkah awal dalam perjalanan panjang dalam biologi Adakah anda fikir kaedah yang sama boleh meramalkan struktur dan fungsi sistem biologi yang lebih kompleks , interaksi berbilang protein? Adakah anda fikir ini adalah visi jangka panjang?

Demis Hassabis: Sudah tentu, sebaik sahaja kita mempunyai sistem biologi yang cukup teguh, merawat penyakit dan memahami biologi berada di bahagian atas Senarai Tugasan saya, dan itulah Salah satu sebab saya secara peribadi menolak untuk AlphaFold ialah AlphaFold hanyalah permulaan.

AlphaFold menyelesaikan masalah besar struktur protein, tetapi biologi adalah dinamik dan semua yang kami kaji adalah mengikat cecair protein. Bertindak balas dengan molekul, membina laluan, dan akhirnya membentuk sel maya adalah impian saya. Saya telah bercakap dengan ramai rakan biologi, termasuk Paul Nurse, ahli biologi di Institut Crick. Untuk biologi dan penemuan penyakit, membina sel maya adalah luar biasa kerana anda boleh melakukan banyak eksperimen pada sel maya dan kemudian pergi ke makmal untuk mengesahkannya pada peringkat akhir.

Dari segi penemuan ubat baharu, ia mengambil masa kira-kira 10 tahun daripada mengenal pasti sasaran kepada mempunyai calon dadah Jika kebanyakan kerja boleh dilakukan dalam sel maya, masa mungkin dipendekkan mengikut urutan magnitud . Untuk merealisasikan sel maya, pemahaman tentang interaksi bahagian biologi yang berlainan mesti dibangunkan. Setiap beberapa tahun kami bercakap dengan Paul tentang perkara ini. Selepas AlphaFold tahun lepas, saya berkata kini akhirnya masa kita boleh melakukannya, dan Paul sangat teruja. Kami mempunyai beberapa kerjasama dengan makmalnya. Berdasarkan AlphaFold, saya percaya akan ada beberapa kemajuan yang menakjubkan dalam biologi Kita juga dapat melihat bahawa sudah ada komuniti yang melakukan ini selepas AlphaFold adalah sumber terbuka.

Saya rasa suatu hari nanti sistem AI mungkin dapat menyelesaikan masalah seperti relativiti umum, bukan hanya dengan memproses kandungan di internet atau kesihatan awam. Ia akan menjadi sangat menarik untuk melihat apa yang akan dapat dihasilkan. Ini sedikit seperti perbahasan kami sebelum ini tentang kreativiti mencipta Go, bukan hanya menghasilkan langkah Go yang baik. Jika ia ingin memenangi anugerah seperti Hadiah Nobel, ia memerlukan penciptaan Go, dan bukannya ditentukan oleh saintis atau pencipta manusia.

Lex Fridman: Ramai orang menganggap sains sebagai berdiri di atas bahu gergasi, dan persoalannya ialah sejauh manakah anda sebenarnya berada di bahu gergasi? Mungkin ia hanya menyerap pelbagai jenis hasil masa lalu yang akhirnya memberikan idea terobosan dalam cahaya baharu.

Demis Hassabis: Ini adalah misteri besar Saya percaya bahawa dalam sepuluh tahun yang lalu dan bahkan beberapa dekad akan datang, banyak kejayaan besar baru akan muncul dalam disiplin yang berbeza persimpangan, beberapa sambungan baharu akan ditemui antara medan yang kelihatan tidak berkaitan ini. Seseorang juga boleh berhujah bahawa pemikiran mendalam adalah disiplin silang antara pemikiran saintifik neuro dan pemikiran kejuruteraan AI.

Lex Fridman: Anda mempunyai kertas kerja tentang "Kawalan Magnetik Plasma Tokamak melalui Pembelajaran Peneguhan Dalam", jadi anda sedang berusaha untuk menggunakan pembelajaran tetulang mendalam untuk menyelesaikan gabungan nuklear dan kawalan plasma suhu tinggi. Bolehkah anda jelaskan mengapa AI akhirnya boleh menyelesaikannya?

Demis Hassabis: Dalam satu atau dua tahun lalu, kerja kami sangat menarik dan membuahkan hasil. Kami telah melancarkan banyak projek impian saya, yang berkaitan dengan bidang saintifik yang telah saya kumpulkan projek tahun. Jika kita boleh membantu memajukan perkara ini, ia boleh memberi impak transformatif, dan cabaran saintifik itu sendiri adalah persoalan yang sangat menarik.

Pada masa ini, pelakuran nuklear menghadapi banyak cabaran, terutamanya dalam fizik, bahan, sains dan kejuruteraan, dan cara membina reaktor pelakuran nuklear berskala besar ini dan mengandungi plasma.

Kami sedang bekerjasama dengan Ecole Polytechnique Fédérale de Lausanne (EPFL) dan Institut Teknologi Switzerland, dan mereka mempunyai reaktor ujian yang mereka sediakan untuk kami gunakan. Ia adalah reaktor ujian yang menakjubkan di mana mereka mencuba semua jenis eksperimen yang cukup gila. Apa yang kita lihat adalah, apabila memasuki bidang baru seperti gabungan nuklear, apakah kesesakan? Berfikir dari prinsip pertama, apakah masalah asas yang menghalang operasi pelakuran nuklear?

Dalam kes ini, kawalan plasma adalah sempurna. Plasma ini adalah 1 juta darjah Celcius, lebih panas daripada matahari, dan jelas tiada bahan boleh mengandunginya. Oleh itu, mesti ada medan magnet superkonduktor yang sangat kuat, tetapi masalahnya ialah plasma agak tidak stabil, seperti memegang banyak bintang dalam reaktor, meramalkan terlebih dahulu apa yang plasma akan lakukan, anda boleh mengawalnya dengan menggerakkan medan magnet dalam berjuta-juta saat Apakah yang akan dilakukan seterusnya.

Jika anda menganggapnya sebagai masalah ramalan pembelajaran pengukuhan, ini nampaknya sempurna, terdapat pengawal yang boleh menggerakkan medan magnet dan memotong, tetapi sebelum ini ia adalah pengawal tradisional. Saya harap ada peraturan terkawal bahawa mereka tidak boleh bertindak balas terhadap plasma pada masa ini, perlu dikodkan keras.

Lex Fridman: AI akhirnya menyelesaikan gabungan nuklear.

Demis Hassabis: Tahun lepas kami menerbitkan kertas kerja dalam Nature tentang menyelesaikan masalah ini, membetulkan plasma dalam bentuk tertentu. Ia sebenarnya hampir seperti memahat plasma ke dalam bentuk yang berbeza, mengawalnya dan menahannya di sana untuk masa rekod. Ini adalah masalah yang tidak dapat diselesaikan dalam pelakuran nuklear.

Adalah penting untuk memasukkannya ke dalam struktur dan mengekalkannya, terdapat juga beberapa bentuk berbeza yang lebih kondusif untuk penghasilan tenaga, dipanggil titisan dan sebagainya. Kami sedang bercakap dengan banyak syarikat permulaan gabungan untuk melihat apakah masalah seterusnya yang boleh diselesaikan dalam ruang gabungan.

Lex Fridman: Terdapat juga perkara yang menarik dalam tajuk kertas kerja, menolak sempadan fungsi ketumpatan dengan menyelesaikan masalah elektron pecahan. Bolehkah anda menerangkan kerja ini? Adakah AI dapat memodelkan dan mensimulasikan sistem mekanikal kuantum sewenang-wenangnya pada masa hadapan?

Demis Hassabis: Orang ramai telah cuba menulis anggaran fungsi ketumpatan dan perihalan awan elektron, melihat bagaimana dua unsur berinteraksi apabila disatukan. Dan apa yang kami cuba lakukan ialah mempelajari simulasi, mempelajari fungsi kimia yang boleh menerangkan lebih banyak jenis kimia.

Setakat ini, AI boleh menjalankan simulasi yang mahal, tetapi hanya untuk molekul yang sangat kecil dan sangat mudah, dan kami tidak dapat mensimulasikan bahan yang besar. Jadi selepas membina penghampiran fungsi untuk menunjukkan persamaannya, menerangkan perkara yang dilakukan oleh elektron, semua sains bahan dan sifat dikawal oleh cara elektron berinteraksi antara satu sama lain.

Lex Fridman: Ringkaskan simulasi melalui fungsi untuk mendekati hasil simulasi sebenar Kesukaran tugas ini terletak pada menjalankan simulasi yang kompleks, mempelajari tugas pemetaan daripada keadaan awal dan parameter simulasi, dan fungsi pembelajaran Apa. adakah ia akan menjadi?

Demis Hassabis: Memang rumit, tetapi berita baiknya ialah kami telah melakukannya, kami boleh menjalankan banyak simulasi, simulasi dinamik molekul, pada kelompok pengiraan, jadi Sebilangan besar data dihasilkan. Dalam kes ini, data dijana. Itulah sebabnya kami menggunakan emulator permainan untuk menjana data, kerana anda boleh membuat seberapa banyak data yang anda mahu. Jika terdapat komputer percuma di awan, kami boleh menjalankan pengiraan ini.

3AI dan Kemanusiaan

Lex Fridman: Bagaimana anda memahami asal usul kehidupan?

Demis Hassabis: Saya rasa penggunaan muktamad AI adalah untuk mempercepatkan sains ke tahap yang melampau. Ia seperti pokok ilmu. Jika anda bayangkan ini semua pengetahuan yang ada untuk diperolehi di alam semesta, tetapi setakat ini kita hampir tidak menconteng permukaannya. AI akan mempercepatkan proses ini dan meneroka sebanyak mungkin pokok pengetahuan ini.

Lex Fridman: Intuisi memberitahu saya bahawa pokok pengetahuan manusia adalah sangat kecil, memandangkan batasan kognitif kita. Walaupun dengan alatan, masih banyak perkara yang kita tidak faham. Ini mungkin sebabnya sistem bukan manusia boleh pergi lebih jauh.

Demis Hassabis: Ya, kemungkinan besar.

Tetapi pertama, ini adalah dua perkara yang berbeza. Seperti apa yang kita faham hari ini, apa yang boleh difahami oleh minda manusia, apakah keseluruhan perkara yang ingin kita fahami, berikut adalah tiga sepusat, anda boleh menganggapnya sebagai tiga pokok yang lebih besar, atau meneroka lebih banyak cabang pokok ini. Kami akan meneroka lebih banyak dengan AI.

Sekarang masalahnya, jika anda fikirkan apakah keseluruhan perkara yang boleh kita fahami, mungkin ada beberapa perkara yang tidak dapat difahami, seperti perkara di luar simulasi, atau perkara di luar alam semesta.

Lex Fridman: Kerana otak manusia telah terbiasa dengan keadaan dunia tiga dimensi ini dengan masa.

Demis Hassabis: Tetapi alatan kami boleh melampaui itu. Mereka boleh menjadi 11 dimensi atau 12 dimensi.

Contoh yang sering saya berikan ialah semasa saya bermain catur dengan Gary Kasparov, kami membincangkan perkara seperti catur, jika anda sangat mahir dalam catur, anda tidak boleh memikirkan Gary pergerakannya, tetapi dia boleh memberi penjelasan kepada Anda. . Anda boleh menganggap ini sebagai penaakulan post hoc. Terdapat penjelasan lanjut, mungkin anda tidak boleh mencipta perkara ini, tetapi anda boleh memahami dan menghayatinya, seperti anda menghargai Vivaldi atau Mozart dan menghargai keindahannya.

Lex Fridman: Saya ingin bertanya beberapa soalan yang lebih gila. Sebagai contoh, adakah anda fikir terdapat tamadun asing di luar bumi?

Demis Hassabis: Pendapat peribadi saya ialah kita bersendirian pada masa ini. Kita sudah mempunyai pelbagai teleskop astronomi dan teknologi pengesanan lain yang cuba mencari isyarat daripada tamadun lain di angkasa jika terdapat banyak tamadun asing melakukan ini pada masa yang sama, maka kita harus mendengar bunyi bising dari angkasa lepas. Tetapi hakikatnya, kami tidak menerima sebarang isyarat.

Ramai orang akan berpendapat bahawa terdapat tamadun asing di dunia, tetapi kami tidak benar-benar mencarinya dengan betul, atau kami mungkin telah menemui jalur yang salah, atau kami mungkin telah menggunakan peralatan yang salah, dan kami tidak menyedarinya. Alien wujud dalam bentuk yang sangat berbeza, dan sebagainya. Tetapi saya tidak bersetuju dengan pandangan ini Kami sebenarnya telah melakukan banyak penerokaan Jika terdapat begitu banyak tamadun luar angkasa, kita sepatutnya menemuinya sejak dahulu.

Menariknya, jika Bumi adalah tamadun yang sunyi, dari perspektif Penapis Hebat, ini cukup melegakan, bermakna kita telah melalui Penapis Hebat.

Berbalik kepada soalan yang anda baru tanya tentang asal usul kehidupan, kehidupan berasal daripada beberapa perkara yang luar biasa, dan tiada siapa yang tahu bagaimana perkara ini berlaku. Saya tidak akan terkejut melihat beberapa bentuk kehidupan bersel tunggal, seperti bakteria, di suatu tempat selain Bumi. Tetapi berdasarkan keupayaannya untuk menangkap mitokondria dan menggunakannya untuk tujuan kita sendiri, kemunculan kehidupan multiselular adalah sukar sebelum ini.

Ilustrasi: Teori Penapis Hebat yang disebut oleh Demis Hassabis

Lex Fridman: Adakah anda fikir kesedaran diperlukan untuk memiliki kecerdasan sejati?

Demis Hassabis: Saya secara peribadi percaya bahawa kesedaran dan kecerdasan dipisahkan dua kali ganda, jadi kita boleh mencapai kesedaran tanpa kecerdasan, begitu juga sebaliknya.

Sebagai contoh, banyak haiwan sedar diri dan juga boleh bersosial dan bermimpi Mereka boleh ditakrifkan sebagai mempunyai tahap kesedaran diri tertentu, tetapi mereka tidak mempunyai kecerdasan. Tetapi pada masa yang sama, kecerdasan buatan yang sangat pintar dalam tugas tertentu, mereka boleh bermain catur, atau melaksanakan tugas lain dengan baik, tetapi mereka tidak mempunyai kesedaran diri.

Lex Fridman: Beberapa ketika dahulu, seorang jurutera Google berpendapat bahawa model bahasa tertentu adalah sensitif Pernahkah anda menemui model bahasa yang hidup? Jika sistem "dipersepsikan", bagaimana anda memahami situasi ini?

Demis Hassabis: Saya tidak fikir mana-mana sistem AI di dunia ini sedar atau sedar, itulah perasaan sebenar saya apabila saya berinteraksi dengan AI setiap hari. Apa yang dipanggil persepsi adalah lebih kepada unjuran otak kita sendiri Memandangkan ia adalah model bahasa dan berkait rapat dengan kebijaksanaan, mudah bagi orang ramai untuk membuat antropomorfisme sistem. Itulah sebabnya saya fikir ujian Turing adalah cacat, kerana ia berdasarkan reaksi dan pertimbangan manusia.

Kita harus bercakap tentang kesedaran dengan ahli falsafah terkemuka, seperti Daniel Dennett dan David Charmers, dan orang lain yang berfikir secara mendalam tentang kesedaran. Pada masa ini tiada definisi kesedaran yang diterima umum Jika saya mengatakannya, saya fikir definisi kesedaran ialah perasaan yang datang apabila maklumat diproses.

Lex Fridman: Biar saya tanya soalan gelap dan peribadi. Anda berkata mencipta sistem kecerdasan buatan super yang paling berkuasa di dunia. Seperti kata pepatah lama, kuasa mutlak rosak, dan anda berkemungkinan besar menjadi salah seorang daripada mereka kerana anda yang paling mungkin mengawal sistem. Adakah anda akan mempertimbangkan ini?

Demis Hassabis: Saya sentiasa memikirkan tentang pembelaan terhadap rasuah ini.

Alat atau teknologi yang sesuai untuk kepentingan manusia membolehkan kita memasuki dunia radikal di mana kita menghadapi banyak cabaran yang sukar. AI boleh membantu kita menyelesaikan masalah, akhirnya membawa manusia kepada kemakmuran muktamad dan juga mencari makhluk asing. Pencipta AI, budaya yang menjadi sandaran AI, nilai yang dimiliki AI, dan pembina sistem AI semuanya akan mempengaruhi perkembangannya. Walaupun sistem AI belajar sendiri, kebanyakan pengetahuannya akan membawa bersamanya sisa budaya dan nilai sedia ada tertentu penciptanya.

Budaya yang berbeza telah menjadikan kita lebih berpecah berbanding sebelum ini Mungkin apabila kita memasuki era kelimpahan yang melampau dan sumber yang kurang terhad, kita tidak memerlukan persaingan yang sengit, tetapi boleh beralih kepada kerjasama yang lebih baik.

Lex Fridman: Apabila sumber dikekang dengan teruk, beberapa kekejaman berlaku.

Demis Hassabis: Kekurangan sumber adalah salah satu punca persaingan dan kemusnahan Semua manusia ingin hidup dalam dunia yang baik dan selamat, jadi kita mesti menyelesaikan masalah soal kekurangan.

Tetapi ini tidak mencukupi untuk mencapai keamanan, kerana ada perkara lain yang mewujudkan rasuah. AI tidak seharusnya dikendalikan oleh hanya satu orang atau organisasi. Saya fikir AI sepatutnya dimiliki oleh dunia, kepada manusia, dan semua orang harus bersuara dalam AI.

Lex Fridman: Adakah anda mempunyai sebarang nasihat untuk pelajar sekolah menengah dan kolej jika golongan muda mempunyai keinginan untuk melibatkan diri dalam AI, atau ingin memberi impak kepada dunia dengan kuasa mereka sendiri, bagaimanakah mereka harus mendapatkannya? kerja dari hati mereka sendiri? Kerjaya yang anda banggakan? Bagaimana untuk mencari kehidupan ideal anda?

Demis Hassabis: Saya selalu suka sebut dua ayat kepada anak muda Ayat pertama, di manakah keghairahan anda yang sebenar? Orang muda harus meneroka dunia sebanyak mungkin. Apabila kita masih muda, kita mempunyai masa yang cukup dan boleh mengambil risiko penerokaan. Mencari perkaitan antara perkara dengan cara unik anda sendiri, saya fikir ialah cara terbaik untuk mencari minat anda.

Ayat kedua ialah, kenali diri anda. Ia mengambil banyak masa untuk memahami cara terbaik untuk bekerja, bila masa bekerja terbaik, apakah cara terbaik untuk belajar, dan cara menangani tekanan. Orang muda harus menguji diri mereka dalam persekitaran yang berbeza, cuba memperbaiki kelemahan mereka, mengetahui kemahiran dan kekuatan unik mereka, dan kemudian mengasahnya Ini adalah nilai masa depan anda di dunia ini.

Jika anda boleh menggabungkan dua perkara ini, cari minat anda, dan kembangkan kemahiran anda yang unik dan berkuasa, maka anda akan memperoleh tenaga yang luar biasa dan membuat perubahan besar di dunia.

Atas ialah kandungan terperinci Demis Hassabis: AI lebih berkuasa daripada yang kita bayangkan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!