Pecutan berkesan atau prososial AI. Apakah masa depan AI?

Penglihatan pecutan: kelajuan penuh di hadapan

Percepatan yang berkesan, yang dikenali sebagai E/ACC untuk pendek, muncul sekitar 2022 sebagai gerakan teknologi optimis yang mendapat daya tarikan yang signifikan di Silicon Valley dan seterusnya, di terasnya, penyokong E/ACC untuk kemajuan teknologi yang pesat dan tidak terkawal .

Apa yang mempercepatkan pecutan?

Jika anda pernah mendengar seseorang mengatakan "kemajuan tidak dapat dielakkan" atau "peraturan hanya melambatkan inovasi," anda mendengar gema pemikiran E/ACC. Falsafah ini terletak pada beberapa kepercayaan utama:

Teknologi sebagai takdir : penyokong E/ACC melihat kemajuan teknologi sebagai daya yang tidak dapat dihalang - seperti graviti - yang tidak boleh dihalang. Mereka percaya percubaan untuk memperlahankan pembangunan bukan sahaja sia -sia tetapi berpotensi berbahaya.

Pasaran tahu yang terbaik : Mereka memperjuangkan inovasi pasaran bebas, melihat peraturan sebagai lebam laju di lebuh raya untuk maju.

Kelimpahan melalui inovasi : Daripada mengedarkan semula sumber sedia ada, E/ACC percaya mewujudkan teknologi baru yang kuat akan menjana kelimpahan yang belum pernah terjadi sebelumnya untuk semua orang.

Peluang, tidak berisiko : di mana orang lain melihat bahaya dalam AI maju, E/ACC melihat peluang terbesar manusia - peluang untuk menyelesaikan masalah terbesar kita dan melampaui batasan semasa.

Pelabur teknologi Marc Andreessen menangkap semangat ini dalam " manifesto techno-optimis ," mengisytiharkan: "Kami percaya teknologi adalah bagaimana kita mewujudkan masa depan yang lebih baik, masa depan kelimpahan, masa depan keajaiban, masa depan di mana potensi manusia sepenuhnya direalisasikan."

Visi Prososial: Nilai Manusia Pertama

Berdiri sebaliknya adalah p rososial AI - rangka kerja yang meletakkan kebajikan manusia dan planet di pusat pembangunan teknologi. Secara definisi, sistem AI prososial adalah "disesuaikan, dilatih, diuji, dan disasarkan untuk mengeluarkan yang terbaik di dalam dan untuk orang dan planet." Pelaksanaan mereka adalah menang-menang-menang-menang untuk manusia, masyarakat yang kita milik, negara-negara kita adalah sebahagian daripada dan planet kita bergantung.

Apa yang menjadikan AI benar -benar prososial?

Bayangkan jika sistem AI yang kami bina direka bukan hanya untuk menjadi pintar tetapi menjadi bijak - mencerminkan nilai tertinggi kami dan bukan hanya keupayaan teknikal kami. Prosocial AI merangkumi cita -cita ini melalui beberapa prinsip teras:

Perkara Agensi Manusia : Prosocial AI bermula dengan agensi manusia - keupayaan kami untuk membuat pilihan teknologi yang bermakna. Pendekatan ini menghargai kesedaran (memahami apa yang berlaku), penghargaan (mengiktiraf perspektif yang berbeza), penerimaan (mengakui realiti semasa bekerja untuk memperbaikinya), dan akauntabiliti (mengambil tanggungjawab untuk hasil).

Kami membentuk alat kami. Kemudian mereka membentuk kita : mungkin wawasan yang paling mendalam dari pendekatan prososial disimpulkan dalam kebenaran ini: "Kita tidak boleh mengharapkan teknologi esok menjadi lebih baik daripada manusia hari ini." Dalam erti kata lain, AI akan mencerminkan nilai kita - untuk lebih baik atau lebih teruk.

Berjalan Ceramah : Prosocial AI menuntut "penjajaran berganda" - keharmonian antara apa yang kita katakan kita menghargai dan bagaimana kita sebenarnya berkelakuan, dan antara aspirasi manusia dan algoritma yang kita buat. Anda tidak boleh memprogramkan belas kasihan ke AI tanpa mengamalkannya sendiri.

Keselamatan Sebelum Kelajuan : Peguambela prososial mengutamakan ujian menyeluruh dan mekanisme keselamatan yang mantap dan bukannya bergegas sistem AI yang kuat untuk memasarkan.

Semua orang di meja : Daripada membiarkan sekumpulan kecil ahli teknologi atau pelabur membuat keputusan yang mempengaruhi berbilion -bilion, prososial AI menyokong tadbir urus inklusif dengan pelbagai suara.

Reka bentuk sedar orang-planet : Dalam rangka kerja ini, AI harus memberi manfaat kepada manusia dan sistem ekologi yang lebih luas yang kita bergantung.

Di mana penglihatan ini bertembung

Rangka kerja yang bersaing ini membawa kepada pendekatan yang berbeza untuk pembangunan AI:

Siapa yang berada di tempat duduk pemandu?

E/ACC cenderung untuk melihat teknologi sebagai kuasa autonomi dengan momentumnya sendiri - hampir seperti fenomena semulajadi manusia harus memudahkan daripada langsung. Sebaliknya, prososial AI menekankan bahawa manusia tetap bertanggungjawab terhadap teknologi yang kita buat. Sama seperti kita tidak akan menyalahkan tukul untuk bagaimana ia digunakan, kita tidak dapat mewakilkan tanggungjawab etika kepada sistem AI. Pepatah lama "sampah, sampah" masih dipegang. Ia boleh dibalikkan kepada - nilai dalam, nilai keluar. Gigo berbanding Vivo. Peralihan itu memerlukan pilihan manusia.

Menimbang risiko

Pengiraan risiko berbeza secara dramatik antara pendekatan ini. Penyokong E/ACC sering berpendapat bahawa bahaya terbesar terletak pada pembangunan terlalu perlahan - berpotensi kehilangan kelebihan ekonomi atau kehilangan teknologi yang hilang yang dapat menyelesaikan masalah segera.

Peguambela prososial membantah yang bergegas ke hadapan tanpa perlindungan yang mencukupi dapat membawa kepada sistem yang melemahkan privasi, menguatkan ketidaksamaan, atau bahkan menimbulkan risiko eksistensial. Sebagai penyelidik AI Stuart Russell menyatakannya: "Sistem yang mengoptimumkan fungsi objektif yang tidak sepenuhnya menangkap apa yang kita hargai dapat menyebabkan hasil yang sewenang -wenangnya buruk."

Peraturan jalan

Perbezaan ini meliputi pendekatan tadbir urus:

E/ACC Playbook : Peraturan pendahuluan yang minimum, membiarkan persaingan pasaran memacu inovasi dan menangani masalah hanya selepas mereka muncul.

Playbook Prosocial : Guardrails yang bijak ditubuhkan sebelum penempatan, dengan pengawasan yang berterusan yang merangkumi pelbagai pihak berkepentingan.

Elemen Manusia: Sekeping Teknologi Hilang

Apa yang menjadikan pendekatan prososial terutamanya tersendiri adalah pengiktirafan bahawa penyelesaian teknikal sahaja tidak mencukupi. Kualiti AI kita akhirnya akan mencerminkan kualiti kemanusiaan kita.

Pertimbangkan dengan cara ini: Adakah anda mahu sistem AI membuat keputusan etika berdasarkan bagaimana orang berinteraksi pada X atau aspirasi tertinggi kami untuk tingkah laku manusia? Jurang antara apa yang kita katakan kita menghargai dan bagaimana kita sering bertindak mencipta cabaran asas untuk pembangunan AI.

Wawasan ini membalikkan perbualan biasa mengenai etika AI. Daripada bertanya, "Bagaimana kita menyelaraskan AI dengan nilai manusia?" Kita mesti bertanya, "Bagaimanakah kita menyelaraskan tingkah laku kita sendiri dengan nilai -nilai yang kita katakan?" Ia mencadangkan bahawa membangunkan AI yang bermanfaat memerlukan algoritma yang lebih baik dan manusia yang lebih baik - orang yang secara konsisten menunjukkan kebijaksanaan, belas kasihan, dan tanggungjawab yang mereka harapkan untuk dilihat dicerminkan dalam ciptaan teknologi mereka.

Mencari tanah yang sama

Walaupun perbezaan mereka, rangka kerja ini berkongsi beberapa wilayah penting:

Kuasa Transformatif Teknologi : Kedua -duanya mengakui potensi AI yang belum pernah terjadi sebelumnya untuk membentuk semula masyarakat.

Kecemerlangan Teknikal : Kedua-dua nilai inovasi dan keupayaan canggih.

Manusia berkembang : Kedua -duanya mendakwa untuk meneruskan pembangunan teknologi yang memberi manfaat kepada kemanusiaan, walaupun mereka menentukan ini secara berbeza.

Apa maksudnya untuk masa depan AI kita

Ketegangan antara pendekatan ini memainkan keputusan praktikal yang dibuat hari ini:

Keutamaan korporat : Syarikat teknologi memilih antara memaksimumkan kelajuan pembangunan dan melabur dalam penyelidikan keselamatan.

Keputusan Bakat : Jurutera dan penyelidik memutuskan di mana untuk memfokuskan usaha mereka - menolak sempadan atau memastikan hasil yang bermanfaat.

Pilihan Dasar : Para penggubal undang -undang menentukan sama ada untuk mengutamakan insentif inovasi atau pengawal perlindungan.

Fokus pendidikan : Program universiti dan latihan mengimbangi kemahiran teknikal dengan pemahaman etika. Jalan Emas adalah pelaburan dalam literasi berganda untuk memanfaatkan pemahaman holistik tentang kecerdasan semula jadi dan buatan.

Jalan ke hadapan

Perdebatan antara pecutan yang berkesan dan prososial AI bukan sekadar akademik - ia mewakili garpu di jalan raya ketika kami membangunkan teknologi yang semakin kuat. Laluan yang paling menjanjikan mungkin menggabungkan pandangan dari kedua -dua perspektif: mengekalkan dinamisme teknologi sambil memastikan kemajuan ini benar -benar melayani kebajikan manusia dan planet.

Apa yang menjadi semakin jelas ialah pembangunan teknologi tidak dapat dipisahkan dari pembangunan manusia. Ketika kita membina alat yang lebih kuat, kita mesti secara serentak memupuk kebijaksanaan, nilai, dan tanggungjawab yang diperlukan untuk mengarahkan alat -alat ini ke arah yang bermanfaat.

Kualiti AI esok akhirnya akan mencerminkan kualiti kemanusiaan hari ini. Etika bukanlah niat abstrak tetapi cita -cita dengan implikasi yang nyata dan mendesak ketika kami menavigasi wilayah yang tidak disokong. Manusia mesti merancang masa depan hibrid - untuk manusia dengan penglihatan yang berperikemanusiaan. Ketegangan antara pecutan yang berkesan dan prososial AI mengingatkan kita bahawa masalah penjajaran yang paling penting mungkin adalah yang dalam diri kita. Ia bukan satu cabaran teknikal kepada manusia yang mendalam.

Atas ialah kandungan terperinci Pecutan berkesan atau prososial AI. Apakah masa depan AI?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!