Berbilang ChatGPT bekerjasama untuk menyelesaikan tugas yang ditetapkan Adakah dunia terkawal AGI mini akan datang?

Adakah masyarakat masa depan akan dikawal oleh kecerdasan am buatan (AGI)? Betapa menakutkannya mempunyai berbilang ejen ChatGPT.

CtGPT pada mulanya telah menunjukkan prototaip AGI dan telah menjadi pembantu serba boleh untuk pekerja dalam semua lapisan masyarakat Tetapi jika ia dibiarkan berkembang secara liar dan tidak dikawal, akan adakah suatu hari nanti manusia tidak dapat mengawal AGI lagi? Menyedari keseriusan masalah ini, Ketua Pegawai Eksekutif Tesla Elon Musk, pengasas bersama Apple Steve Wozniak, pemenang Anugerah Turing Yoshua Bengio dan yang lain telah memimpin dalam menandatangani surat terbuka yang menyeru untuk menghentikan eksperimen kecerdasan buatan gergasi selama sekurang-kurangnya 6 tahun.

Pada 21 Mac, penyelidik di Universiti Sains dan Teknologi King Abdullah membuka idea dan keupayaan untuk meneroka model bahasa besar (LLM) The multi- perpustakaan kod ejen CAMEL mencadangkan rangka kerja main peranan untuk mengkaji tingkah laku dan keupayaan ejen LLM.

• Pautan kertas: https://ghli.org/camel.pdf
• Pautan perpustakaan kod: https://github.com/lightaime/camel
• Laman utama projek: https://www .camel-ai.org/
• Pautan ChatBot: http://chat.camel-ai.org/



Rangka kerja main peranan boleh digunakan untuk mengkaji berbilang ejen. Kertas kerja ini memfokuskan pada main peranan berorientasikan tugas, yang melibatkan pembantu AI dan pengguna AI. Selepas sistem berbilang ejen menerima idea awal dan penugasan peranan, ejen penentu tugas akan memberikan penerangan terperinci untuk menjadikan idea itu konkrit, dan kemudian pembantu AI dan pengguna AI akan bekerjasama untuk menyelesaikan tugas yang ditentukan melalui beberapa pusingan dialog sehingga pengguna AI menentukan tugas Selesai. Pengguna AI bertanggungjawab untuk mengeluarkan arahan kepada pembantu AI dan membimbing perbualan ke arah penyelesaian tugas. Pembantu AI, sebaliknya, direka bentuk untuk mengikuti arahan pengguna AI dan menyediakan penyelesaian khusus.

Sesi main peranan akan dilaksanakan berdasarkan pemikiran manusia dan watak yang dipilih. Sebagai contoh, dalam Rajah 1, seseorang mempunyai idea awal untuk membangunkan robot dagangan pasaran saham. Manusia mungkin tahu atau tidak tahu bagaimana untuk melaksanakan idea ini. Apa yang diperlukan adalah untuk menentukan peranan yang berpotensi yang boleh membawa idea itu menjadi kenyataan. Sebagai contoh, seorang pengaturcara Python boleh bekerjasama dengan seorang peniaga saham mengenai idea untuk membangunkan robot perdagangan pasaran saham. Selepas idea dan peranan ditentukan, ejen penentu tugas akan menyelesaikan tugas tertentu dengan peranan pengguna AI berdasarkan idea input dan membantu peranan pembantu AI. Dalam kes ini, contoh tugas yang diberikan mungkin adalah untuk membangunkan bot dagangan dengan alat analisis sentimen yang boleh memantau komen positif atau negatif pada saham tertentu pada platform media sosial dan melaksanakan dagangan berdasarkan keputusan analisis sentimen. Motivasi utama untuk memperkenalkan ejen khusus tugasan ialah ejen perbualan selalunya memerlukan gesaan tugas khusus untuk mencapai tugas, dan membuat gesaan tugas khusus sedemikian boleh mencabar atau memakan masa untuk pakar bukan domain. Oleh itu, tugas itu menentukan ejen sebagai modul imaginasi yang dipertingkatkan untuk merealisasikan idea.

Selepas tugas ditentukan, peranan pembantu AI dan peranan pengguna AI akan diberikan kepada ejen pengguna dan ejen pembantu masing-masing untuk menyelesaikan tugasan yang ditentukan. Dalam amalan, setiap ejen menerima mesej sistem yang mengisytiharkan peranannya. Sebelum perbualan bermula, mesej sistem dihantar kepada ejen model bahasa untuk menetapkan peranan yang sepadan. Apabila mesej sistem dihantar kepada model ini masing-masing, dua peranan akan diperoleh masing-masing dipanggil pembantu dan ejen pengguna. Dalam Rajah 1, pembantu AI dan pengguna AI ditugaskan sebagai pengaturcara Python dan peniaga saham, masing-masing, pada permulaan sesi main peranan. Pengguna AI bertindak sebagai perancang tugas, terlibat dalam perancangan interaktif untuk menentukan langkah yang boleh dilakukan oleh pembantu AI. Pada masa yang sama, pembantu AI bertindak sebagai pelaksana tugas, menyediakan penyelesaian, melaksanakan langkah yang dirancang, dan memberikan respons kepada pengguna AI.



Rajah 1. Rangka kerja main peranan. Apa yang orang perlu masukkan di sini ialah idea mudah (Idea) dan tugasan peranan (Role Assignment) Contohnya, untuk membangunkan robot perdagangan saham, anda boleh memilih pengaturcara Python sebagai pembantu (Pembantu AI) dan peniaga saham sebagai hakim (Pengguna AI). Selepas input pengguna manusia selesai, penentu tugas akan menentukan tugasan Sebagai contoh, ia boleh menjalankan analisis sentimen pada saham tertentu pada platform rangkaian sosial, dan kemudian menjalankan perdagangan saham berdasarkan hasil analisis sentimen. Apabila tugas ditentukan, kedua-dua ejen AI berasaskan ChatGPT mula bekerjasama untuk menyelesaikan tugas, seperti memasang dan mengimport alatan.

Memandangkan kejuruteraan segera adalah sangat kritikal kepada rangka kerja main peranan, artikel tersebut membincangkan teknologi segera (Kejuruteraan Segera) secara mendalam. Berbeza daripada teknologi model bahasa dialog yang lain, kejuruteraan segera yang dicadangkan dalam kertas kerja hanya dilakukan pada permulaan main peranan untuk spesifikasi tugas dan penugasan peranan. Sebaik sahaja fasa sesi bermula, pembantu AI dan pengguna AI secara automatik menggesa satu sama lain dalam gelung sehingga ditamatkan. Oleh itu, teknik ini dipanggil Inception Prompting.

Gesaan permulaan termasuk tiga gesaan: gesaan spesifikasi tugas, gesaan sistem pembantu dan gesaan sistem pengguna. Sebagai contoh, gesaan awal dalam adegan Masyarakat AI. Templat untuk gesaan ini untuk main peranan AI Masyarakat ditunjukkan dalam Rajah 2.

Gesaan spesifikasi tugas mengandungi maklumat tentang peranan pembantu AI dan pengguna AI dalam sesi main peranan. Oleh itu, agen spesifikasi tugas boleh menggunakan imaginasi untuk mengambil tugasan/idea awal sebagai input dan menjana tugasan konkrit. Gesaan sistem pembantu AI dan gesaan sistem pengguna AI biasanya simetri dan termasuk maklumat tentang tugas dan peranan yang diberikan, protokol komunikasi, syarat penamatan dan kekangan atau keperluan untuk mengelakkan tingkah laku yang tidak diingini. Untuk mencapai kerjasama pintar, reka bentuk gesaan untuk kedua-dua peranan adalah penting. Merancang isyarat untuk memastikan ejen konsisten dengan niat manusia bukanlah mudah. Ambil contoh reka bentuk templat segera AI Society dalam Rajah 2.



Berikut ialah keputusan pelaksanaan terperinci tugas yang diberikan oleh robot dagangan dalam lampiran artikel:





Sebaik sahaja karya ini keluar, ia menyebabkan banyak tweet semula dan perbincangan di Twitter:





Sesetengah netizen berkata, "Penyelidikan ini sangat mudah untuk dimulakan, yang merupakan perkara besar bagi orang seperti saya yang belajar ejen pintar."

Sesetengah orang mengatakan bahawa sumber terbuka AGI mini seperti itu mungkin bukan idea yang baik.

Perlu dinyatakan bahawa penyelidikan ini turut menarik perhatian Jan Leike, ketua pasukan Penyelarasan OpenAI.

Keupayaan berbilang ChatGPT untuk bekerjasama adalah sangat berkuasa dan dengan mudah boleh menyelesaikan pelbagai tugas yang diberikan manusia, tetapi ia juga menakutkan kerana ia tidak dapat Memastikan bahawa ia tidak digunakan untuk tujuan yang menyalahi undang-undang Apa yang lebih menakutkan ialah jika AGI membangunkan kesedaran autonomi pada masa hadapan, ia mungkin akan melepaskan diri daripada kawalan manusia dan menyebabkan tamparan yang dahsyat kepada masyarakat. Jadi memahami keupayaan dan tingkah laku mereka adalah langkah penting dalam merancang dan meramalkan dunia masa depan yang dipenuhi dengan AI.

Peranan masyarakat AI dan set data kod

Pengarang It menunjukkan cara main peranan boleh digunakan untuk menjana data dialog dan mengkaji tingkah laku dan keupayaan ejen sembang, menyediakan idea baharu untuk mengkaji model bahasa dialog. Secara keseluruhannya, sumbangan kertas ini termasuk pengenalan rangka kerja komunikasi ejen LLM yang berpotensi untuk menggalakkan kerjasama autonomi di kalangan ejen berkomunikasi Selain itu, penyelidikan menyediakan pendekatan berskala untuk mengkaji tingkah laku dan keupayaan ejen sistem. Akhirnya, penulis menggunakan rangka kerja CAMEL untuk membiarkan ejen memainkan peranan sosial yang berbeza, dan kemudian memodelkan masyarakat AI, dan mengumpul sejumlah besar set data arahan bahasa semula jadi Pada masa ini, terdapat empat masyarakat AI, kod, matematik dan Terjemahan AI society ten language Set data sudah tersedia untuk dimuat turun di HuggingFace:

Alamat muat turun: https://huggingface.co/camel-ai

Selain itu, laman utama projek menyediakan demo dalam talian menggunakan CAMEL untuk reka bentuk permainan, simulasi dinamik molekul dan simulasi masa nyata untuk dicuba oleh semua orang: https://www. camel-ai.org

Atas ialah kandungan terperinci Berbilang ChatGPT bekerjasama untuk menyelesaikan tugas yang ditetapkan Adakah dunia terkawal AGI mini akan datang?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!