"Kilang pemasangan" pintar Alibaba adalah sumber terbuka! 0 pengalaman untuk mengendalikan puluhan ribu ejen secara serentak

Jadikan pembangunan berbilang ejen seperti blok binaan, rangka kerja pengaturcaraan berbilang ejen sumber terbuka Alibaba Tongyi Lab dan platform pembangunan AgentScope.

Platform ini dibina khas untuk pembangun aplikasi berbilang ejen, bertujuan untuk memberikan pengalaman pengaturcaraan yang sangat mudah digunakan, jaminan masa jalan yang stabil dan boleh dipercayai, serta menyediakan sokongan teknikal teragih dan berbilang modal kepada pembangun.

Ia mempunyai model API terbina dalam untuk pelbagai platform seperti OpenAI, DashScope, Gemini, Ollama, dll., dan amat serasi dengan ekosistem sumber terbuka model besar semasa.

AgentScope menyediakan pelbagai fungsi luar biasa, dan anda boleh membina aplikasi berbilang ejen dengan hanya menyeret dan menjatuhkan.

Malah pembangun tanpa pengalaman pembangunan yang diedarkan dengan mudah boleh mencapai puluhan ribu tahap konkurensi berbilang ejen pada platform AgentScope.

Untuk membolehkan lebih ramai pengguna membangunkan aplikasi berbilang ejen mereka sendiri dengan cepat dan mudah. AgentScope menyediakan fungsi berikut:

• Paradigma pengaturcaraan seret dan lepas—Stesen Kerja AgenScope: Menyediakan pengguna antara muka pembangunan drag-and-drop visual
• —Pembantu CopiScope aktif—Pembantu CopiScope : Jawab soalan pembangun tentang AgentScope
• Proses pembangunan yang telus dan terkawal - pemantauan aplikasi masa nyata: Pemantauan masa nyata kos operasi aplikasi dan status berbilang ejen untuk mencapai pembangunan telus dan terkawal
• Sumber pembangunan yang kaya: Memudahkan pembangunan sekunder yang pantas dan mudah, membina aplikasi tanpa "bermula dari awal"

Stesen Kerja AgenScope

Stesen Kerja AgenScope Agen menyediakan omset "seret-dan-jatuhkan" yang mudah .

Di sini, pengalaman pengaturcaraan bukan lagi faktor yang mengehadkan imaginasi anda. Setiap pembangun boleh memilih dan menyeret model besar kegemaran mereka, ejen dan saluran paip dalam bar alat yang kaya tanpa pengekodan, dan menggabungkannya secara bebas seperti blok binaan untuk mencipta aplikasi berbilang ejen yang unik dan inovatif.

Untuk memastikan aplikasi berbilang ejen yang dibina melalui seret dan lepas ini benar-benar boleh digunakan, AgentScope Workstation memperkenalkan semakan peraturan statik untuk memastikan ketepatan aplikasi. Ini memastikan pencirian aplikasi yang betul.

Untuk pembangun lanjutan yang mencari penyesuaian lanjut dan pembangunan yang mendalam, AgentScope Workstation juga menyediakan sokongan padu.

Pembangun boleh sama ada mengeksport aplikasi sebagai maklumat konfigurasi dan menjalankannya dengan bantuan enjin AgentScope Workstation, atau menggunakan AgentScope Workstation Compiler untuk menukar maklumat konfigurasi kepada kod Python dengan satu klik. Dengan cara ini, pembangun boleh mengedit dan mengoptimumkan kod untuk mencapai pelarasan aplikasi yang lebih halus dan diperibadikan.

AgentScope Copilot

AgentScope Copilot ialah pembantu pembangunan yang dibina di atas rangka kerja AgentScope itu sendiri Ia direka untuk membantu pembangun menyelesaikan masalah yang dihadapi dalam proses pembangunan aplikasi teknikal Ia Sembang kumpulan berbilang ejen (Perbualan Berbilang ejen) , penjanaan pengambilan data (Retrieval-Augmented Generation, RAG) , panggilan ejen (Sebut) dan banyak lagi ciri lain.

Dalam berinteraksi dengan AgentScope Copilot, pembangun boleh berinteraksi dengan Pembantu Pembimbing (Pembantu Panduan) untuk mendapatkan bantuan secara langsung, mereka juga boleh menghubungi pembantu ejen yang berdedikasi, seperti Pembantu Soal Jawab (Pembantu Tutor) atau Pembantu Pengekodan kod( Pembantu Pengekodan) untuk mendapatkan jawapan yang lebih profesional dan khusus. Lebih khusus lagi, pembantu pengaturcaraan kod boleh membantu pembangun dengan cepat menjelaskan definisi dan penggunaan setiap modul dalam rangka kerja, dan memberikan cadangan pengaturcaraan yang lebih baik.

Perlu dinyatakan bahawa AgentScope Copilot itu sendiri dibina berdasarkan modul RAG dalam rangka kerja AgentScope Ia menyokong rangka kerja pengambilan data yang popular seperti LlamaIndex, serta pelbagai jenis pangkalan data vektor, dan menyokong akses kepada pelbagai besar. model bahasa. Pemaju boleh menjalankan pembangunan sekunder dengan cepat dan membina pembantu Copilot dengan mudah untuk projek mereka sendiri.

Proses pembangunan yang telus dan terkawal

Proses pembangunan aplikasi yang mesra harus boleh dikawal dan telus untuk pembangun.

Walau bagaimanapun, dalam senario berbilang ejen, terdapat banyak jenis API model dan antara muka panggilan yang berbeza Cara mengurus dan memantau kos penggunaan API model dengan berkesan dan mengelakkan pembaziran sumber dan perbelanjaan yang tidak dijangka menimbulkan cabaran yang lebih tinggi kepada keupayaan pemantauan sumber.

Sebagai contoh, mengambil halaman web yang kompleks sebagai input kepada model besar apabila menggunakan enjin carian akan menyebabkan overhed yang tinggi, dan persepsi pembangun sering ketinggalan. Untuk menyelesaikan masalah ini, AgentScope mereka bentuk modul Monitor untuk melaksanakan:

Statistik kos API automatik: Merekod penggunaan token API model yang berbeza dengan tepat dan mengira kos semasa secara automatik untuk memastikan pembangun mengambil kira setiap perbelanjaan model Kos API Mereka semua tahu segala-galanya.

Tetapan belanjawan dan penggera lebihan: Sokong pembangun untuk menetapkan had atas belanjawan setiap API model. Apabila jumlah perbelanjaan melebihi bajet, sistem secara automatik mencetuskan penggera dan segera memberitahu pembangun untuk membuat pemeriksaan dan pelarasan bagi mengelakkan perbelanjaan berlebihan.

Sokong penunjuk pemantauan tersuai: Sebagai tambahan kepada penunjuk berkaitan API model pratetap, Monitor juga membenarkan pembangun menyesuaikan penunjuk pemantauan lain, seperti overhed alat carian, overhed perkhidmatan penyimpanan data, trafik rangkaian, dll., sekali gus membolehkan Pembangun boleh menjalankan pemantauan status aplikasi secara menyeluruh dan automatik.

△Modul monitor

Sumber pembangunan sedia untuk digunakan

AgentScope mempunyai fungsi alat yang kaya terbina dalam, ejen dan contoh aplikasi, pembangun boleh membangunkan dengan mudah melalui pengubahsuaian ringan anda sendiri .

Fungsi alat: AgentScope menyokong pelbagai jenis fungsi alat termasuk carian rangkaian, pertanyaan pangkalan data, operasi fail, pemprosesan teks, dll. Setiap kategori mengandungi borang pelaksanaan yang berbeza. Sebagai contoh, pada peringkat carian rangkaian, AgentScope sudah menyokong berbilang enjin carian seperti Bing, arXiv dan DBLP.

Agent: AgentScope mempunyai ejen terbina dalam dengan fungsi berbeza, termasuk dialog asas, dialog berformat, Penaakulan, RAG, ejen yang diedarkan dan lain-lain jenis ejen yang berbeza. Pembangun hanya perlu memulakan contoh ejen dengan parameter berbeza untuk mengkhususkan ejen ke dalam tika ejen yang mereka perlukan.

Contoh aplikasi: AgentScope dipratetap dengan pelbagai jenis aplikasi termasuk perbualan (Perbualan) , permainan (Permainan) , dan pengedaran (Pengedaran) . Di satu pihak, sampel ini boleh membantu pembangun mengurangkan kos pembangunan, dan sebaliknya, ia juga menyediakan templat dan rujukan untuk pembangunan aplikasi.

Untuk membolehkan pembangun memahami dengan lebih baik dan lebih pantas sumber terbina dalam dalam AgentScope, AgentScope menyediakan dokumentasi yang kaya dan terperinci, termasuk tutorial (Tutorial) , dokumen antara muka (Dokumen API) dan kertas reka bentuk, membantu Pembangun dengan lebih baik memahami dan menggunakan AgentScope.

Stabil dan boleh dipercayai

Aplikasi berbilang ejen berdasarkan model besar akan menghadapi banyak cabaran baharu seperti ilusi model dan keupayaan yang tidak mencukupi untuk mengikut arahan model. Untuk memastikan aplikasi berbilang ejen boleh berjalan dengan stabil dan boleh dipercayai, AgentScope mula-mula mengklasifikasikan ralat yang berlaku dalam aplikasi, dan kemudian menyediakan satu set lengkap mekanisme toleransi kesalahan dan pemprosesan toleransi kesalahan tersuai sewajarnya.

Toleransi kesalahan berorientasikan rawak: Ralat rawak selalunya disebabkan oleh keadaan rangkaian yang tidak stabil atau ketidakpastian dalam kandungan yang dijana oleh model itu adalah jenis ralat yang paling biasa semasa membina aplikasi berdasarkan model besar. Ralat sedemikian selalunya sangat remeh dan sukar untuk dihabiskan Oleh itu, AgentScope menggunakan mekanisme percubaan semula terbina dalam untuk menapis dan melindungi ralat rawak tersebut, menjadikannya lebih mudah untuk pembangun menumpukan tenaga mereka kepada orkestrasi aplikasi.

Toleransi kesalahan berdasarkan peraturan: Beberapa ralat yang dihadapi dalam aplikasi boleh diperbaiki melalui peraturan. Sebagai contoh, apabila model besar diperlukan untuk menjana respons dalam format tertentu, model besar kadangkala menjana kandungan tambahan, yang boleh dipotong oleh peraturan pratetap untuk memastikan operasi normal aplikasi.

Model berasaskan toleransi kesalahan: Menggunakan keupayaan model besar untuk membetulkan kesilapan adalah salah satu ciri aplikasi multi-agen. pengetahuan tentang model besar untuk membetulkannya.

Toleransi kesalahan untuk ejen/pembangun: Apabila peraturan pratetap dan model besar tidak dapat menyelesaikan ralat, ia selalunya memerlukan campur tangan pembangun atau ejen untuk menyelesaikan masalah itu, AgentScope tidak akan dapat menyelesaikan masalah apabila ia menghadapi ralat tersebut Seterusnya, atribusi pemformatan ralat, maklumat ralat, maklumat input dan output akan diserahkan sepenuhnya kepada pembangun atau ejen untuk membantu menyelesaikan masalah yang dihadapi.

Pengoptimuman Segera

Peningkatan prestasi aplikasi berbilang ejen bergantung pada kualiti gesaan (Prompt) model besar. Gesaan yang baik boleh meningkatkan kebarangkalian operasi aplikasi yang berjaya. Rangka kerja pengaturcaraan AgentScope menyediakan modul penalaan segera untuk membantu pembangun mengoptimumkan aplikasi secara berterusan.

Penjanaan gesaan automatik: Bagi pembangun, menjana gesaan yang baik selalunya merupakan tugas yang memakan masa dan intensif buruh. AgentScope dipratetap dengan ejen, yang secara dalaman menggunakan Pembelajaran Dalam Konteks (ICL) untuk menyepadukan senario aplikasi pembangun dan terus menjana gesaan yang diperlukan untuk membantu pembangun memulakan pembangunan dengan cepat.

Menyokong input sampel

: Dalam AgentScope, pembangun boleh memasukkan beberapa sampel sebagai templat pada masa yang sama dan AgentScope boleh menjana perkataan gesaan khusus untuk tugasan hiliran tertentu berdasarkan sampel ini.

Penalaan segera dinamik

: Semasa proses aplikasi berjalan, kata gesaan model besar perlu dilaraskan lagi mengikut keadaan pengendalian, seperti menambah peraturan baharu untuk mengelakkan ralat. AgentScope mengautomasikan proses ini dalam proses ejen berinteraksi dengan pembangun dan persekitaran, data sejarahnya akan menjadi asas untuk melaraskan gesaan AgentScope mengubah suai gesaan sistem ejen (Gesaan sistem) mengikut adegan pada masa itu. Meningkatkan prestasi ejen semasa operasi. Distributed Parallel

Sebagai rangka kerja pengaturcaraan berbilang ejen, AgentScope mengambil peningkatan kecekapan kerjasama antara ejen sebagai salah satu matlamat utamanya dari awal reka bentuknya, dan mereka bentuk model teragih untuk tujuan ini. Dalam mod ini, berbilang ejen boleh berjalan dalam proses dan mesin yang berbeza, dengan itu menggunakan sepenuhnya sumber pengkomputeran dan meningkatkan kecekapan operasi. Reka bentuk yang diedarkan dalam AgentScope terutamanya mempunyai ciri-ciri berikut:

Pengoptimuman selari automatik

: Reka bentuk yang diedarkan dalam AgentScope mengikut paradigma pengaturcaraan Actor, yang secara automatik boleh mengenal pasti kemungkinan kemungkinan selari antara ejen yang berbeza dalam orkestrasi proses aplikasi, dan kepada pengoptimuman selari secara automatik meningkatkan kecekapan operasi. Pada masa yang sama, setiap ejen boleh berjalan secara bebas pada mesin tempatan atau jauh, menggunakan sepenuhnya sumber pengkomputeran dan menyokong penggunaan berskala besar.

Ambang untuk bermula adalah sangat rendah

: AgentScope melindungi sepenuhnya pembangun daripada butiran pelaksanaan teknologi yang diedarkan Pembangun boleh membangunkan aplikasi berbilang ejen yang diedarkan pada kos sifar, atau menukar aplikasi berbilang ejen sedia ada kepada model yang diedarkan. Apabila ditukar kepada aplikasi teragih, orkestra aplikasi teragih dalam AgentScope serasi sepenuhnya dengan kaedah orkestrasi setempat Walaupun tanpa pengetahuan latar belakang yang diedarkan, pembangun boleh mengatur aplikasi berbilang ejen yang diedarkan dengan mudah.

Menyokong penggunaan berskala besar

: AgentScope kini menyokong menjalankan lebih daripada 16,000 contoh ejen pada satu masa pada satu mesin (64-teras 8-kad A100) , dan skala boleh mencapai skala linear sebagai bilangan mesin bertambah bertambah. Sebagai contoh, AgentScope boleh menyelesaikan lebih daripada 64,000 panggilan ejen dalam 30 saat pada gugusan 4 mesin. Ciri ini menjadikan keselarian berskala besar dan simulasi ejen mungkin. . Untuk membolehkan pembangun berinteraksi dengan aplikasi berbilang ejen yang diprogramkan mereka dengan lebih intuitif dan mudah, AgentScope menyediakan antara muka interaktif yang mesra pembangun dan mudah digunakan AgentScope Studio, yang membolehkan modaliti berbeza seperti teks, bunyi dan imej menjadi digunakan. Data dibentangkan dengan jelas, memastikan pembangun dapat mengalami dan menyesuaikan aplikasi pintar yang mereka cipta dengan cara yang paling intuitif.

△

AgentScope Studio

Seterusnya, AgentScope akan terus membawa lebih banyak kemudahan pembangunan kepada pembangun, dan kami juga mengharapkan lebih ramai pembangun menyertai pembinaan AgentScope komuniti sumber terbuka yang lebih menarik untuk diterokai aplikasi pelbagai ejen.

AgentScope alamat gudang sumber terbuka:

https://github.com/modelscope/agentscopeSelamat mencuba:

Atas ialah kandungan terperinci "Kilang pemasangan" pintar Alibaba adalah sumber terbuka! 0 pengalaman untuk mengendalikan puluhan ribu ejen secara serentak. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!