Platform Sumber Terbuka untuk Orkestrasi AI Berbilang Ejen

Bluemarz ialah rangka kerja AI bertulis python baharu; ia juga merupakan platform sumber terbuka yang direka khusus untuk mengurus dan mengatur berbilang ejen AI. Ia membawa ukuran kebolehskalaan dan fleksibiliti yang kurang dalam industri sumber terbuka Ai.

Daripada seni bina tanpa kewarganegaraan kepada sokongannya untuk model berbilang bahasa (seperti OpenAI, Anthropic Claude dan Google Gemini), Bluemarz menawarkan penyelesaian yang teguh untuk memenuhi keperluan perusahaan di sekitar kebolehskalaan, keselamatan dan privasi — semuanya penting untuk projek/organisasi mengendalikan data sensitif dan aliran kerja yang kompleks. Mari kita mendalami secara ringkas perkara yang menjadikan Bluemarz sebagai alat yang unik dan berkuasa untuk pembangun yang ingin menggunakan ejen Ai pada skala besar.

Bermula dengan Bluemarz

Pemasangan: Anda boleh menjalankan Bluemarz dengan memasangnya daripada GitHub menggunakan pip:

pip install git https://github.com/StartADAM/bluemarz.git

Aliran Kerja Asas: Bluemarz memperkenalkan tiga konsep utama: Ejen, Sesi dan Tugasan. Ini membolehkan pembangun menyediakan aliran kerja yang fleksibel di mana berbilang ejen boleh berinteraksi dalam sesi yang sama, menarik daripada LLM berbeza mengikut keperluan. Berikut ialah contoh sesi ringkas daripada reponya: https://github.com/StartADAM/bluemarz):

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

Faedah Utama Bluemarz

Bluemarz menangani had ketara yang belum diselesaikan sepenuhnya oleh platform lain seperti LangChain, LangGraph dan Chainlit, terutamanya di sekitar berbilang ejen, sokongan berbilang LLM dan kebolehskalaan sesi.

Apa yang membezakan Bluemarz

Stateless dan Scalable: Menjalankan Bluemarz dalam kelompok Kubernetes atau pada mana-mana platform awan adalah mudah kerana reka bentuk tanpa statenya, yang tidak memerlukan pengekalan sesi, sekali gus meningkatkan kebolehskalaan.
Fleksibiliti Berbilang Ejen: Anda boleh menetapkan berbilang ejen dalam satu sesi dan menambah atau mengalih keluar ejen secara dinamik. Ini bermakna jika ejen AI untuk terjemahan diperlukan pada pertengahan sesi, ia boleh ditambah dengan segera tanpa mengganggu perbualan yang sedang berjalan.
Keselamatan Sedia Perusahaan: Bluemarz dibina agar sesuai dengan persekitaran korporat, dengan kawalan pematuhan dan privasi telah diambil kira.
Pemilihan Ejen Dinamik: Sama ada melalui kod atau dengan Pemilih berkuasa AI (akan datang), pembangun boleh mengurus aliran kerja ejen dengan mudah, menambahkan lapisan kawalan ke atas tugasan dan prestasi.

Komponen Teras

Pembekal: Ini ialah sokongan LLMs Bluemarz, termasuk OpenAI, Anthropic Claude dan Google Gemini, dengan fleksibiliti untuk bekerja dengan model di premis.

Sesi: Sesi mewakili interaksi yang tidak mempunyai kewarganegaraan sepenuhnya dalam Bluemarz, menjalankan dan menyimpan sesi dalam infrastruktur penyedia LLM anda.

Ejen dan Tugasan: Ejen boleh ditakrifkan dan ditugaskan kepada sesi secara dinamik. Bluemarz menyokong kedua-dua tugasan ejen manual dan program, membenarkan perubahan masa nyata semasa sesi aktif.

Melanjutkan Bluemarz dengan Alat

Salah satu ciri Bluemarz yang paling berkuasa ialah keupayaan untuk menentukan alat boleh guna semula. Alat memanjangkan keupayaan LLM dengan menyambungkannya kepada sistem luaran, sumber data atau perkhidmatan. Berikut ialah contoh alat yang menukarkan Celsius kepada Kelvin:

import bluemarz as bm
import asyncio

async def procedural_example():
    # Initialize an agent using OpenAI
    agent = bm.openai.OpenAiAssistant.from_id(api_key, assistant_id)

    # Start a session
    session = bm.openai.OpenAiAssistantNativeSession.new_session(api_key)

    # Assign the agent to the session
    task = bm.Assignment(agent, session)
    task.add_message(bm.SessionMessage(role=bm.MessageRole.USER, text="What can you do?"))

    # Run the task and display the result
    res = await task.run_until_breakpoint()
    print(res)

asyncio.run(procedural_example())

Setelah ditakrifkan, alat ini boleh digunakan merentas ejen dan sesi yang berbeza, menyediakan satu titik konfigurasi untuk mana-mana ejen yang memerlukan penukaran suhu.

Kes Penggunaan Dunia Sebenar untuk Bluemarz

Automasi Sokongan Pelanggan: Sokongan berbilang ejen Bluemarz membolehkan ejen yang khusus dalam domain berbeza bekerjasama dalam masa nyata dalam satu sesi, meningkatkan masa respons dan perkaitan.
R&D: Pembangun boleh menggunakan Bluemarz untuk mengkonfigurasi sesi penyelidikan di mana ejen mengakses dokumen atau set data secara dinamik.
Kawalan dan Pengoptimuman Kos: Fleksibiliti ejen Bluemarz bermakna hanya ejen yang diperlukan digunakan, mengurangkan kos pengiraan untuk organisasi.

Kesimpulan

Jika anda ingin menyumbang kepada penyelesaian sumber terbuka yang baharu, berkuasa dan fleksibel, semaknya: https://github.com/StartADAM/bluemarz. Memandangkan ia tidak berkewarganegaraan, boleh disesuaikan dan bersedia untuk penempatan gred korporat, ia sepatutnya menjadi projek yang hebat dalam portfolio dan kemenangan mudah untuk menyumbang kepada kereta pancaragam Ai. Sama ada anda mendalangi satu tugas yang kompleks merentas berbilang ejen atau perlu memastikan kebolehskalaan dan keselamatan, Bluemarz boleh menyediakan infrastruktur untuk menyokong dan mengembangkan ekosistem ejen AI.

Atas ialah kandungan terperinci Platform Sumber Terbuka untuk Orkestrasi AI Berbilang Ejen. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!