Bagaimana AI Agent berfikir tentang reka bentuk peringkat perusahaan

Selepas letupan model berskala besar tahun ini, teknologi kecerdasan buatan semasa masih berada di peringkat sistem generasi kedua dan masih belum mencapai tahap kecerdasan am buatan (AGI). Walau bagaimanapun, dalam beberapa bidang, AI Agent sudah boleh digunakan untuk pemprosesan. Sebagai aplikasi B-side biasa, bagaimana untuk mereka bentuk Ejen AI yang memenuhi keperluan perniagaan?

Dengan perkembangan pesat kecerdasan buatan, pelbagai model, produk dan alatan berskala besar termaju muncul satu demi satu. Sebagai pengurus produk B-side, kami perlu secara aktif menerima teknologi kecerdasan buatan transformatif ini dan menerapkannya dalam perniagaan kami sendiri untuk memastikan kecekapan perusahaan tidak ketinggalan daripada pembangunan industri

Secara umumnya, jika perusahaan tidak membangunkan model berskala besar secara bebas, ia perlu bergantung pada keupayaan model berskala besar pihak ketiga untuk membangunkan keupayaan AI untuk membina produk atau alatan AI yang sesuai untuk perusahaan itu sendiri.

Seperti yang ditunjukkan dalam rajah di bawah, arah model berskala besar biasa termasuk pemprosesan bahasa semula jadi (NLP), multimodal (multimodal) dan pengecaman pertuturan. Pengeluar model besar menjalankan latihan AI berdasarkan keupayaan dalam arah tertentu, membolehkan AI menggantikan manusia dalam tugas "boleh berulang" dan "boleh standard" dalam bidang tertentu.

Gambar dipetik daripada Open Privacy Computing "Battle of Hundreds of Models!" Model AI besar manakah yang anda lebih optimistik? 》

Untuk menentukan keupayaan AI yang diperlukan untuk perniagaan kami, kami perlu menjalankan penyelidikan tentang model AI yang sepadan dan menilai keupayaan output model besar. Kami boleh menilai model besar daripada pelbagai dimensi seperti ingat semula, ketepatan, keselamatan, kebolehtafsiran, kestabilan, kos dan potensi pembangunan untuk akhirnya memilih model besar yang sesuai dengan keperluan kami. Mengenai topik ini, saya telah memperincikan cara memilih model besar yang sesuai untuk anda dalam artikel sebelumnya.

Namun, teknologi AI semasa masih dalam peringkat sistem generasi kedua dan masih belum mencapai tahap AGI. Masih terdapat beberapa masalah dengan model berskala besar yang boleh diakses pada masa ini, terutamanya termasuk aspek berikut:

1. Ilusi AI:

Ilusi AI merujuk kepada batasan kecerdasan buatan dalam ingatan pengetahuan, keupayaan memahami, kaedah latihan dan teknologi model, yang membawa kepada prestasi yang tidak tepat atau tidak boleh dipercayai dalam hasil output. Masalah biasa termasuk berat sebelah data dan kebolehtafsiran yang lemah

Disebabkan kewujudan ilusi AI, walaupun kita menjangkakan AI dapat menghasilkan penyelesaian yang boleh dipercayai secara stabil, masih terdapat sebahagian daripada jawapan yang salah. Sebagai contoh, jika AI adalah 50% tepat dalam bidang tertentu, akan terdapat 25 jawapan yang salah daripada 50. Untuk perniagaan yang memerlukan ketepatan yang tinggi, AI tidak boleh digunakan secara langsung.

2. Jawapan kepada Soalan Pematuhan

Intipati AI adalah untuk meramalkan keputusan berdasarkan statistik dan kekurangan keupayaan untuk menilai dengan jelas betul dan salah. Oleh itu, apabila ia melibatkan isu etika, undang-undang dan lain-lain, AI tidak boleh membuat pertimbangan atau perbezaan yang tepat, yang mungkin memberi kesan negatif kepada syarikat

3. Tidak cukup asli:

Pada masa ini, kaedah interaksi kecerdasan buatan adalah terutamanya melalui input-output. Kandungan input pengguna dan hasil output kecerdasan buatan. Walau bagaimanapun, proses ini tidak sesuai untuk tabiat penggunaan semua kakitangan perniagaan

Ambil senario terjemahan sebagai contoh Proses perniagaan penterjemah biasanya merangkumi langkah-langkah berikut:

1. Tentukan keperluan terjemahan: Sahkan bahasa sumber, bahasa sasaran, gaya terjemahan, perbezaan budaya di wilayah yang berbeza dan pelan pelarasan, dsb.
2. Penterjemahan kelompok: Tugas penterjemahan biasanya melibatkan beberapa bahagian kandungan dan penterjemah perlu menyelesaikan pemprosesan dalam kelompok pada masa yang sama.
3. Pemeriksaan pruf: Selepas terjemahan selesai, ia perlu disemak pruf oleh pembaca pruf untuk menentukan sama ada ia memenuhi keperluan perniagaan.
4. Pengubahsuaian: Jika hasil terjemahan tidak menepati keperluan, ia perlu diubah suai. Selepas semakan selesai, teruskan proses terjemahan, semakan pruf dan semakan sehingga semakan diluluskan.
5. Penghantaran: Gunakan kandungan pruf pada perniagaan anda.

Namun, jika anda ingin menggunakan AI untuk terjemahan untuk menjimatkan kos buruh, secara langsung menggunakan kaedah interaksi input dialog model bahasa besar akan membawa masalah berikut:

1) Mengganggu aliran kerja sedia ada dan menyukarkan untuk membangunkan tabiat penggunaan:

Menggunakan tetingkap dialog model bahasa yang besar akan mengganggu proses perniagaan kerja terjemahan asal. Pada asalnya, anda hanya perlu menyelesaikan kerja pada alat atau dokumen terjemahan Selepas menyertai dialog model berskala besar, setiap teks terjemahan memerlukan interaksi input pada kotak input.

2) Had atas kenaikan kos operasi:

Model bahasa berskala besar mempunyai had pada panjang perbualan Jika kandungan terjemahan besar, interaksi perlu dilakukan secara berkelompok, yang akan meningkatkan kos buruh.

3) Peningkatan kos operasi untuk memenuhi keperluan terjemahan khas:

Jika terdapat keperluan terjemahan khusus, seperti terjemahan istilah atau menentukan gaya terjemahan, interaksi diperlukan setiap masa, yang seterusnya memerlukan tenaga kerja.

Masalah di atas menghalang AI daripada meningkatkan kecekapan terjemahan perniagaan dengan berkesan. Disebabkan oleh operasi yang menyusahkan, adalah sukar bagi pengguna untuk membentuk tabiat penggunaan mereka sering secara tidak sedar berfikir bahawa adalah lebih baik untuk menterjemah secara langsung sendiri daripada menggunakan AI, jadi kos penggantian adalah tinggi.

Selain itu, terjemahan AI mempunyai masalah ilusi dan tidak dapat memberikan pengalaman pengguna di luar jangkaan.

Oleh itu, [(pengalaman baru-pengalaman lama)-kos penggantian] tidak melebihi 0 Secara langsung menggunakan kaedah interaksi asli AI tidak dapat meningkatkan kadar perniagaan dengan berkesan, jadi beberapa kaedah asli diperlukan.

1. Apa itu AI Agent

Memandangkan cabaran semasa yang dihadapi oleh kecerdasan buatan, kita perlu memikirkan cara untuk membina aplikasi kita sendiri di bahagian B. Satu cara yang mungkin ialah cuba membina Ejen AI yang disesuaikan untuk perniagaan

Apa yang dipanggil Agen AI, juga dikenali sebagai ejen kecerdasan buatan, merujuk kepada program automatik yang boleh memahami, belajar dan melaksanakan tugas. Ia boleh dibandingkan dengan "melayan AI sebagai pelatih dan membiarkannya melakukan kerja, sementara kami bertanggungjawab untuk membimbing pelatih ini untuk memastikan outputnya memenuhi hasil yang diharapkan."

Tidak seperti model besar, kaedah interaksi Ejen AI tidak terhad kepada gesaan dengan orang ramai. Ia adalah sistem yang berdasarkan matlamat kerja tertentu dan hasil output yang memenuhi keperluan. Teras AI Agent ialah model besar, yang turut merangkumi sambungan modul persepsi, modul perancangan dan modul tindakan

1. Modul persepsi: Modul persepsi menghimpunkan data ke dalam perkataan pantas untuk input melalui sambungan dengan sumber data perniagaan dan sumber data luaran.
2. Modul tindakan: Modul tindakan boleh melaksanakan operasi perniagaan yang sepadan berdasarkan hasil persepsi dan perancangan melalui sambungan dengan antara muka keupayaan perniagaan. Di samping itu, data maklum balas dalam amalan perniagaan juga boleh dioptimumkan melalui sistem maklum balas dengan kod, strategi dan kata-kata segera.
3. Modul perancangan: Modul perancangan adalah teras Agen AI. Di samping memanfaatkan keupayaan model besar, ia juga perlu untuk mereka bentuk berdasarkan keperluan perniagaan digabungkan dengan logik kod. Di sini kita perlu memahami cara otak berfungsi dan menggunakan kaedah input dan output yang sesuai untuk memacu perniagaan.

2. Bagaimana mereka bentuk Agen AI

Jadi bagaimana untuk mereka bentuk Ejen AI yang memenuhi keperluan perniagaan?

1. Cari senario perniagaan yang sesuai

Pertama, kita perlu menentukan senario yang sesuai untuk Ejen AI dan menilai kesesuaian senario yang dipilih dengan mensimulasikan input data dan mengumpul hasil output. Apabila menilai keputusan output, adalah perlu untuk memeriksa sama ada ia memenuhi jangkaan. Jika keputusan tidak seperti yang dijangkakan, anda perlu menilai tahap keterukan ralat dan sama ada terdapat ruang untuk penambahbaikan dalam ketepatan dan ingatan semula. Jika ada ruang untuk penambahbaikan, AI boleh dibuat untuk memenuhi keperluan adegan kami dengan mengoptimumkan kata-kata segera, atau dengan memperkenalkan pembinaan modul persepsi, tindakan dan perancangan.

2. Susun jangkaan input dan output

Kami perlu menjelaskan 'matlamat' dan 'keperluan' untuk Ejen AI untuk menentukan apa yang kami masukkan dan apa yang perlu dikeluarkan oleh Ejen.

Berdasarkan 'matlamat' dan 'keperluan' ini, kita harus memikirkan cara memilih kaedah input dan output yang sesuai untuk memenuhi keperluan perniagaan dan memperkasakan perniagaan. Ini akan membantu kami mereka bentuk proses output seterusnya dan menilainya semasa fasa pengesahan reka bentuk untuk menentukan sama ada ia memenuhi keperluan.

3. Susun proses keluaran

Apabila kita menghadapi keperluan keluaran yang kompleks, kita perlu mereka bentuk pelbagai proses perbualan AI supaya pelbagai AI boleh bekerjasama antara satu sama lain untuk akhirnya mencapai hasil keluaran yang memenuhi keperluan. Sebagai contoh, dalam senario pengelasan teks, kita boleh menggunakan model besar versi 3.5 untuk klasifikasi peringkat pertama yang tepat untuk memenuhi keperluan.

Memandangkan kos versi 4.0 adalah berpuluh-puluh kali ganda berbanding versi 3.5, dan versi 3.5 adalah mencukupi untuk klasifikasi peringkat pertama, anda boleh memilih untuk menggunakan versi 3.5 untuk menjimatkan kos. Kemudian, kami boleh menggunakan versi 4.0 untuk klasifikasi sekunder untuk mendapatkan hasil pengelasan yang lebih baik dan memastikan kami mengeluarkan kandungan yang diperlukan.

Apabila mereka bentuk proses, anda perlu mengambil kira faktor berikut:

• Faktor kos: Kos model besar yang berbeza dan versinya adalah berbeza Kita perlu menimbang faedah perniagaan dan memilih pelan penggunaan model besar yang munasabah untuk mengelakkan kerugian lebih daripada keuntungan.
• Faktor kesan: Kesan model besar yang berbeza dan versinya berbeza, dan mereka mempunyai kekuatan dalam bidang yang berbeza. Kita perlu memilih penyelesaian yang paling sesuai berdasarkan keperluan penggunaan.

Setelah mempertimbangkan secara menyeluruh faktor kos dan keberkesanan, akhirnya kami menentukan pelan yang sesuai

4. Mekanisme pemeriksaan output

Untuk mengelakkan kandungan mengelirukan dalam hasil keluaran AI daripada menjejaskan perniagaan, kami perlu mewujudkan mekanisme pengesahan yang berkesan. Kaedah pengesahan biasa termasuk padanan leksikon, padanan ungkapan biasa dan pemeriksaan manual. Sekat kandungan yang mengelirukan dengan menggunakan tesaurus atau cara manual. Di samping itu, kami juga boleh membina ejen pemeriksaan kualiti untuk membiarkan AI sendiri melakukan pemeriksaan kualiti pada output untuk menapis kandungan bermasalah dan meningkatkan kadar pengesanan kandungan yang mengelirukan.

5. Penyelesaian ilusi

Berlakunya halusinasi adalah fenomena yang tidak dapat dibanteras sepenuhnya. Untuk mengelakkan kesan buruk terhadap perniagaan kita, kita perlu merangka pelan keselamatan, seperti:

1) Pemeriksaan manual: Sebelum output AI dihantar kepada pengguna, pautan pemeriksaan manual diperkenalkan. Hanya selepas pemeriksaan manual berlalu, hasilnya akan dikeluarkan kepada pengguna. Dengan cara ini, kami boleh menghalang ilusi AI daripada memberi kesan negatif kepada perniagaan dengan sempurna, dan kami juga boleh menggunakan output AI untuk meningkatkan kecekapan. Walau bagaimanapun, kaedah ini memerlukan semakan manusia, jadi ia akan meningkatkan kos buruh tertentu.

2) Pembungkusan yang munasabah: Memandangkan kami adalah aplikasi AI untuk bahagian B, kami boleh menggunakan kaedah seperti membungkus aplikasi output sebagai "pembantu AI" untuk menjelaskan secara langsung kepada pengguna: "Hasil output di sini dijana oleh AI dan adalah untuk rujukan sahaja." Dengan cara ini, kami boleh membenarkan pengguna membentuk jangkaan psikologi yang munasabah dan mengelakkan reaksi buruk apabila keluaran halusinasi berlaku.

3

Berdasarkan idea di atas, kami boleh membina ejen terjemahan B-side, ejen klasifikasi data, ejen perkhidmatan pelanggan yang bijak dan perkhidmatan lain Sudah tentu, ini hanyalah sebahagian daripada pemikiran peribadi saya. Semua orang dialu-alukan untuk bertukar dan berbincang.

Sila undi saya

Saya menyertai pilihan 2023 Everyone is a Product Manager Saya harap rakan-rakan yang suka artikel saya boleh datang dan menyokong saya~

Klik pautan di bawah untuk memasuki halaman pencalonan peribadi saya, dan klik pada hati merah untuk mengundi saya.

Setiap orang boleh mengundi sehingga 30 undian setiap hari Jika anda mengundi, anda akan mendapat peluang untuk memenangi loteri, dan anda akan menerima hadiah seperti buku, Semua orang adalah peranti peringatan Pengurus Produk, dan keahlian dalam Bilik Darjah Titik Permulaan. !

Sila klik pautan di bawah untuk mengundi: https://996.pm/7d9yE

Kolumnis

Lemon cake bersih dan bersih Akaun rasmi: Lemon cake bersih dan bersih Semua orang adalah kolumnis pengurus produk. Produk akhir B dalam industri permainan Dia telah bertanggungjawab untuk CRM, kawalan risiko, BI, SDK, dan kandungan yang berkaitan dengan AI dalam industri permainan Dia kerap mengeluarkan idea atau ringkasan artikel~

Artikel ini pada asalnya diterbitkan di Everyone is a Product Manager Dilarang mencetak semula tanpa kebenaran

Gambar tajuk datang daripada Unsplash, berdasarkan lesen CC0

Atas ialah kandungan terperinci Bagaimana AI Agent berfikir tentang reka bentuk peringkat perusahaan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!