Rangka kerja TextGrad baharu: menggunakan GPT-4o sebagai enjin untuk mengoptimumkan tugas hujung ke hujung secara automatik

Lajur AIxiv ialah lajur di mana kandungan akademik dan teknikal diterbitkan di laman web ini. Dalam beberapa tahun kebelakangan ini, lajur AIxiv laman web ini telah menerima lebih daripada 2,000 laporan, meliputi makmal terkemuka dari universiti dan syarikat utama di seluruh dunia, mempromosikan pertukaran dan penyebaran akademik secara berkesan. Jika anda mempunyai kerja yang sangat baik yang ingin anda kongsikan, sila berasa bebas untuk menyumbang atau hubungi kami untuk melaporkan. E-mel penyerahan: liyazhou@jiqizhixin.com; zhaoyunfeng@jiqizhixin.com

Pasukan pengarang artikel ini adalah dari Universiti Stanford, dan pasukan pengarang pertamaMert Yuksekgonul, Federico Bianchi, Joseph Boen, Sheng Liu , Zhi Huang

Mert Yuksekgonul ialah pelajar kedoktoran di Universiti Stanford, belajar di bawah Profesor James Zou dan Carlos Guestrin. Arah penyelidikan termasuk pengoptimuman kendiri sistem AI dan keselamatan serta kebolehpercayaannya.

Federico Bianchi, jurutera Xyla AI, postdoc di Stanford University, belajar di bawah Profesor Dan Jurafsky dan James Zou. Arah penyelidikannya ialah pembelajaran mesin dan pembangunan model bahasa yang besar.

Joseph Boen ialah pelajar kedoktoran di Stanford University, belajar di bawah James Zou hala tuju penyelidikannya ialah penerapan AI dalam sains.

Liu Sheng ialah postdoc di Universiti Stanford di Amerika Syarikat. Beliau belajar di bawah Profesor James Zou dan Lei Xing. Beliau berkelulusan PhD dalam sains data dan kecerdasan buatan dari Universiti New York. Arah penyelidikan termasuk keselamatan dan kebolehpercayaan pembelajaran mendalam, model bahasa besar berbilang modal, dan aplikasi AI dalam bioperubatan.

Huang Zhi, kini seorang profesor di University of Pennsylvania dan postdoc di Stanford University. PhD dari Universiti Purdue. Arah penyelidikan adalah kejuruteraan bioperubatan dan aplikasi AI dalam patologi. pasukan KEMURUNGAN DENGAN TEKS? ! Baru-baru ini, penyelidik dari Universiti Stanford telah melancarkan rangka kerja TextGrad baharu untuk menyelaras dan mengoptimumkan sistem AI dengan cekap yang terdiri daripada model bahasa besar (LLM) dan komponen lain, dan secara automatik mengoptimumkan prestasi tugas akhir ke hujung.

Pada masa ini, sistem AI yang dioptimumkan menggunakan TextGrad menggunakan GPT-4o kerana enjin boleh mencapai:

LeetCode-Keras keputusan terbaik

• Temui molekul baru mengambil kira pelbagai matlamat pengoptimuman seperti keberkesanan dadah dan ketoksikan pada masa yang sama
• Reka bentuk pelan radioterapi kanser yang melebihi kecerdasan buatan
• TextGrad laman web: http://www.textgrad. /

TextGrad kertas: https://arxiv.org/abs/2406.07496

• TextGrad Github: https://github.com/zou-group/textgrad
• sedang aktif AI cara daripada model tunggal Dalam peralihan paradigma daripada latihan kepada pengoptimuman sistem yang kompleks, membangunkan kaedah pengoptimuman automatik berprinsip untuk sistem AI sintetik telah menjadi salah satu cabaran baharu yang paling penting pada masa ini. Cara untuk menyelaras dan mengoptimumkan komponen AI dengan cekap seperti model bahasa besar (LLM) dan secara automatik mengoptimumkan prestasi tugas akhir ke hujung telah menjadi salah satu cabaran paling mendesak pada masa ini. Untuk menyatakan jumlah jilid dalam dunia AI, anda perlu melihat di Universiti Stanford. Dalam dua hari yang lalu, penyelidik di Universiti Stanford telah membuat satu lagi langkah besar dan melancarkan rangka kerja TextGrad baharu, yang menyediakan penyelesaian baharu kepada masalah ini. Ia menggunakan DSPy, juga dikeluarkan oleh Stanford, dan menyepadukan fungsi perambatan balik kecerunan kuat PyTorch untuk mengoptimumkan sistem AI kompleks secara automatik. Artikel ini akan menganalisis secara mendalam konsep teras dan mekanisme pengoptimuman TextGrad, meneroka prospek aplikasinya yang luas dan menantikan masa depan pengoptimuman berasaskan bahasa.

Idea teras

TextGrad menganggap aplikasi LLM sebagai graf pengiraan (Graf Pengiraan), menggunakan bahasa semula jadi sebagai medium untuk melaksanakan pemindahan "kecerunan" antara komponen yang berbeza. Optimumkan pelbagai pembolehubah dalam pelbagai sistem dengan menyebarkan semula maklum balas teks daripada output model bahasa kepada semua komponen awal yang mungkin. Dalam TextGrad, semuanya adalah teks, yang bermaksud kami menggunakan model bahasa untuk 1) menilai output, 2) mengkritik output, dan 3) mengemas kini input. Proses ini agak serupa dengan perambatan balik PyTorch, kecuali bahawa bukannya menyebarkan kecerunan berangka, maklum balas dalam bentuk teks disebarkan.

Antara muka interaksi bahasa bersatu ini memberikan TextGrad kesejagatan yang kukuh Ia menganggap segera, soalan, output, dll. sebagai pembolehubah, tanpa memerlukannya untuk dibezakan dan mempunyai keserasian yang kukuh. TextGrad berfungsi dengan lancar dengan mana-mana LLM atau API lain yang menyokong I/O bahasa semula jadi dan tidak memerlukan fungsi lain dalam graf pengiraan untuk dibezakan. Ini menjadikannya sangat sesuai untuk menyepadukan keupayaan plug-and-play seperti mendapatkan semula dan panggilan alat untuk membina saluran paip AI komposit yang fleksibel dan serba boleh. TextGrad juga tidak memerlukan reka bentuk gesaan manual, dan secara automatik mencari perihalan tugas yang paling membimbangkan untuk mengambil bahagian secara langsung dalam pengoptimuman. Ini membebaskan pembangun daripada kejuruteraan segera dan dijangka mencari paradigma pembelajaran dalam konteks yang lebih baik secara automatik.

Apa yang TextGrad boleh buat?

1. Projek Prompt Melalui gesaan yang dioptimumkan oleh TextGrad, kadar ketepatan QA GPT-3.5-turbor boleh dipertingkatkan daripada 78% kepada 92%, dan hanya beberapa lelaran pengoptimuman diperlukan. Jika anda ingin meniru hasil ini dan meneroka TextGrad dengan lebih lanjut, pasukan TextGrad telah menyediakan tutorial mudah untuk anda.

                                            ^{TextGrad boleh digunakan untuk menggesa jurutera dengan mudah dan mudah}

2. Optimumkan output model Selain mengemas kini gesaan model, jawapan (tindak balas) model dan output perwakilan teks juga boleh dioptimumkan oleh TextGrad. Di atas, TextGrad mengoptimumkan kod untuk masalah LeetCode yang dijana oleh LLM.

Terdapat lebih banyak aplikasi AI untuk sains!

Penemuan Ubat

Menggunakan TextGrad, kita boleh mengoptimumkan dua sifat utama struktur kimia: persamaan dadah (iaitu betapa mudahnya ubat itu diserap dalam badan) dan mengikatnya. dadah mengikat protein sasaran). Persamaan ubat diukur dengan skor QED, yang berjulat dari 0 hingga 1, dengan 1 adalah padanan terbaik untuk sifat mengikat dadah diukur dengan skor Vina, dengan lebih banyak skor negatif adalah lebih baik.

^{Kiri: Persamaan ubat molekul dan pengedaran pertalian mengikat sebelum dan selepas 10 lelaran pengoptimuman TextGrad, berbanding ubat yang diluluskan secara klinikal yang menyasarkan protein sasaran yang sama. Kanan: Contoh trajektori 10 lelaran pengoptimuman TextGrad, membandingkan sifat ubat yang diluluskan secara klinikal.}

Perancangan Rawatan Radioterapi

TextGrad juga boleh digunakan untuk mengoptimumkan pelan rawatan sinaran, yang menentukan dos yang diperlukan untuk terapi sinaran dan menentukan kawasan yang memerlukan rawatan. Khususnya, matlamat perancangan rawatan adalah untuk menyampaikan dos radiasi yang ditetapkan kepada tumor sambil melindungi tisu normal yang kritikal daripada dos yang tidak selamat. Doktor biasanya menyesuaikan dan mengoptimumkan pelan rawatan berulang kali melalui percubaan dan kesilapan sehingga pelan itu memenuhi keperluan klinikal. Ini menjadikan keseluruhan proses tidak cekap, memakan masa dan mahal. TextGrad secara automatik menyediakan kecerunan kepada sistem perancangan yang diterajui AI untuk mengoptimumkan pelan rawatan sinaran, secara automatik menimbang tumor terhadap tisu sihat berdekatan.

TextGrad menggunakan bahasa untuk membuka halangan antara modul kognitif yang berbeza. Ia membolehkan LLM mengambil bahagian dalam pengoptimuman berulangnya sendiri dan mencapai evolusi berterusan melalui kebolehan kognitif peringkat tinggi seperti introspeksi, pertimbangan dan penciptaan. Pada dasarnya, kepentingan TextGrad melangkaui pengoptimuman prestasi saluran Ia menunjukkan kepada kita kemungkinan untuk merealisasikan kognisi diri AI dan pembetulan diri melalui bahasa. Laluan "Pengoptimuman Terpacu Bahasa" ini juga boleh menjadi ubat yang baik untuk banyak "masalah ilusi" semasa. TextGrad telah digunakan untuk menyelesaikan banyak masalah saintifik dan perubatan! Lebih banyak aplikasi sedang menunggu untuk anda terokai dan temui!

Atas ialah kandungan terperinci Rangka kerja TextGrad baharu: menggunakan GPT-4o sebagai enjin untuk mengoptimumkan tugas hujung ke hujung secara automatik. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!