Tonton 'Harry Potter' dalam sekali duduk: model besar AI 'Quantum Speed ​​​​Reading', satu minit bersamaan dengan lima jam manusia

Sejak kebelakangan ini, OpenAI telah menjadi institusi penyelidikan yang paling banyak ditonton dengan model siri GPT dan ChatGPTnya. Tetapi dalam dua tahun yang lalu, sebuah syarikat permulaan AI akan muncul dalam pandangan semua orang Syarikat ini dipanggil Anthropic. Ia diasaskan pada tahun 2021. Ia memfokuskan pada pembangunan sistem AI dan model bahasa, dan mematuhi konsep AI yang bertanggungjawab. guna.

Saya tertanya-tanya jika anda masih ingat peletakan jawatan kolektif kakitangan teras OpenAI pada penghujung tahun 2020. Pada masa itu, kejadian ini menimbulkan kekecohan dalam kalangan AI. Anthropic telah dicipta oleh kakitangan yang telah berlepas ini, termasuk Dario Amodei, bekas naib presiden penyelidikan di OpenAI, Tom Brown, pengarang pertama kertas GPT-3, dan lain-lain.

Anthropic telah mengumpul lebih daripada $700 juta dalam pembiayaan pada Januari tahun ini, dengan pusingan terbaharunya bernilai $5 bilion. Pada masa yang sama, dua bulan selepas keluaran ChatGPT, syarikat itu dengan cepat membangunkan Claude, sistem kecerdasan buatan yang menanda aras kelab lamanya ChatGPT.

Alamat akses aplikasi Claude: https://www.anthropic.com/earlyaccess

Claude menggunakan mekanisme yang dipanggil "AI berperlembagaan" yang dibangunkan oleh Anthropic, yang bertujuan untuk menyediakan pendekatan "berasaskan prinsip" untuk menyelaraskan sistem AI dengan niat manusia.

Claude boleh menyelesaikan tugasan seperti meringkaskan, mencari, membantu dalam penciptaan, Soal Jawab, pengekodan, dsb. Berdasarkan maklum balas pengguna, Claude kurang berkemungkinan menghasilkan output yang berbahaya, lebih mudah untuk meneruskan perbualan dan lebih mudah dikawal. Di samping itu, Claude boleh menetapkan personaliti, nada dan tingkah lakunya berdasarkan arahan.

Walau bagaimanapun, Anthropic tidak memberikan banyak butiran teknikal tentang Claude, tetapi menerangkan Claude dalam karya "Constitutional AI: Harmlessness from AI Feedback" Pembaca yang berminat boleh menyemak teknologi di belakangnya.

Alamat kertas: https://arxiv.org/pdf/2212.08073.pdf

Kembali pada bulan Januari , sesetengah penyelidik menguji jumlah maksimum teks yang boleh diproses oleh Claude pada satu masa, menunjukkan bahawa Claude boleh mengingat maklumat dalam token 8k.

Tidak lama dahulu, Khamis ini, Anthropic melancarkan 100K Context Windows, Ia mengembangkan tetingkap konteks Claude daripada 9k token kepada 100k, iaitu bersamaan dengan 75,000 patah perkataan. Ini bermakna perniagaan boleh menyerahkan ratusan halaman bahan untuk Claude hadam dan tafsir, dan perbualan dengannya boleh berlangsung selama berjam-jam atau bahkan berhari-hari. Tetingkap konteks 100K kini boleh diakses melalui API Anthropic.

Kita tahu bahawa semakin canggih model besar, semakin panjang teks yang boleh diproses pada masa yang sama Apakah konsepnya 75,000 patah perkataan? Ia mungkin sama dengan meringkaskan bahagian pertama "Harry Potter" dalam satu klik.

Nampaknya sebahagian besar esei, laporan berita dan cerpen tidak dapat dibincangkan.

Claude Berubah Lagi: Benar "AI Quantum Speed ​​​​Reading"

Menurut penyelidikan saintifik, orang biasa boleh membaca 100,000 token dalam masa kira-kira 5 jam, dan mungkin Ia mengambil masa yang lebih lama untuk mencerna, mengingat dan menganalisis maklumat ini. Kini Claude boleh melakukan ini dalam masa kurang daripada 1 minit.

Pengiraan am untuk tetingkap konteks.

Anthropic mula-mula memuatkan keseluruhan teks "The Great Gatsby" ke dalam Claude-Instant (72 K token, Claude mempunyai dua versi Claude dan Claude Instant, Claude ialah model berprestasi tinggi yang paling maju, dan Claude Instant ialah pilihan yang lebih ringan, lebih murah, lebih pantas ), dan mengubah suai baris "Mr. Carraway ialah seorang jurutera perisian yang bekerja pada pembelajaran mesin di Anthropic." Apabila Anthropic meminta model mencari perbezaan daripada teks asal, ia memberikan jawapan yang betul dalam 22 saat.

Selain membaca teks yang panjang, Claude juga membantu dalam mendapatkan maklumat daripada dokumen, dengan itu memberi manfaat kepada operasi perniagaan . Pengguna boleh menggugurkan berbilang dokumen atau malah sebuah buku ke dalam prompt dan kemudian bertanya kepada Claude soalan (memerlukan analisis pengetahuan yang komprehensif bagi banyak bahagian teks). Untuk masalah yang rumit, ini mungkin lebih cekap daripada kaedah berasaskan carian vektor. Claude boleh mengikut arahan pengguna dan mengembalikan maklumat yang mereka cari, sama seperti pembantu manusia.

Anthropic kemudian masukkan alat penyepaduan bahasa besar LangChain API pemaju dokumentasi (240 halaman) ke dalam model, dan kemudian menjawab soalan tanya Demo LangChain menggunakan model bahasa Anthropic diberikan.

Sementara itu, 100k token boleh ditukar kepada kira-kira 6 jam audio. AssemblyAI melakukan demonstrasi yang hebat tentang perkara ini dengan menyalin podcast panjang ke dalam hampir 58k perkataan dan kemudian menggunakan Claude untuk ringkasan ringkasan dan Soal Jawab.

Sumber imej: AssemblyAI

Dalam pendek , menggunakan tetingkap konteks 100k, pengguna boleh melakukan perkara berikut:

• Hadam, rumuskan dan tafsir dokumen padat seperti penyata kewangan atau kertas penyelidikan
• Menganalisis risiko dan peluang strategik berdasarkan laporan tahunan syarikat; >Kenal pasti risiko dalam dokumen undang-undang , topik dan pelbagai bentuk hujah; 🎜>Lulus Letakkan keseluruhan pangkalan kod anda ke dalam konteks dan bina atau ubah suai secara bijak untuk prototaip pantas.
• Sesetengah netizen menggunakan meme berikut untuk menerangkan dengan jelas hubungan antara Context Windows dan Claude 100k dan GPT-4 32K.
Sumber foto: Twitter @nathanwchan

Mengenai harga, juruteknik Anthropic Ben Mann berkata bahawa harga jutaan token 100K Context Windows adalah sama seperti model sebelumnya.

Atas ialah kandungan terperinci Tonton 'Harry Potter' dalam sekali duduk: model besar AI 'Quantum Speed ​​​​Reading', satu minit bersamaan dengan lima jam manusia. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!