GPT-4 panas ada di sini!

Pada 14 Mac, syarikat kecerdasan buatan OpenAI mengeluarkan versi ditingkatkan GPT-4 ChatGPT (peringkat GPT-3.5), yang sekali lagi membawa kepada "perbincangan hangat yang meletup" mengenai topik ChatGPT yang menjadi sedikit senyap carian hangat di platform sosial dalam ketegangan. Topik seperti "AI akhirnya akan menggantikan manusia" dan "90% manusia di negara yang mempunyai keupayaan peperiksaan GPP-4 yang kuat" telah menarik lebih banyak perhatian daripada pengguna.

Berbanding dengan ChatGPT sebelumnya, peningkatan GPT-4 ini boleh dipanggil "heavyweight": ia menggunakan "model super multi-modal" dan ketepatan jawapannya ialah The keupayaan pengembangan teks output dipertingkatkan, dan had pemprosesan ditingkatkan kepada perkataan 2.5W; >Berbanding dengan ChatGPT, GPT-4 sangat bagus, tetapi keputusan yang mengerikan ialah: sistem pembayaran OpenAI ranap kerana pesanan gila pengguna.

Selepas membuang Chat, GPT-4 menjadi lebih berkuasa

Jika ChatGPT berdasarkan model GPT-3.5 masih "pelajar miskin" yang berlegar di atas barisan, maka Kekuatan GPT-4 dijangka memasuki barisan "pelajar atasan". Ia bukan sahaja lebih bijak, tetapi juga lebih sukar untuk "ditipu".

Selepas membuang awalan Chat, keupayaan GPT-4 telah berubah dengan ketara. Ringkasnya, apabila OpenAI terus berkembang ke arah pembelajaran mendalam, GPT-4 telah mengambil langkah besar ke arah menjadi "lebih seperti manusia". seperti LSAT, kedudukan dalam 20% teratas; ada juga pengguna yang menggunakan GPT-4 untuk siaran langsung di YouTube untuk menulis artikel, menulis kod, memfailkan cukai, menulis puisi, bercerita jenaka...

Oleh menjalankan siaran langsung dalam 26 bahasa Dalam ujian itu, GPT-4 mengatasi model bahasa besar lain seperti GPT-3.5 dalam 24 bahasa, termasuk bahasa sumber rendah seperti Latvia, Welsh dan Swahili Antaranya, ketepatan pengiktirafan bahasa Cina mencapai 80.1% (di bawah).

OpenAI menunjukkan sinopsis kisah "Cinderella" yang ditulis dalam 26 perkataan menggunakan GPT-4 Huruf pertama daripada 26 perkataan ini betul-betul sepadan dengan 26 huruf bermula dari Susunan yang betul dari A hingga Z sudah cukup untuk membuktikan kekuatan GPT-4 dari segi perbendaharaan kata dan penciptaan bahasa.

Tetapi kemas kini terbesar ialah GPT-4 menyokong pengecaman imej, yang boleh memberikan jawapan logik berdasarkan pemahaman kandungan imej. Sebagai contoh, apabila pengguna bertanya apakah keistimewaan gambar di bawah, GPT-4 boleh menggambarkannya secara langsung sebagai "seorang lelaki sedang menyeterika pakaian di papan seterika di atas bumbung teksi yang sedang bergerak."

Dalam contoh lain, GPT-4 boleh memberikan ringkasan berdasarkan "pemahaman" kertas mengikut keperluan pengguna, dan boleh memberikan ringkasan salah satu eksperimen A penerangan ringkas tentang proses tersebut.

Selain itu, GPT-4 juga boleh memahami sedikit sebanyak "meme" lucu yang popular di Internet Sebagai contoh, ia boleh menggambarkan apa yang lucu tentang gambar di bawah.

Adakah GPT-4 akan menjadi pedang tajam di tangan penggodam?

Pertama sekali, kita mesti sedar tentang masalah GPT-4 yang semakin pintar akan membawa risiko keselamatan yang lebih dahsyat, atau menjadi "pedang tajam" di tangan organisasi penjenayah siber?

Dalam versi ChatGPT, FreeBuf telah membincangkan secara mendalam penggunaannya dalam jenayah siber dan risiko keselamatan yang mungkin dibawa ke ruang siber.

Salah satu risikonya sendiri.

Sebagai contoh, pakar keselamatan telah menemui teks yang hampir sama dengan rahsia dalaman syarikat dalam kandungan yang dihasilkan oleh ChatGPT Sebabnya mungkin pekerja Amazon memasukkan maklumat data dalaman syarikat apabila menggunakan ChatGPT untuk menjana kod dan teks . Kemudian, dalam GPT-4, risiko keselamatan seperti itu masih akan wujud, dan gergasi utama masih akan mempertahankan GPT.

Dari segi dasar keselamatan rangkaian, GPT-4 juga berdepan dengan bahaya terpijak garisan merah. Contohnya, sama ada ia melanggar prinsip "data minimum" GDPR, sama ada ia memenuhi "hak untuk dilupakan" atau "hak untuk memadam", sama ada penggunaan data awam mematuhi dan sama ada pengumpulan harta akademik dan intelek maklumat adalah sesuai dan konsisten dengan undang-undang, peraturan semasa.

Pada masa ini, Undang-undang Keselamatan Siber negara saya, Undang-undang Perlindungan Data dan Undang-undang Perlindungan Maklumat Peribadi mempunyai peraturan terperinci tentang pengumpulan dan penggunaan data sahaja, jelas sekali GPT-4 tidak dapat memenuhi semua keperluan ini keperluan. Selain itu, pada masa hadapan, sistem perundangan global akan diperhalusi lagi ke arah "perlindungan data", dan GPT akan menghadapi tekanan pematuhan yang lebih teruk pada masa itu.

Kedua, mungkin terdapat lebih banyak kelemahan tersembunyi dalam menggunakan GPT-4 untuk mengedit kod.

Dalam peringkat ChatGPT-3.5, syarikat dan pembangun sudah cuba menggunakannya untuk menulis kod dan menyelesaikan masalah kelemahan. Dalam percubaan Kaspersky, penganalisis mendapati bahawa ChatGPT boleh digunakan untuk mengumpulkan maklumat forensik untuk syarikat yang tidak menjalankan sistem pengesanan dan tindak balas (EDR) titik akhir, mengesan pengeliruan kod atau binari kod jurutera terbalik.

GPT-4 yang lebih bijak juga telah diberi harapan tinggi oleh ramai orang Apabila semakin ramai pembangun menggunakan GPT-4 untuk menulis kod, kelemahan yang tersembunyi akan menjadi bom jangka yang lebih menakutkan Dieksploitasi oleh penyerang bencana yang tidak terperi kepada seluruh ruang keselamatan rangkaian, terutamanya dalam bidang keselamatan rantaian bekalan, yang memerlukan kewaspadaan yang lebih tinggi.

Akhir sekali, bagaimana untuk menghalang GPT-4 daripada digunakan oleh penggodam, sekali gus memberi tekanan baharu pada pertahanan keselamatan rangkaian.

Fakta yang sangat jelas ialah sejak peringkat ChatGPT, semakin banyak kes GPT digunakan dalam industri hitam, jenayah siber, serangan penggodam dan bidang lain, malah ia mungkin menjadi kebiasaan dalam masa hadapan.

Sebagai contoh, penyelidik dari Cybernews pernah mendapati bahawa ChatGPT boleh digunakan oleh penggodam untuk mencari kelemahan keselamatan dalam tapak web Dengan bantuan mereka, penyelidik menjalankan ujian penembusan pada laman web biasa dan digabungkan dengan ChatGPT untuk memberikan Cadangan dan. contoh perubahan kod menyelesaikan penggodaman.

ChatGPT sudah mempunyai keupayaan sedemikian, apatah lagi GPT-4 yang lebih pintar? Nampaknya sukar untuk menggunakan GPT-4 untuk mengukuhkan sistem keselamatan rangkaian dalam jangka masa pendek, tetapi penggunaannya dalam jenayah siber akan berlaku. Cara menangani risiko keselamatan yang serupa telah menjadi isu yang mesti dipertimbangkan sekarang.

Sudah tentu, OpenAI juga terus bekerja keras untuk keselamatan. Sebagai contoh, mereka mengupah lebih daripada 50 pakar dari bidang risiko dok kecerdasan buatan, keselamatan siber, biorisiko, kepercayaan dan keselamatan, dan keselamatan antarabangsa untuk menjalankan ujian musuh model dan melatih pelbagai senario berisiko tinggi untuk menyediakan panduan bagi langkah mitigasi dan pembangunan model. Contohnya, dengan mengumpul data khusus tambahan untuk meningkatkan keupayaan GPT-4 untuk menolak permintaan tentang cara mensintesis bahan kimia berbahaya.

Tetapi bergantung pada ini sahaja jelas tidak dapat memenuhi keperluan keselamatan Ini juga bermakna kita perlu meningkatkan keupayaan keselamatan kecerdasan buatan yang diwakili oleh GPT-4 dari banyak aspek, termasuk penggubalan peraturan, dan penggunaan cara teknikal untuk membendung risiko kejahatan, dsb.

Ditulis pada penghujung

Dalam apa jua keadaan, kemajuan teknologi mempunyai kesan yang tidak terukur ke atas pembangunan manusia, tetapi pada masa yang sama kita perlu mempunyai pemahaman yang jelas tentang risiko . Dalam erti kata lain, kita menerima GPT-4 dengan sikap positif, tetapi kita mesti bersedia untuk menghadapi risiko.

Seperti kata seorang pemimpin Perang Dunia II: Kita tidak boleh mengubah fikiran orang lain Memandangkan mereka mahu bersiap sedia untuk berperang, kita juga mesti bersedia untuk berperang. Perkara yang sama berlaku untuk GPT-4, kita tidak boleh menukar orang lain untuk menggunakannya untuk "kejahatan", tetapi kita boleh memutuskan cara menggunakannya untuk "kebaikan".

Pedang AI juga sangat tajam di tangan keselamatan rangkaian.

Jom bersiap!

Atas ialah kandungan terperinci GPT-4 panas ada di sini!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!