Adakah AI akan menggantikan manusia? Robot ChatGPT boleh mengesan kelemahan, menyemak kod dan membetulkan pepijat

Pada 30 November, OpenAI Research Laboratory melancarkan chatbot ChatGPT, yang telah menjadi "ayam panas popular" dalam bidang kecerdasan buatan.

Orang yang mempunyai akaun bertanyakan semua jenis soalan liar, orang yang tidak mempunyai akaun meminta panduan pendaftaran akaun, malah Elon Musk secara terbuka mengulasnya di Twitter bahawa ia adalah "menakutkan". Mulai 5 Disember, waktu tempatan, ChatGPT mempunyai lebih daripada 1 juta pengguna.

Untuk pengamal keselamatan rangkaian, apakah yang boleh ChatGPT lakukan? Mungkin itu pengauditan kod, pengesanan kerentanan, perisian penulisan atau kod shell terbalik.

Apakah itu GPT?

Menurut OpenAI, ChatGPT disokong oleh model siri GPT-3.5 dan dilatih menggunakan data teks dan kod daripada superkomputer Azure AI.

GPT ialah singkatan Generative PreTraining Ia adalah model pemprosesan bahasa semula jadi (NPL) untuk penjanaan teks pengguna yang dibangunkan oleh OpenAI, sebuah syarikat penyelidikan dan pembangunan kecerdasan buatan. Versi awam semasa GPT ialah GPT-3, yang dikeluarkan pada Mei 2020. GPT-3.5 ialah versi GPT-3 yang diperhalusi masih belum mengumumkan kemas kini secara rasmi.

Menurut maklumat awam GPT-3, ia merupakan rangkaian saraf terbesar pada masa itu, model pembelajaran mendalam bahasa semula jadi dengan 175 bilion parameter.

Bagaimanakah profesional keselamatan Internet menggunakan ChatGPT?

Walaupun ChatGPT nampaknya mengetahui segala-galanya daripada astronomi hinggalah ke geografi, selain daripada menjawab soalan dan bijak menulis artikel, ia nampaknya tidak berguna kepada pengamal keselamatan rangkaian?

Malah, tujuan ChatGPT bukan sekadar soal jawab Ia boleh menjawab sebarang teks, sama ada teks bahasa atau teks kod. Ramai profesional keselamatan rangkaian telah mula mencuba untuk membangunkan pelbagai kegunaan ChatGPT. Berikut ialah penggunaan yang ditemui oleh profesional keselamatan rangkaian:

1 Menyahpepijat dan membaiki kod

ChatGPT bukan sahaja boleh mencari ralat dalam kod, tetapi juga membaikinya dan. gunakan ayat bahasa Inggeris yang mudah untuk menerangkan pembetulan kepada anda.

2. Kesan kelemahan keselamatan, dan mungkin mencipta PoC

CtGPT boleh menentukan sama ada sekeping kod mengandungi kerentanan keselamatan, dan ia akan menerangkan sebab bagi tekad dalam bahasa mudah. Sesetengah pengguna menunjukkan bahawa OpenAI boleh mengesan kelemahan XSS dalam sampel kod, dan mungkin AI boleh dilatih untuk melangkah lebih jauh dan memintanya untuk menyediakan PoC tentang kelemahan itu.

3. Gunakan mesin maya maya

Penyelidik Jonas Degrave menunjukkan cara menukar ChatGPT menjadi terminal Linux sepenuhnya dan berinteraksi dengan "mesin maya" melalui pelayar "Interaksi. Malah, terminal itu tidak menjalankan mesin maya Linux sebenar, dan respons kepada input baris arahan sepenuhnya berdasarkan perbualan dengan AI.

CtGPT menjadi terminal Linux

4 Dimensi traverse dengan ChatGPT

Dalam ujian, Penyelidik menyediakan. teks berikut kepada ChatGPT, meminta lintasan dimensi, dan maklum balas ChatGPT ialah "Portal telah berjaya dibuka."

Gunakan ChatGPT untuk merentasi dimensi

5 Hasilkan imbasan nama

Sama seperti menggunakan terminal Linux maya. di atas, menjana imbasan namp dengan ChatGPT tidak memerlukan menjalankan aplikasi nmap sebenar.

6. Tulis perisian dengan pengekodan sifar

Penyelidik meminta ChatGPT untuk "membuat program PHP untuk mengimbas port terbuka pada hos" dan mendapat keputusan berikut.

Benjamin J Radford, seorang peminat pembelajaran mesin dan penolong profesor UNCC, meminta ChatGPT untuk "menulis kod untuk permainan Taktik ke dalam fail, menggunakan gcc untuk menyusun fail dan kemudian melaksanakannya." .

Kod PHP ChatGPT ditulis mengikut keperluan

7 Kejuruteraan balik shellcode dan tulis semula dalam bahasa C

ChatGPT dapat menyahkod rentetan base64 dan cincangan MD5 bagi rentetan terbalik (yang diketahui), yang amat berguna untuk jurutera songsang dan penganalisis perisian hasad semasa menyemak sampel yang dikaburkan, diduplikasi, dikodkan atau diminimumkan.

Penyelidik juga menggunakan ChatGPT untuk menyahkod kod shell yang dikodkan ascii secara rawak Hasilnya, ChatGPT bukan sahaja menerangkan fungsi itu, tetapi juga menulisnya semula dalam bahasa C.

Apa yang tidak boleh dilakukan oleh ChatGPT?

Sudah tentu, ChatGPT mempunyai pengehadan yang jelas tentang beberapa masalah semasa dengan AI, seperti korpus pembelajaran pada 2021, dan ia tidak dapat menjawab apa yang akan berlaku pada 2022 dan seterusnya. Pada masa yang sama, ia memerlukan sambungan Internet untuk digunakan. Jika Internet tidak disambungkan, kandungan respons datang daripada model yang dilatih di luar talian. Contohnya, ChatGPT tidak dapat menjawab cuaca hari ini apabila tidak disambungkan ke Internet.

Penyelidik menyatakan bahawa ChatGPT kadangkala memberikan jawapan yang kelihatan munasabah tetapi tidak betul. ChatGPT juga sedikit tidak bertindak balas terhadap perubahan perkataan dalam teks input. Apabila ia tidak dapat menjawab soalan, ChatGPT boleh menjawabnya dengan mengubah sedikit cara ia bertanya.

Model ini juga kadangkala mempunyai jawapan yang terlalu bertele-tele, menggunakan frasa tertentu berulang kali atau boleh diramal. OpenAI berkata ini mungkin hasil daripada berat sebelah data latihan, kerana jurulatih lebih suka jawapan yang kaya dan komprehensif.

Kadangkala model meneka niat pengguna apabila menjawab soalan yang tidak jelas.

Pembangun berkata bahawa masalah terbesar dengan ChatGPT ialah walaupun OpenAI telah melatih model untuk menolak arahan atau soalan yang tidak sesuai, ia mungkin masih bertindak balas kepada arahan yang berbahaya atau menunjukkan tingkah laku berat sebelah.

Untuk menangani batasan ini, OpenAI berkata ia merancang untuk mengemas kini model secara kerap sambil mengumpul maklum balas pengguna mengenai output model yang bermasalah. OpenAI amat mengambil berat tentang "kemungkinan keluaran berbahaya, risiko baharu dan kemungkinan pengurangan," dan syarikat itu juga mengumumkan ia akan menganjurkan pertandingan maklum balas ChatGPT dengan hadiah $500 dalam mata API.

Atas ialah kandungan terperinci Adakah AI akan menggantikan manusia? Robot ChatGPT boleh mengesan kelemahan, menyemak kod dan membetulkan pepijat. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!