Apakah trend pembangunan chatbot kecerdasan buatan dalam bidang keselamatan siber?

Bot sembang ChatGPT yang dilancarkan oleh OpenAI mempunyai banyak kegunaan yang baik, tetapi seperti mana-mana teknologi baharu, sesetengah orang akan menggunakan ChatGPT untuk tujuan jahat.

Daripada tugasan yang agak mudah seperti menulis e-mel kepada pekerjaan yang lebih kompleks seperti menulis kertas atau menyusun kod, ChatGPT, alat pemprosesan bahasa semula jadi yang dipacu kecerdasan buatan OpenAI, telah Ia telah membangkitkan minat yang besar sejak pelancarannya.

Sudah tentu, ChatGPT tidak sempurna – ia diketahui melakukan kesilapan apabila salah tafsir maklumat yang dipelajarinya, tetapi ramai yang melihatnya dan alatan AI lain sebagai masa depan internet.

OpenAI telah menambah entri pada syarat perkhidmatan ChatGPT yang melarang penjanaan perisian hasad, termasuk perisian tebusan, keylogger, virus atau perisian lain yang direka untuk mendatangkan beberapa tahap bahaya, dan juga melarang percubaan untuk mencipta e-mel spam, dan menggunakan kes terhadap jenayah siber.

Namun, seperti mana-mana teknologi inovatif, sudah ada orang yang cuba menggunakan ChatGPT untuk tujuan jahat.

Sejurus selepas ChatGPT dikeluarkan, penjenayah siber menyiarkan di forum bawah tanah membincangkan cara ChatGPT boleh digunakan untuk membantu menjalankan aktiviti siber yang berniat jahat, seperti menulis e-mel pancingan data atau membantu menyusun perisian hasad.

Terdapat kebimbangan bahawa penjenayah siber akan cuba menggunakan ChatGPT dan alat kecerdasan buatan lain (seperti Google Bard) sebagai sebahagian daripada usaha mereka. Walaupun alat AI ini tidak akan merevolusikan serangan siber, ia masih boleh membantu penjenayah siber menjalankan kempen berniat jahat dengan lebih berkesan.

Sergey Shykevich, pengurus perisikan ancaman di penyedia perkhidmatan keselamatan siber CheckPoint, berkata, “Sekurang-kurangnya dalam jangka pendek, saya tidak fikir ChatGPT akan mencipta jenis serangan siber yang baharu. Tumpuan akan diberikan kepada peningkatan kos operasi harian mereka.”

Serangan pancingan data ialah komponen paling biasa dalam kempen penggodaman dan penipuan berniat jahat. Sama ada penyerang siber menggunakan e-mel untuk menyebarkan perisian hasad, pautan pancingan data atau digunakan untuk meyakinkan mangsa untuk memindahkan wang, e-mel pada mulanya merupakan alat utama yang digunakan untuk paksaan.

Pergantungan pada e-mel bermakna kumpulan penjenayah memerlukan aliran kandungan yang jelas dan tersedia secara berterusan. Dalam banyak kes, terutamanya pancingan data, matlamat penyerang siber adalah untuk meyakinkan orang ramai untuk melakukan sesuatu, seperti memindahkan wang. Nasib baik, kebanyakan percubaan pancingan data ini kini mudah dikenal pasti sebagai spam, tetapi penulisan salinan automatik yang berkesan boleh menjadikan e-mel ini lebih ketara.

Jenayah siber ialah industri global dan penjenayah siber menghantar e-mel pancingan data kepada sasaran yang berpotensi di seluruh dunia, yang bermaksud bahasa boleh menjadi penghalang, terutamanya bagi mereka yang mempunyai serangan lembing yang lebih canggih Dalam kes kempen pancingan data, kempen ini bergantung pada mangsa yang percaya bahawa mereka bercakap dengan kenalan yang boleh dipercayai - jika e-mel dipenuhi dengan ejaan yang luar biasa dan kesilapan tatabahasa atau tanda baca ganjil, orang kurang berkemungkinan untuk mempercayai mereka Bercakap dengan rakan atau rakan sekerja.

Tetapi jika AI dimanfaatkan dengan betul, chatbots boleh menulis teks untuk e-mel dalam mana-mana bahasa yang dikehendaki oleh penyerang siber.

Shykevich berkata: “Sebagai contoh, halangan terbesar bagi penjenayah siber Rusia ialah bahasa - Bahasa Inggeris Mereka kini mengupah graduan kolej dengan jurusan Bahasa Inggeris untuk menulis artikel untuk e-mel pancingan data atau bekerja di pusat panggilan, dan mereka perlu This pays. untuk itu. Alat seperti ChatGPT boleh menjimatkan banyak wang untuk mencipta semua jenis mesej pancingan data yang berbeza, dan saya fikir itulah yang mereka akan cari."

Secara teori, terdapat beberapa perlindungan. diambil untuk mengelakkan penyalahgunaan, sebagai contoh, ChatGPT memerlukan pengguna mendaftarkan alamat e-mel dan juga memerlukan nombor telefon untuk mengesahkan pendaftaran.

Walaupun ChatGPT boleh menolak untuk menulis e-mel pancingan data, ia boleh diminta untuk membuat templat e-mel untuk mesej lain yang lazimnya dieksploitasi oleh penyerang siber. Percubaan sedemikian mungkin termasuk mesej seperti mengumumkan bonus tahunan, bahawa kemas kini perisian penting mesti dimuat turun dan dipasang, atau lampiran perlu disemak sebagai perkara yang mendesak.

Adam Meyers, naib presiden kanan di keselamatan siber dan penyedia risikan ancaman Crowdstrike, berkata: “Membuat e-mel yang meyakinkan seseorang untuk mengklik pada pautan untuk mendapatkan sesuatu seperti jemputan mesyuarat, tetapi jika bahasa ibundanya bukan If anda tidak berbahasa Inggeris, anda mungkin tidak dapat melakukannya. Anda boleh meminta ChatGPT untuk membuat surat jemputan yang berformat indah dan betul dari segi tatabahasa Jika anda bukan penutur asli bahasa Inggeris, anda mungkin tidak dapat melakukannya.

Penyalahgunaan alatan ini tidak terhad kepada e-mel, penjenayah boleh menggunakannya untuk membantu menskrip sebarang platform dalam talian berasaskan teks. Ini boleh menjadi alat yang berguna untuk penyerang siber yang menjalankan penipuan, atau kumpulan ancaman siber lanjutan yang cuba menjalankan pengintipan - terutamanya untuk mencipta profil sosial palsu untuk menarik orang ramai.

Kelly Shortridge, pakar keselamatan siber dan ahli teknologi produk utama kanan di penyedia pengkomputeran awan Fastly, berkata: "Jika anda ingin membina perniagaan yang boleh dipercayai, anda boleh menyiarkan kenyataan perniagaan yang kelihatan munasabah di LinkedIn untuk menjadikan anda kelihatan seperti orang lain. Ahli perniagaan tulen yang pelanggannya cuba menjalinkan hubungan akan menjadi calon yang sempurna untuk menerima pakai ChatGPT."

Pelbagai kumpulan penggodaman cuba menggunakan LinkedIn dan platform media sosial lain sebagai alat untuk menjalankan operasi pengintipan siber, tetapi mencipta palsu tetapi sah -yang kelihatan. Membuat profil dalam talian dan mengisinya dengan siaran dan maklumat adalah proses yang memakan masa.

Shortridge percaya bahawa penyerang siber boleh menggunakan alat kecerdasan buatan seperti ChatGPT untuk menulis kandungan yang meyakinkan, sambil turut mendapat manfaat daripada menjadi kurang berintensif buruh berbanding usaha manusia.

"Banyak kempen kejuruteraan sosial ini memerlukan banyak usaha kerana anda perlu membina profil tersebut," katanya. Dia percaya alatan AI boleh merendahkan halangan untuk masuk dengan ketara.

"Saya percaya ChatGPT boleh menulis artikel yang sangat meyakinkan," katanya

Sifat inovasi teknologi bermakna apabila sesuatu yang baharu muncul, akan sentiasa ada seseorang yang cuba memanfaatkannya. untuk mencapai tujuan jahat. Walaupun pembangun menggunakan cara yang paling inovatif untuk mencegah penyalahgunaan, sifat licik penjenayah siber dan penipu bermakna mereka mungkin mencari cara untuk memintas perlindungan.

Shykevich berkata: "Tidak ada cara untuk menghapuskan sepenuhnya penyalahgunaan kepada sifar. Ini tidak akan berlaku dalam mana-mana sistem Dia berharap untuk menyerlahkan isu keselamatan siber yang berpotensi tentang cara menghalang chatbot kecerdasan buatan daripada digunakan. Perbincangan lanjut." untuk tujuan yang salah.

Beliau berkata, “ChatGPT ialah teknologi yang hebat, tetapi seperti mana-mana teknologi baharu, ia mempunyai risiko, dan adalah penting untuk berbincang dan menyedari risiko tersebut, saya fikir semakin kita bercakap mengenainya, semakin terbuka AI dan Syarikat yang serupa lebih berkemungkinan untuk melabur lebih banyak dalam mengurangkan penyalahgunaan ”

Bot sembang kecerdasan buatan seperti ChatGPT juga mempunyai faedah dalam keselamatan siber. Mereka sangat mahir dalam memproses dan memahami kod, jadi anda boleh menggunakannya untuk membantu pembela memahami perisian hasad. Memandangkan mereka juga boleh menulis kod, dengan membantu pembangun menyiapkan projek, alatan ini boleh membantu mencipta kod yang lebih baik dan selamat dengan lebih pantas, yang memberi manfaat kepada semua orang.

Jeff Pollard, ketua penganalisis di firma penyelidikan Forrester, menegaskan bahawa ChatGPT boleh mengurangkan dengan ketara masa yang diperlukan untuk menjana laporan insiden keselamatan.

"Membalikkan keadaan dengan lebih pantas bermakna lebih banyak masa untuk melakukan perkara lain - seperti ujian, penilaian, penyiasatan dan tindak balas, yang semuanya menyumbang kepada skala pasukan keselamatan," tambahnya Katakanlah, bot itu boleh mencadangkan langkah seterusnya berdasarkan data yang ada.

"Jika orkestrasi keselamatan, automasi dan tindak balas disediakan dengan betul untuk mempercepatkan pengambilan semula artifak, ini boleh mempercepatkan pengesanan dan tindak balas serta membantu penganalisis pusat operasi keselamatan membuat keputusan yang lebih baik," katanya

Oleh itu chatbots mungkin menyukarkan kehidupan bagi sesetengah syarikat keselamatan siber, tetapi mungkin juga terdapat satu kelebihan.

Media industri menghubungi OpenAI untuk mendapatkan ulasan tetapi tidak menerima balasan. Bagaimanapun, wartawan bertanya apakah peraturan ChatGPT untuk mengelakkannya daripada disalahgunakan untuk pancingan data. Mendapat respons berikut: "Adalah penting untuk ambil perhatian bahawa walaupun model bahasa AI seperti ChatGPT boleh menghasilkan teks yang serupa dengan e-mel pancingan data, mereka tidak boleh melakukan tindakan berniat jahat sendiri dan memerlukan niat dan tindakan pengguna untuk menyebabkan bahaya. Oleh itu, Pengguna dinasihatkan untuk bersenam berhati-hati dan pertimbangan yang baik apabila menggunakan teknologi kecerdasan buatan, dan berhati-hati terhadap pancingan data dan aktiviti berniat jahat yang lain ”

Atas ialah kandungan terperinci Apakah trend pembangunan chatbot kecerdasan buatan dalam bidang keselamatan siber?. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!