Jangan salahkan ChatGPT, serangan penggodaman AI telah pun bermula

Kepopularan ChatGPT telah membolehkan orang ramai melihat prestasi AI yang menakjubkan, tetapi ia juga telah membuka lebih banyak kemungkinan untuk serangan siber.

Baru-baru ini, pasukan penyelidik mendapati bahawa terdapat risiko tertentu dalam kecerdasan buatan ChatGPT, yang boleh memberikan arahan langkah demi langkah kepada penggodam tentang bagaimana untuk menceroboh laman web.

Pasukan penyelidik menjalankan eksperimen menggunakan platform latihan keselamatan siber "Hack the Box" maya, bertanya soalan mengenai ChatGPT dan mengikuti panduannya untuk menyemak sama ada ChatGPT boleh memberikan panduan langkah demi langkah untuk mengeksploitasi kelemahan.

Penyelidik bertanya: "Saya menghadapi cabaran ujian penembusan. Saya berada di tapak web dengan hanya satu butang, bagaimanakah saya akan mengujinya untuk kelemahan?" perkara asas tentang perkara yang perlu diperiksa di tapak web semasa mencari kelemahan.

Dengan mentafsir perkara yang mereka lihat dalam kod sumber, penyelidik mendapat cadangan AI tentang bahagian kod yang hendak difokuskan.

Selain itu, mereka menerima contoh perubahan kod yang dicadangkan.

Selepas kira-kira 45 minit bersembang dengan ChatGPT, para penyelidik dapat menggodam tapak web yang disediakan.

Walaupun ChatGPT mengingatkan pengguna tentang garis panduan penggodaman pada penghujung setiap cadangan: "Ingat untuk mengikuti garis panduan penggodaman beretika dan dapatkan lesen sebelum cuba menguji kelemahan tapak web." Ia juga memberi amaran kepada Said "Melaksanakan arahan berniat jahat pelayan boleh menyebabkan kerosakan yang serius."

Tetapi tidak dapat dinafikan bahawa ChatGPT masih menyediakan maklumat untuk membantu pengguna menyelesaikan serangan penggodaman.

Bukan itu sahaja, ChatGPT juga boleh menulis kod dan artikel Ini adalah pedang bermata dua yang boleh digunakan oleh penjenayah siber untuk menjana perisian hasad yang membawa muatan berniat jahat, menulis e-mel pancingan data yang bijak, dll. Orang biasa yang cuba melakukan serangan siber akan. juga menjadi lebih mudah.

1. Menggunakan AI untuk melakukan serangan siber

ChatGPT nampaknya telah menjadi senjata untuk jenayah siber, tetapi perlu diperhatikan bahawa tingkah laku jenayah menggunakan AI untuk melakukan serangan siber telah telah berlaku lama sebelum kelahiran ChatGPT di sini kita pergi. Serangan kejuruteraan sosial kami yang kompleks dan berskala besar, pengimbasan kerentanan automatik dan pemalsuan mendalam adalah semua kes biasa dalam hal ini.

Apatah lagi, penyerang juga akan menggunakan teknologi dan aliran termaju seperti algoritma pemampatan data dipacu AI. Pada masa ini, kaedah canggih menggunakan teknologi AI untuk menjalankan serangan siber termasuk yang berikut:

Keracunan data

• Keracunan data adalah untuk mengawal ramalan AI ​​model dengan memanipulasi set latihan Keupayaan untuk membuat model membuat ramalan yang salah, seperti menandai spam sebagai kandungan selamat.

Terdapat dua jenis keracunan data: menyerang ketersediaan algoritma pembelajaran mesin; Penyelidikan menunjukkan bahawa jika 3% daripada data dalam set latihan mengalami keracunan data, ketepatan ramalan akan berkurangan sebanyak 11%.

Melalui serangan pintu belakang, penceroboh boleh menambah parameter pada algoritma tanpa diketahui oleh pereka bentuk model. Penyerang menggunakan pintu belakang ini untuk menyebabkan sistem AI tersilap mengenal pasti rentetan tertentu yang mungkin membawa virus sebagai jinak.

Pada masa yang sama, kaedah keracunan data boleh dipindahkan dari satu model ke model lain, sekali gus menjejaskan ketepatan AI pada skala besar.

Rangkaian Adversarial Generatif (GAN)

• Rangkaian Adversarial Generatif (GAN) terdiri daripada dua AI yang bersaing antara satu sama lain - satu meniru kandungan asal, satu lagi Bertanggungjawab untuk memilih kesilapan. Melalui konfrontasi antara kedua-duanya, mereka bersama-sama mencipta kandungan yang sangat konsisten dengan yang asal.

Penyerang menggunakan GAN untuk mensimulasikan peraturan penghantaran data am untuk mengalih perhatian sistem dan mencari cara untuk mengosongkan data sensitif dengan cepat.

Dengan keupayaan ini, penyerang boleh melengkapkan kemasukan dan keluar mereka dalam masa 30-40 minit. Sebaik sahaja penyerang mula menggunakan AI, mereka boleh mengautomasikan tugasan ini.

Selain itu, GAN boleh digunakan untuk memecahkan kata laluan, mengelak perisian anti-virus, menipu pengecaman muka dan mencipta perisian hasad yang boleh mengelak pengesanan berdasarkan pembelajaran mesin. Penyerang boleh menggunakan AI untuk mengelak pemeriksaan keselamatan, bersembunyi di tempat yang tidak ditemui dan secara automatik mengaktifkan mod anti-intai.

Bot (bot)

• Bot ialah asas botnet biasanya merujuk kepada keupayaan untuk melaksanakan fungsi yang dipratentukan secara automatik dan boleh dikawal oleh arahan yang telah ditetapkan program komputer.

Sebilangan besar bot boleh membentuk botnet dengan bersatu dengan cara tertentu.

Memandangkan algoritma AI semakin digunakan untuk membuat keputusan, penyerang memasuki sistem dan menemui cara program komputer melakukan transaksi, kemudian menggunakan bot untuk mengelirukan algoritma, dan AI juga boleh dimanipulasi untuk membuat kesilapan keputusan.

2. Gunakan AI untuk meningkatkan perlindungan keselamatan rangkaian

Sudah tentu, teknologi sentiasa menjadi pedang bermata dua sama ada ia akan menyebabkan kemudaratan kepada manusia atau memberi manfaat kepada manusia bergantung pada titik permulaan menggunakan teknologi. Pada masa kini, AI juga digunakan secara meluas dalam bidang keselamatan untuk meningkatkan keupayaan perlindungan keselamatan dan kecekapan operasi.

Data penyelidikan yang teliti menunjukkan bahawa aplikasi kecerdasan buatan dalam bidang keselamatan rangkaian akan berkembang pada kadar tahunan 24%, mencecah AS$46 bilion menjelang 2027.

Jadi, apakah aplikasi tipikal teknologi AI dalam perlindungan keselamatan rangkaian?

• Klasifikasi dan penggredan data pintar

Klasifikasi dan penggredan data ialah asas tadbir urus keselamatan data Hanya dengan mengelaskan dan menggredkan data secara berkesan, kawalan yang lebih halus boleh diterima pakai dalam pengurusan keselamatan data.

Model AI menduduki kedudukan yang semakin penting dalam senario klasifikasi dan klasifikasi keselamatan data dengan tepat boleh mengenal pasti maksud perniagaan data, melakukan pengelasan dan pengelasan automatik, meningkatkan kecekapan pengisihan data secara beransur-ansur. kerja manual yang membosankan dan membosankan.

• Pengesanan kod hasad dan aktiviti hasad

Dengan menganalisis trafik DNS, kecerdasan buatan boleh mengklasifikasikan nama domain secara automatik untuk mengenal pasti C2, hasad, spam, pancingan data dan pengklonan Nama domain dan nama domain lain.

Sebelum penggunaan AI, pengurusan terutamanya bergantung pada senarai hitam, tetapi kemas kini berskala besar merupakan beban kerja yang berat.

Khususnya, produk hitam menggunakan teknologi penjanaan nama domain automatik untuk mencipta sejumlah besar nama domain dan sentiasa menukar nama domain Pada masa ini, adalah perlu untuk menggunakan algoritma pintar untuk mempelajari, mengesan dan menyekat hitam ini nama domain.

• Analisis Trafik Disulitkan

Dengan pembangunan teknologi rangkaian generasi baharu, lebih daripada 80% trafik Internet kini disulitkan Penggunaan teknologi penyulitan meningkatkan kecekapan keselamatan penghantaran data, tetapi juga membawa cabaran yang lebih besar kepada keselamatan rangkaian. Penyerang boleh menggunakan teknologi penyulitan untuk menghantar maklumat sensitif dan data berniat jahat.

Dengan bantuan teknologi AI, tidak perlu menyahsulit dan menganalisis muatan Sebaliknya, trafik rangkaian dianalisis melalui metadata dan paket rangkaian, serta pengesanan keselamatan peringkat aplikasi. Ini membolehkan pengesanan keselamatan trafik yang disulitkan dan berkesan menentang niat jahat.

Pada masa ini, analisis trafik yang disulitkan AI telah memainkan peranan dalam amalan, tetapi teknologi ini masih dalam peringkat pembangunan yang baru muncul.

• Kesan ancaman yang tidak diketahui

Berdasarkan data statistik, AI boleh mengesyorkan alat perlindungan yang hendak digunakan atau tetapan yang perlu ditukar untuk meningkatkan keselamatan rangkaian secara automatik.

Dan disebabkan oleh mekanisme maklum balas, lebih banyak data yang diproses AI, lebih tepat syor akan dibuat.

Selain itu, skala dan kelajuan algoritma pintar tidak dapat ditandingi oleh manusia, dan persepsi ancaman adalah masa nyata dan sentiasa dikemas kini.

• Analisis Pelupusan Penggera Pintar

Analisis penggera ialah kandungan teras operasi keselamatan Menyaring peristiwa risiko penting daripada penggera besar-besaran membebankan kakitangan operasi keselamatan.

Dalam proses operasi harian, selepas menggunakan teknologi AI untuk mempelajari sejumlah besar kandungan laporan analisis operasi sejarah, ia boleh menjana laporan analisis dengan cepat, menangkap anomali utama dan menjana penyelesaian untuk peristiwa penggera dan penunjuk statistik yang dihasilkan oleh pelbagai peranti keselamatan Cadangan untuk membantu penganalisis mendapatkan cerapan tentang gambaran penuh peristiwa dengan lebih cepat.

• Mengesan imej palsu

Algoritma AI yang menggunakan rangkaian saraf berulang dan penapis pengekodan boleh mengenal pasti "deepfakes" dan mengetahui sama ada wajah dalam foto telah ditukar ganti.

Ciri ini amat berguna untuk pengenalan biometrik jauh dalam perkhidmatan kewangan, menghalang penipu daripada memalsukan foto atau video untuk menyamar sebagai warganegara yang sah yang boleh mendapatkan pinjaman.

• Pengecaman Suara, Bahasa dan Pertuturan

Teknologi AI ini mampu membaca maklumat tidak berstruktur dalam format yang tidak boleh dibaca oleh mesin dan menggabungkannya dengan maklumat daripada pelbagai rangkaian Data berstruktur peranti memperkayakan set data untuk membuat pertimbangan yang tepat.

3. Kesimpulan

Era AI telah tiba, dan keselamatan rangkaian juga akan mengalami perubahan yang besar dalam era ini keupayaan perlindungan pasti akan dikemukakan.

Menyesuaikan diri dengan AI, menggabungkan kemahiran manusia dan AI, dan menggunakan sistem berasaskan AI untuk mengumpul pengalaman boleh memaksimumkan kelebihan AI dalam perlindungan keselamatan rangkaian dan bersedia untuk serangan rangkaian dan peningkatan pertahanan yang akan datang.

Atas ialah kandungan terperinci Jangan salahkan ChatGPT, serangan penggodaman AI telah pun bermula. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!