Kemunculan ChatGPT mungkin memberi kesan negatif kepada industri keselamatan siber

Sejak dilancarkan pada November 2022, chatbot kecerdasan buatan ChatGPT telah menimbulkan kekecohan kerana prestasinya yang menakjubkan.

Hanya dua bulan selepas sistem penjanaan automatik ini dilancarkan, pengguna aktif bulanan melebihi 100 juta dalam jumlah yang memecahkan rekod. Walau bagaimanapun, sementara popularitinya terus berkembang, perbincangan semasa dalam industri keselamatan siber ialah sama ada teknologi ini boleh membantu mengukuhkan keselamatan rangkaian atau sama ada ia boleh disalahgunakan oleh mereka yang ingin menyemai huru-hara.

Perisian AI mempunyai pelbagai kes penggunaan keselamatan siber, termasuk analisis data lanjutan, mengautomasikan tugasan berulang dan membantu mengira skor risiko. Walau bagaimanapun, sejurus selepas debutnya, ia dengan cepat menjadi jelas bahawa chatbot yang mudah digunakan dan tersedia secara percuma juga boleh membantu penggodam menembusi perisian dan membangunkan alat pancingan data yang canggih.

Jadi, adakah ChatGPT hadiah kepada bidang keselamatan siber, atau "Kotak Pandora" bencana?

Apakah bahaya semasa ChatGPT

Seperti mana-mana kemajuan teknologi baharu, akan sentiasa ada beberapa kesan negatif, dan ChatGPT tidak terkecuali.

Pada masa ini, kebimbangan yang paling membimbangkan tentang chatbots ialah betapa mudahnya untuk mencipta teks pancingan data yang sangat meyakinkan yang berpotensi digunakan dalam e-mel berniat jahat. Kekurangan langkah keselamatan memudahkan pelakon ancaman mengeksploitasi mekanisme ChatGPT Contohnya, pelakon berniat jahat yang bahasa ibundanya bukan bahasa Inggeris boleh mencipta mesej yang realistik dan menarik dalam beberapa saat dengan sintaks yang hampir sempurna.

Memandangkan rakyat Amerika kerugian $40 bilion akibat penipuan ini pada tahun 2022, adalah mudah untuk melihat sebab penjenayah akan menggunakan ChatGPT untuk mendapatkan sekeping pai yang menguntungkan ini.

AI chatbots juga menimbulkan persoalan tentang keselamatan kerja. Sudah tentu, sistem semasa tidak boleh menggantikan profesional terlatih, tetapi teknologi ini boleh mengurangkan dengan ketara bilangan log dan laporan yang perlu disemak oleh pekerja. Ini boleh memberi kesan kepada bilangan penganalisis yang perlu diambil oleh pusat operasi keselamatan (SOC).

Walaupun perisian itu menawarkan beberapa kelebihan kepada perniagaan keselamatan siber, banyak syarikat akan mengguna pakai teknologi itu semata-mata kerana populariti semasa dan cuba menggunakannya untuk menarik pelanggan baharu. Walau bagaimanapun, menggunakan teknologi ini semata-mata kerana popularitinya boleh menyebabkan penyalahgunaan. Syarikat mungkin tidak mempunyai langkah keselamatan yang mencukupi, menghalang kemajuan dalam mewujudkan program keselamatan yang berkesan.

Faedah Keselamatan Siber ChatGPT

Seperti mana-mana teknologi baharu, gangguan adalah bahagian yang tidak dapat dielakkan, tetapi itu tidak semestinya sesuatu yang buruk.

Syarikat keselamatan siber boleh menambah lapisan kecerdasan tambahan selain menapis log audit secara manual atau memeriksa paket rangkaian untuk membezakan ancaman daripada amaran palsu.

Memandangkan ChatGPT dapat mengesan corak dan mencari dalam parameter tertentu, ia juga boleh digunakan untuk tugasan berulang dan penjanaan laporan. Dengan menggunakan ChatGPT sebagai pembantu penyelidik super, syarikat keselamatan siber boleh mengira skor risiko dengan lebih bijak untuk ancaman yang menjejaskan perusahaan mereka.

Sebagai contoh, syarikat keselamatan siber yang berpangkalan di Israel, Orca Security telah mula memanfaatkan kualiti analisis unggul ChatGPT untuk melombong data besarnya dan membantu dalam mengeluarkan amaran keselamatan. Dengan menyedari awal tentang cara chatbots boleh meningkatkan operasi harian mereka, syarikat juga boleh belajar daripada teknologi, yang memberikan kelebihan unik dalam menyesuaikan model mereka untuk mengoptimumkan cara ChatGPT berfungsi untuk perniagaan mereka.

Selain itu, keupayaan pemprosesan bahasa semula jadi chatbot menjadikannya sangat baik dalam menulis e-mel pancingan data, yang bermaksud ia juga bagus untuk mencipta dasar keselamatan yang kompleks. Teks yang jelas ini boleh digunakan pada tapak web keselamatan siber dan dokumen latihan, menjimatkan masa berharga ahli pasukan yang berharga.

Masa depan ChatGPT

Teknologi kecerdasan buatan ChatGPT tersedia dengan mudah di kebanyakan bahagian dunia. Jadi, seperti mana-mana peperangan lain, ia akan menjadi perlumbaan untuk melihat pihak mana yang boleh menggunakan teknologi dengan lebih baik.

Syarikat keselamatan siber perlu terus memerangi pengguna berniat jahat yang akan mencari cara untuk menggunakan ChatGPT untuk menyebabkan bahaya yang belum diketahui oleh syarikat keselamatan siber. Walau bagaimanapun, fakta ini tidak menghalang pelabur dan masa depan ChatGPT kelihatan sangat cerah. Dengan Microsoft melabur $10 bilion dalam Open AI, jelas bahawa pengetahuan dan keupayaan ChatGPT akan terus berkembang.

Untuk versi masa depan teknologi ini, pembangun perisian perlu menyedari kekurangan langkah keselamatannya, dan syaitan ada dalam butirannya.

CtGPT mungkin tidak menyelesaikan masalah ini pada tahap yang besar. Tetapi ia mungkin mempunyai mekanisme untuk menilai tabiat pengguna dan memfokuskan kepada mereka yang menggunakan gesaan yang jelas—seperti "tuliskan saya e-mel pancingan data yang menganggap saya bos seseorang"—atau cuba mengesahkan identiti individu.

AI terbuka malah boleh bekerjasama dengan penyelidik, melatih set data mereka, untuk menilai apabila teks mereka digunakan dalam serangan di tempat lain.

Walau bagaimanapun, semua idea ini datang dengan set masalah mereka sendiri, termasuk peningkatan kos dan isu perlindungan data.

Untuk menangani wabak pancingan data semasa, lebih ramai orang perlu dididik dan membangunkan kesedaran keselamatan untuk mengenali serangan ini. Industri memerlukan lebih banyak pelaburan daripada pengendali telefon mudah alih dan pembekal e-mel untuk mengelakkan serangan.

Kesimpulan

Banyak produk dan perkhidmatan akan berasal daripada ChatGPT, membawa nilai yang besar dan membantu melindungi syarikat yang mengubah dunia. Tetapi sebaliknya, penggodam juga akan mencipta pelbagai alatan baharu yang akan membolehkan mereka menyerang lebih banyak sasaran dengan cara baharu dan dalam masa yang lebih singkat.

Bot sembang kecerdasan buatan akan terus wujud, dan ChatGPT juga menghadapi persaingan yang sengit, Bard Google dan Bing Microsoft berharap dapat bersaing dengan produk Open AI. Intinya, bagaimanapun, ialah syarikat keselamatan siber harus melihat ChatGPT sebagai kedua-dua strategi yang menyerang dan bertahan, bukannya hanya sebagai peluang untuk menjana lebih banyak hasil.

Atas ialah kandungan terperinci Kemunculan ChatGPT mungkin memberi kesan negatif kepada industri keselamatan siber. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!