Terus di tapak RSAC: Alat kecerdasan buatan telah menjadi topik paling hangat tahun ini!

Terdapat topik hangat pada persidangan RSAC tahun ini di San Francisco: alat kecerdasan buatan. Potensi kecerdasan buatan generatif dalam alat keselamatan siber telah mencetuskan minat dalam kalangan profesional keselamatan siber. Tetapi persoalan telah dibangkitkan tentang aplikasi praktikal AI dalam keselamatan siber, serta kebolehpercayaan data yang digunakan untuk membina model AI.

M.K. Palmore, perunding strategik keselamatan siber dan ahli lembaga Google Cloud dan Cyversity, berkata dalam satu temu bual: Kami kini dalam pusingan pertama bertarung dengan kecerdasan buatan, dan kami belum tahu apa kesannya kecerdasan buatan pada industri keselamatan siber akan menjadi seberapa besarnya, kita tidak tahu keputusan akhir. Tetapi kami berharap bahawa keseluruhan syarikat kini bergerak ke arah yang juga menunjukkan bahawa kami melihat nilai dan penggunaan kecerdasan buatan untuk memberi kesan positif kepada industri.

Walau bagaimanapun, Palmore juga mengakui bahawa kami masih mempunyai banyak perkara yang perlu dilakukan dalam pembangunan kecerdasan buatan. Dia percaya bahawa apabila perkara berubah dan berkembang, kita semua mesti beralih untuk menyesuaikan diri dengan model baharu ini dan menjadikan model bahasa besar (llm) dan kecerdasan buatan ini tersedia untuk kita. Dan Lohrmann, ketua pegawai keselamatan maklumat di Presidio, percaya bahawa kecerdasan buatan masih di peringkat awal dalam keselamatan siber. Apabila topik alat kecerdasan buatan disebut pada persidangan RSAC, beliau percaya bahawa ini akan menjadi revolusi, dan kecerdasan buatan akan mengubah sebahagian besar produk. Ini boleh mengubah serangan dan pertahanan, sama seperti cara kami membina pasukan merah dan biru kami.

Selain itu, beliau menyatakan bahawa masih banyak jalan untuk memperkemas alatan yang digunakan oleh pasukan keselamatan. Dia berkata: "Saya tidak fikir kita akan mencapai satu anak tetingkap pemantauan dan pengurusan sumber, tetapi ini adalah yang paling diselaraskan yang pernah saya lihat.

Tambahkan AI pada alatan keselamatan

Semasa persidangan RSAC 2023, banyak syarikat bercakap tentang cara mereka menggunakan kecerdasan buatan generatif dalam alat keselamatan Contohnya, Google melancarkan alat kecerdasan buatan generatifnya dan LLM keselamatan, Sec-PaLM kini dibina berdasarkan kecerdasan canggih Mandiant , perisian hasad, penunjuk ancaman dan profil pelakon ancaman tingkah laku, kata Stephen Hay, pengarah pengalaman pengguna di Google Cloud Titik penting di mana ia boleh mengkontekstualisasikan maklumat dengan cara yang tidak mungkin sebelum ini. Ini bermakna kami kini mempunyai AI generatif sebenar 🎜>

Sementara itu, Perkhidmatan Web Amazon Mark Ryland, Pengarah Pejabat Ketua Pegawai Keselamatan Maklumat Perkhidmatan) menekankan cara menggunakan kecerdasan buatan generatif untuk mengesan aktiviti ancaman dalam kehidupan seharian dan meminimumkan positif palsu melakukan ini dengan berkesan adalah untuk melatih mesin dengan lebih banyak Pembelajaran juga merupakan teras perkhidmatan keselamatan kami

Syarikat baru-baru ini mengumumkan alat baharu untuk membina AWS yang dipanggil Amazon Bedrock yang merangkumi perkhidmatan kecerdasan buatan menyediakan akses API kepada model asas (fm) daripada AI21 Labs, Anthropic, Stability AI dan Amazon Selain itu, Tenable telah melancarkan alat keselamatan AI generatif yang direka khusus untuk komuniti penyelidikan Laporan yang dikeluarkan baru-baru ini "How Generative Artificial Intelligence is Transforming Security Penyelidikan" meneroka bagaimana LLM boleh mengurangkan kerumitan dan meningkatkan keselamatan dalam bidang penyelidikan seperti kejuruteraan terbalik, kod penyahpepijatan, meningkatkan keselamatan aplikasi web dan keterlihatan alat awan. Kecekapan.

Laporan itu menyatakan bahawa ChatGPT sedang membangun pada tahap yang "membimbangkan pace" Berkenaan alat kecerdasan buatan dalam platform keselamatan siber, Ketua Pegawai Keselamatan Tenable Bob Huber berkata bahawa alatan ini membolehkan anda membina pangkalan data, seperti Jika anda sedang mencari ujian penembusan dan sasaran adalah , beliau menambah bahawa beberapa syarikat sudah mula menggunakan LLM, sambil menyatakan bahawa data yang menjadi asas LLM tidak semestinya disahkan atau tepat, jadi pagar perlu disediakan untuk membina LLM dengan data mereka sendiri, lebih boleh dipercayai adalah kebimbangan bahawa pautan kepada LLM seperti GPT boleh menjejaskan keselamatan Sebagai pengamal keselamatan, adalah penting untuk memahami risiko. Tetapi Huber menegaskan bahawa orang ramai tidak mempunyai masa yang cukup untuk memahami risiko AI generatif. Alat ini semuanya direka untuk memudahkan kerja pembela, tetapi Ismael Valenzuela, naib presiden penyelidikan dan perisikan ancaman BlackBerry, menyatakan batasan AI generatif.

Seperti alat lain yang kami sebagai pembela gunakan, penyerang lain akan menggunakannya juga. Jadi cara terbaik untuk menggunakan alat AI generatif ini adalah sebagai pembantu. Jelas bahawa ia benar-benar membantu kami berkembang. Tetapi jika anda mengharapkan ia benar-benar mengubah segala-galanya, jawapannya adalah tidak.

Atas ialah kandungan terperinci Terus di tapak RSAC: Alat kecerdasan buatan telah menjadi topik paling hangat tahun ini!. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!