PwC: 11 trend keselamatan dalam ChatGPT dan AI generatif

Baru-baru ini, penganalisis PwC berkongsi pandangan mereka dengan media teknologi asing VentureBeat tentang cara alatan seperti kecerdasan buatan generatif dan ChatGPT akan mempengaruhi landskap ancaman dan kes penggunaan yang akan muncul untuk pembela.

Mereka percaya bahawa walaupun keupayaan AI untuk menjana kod hasad dan e-mel pancingan data mencipta cabaran baharu untuk perniagaan, ia juga membuka pintu kepada pelbagai kes penggunaan defensif, seperti pengesanan ancaman, pemulihan bimbingan, dan menjamin Kubernetes dan persekitaran awan, dan banyak lagi.

Secara keseluruhan, penganalisis yakin bahawa kes penggunaan pertahanan akan meningkat dalam jangka panjang untuk memerangi penggunaan AI yang berniat jahat.

Berikut ialah 11 ramalan tentang cara AI generatif akan memberi kesan kepada keselamatan siber pada masa hadapan.

1 Penggunaan kepintaran buatan secara berniat jahat

Apabila ia datang kepada. apa yang kita boleh Kita berada pada titik perubahan apabila memanfaatkan kecerdasan buatan, anjakan paradigma yang mempengaruhi semua orang dan segala-galanya. Apabila AI berada di tangan rakyat dan pengguna, perkara hebat boleh berlaku.

Pada masa yang sama, ia boleh digunakan oleh pelakon ancaman berniat jahat untuk tujuan jahat seperti perisian hasad dan e-mel pancingan data yang canggih.

Memandangkan banyak perkara yang tidak diketahui tentang keupayaan dan potensi AI pada masa hadapan, adalah penting bagi organisasi membangunkan prosedur yang mantap untuk membina daya tahan terhadap rangkaian berniat jahat.

Perlu juga ada peraturan berdasarkan nilai sosial, menetapkan penggunaan teknologi ini mestilah beretika. Pada masa yang sama, kita perlu menjadi pengguna "bijak" alat ini dan mempertimbangkan perlindungan yang diperlukan supaya AI memberikan nilai maksimum sambil meminimumkan risiko.

2. Latihan dan output kecerdasan buatan perlu dilindungi

Kini, kecerdasan buatan generatif mempunyai keupayaan untuk Keupayaan untuk membantu perusahaan berubah adalah penting bagi pemimpin untuk bekerjasama dengan syarikat yang mempunyai pemahaman mendalam tentang cara mengemudi pertimbangan keselamatan dan privasi yang semakin meningkat.

Ada dua sebab. Pertama, syarikat mesti melindungi latihan AI kerana pengetahuan unik yang mereka peroleh daripada model penalaan halus akan menjadi kritikal kepada cara mereka menjalankan perniagaan mereka, menyampaikan produk dan perkhidmatan yang lebih baik serta melibatkan diri dengan pekerja, pelanggan dan ekosistem.

Kedua, syarikat juga mesti melindungi isyarat dan reaksi yang mereka perolehi daripada penyelesaian AI generatif kerana ia mencerminkan perkara yang dilakukan oleh pelanggan dan pekerja syarikat dengan teknologi tersebut.

3 Bangunkan dasar penggunaan AI generatif

Apabila anda mempertimbangkan untuk menggunakan kandungan, fail dan aset anda sendiri melatih lagi (memperhalusi) model AI generatif supaya ia boleh beroperasi pada keupayaan unik perniagaan anda dalam konteks (industri/profesional) anda, banyak kes penggunaan perniagaan yang menarik muncul. Dengan cara ini, syarikat boleh menggunakan harta intelek dan pengetahuan unik mereka untuk mengembangkan cara AI generatif berfungsi.

Di sinilah keselamatan dan privasi menjadi penting. Untuk perniagaan, cara anda mendayakan AI generatif untuk menghasilkan kandungan hendaklah menjadi privasi perniagaan anda. Nasib baik, kebanyakan platform AI generatif telah memikirkan perkara ini dari awal dan direka untuk menggesa, mengeluarkan dan memperhalusi kandungan secara selamat dan tertutup.

Walau bagaimanapun, semua pengguna kini memahami perkara ini. Oleh itu, mana-mana perusahaan mesti membangunkan dasar untuk penggunaan AI generatif untuk menghalang data sulit dan peribadi daripada memasuki sistem awam dan mewujudkan persekitaran yang selamat dan terjamin untuk AI generatif dalam perusahaan.

4. Pengauditan keselamatan moden

Kepintaran buatan generatif berkemungkinan membawa kepada inovasi dalam kerja audit. AI generatif yang canggih mempunyai keupayaan untuk mencipta respons yang mengambil kira situasi tertentu semasa ditulis dalam bahasa yang mudah dan boleh difahami.

Apa yang disediakan oleh teknologi ini ialah satu titik untuk maklumat dan panduan, sambil turut mendayakan automasi dokumen dan menganalisis data sebagai tindak balas kepada pertanyaan khusus - semuanya dengan kecekapan yang tinggi. Ia adalah keputusan menang-menang.

Mudah untuk melihat bagaimana keupayaan ini boleh memberikan pengalaman yang lebih baik untuk pekerja kami dan, seterusnya, pengalaman yang lebih baik untuk pelanggan kami.

5 Beri perhatian lebih kepada kebersihan data dan bias penilaian

Sebarang input data ke dalam sistem kecerdasan buatan boleh. berisiko kecurian atau penyalahgunaan. Pertama, menentukan data yang sesuai untuk dimasukkan ke dalam sistem akan membantu mengurangkan risiko kehilangan maklumat sulit dan peribadi.

Selain itu, adalah penting untuk melakukan pengumpulan data yang betul untuk merumuskan petua terperinci dan disasarkan serta memasukkannya ke dalam sistem supaya anda boleh mendapatkan output yang lebih berharga.

Sebaik sahaja anda mempunyai output anda, anda perlu menyemak sama ada terdapat sebarang bias yang wujud dalam sistem. Semasa proses ini, bawa pasukan profesional yang pelbagai untuk membantu menilai sebarang berat sebelah.

Tidak seperti penyelesaian berkod atau berskrip, AI generatif adalah berdasarkan model terlatih, jadi respons yang mereka berikan tidak 100% boleh diramal. Untuk AI generatif memberikan output yang paling boleh dipercayai, ia memerlukan kerjasama antara teknologi di belakangnya dan orang yang memanfaatkannya.

6. Ikuti perkembangan risiko dan kuasai asas-asas

Kini AI generatif sedang digunakan secara meluas Mengguna pakai dan melaksanakan langkah keselamatan yang kukuh adalah perlu untuk melindungi daripada pelaku ancaman. Keupayaan teknologi ini membolehkan penjenayah siber mencipta imej palsu dan lebih mudah melaksanakan serangan perisian hasad dan perisian tebusan, dan syarikat perlu bersedia menghadapi cabaran ini.

Langkah siber yang paling berkesan terus mendapat perhatian paling sedikit: Dengan mengekalkan asas kebersihan siber dan memampatkan sistem warisan yang besar, syarikat boleh mengurangkan penjenayah siber.

Menyatukan persekitaran operasi boleh mengurangkan kos, membolehkan syarikat memaksimumkan kecekapan dan menumpukan pada meningkatkan langkah keselamatan siber mereka.

7. Cipta pekerjaan dan tanggungjawab baharu

Secara keseluruhan, saya mengesyorkan agar syarikat mempertimbangkan untuk menerima AI generatif, bukan untuk membina tembok api dan boikot - tetapi dengan perlindungan yang sesuai dan mitigasi risiko disediakan. AI Generatif mempunyai beberapa potensi yang sangat menarik dari segi cara kerja dilakukan; ia sebenarnya boleh membantu membebaskan masa manusia untuk analisis dan penciptaan.

Kemunculan AI generatif berpotensi membawa kepada pekerjaan dan tanggungjawab baharu yang berkaitan dengan teknologi itu sendiri - dan mewujudkan tanggungjawab untuk memastikan AI digunakan secara beretika dan bertanggungjawab.

Ia juga memerlukan pekerja yang menggunakan maklumat untuk membangunkan kemahiran baharu - keupayaan untuk menilai dan mengenal pasti sama ada kandungan yang dicipta adalah tepat.

Sama seperti kalkulator digunakan untuk tugasan mudah berkaitan matematik, masih terdapat banyak kemahiran manusia yang perlu diterapkan dalam penggunaan harian AI generatif, seperti pemikiran kritis dan Penyesuaian dengan tujuan—untuk melepaskan kuasa penuh AI generatif.

Jadi walaupun pada zahirnya ia mungkin kelihatan seperti ancaman dari segi keupayaan untuk mengautomasikan tugas manusia, ia juga boleh melancarkan kreativiti dan membantu orang ramai cemerlang dalam pekerjaan mereka.

8. Manfaatkan kecerdasan buatan untuk mengoptimumkan pelaburan rangkaian

Walaupun dalam keadaan ekonomi yang tidak menentu, syarikat tidak usaha aktif untuk mengurangkan perbelanjaan keselamatan siber pada 2023 bagaimanapun, CISO mesti mempertimbangkan sama ada keputusan pelaburan mereka lebih masuk akal.

Mereka menghadapi tekanan untuk melakukan lebih banyak dengan lebih sedikit, menyebabkan mereka melabur dalam teknologi yang menggantikan proses pencegahan dan pengurangan risiko yang terlalu manual dengan alternatif automatik.

Walaupun AI generatif tidak sempurna, ia sangat pantas, cekap dan koheren, dan kemahirannya meningkat dengan pantas. Dengan melaksanakan teknologi risiko yang betul – seperti mekanisme pembelajaran mesin yang direka bentuk untuk liputan dan pengesanan risiko yang lebih besar – organisasi boleh menjimatkan wang, masa dan orang serta lebih berupaya untuk mengemudi dan menahan sebarang ketidakpastian pada masa hadapan.

9. Meningkatkan Perisikan Ancaman

Sementara syarikat yang melancarkan keupayaan AI generatif tertumpu pada perlindungan untuk mencegah penciptaan dan penyebaran perisian hasad, maklumat salah atau maklumat salah, tetapi kita perlu menganggap bahawa AI generatif akan digunakan oleh pelaku jahat untuk tujuan ini dan bertindak lebih awal.

Pada tahun 2023, kami menjangkakan untuk melihat peningkatan selanjutnya dalam perisikan ancaman dan keupayaan pertahanan lain untuk memanfaatkan AI generatif untuk melakukan kebaikan kepada masyarakat. AI Generatif akan membolehkan kemajuan asas dalam kecekapan dan membuat keputusan amanah masa nyata. Sebagai contoh, akses kepada sistem dan maklumat boleh dibentuk menjadi kesimpulan masa nyata dengan tahap keyakinan yang lebih tinggi daripada model akses dan identiti yang digunakan pada masa ini.

Apa yang pasti AI generatif akan memberi impak yang mendalam pada setiap industri dan cara syarikat di dalamnya beroperasi; PwC percaya kemajuan ini akan diteruskan oleh manusia dan didorong oleh teknologi, 2023 akan melihat kemajuan yang paling pesat, menetapkan hala tuju untuk dekad yang akan datang.

10. Pencegahan Ancaman dan Menguruskan Risiko Pematuhan

Memandangkan landskap ancaman terus berkembang, jabatan kesihatan- - industri yang dibanjiri maklumat peribadi - terus mendapati dirinya berada dalam garis silang pelakon ancaman.

Eksekutif industri kesihatan meningkatkan belanjawan siber mereka dan melabur dalam teknologi automasi yang bukan sahaja dapat membantu mencegah mogok siber tetapi juga mengurus risiko pematuhan, Melindungi data pesakit dan kakitangan dengan lebih baik, mengurangkan kos penjagaan kesihatan, menghapuskan proses yang tidak cekap, dan banyak lagi.

Memandangkan AI generatif terus berkembang, begitu juga risiko dan peluang yang dikaitkan dengan mendapatkan sistem penjagaan kesihatan, menggariskan cara industri penjagaan kesihatan membina keupayaannya sambil menerima teknologi baharu ini. Kepentingan pertahanan siber dan daya tahan.

11. Melaksanakan Strategi Amanah Digital

Kepantasan inovasi dalam teknologi seperti AI generatif, ditambah dengan pembangunan berterusan "Tampalan" peraturan dan penghakisan kepercayaan dalam institusi memerlukan pendekatan yang lebih strategik.

Dengan melaksanakan strategi amanah digital, perusahaan boleh menyelaraskan fungsi tradisional yang disembunyikan dengan lebih baik seperti keselamatan siber, privasi dan tadbir urus data, membolehkan mereka menjangka risiko sambil turut membebaskan nilai perusahaan.

Pada terasnya, Rangka Kerja Amanah Digital mengenal pasti penyelesaian yang melangkaui pematuhan – sebaliknya mengutamakan kepercayaan dan pertukaran nilai antara organisasi dan pelanggan.

Atas ialah kandungan terperinci PwC: 11 trend keselamatan dalam ChatGPT dan AI generatif. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!