Bina sistem keselamatan inovasi AI generatif, ketua pegawai keselamatan Amazon mengajar anda tiga petua

Amazon Cloud Technology mempunyai berjuta-juta pelanggan di seluruh dunia dan menjejaki berbilion-bilion acara setiap hari, yang membolehkan Amazon Cloud Technology mengesan lebih banyak ancaman keselamatan.

Pada 2019, Ketua Pegawai Keselamatan Teknologi Awan Amazon Steve Schmidt secara rasmi mengumumkan pelancaran Amazon Cloud Technology re:Inforce, persidangan pertama yang memfokuskan pada isu keselamatan awan Persidangan itu kini telah diadakan selama lima kali dan telah menjadi penanda aras untuk awan keselamatan.

Pada tahun 2010, Steve Schmidt menyertai Amazon dan berkhidmat sebagai ketua pegawai keselamatan maklumat Amazon Cloud Technology selama 12 tahun Beliau telah berkhidmat sebagai ketua pegawai keselamatan Amazon sejak 2022. Baru-baru ini, beliau telah ditemu bual oleh The Wall Street Journal mengenai keselamatan perusahaan pada zaman AI generatif.

Steve Schmidt berkata bahawa tugas pasukan keselamatan adalah untuk membantu perusahaan memahami faedah dan risiko teknologi inovatif seperti AI, dan cara menggunakannya untuk meningkatkan kecekapan keselamatan perusahaan.

Steve Schmidt, Ketua Pegawai Keselamatan Teknologi Awan Amazon

Keselamatan AI Generatif, perusahaan perlu bertanya tiga soalan

Steve Schmidt percaya bahawa mana-mana perusahaan mesti bertanya apabila bercakap tentang dan menggunakan isu keselamatan AI generatif Tiga soalan untuk diri saya sendiri: Adakah AI akan disalahgunakan, digodam atau diganggu?

Pertama, di manakah datanya?

Perusahaan perlu memahami keseluruhan aliran kerja model latihan dengan data, dari mana datangnya data dan cara ia diproses dan dilindungi.

Kedua, apakah yang berlaku kepada pertanyaan saya dan sebarang data berkaitan?

Data latihan bukan satu-satunya set data sensitif yang perlu diberi perhatian oleh perusahaan Apabila perusahaan dan pengguna mereka mula menggunakan AI generatif dan model bahasa besar, mereka akan belajar dengan cepat cara membuat pertanyaan lebih berkesan. Lebih banyak butiran dan keperluan khusus akan ditambahkan pada pertanyaan, menghasilkan hasil yang lebih baik. Perusahaan yang menggunakan AI generatif untuk pertanyaan perlu memahami dengan jelas cara AI generatif akan memproses input data ke dalam model dan hasil pertanyaan. Pertanyaan perusahaan sendiri juga sensitif dan harus menjadi sebahagian daripada pelan perlindungan data.

Ketiga, adakah output model AI generatif cukup tepat?

Dari perspektif keselamatan, senario penggunaan AI generatif mentakrifkan risiko, dan senario yang berbeza mempunyai keperluan yang berbeza untuk ketepatan. Jika anda menggunakan model bahasa yang besar untuk menjana kod tersuai, maka anda perlu mengesahkan bahawa kod itu ditulis dengan baik, mengikut amalan terbaik anda, dsb.

Selepas memahami isu keselamatan menggunakan AI generatif, Steve Smith turut memberikan tiga cadangan keselamatan untuk menggunakan AI generatif untuk berinovasi:

Pertama, mudah untuk pasukan keselamatan berkata "tidak", tetapi ia tidak betul . Melatih pekerja dalaman untuk memahami dasar syarikat tentang penggunaan kecerdasan buatan untuk membantu menggunakannya dengan selamat. Arahkan pekerja untuk menggunakan kaedah yang selaras dengan dasar penggunaan AI syarikat. Memang mudah bagi pasukan keselamatan untuk berkata "tidak", tetapi sama mudahnya untuk semua pasukan perniagaan, pembangun, dll. untuk memintas pasukan keselamatan.

Kedua, keterlihatan. Perusahaan memerlukan alat keterlihatan untuk memahami cara pekerja menggunakan data, mengehadkan akses data melebihi keperluan kerja dan memantau cara mereka menggunakan perkhidmatan luaran untuk mengakses data ini. Jika sebarang ketidakpatuhan terhadap dasar didapati, seperti akses kepada data sensitif di luar keperluan bukan kerja, tingkah laku ini akan dihentikan. Dalam kes lain, jika data yang digunakan oleh pekerja kurang sensitif tetapi mungkin melanggar dasar, pekerja akan dihubungi secara proaktif untuk memahami tujuan sebenar dan mencari penyelesaian.

Ketiga, selesaikan masalah melalui mekanisme. Mekanisme ialah alat boleh guna semula yang membolehkan perniagaan memacu gelagat tertentu dengan tepat dari semasa ke semasa. Sebagai contoh, apabila pekerja beroperasi dengan melanggar peraturan, sistem akan menggesa pekerja melalui tetingkap pop timbul, mengesyorkan penggunaan alat dalaman tertentu dan melaporkan isu berkaitan.

Sediakan keupayaan AI generatif untuk perkhidmatan keselamatan

Keselamatan sentiasa menjadi keutamaan tertinggi Teknologi Awan Amazon, dan Steve Schmidt juga merupakan salah seorang pengamal dan penyokong budaya keselamatan Amazon.

"Pasukan keselamatan harus menggunakan aplikasi AI generatif yang luar biasa untuk mempromosikan peningkatan industri keselamatan dari peringkat kod. Ini benar untuk mana-mana perusahaan, termasuk Amazon. Ini adalah cadangan Steve Schmidt untuk AI generatif.

Oleh kerana menggunakan AI generatif untuk menambah baik penulisan kod selamat boleh mendorong seluruh industri ke tahap keselamatan yang lebih tinggi dengan berkesan.

Pembantu kod Amazon CodeWhisperer dan pembantu AI generatif baharu Amazon Q boleh membantu perusahaan menjana kod yang lebih baik atau memberikan cadangan secara terus semasa jurutera perisian menulis kod.

Amazon CodeWhisperer ialah pembantu pengekodan AI dengan fungsi pengimbasan keselamatan terbina dalam, yang boleh membantu pembangun menjana kod berdasarkan ulasan, menjejaki rujukan sumber terbuka, mengimbas dan mencari kelemahan serta percuma untuk pembangun individu. Ia juga menyediakan keupayaan penyesuaian yang membolehkan perusahaan menyambungkan CodeWhisperer dengan selamat kepada storan kod dalaman perusahaan untuk meningkatkan keberkesanan CodeWhisperer dan mempercepatkan penyiapan tugas pembangunan.

Amazon Q boleh menjawab pelbagai soalan berkaitan kod daripada pembangun dalam Amazon CodeWhisperer dan melampirkan kod yang boleh dilaksanakan dengan satu klik, dan menyediakan fungsi penukaran kod untuk membantu pembangun mengurangkan dengan ketara kebosanan penyelenggaraan aplikasi dan kerja, mengurangkan masa diperlukan dari hari ke minit.

Pada masa yang sama, di Amazon Cloud Technology 2023 re:Invent Global Conference, Amazon Cloud Technology turut melancarkan keupayaan perkhidmatan keselamatan dengan keupayaan AI generatif.

Ciri pengimbasan kod fungsi Amazon Lambda Amazon Inspector kini memanfaatkan AI generatif dan penaakulan automatik untuk pembetulan kod. Walaupun keupayaan pengimbasan sebelumnya menyerlahkan lokasi kod yang bermasalah, potensi kesan dan cadangan yang disediakan, AI generatif kini juga boleh mencipta tampung kod yang berkaitan secara kontekstual untuk berbilang kelas kerentanan. Pembangun boleh melakukan operasi dengan cepat seperti pengesahan dan penggantian kod untuk menyelesaikan masalah dengan cepat dan berkesan.

Amazon Detective kini dapat menyediakan ringkasan kumpulan penemuan menggunakan AI generatif, yang secara automatik menganalisis kumpulan penemuan dan memberikan cerapan dalam bahasa semula jadi untuk mempercepatkan penyiasatan keselamatan. Tujuan perkhidmatan Amazon Detective adalah untuk memudahkan pengguna menganalisis, menyiasat dan menentukan dengan cepat punca masalah keselamatan yang berpotensi atau aktiviti yang mencurigakan. Keupayaan AI generatif baharu boleh menyediakan pengguna khusus dengan perspektif keselamatan yang lebih luas dan lebih banyak pengetahuan keselamatan.

Baru-baru ini, Amazon Cloud Technology dan NVIDIA turut menyebut dalam keluaran bersama terkini bahawa GB200 akan mendapat manfaat daripada keselamatan yang dipertingkatkan sistem Amazon Nitro untuk melindungi keselamatan kod dan data pelanggan semasa pemprosesan pada pelanggan dan dalam awan.

Steve Schmidt berkata bahawa isunya bukanlah apa yang pasukan keselamatan itu sendiri mahu lakukan, tetapi memastikan bahawa kami sentiasa membantu pasukan pelanggan kami, pasukan dalaman, bergerak ke hadapan ke arah matlamat mereka.

Atas ialah kandungan terperinci Bina sistem keselamatan inovasi AI generatif, ketua pegawai keselamatan Amazon mengajar anda tiga petua. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!