Beri perhatian kepada keselamatan korporat: Samsung melarang pekerja daripada menggunakan AI generatif ChatGPT dan mengingatkan syarikat untuk memberi perhatian kepada isu keselamatan.

Laporan tinjauan terkini menunjukkan bahawa lebih daripada 70% syarikat masih dalam peringkat "penerokaan" apabila menggunakan AI generatif. Ini bermakna pembangun AI yang membangunkan model bahasa besar perlu memastikan produk mereka mempunyai mekanisme keselamatan data yang sesuai untuk memastikan pengguna perusahaan gembira.

Baru-baru ini, syarikat besar seperti Samsung telah mula melarang pekerja menggunakan alatan AI seperti ChatGPT kerana kebimbangan tentang keselamatan data. Seorang penganalisis berkata vendor seperti Microsoft perlu mereka bentuk dan menyampaikan penyelesaian yang disesuaikan dengan perniagaan jika mereka mahu teknologi itu berjaya.

Samsung mengharamkan pekerja daripada menggunakan ChatGPT, AI generatif berisiko kebocoran data

Memandangkan kod sumber telah bocor bulan lepas, Samsung The pekerja syarikat telah diarahkan untuk mengelak daripada menggunakan alatan AI seperti sembang GPT, Bing dan Bard Google. Sebelum ini, syarikat teknologi lain telah mengeluarkan kenyataan yang sama menyatakan kebimbangan mengenai keselamatan data menggunakan AI generatif.

OpenAI baru-baru ini mengesahkan bahawa ia sedang membangunkan versi khusus platform ChatGPT untuk pengguna perusahaan Platform secara lalai melarang pengguna perusahaan daripada menggunakan perbualan dalam latihan semula ChatGPT. Tidak jelas sama ada ini akan mencukupi untuk menangani kebimbangan keselamatan pelanggan perusahaan besar, tetapi eksekutif di syarikat tersebut jelas tidak sabar-sabar untuk menerima pakai teknologi tersebut.

Menurut tinjauan Gartner terhadap 2,500 eksekutif industri, 45% responden percaya ChatGPT menggalakkan pelaburan dalam AI, dan 70% responden berkata organisasi mereka sedang menyelidik cara menggunakan pendekatan AI generatif, 19% daripada responden sudah dalam peringkat perintis atau pengeluaran.

Frances Karamouzis, naib presiden penganalisis di Gartner, berkata: “Obsesi pengguna terhadap penggunaan AI generatif tidak menunjukkan tanda-tanda akan reda Banyak organisasi industri sedang berebut-rebut untuk memutuskan berapa banyak untuk melabur dalam penyelesaian AI generatif dan produk yang mana. Adakah ia berbaloi untuk melabur, bila untuk bermula dan bagaimana untuk mengurangkan risiko yang ditimbulkan oleh teknologi baru muncul ini ”

Paling ketara, 68% responden percaya faedah AI generatif melebihi risiko, dan hanya 5%. daripada responden percaya risiko menggunakan teknologi ini melebihi faedahnya.

Apabila pelaburan dalam AI generatif semakin mendalam dan implikasi untuk keselamatan data menjadi lebih jelas, situasi ini mungkin berubah, seperti halnya dengan dilema keselamatan yang dihadapi oleh Samsung (syarikat sedang membina Model AInya sendiri).

Arah aliran umum ialah mengelakkan AI generatif mungkin lebih sukar daripada menggunakannya

Walaupun kelembapan ekonomi global dan pemberhentian besar-besaran dalam industri teknologi, hanya 17% daripada responden Wartawan menyatakan bahawa pengoptimuman kos adalah sebab utama untuk melabur dalam AI, manakala pengalaman pelanggan adalah tumpuan paling penting.

Dengan syarikat seperti Microsoft yang menggunakan AI dalam suite CRM dan Office 365nya melalui Copilot, dan Salesforce menambahkan teknologi chatbot pada rangkaian produk penuhnya, mengelakkan AI generatif mungkin lebih sukar daripada menggunakannya.

Avivah Litan, naib presiden dan penganalisis di Gartner, berkata bahawa perusahaan menghadapi pelbagai risiko apabila menggunakan model bahasa berskala besar awam, tetapi terdapat cara untuk mengurangkan risiko, termasuk memastikan bahawa mereka mempunyai keupayaan untuk menapis secara automatik pengeluaran maklumat yang salah, halusinasi dan maklumat fakta yang tidak diperlukan.

Perusahaan juga perlu memastikan vendor model bahasa besar menyediakan tadbir urus data yang boleh disahkan dan jaminan keselamatan untuk memastikan maklumat sulit korporat yang dihantar kepada model bahasa besar tidak terjejas, katanya. Terdapat juga keperluan untuk ketelusan untuk memastikan bahawa sebarang penggunaan mematuhi perundangan seperti peraturan GDPR dan Akta AI EU.

Dia menjelaskan: "Sehingga keperluan ini dipenuhi, kami melihat perniagaan berhati-hati sama ada menyekat akses pekerja untuk berbual (yang mustahil untuk dikuatkuasakan kerana kehadiran peranti peribadi), atau Membenarkan penggunaan percubaan yang sederhana, dengan itu mengelak daripada menghantar data sulit kepada model bahasa besar ”

Minat untuk menggunakan AI generatif sebagai teknologi terletak pada potensi manfaatnya, terutamanya daripada data yang mahal dan meluas Manfaat daripada model awam yang dilatih pada set. Litan berkata, "Nilai besar model bahasa besar yang dibangunkan oleh OpenAI dan pihak ketiga terletak pada jumlah data yang besar untuk melatih mereka, dan kuasa superkomputer yang besar dan kompleks yang diperlukan untuk menjalankannya. Perusahaan hanya tidak mempunyai sumber untuk membina semula model berharga ini."

Penyelesaian untuk OpenAI, Microsoft dan mana-mana vendor yang ingin menggunakan teknologi ini ialah mencipta alatan teknologi melalui perjanjian tanggungjawab keselamatan bersama. Penjual harus bertanggungjawab jika data sulit dibocorkan, dan itulah caranya.

Atas ialah kandungan terperinci Beri perhatian kepada keselamatan korporat: Samsung melarang pekerja daripada menggunakan AI generatif ChatGPT dan mengingatkan syarikat untuk memberi perhatian kepada isu keselamatan.. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!