Lima risiko AI utama dalam zaman ChatGPT dan AI generatif

Selama bertahun-tahun, kami telah berinteraksi secara senyap dengan kecerdasan buatan melalui pembantu suara, media sosial, algoritma carian, pengecaman muka pada telefon kami dan banyak lagi. Tetapi dengan kemunculan AI generatif seperti ChatGPT, kecerdasan buatan telah berada di hadapan dan tengah.

Tiba-tiba, kita mula menyaksikan kecerdasan buatan secara mendalam dan kagum dengan apa yang kita lihat dan dengar. Kecerdasan buatan tidak lagi terasa seperti "sesuatu yang akan berlaku suatu hari nanti." Ia kini "di sini dan bersedia untuk mengubah dunia."

Perubahan membawa risiko. ChatGPT sepatutnya menjadi panggilan bangun yang mengejutkan untuk perniagaan dan pasukan pengurusan yang belum membangunkan pelan pengurusan risiko AI. Artikel ini meneroka risiko yang berkaitan dengan pelaksanaan meluas kecerdasan buatan.

Berikut ialah 5 risiko kecerdasan buatan utama yang perlu diberi perhatian oleh pemimpin perniagaan:

1 Risiko gangguan

Kecerdasan buatan akan mengganggu model dan teknologi perniagaan sedia ada dengan belum pernah terjadi sebelumnya. pasaran teknologi. Contoh yang paling jelas ialah ChatGPT itu sendiri. Siapa sangka bahawa status Google sebagai juara carian yang tidak dipertikaikan akan dicabar secara tiba-tiba dan tidak menentu

Nampaknya hanya setahun atau dua tahun yang lalu, kebanyakan orang membayangkan kecerdasan buatan meningkatkan pergantungan pada industri Tenaga Kerja berkemahiran rendah? seperti trak dan perkhidmatan pelanggan, atau dalam kes yang paling teruk, mengganggu pekerjaan berstruktur tinggi seperti perdagangan kewangan dan radiologi. Kini kita tahu bahawa industri kreatif seperti media dan pengiklanan, serta industri perkhidmatan yang diperibadikan seperti pengajaran dan nasihat kewangan, malah bidang kemahiran elit seperti penyelidikan dan pembangunan farmaseutikal dan sains komputer, berisiko.

Menurut laporan Mac 2023 daripada Goldman Sachs, AI generatif seperti ChatGPT boleh menghapuskan sebanyak 300 juta pekerjaan di seluruh dunia, termasuk 19% daripada pekerjaan sedia ada di Amerika Syarikat. Tidak kira industri atau kerjaya anda, hampir pasti perniagaan akan menghadapi perubahan ketara pada tahun-tahun akan datang. Tidak seperti gangguan teknologi masa lalu, pertaruhan kali ini mungkin benar-benar hidup atau mati.

2. Risiko Keselamatan Siber

Melindungi data organisasi, sistem dan orang daripada penggodam dan pensabotaj lain telah menjadi isu yang semakin meningkat bagi pemimpin perniagaan. Pada tahun 2022, bilangan serangan meningkat sebanyak 38%, dengan purata organisasi mengalami lebih daripada 1,000 serangan seminggu, dan purata kos setiap pelanggaran data meningkat kepada lebih daripada $4 juta.

Kecerdasan buatan akan memburukkan lagi cabaran ini. Bayangkan apabila AI yang canggih seperti ChatGPT menghantar e-mel kepada pekerja yang kelihatan seperti daripada bos, menggunakan maklumat yang biasanya hanya diketahui oleh bos, malah menggunakan gaya penulisan bos seperti itu akan mempunyai Seberapa besar.

Sekurang-kurangnya sejak 2019, terdapat laporan mengenai penggunaan deepfakes seperti pengklonan suara dalam penipuan dalam talian. Apabila kecerdasan buatan bertambah baik dan mempelbagaikan setiap hari, masalah pengurusan risiko siber semakin teruk.

Jika anda fikir tembok api dan teknologi pertahanan rangkaian hari ini yang lain boleh menyelamatkan anda, fikirkan semula. AI akan membantu orang jahat mencari pautan paling lemah dalam pertahanan dan kemudian bekerja sepanjang masa sehingga penemuan ditemui.

3. Risiko reputasi

Apabila ChatGPT mula-mula muncul di mata umum, eksekutif Google pada mulanya menyebut "risiko reputasi" sebagai alasan dan menyatakan bahawa mereka tidak akan segera melancarkan kecerdasan buatan untuk bersaing dengannya . Tetapi ia menarik balik kenyataannya beberapa hari kemudian dan mengumumkan pelancaran Bard. Kesilapan dan rasa malu di Bing dan bidang AI generatif lain telah membuktikan bahawa kebimbangan awal Google adalah berasas.

Orang ramai sedang menonton. Apabila AI berkelakuan dengan cara yang tidak konsisten dengan nilai, ia boleh membawa kepada bencana perhubungan awam. Bentuk kecerdasan buatan yang baru muncul sudah berkelakuan seperti raksasa perkauman, misoginis, membawa kepada penangkapan palsu dan meningkatkan berat sebelah dalam pengambilan pekerja.

Kadangkala, AI boleh memusnahkan hubungan manusia. Menurut Forrester, 75% pengguna kecewa dengan bot sembang perkhidmatan pelanggan dan 30% telah membawa perniagaan mereka ke tempat lain selepas interaksi perkhidmatan pelanggan yang dipacu AI yang lemah. Kecerdasan buatan masih muda dan terdedah kepada kesilapan. Walau bagaimanapun, walaupun terdapat pertaruhan yang tinggi, kami menjangkakan bahawa banyak organisasi komersial akan memahami sepenuhnya risiko reputasi yang terlibat apabila menggunakan AI.

4. Risiko undang-undang

Kerajaan persekutuan sedang bersiap sedia untuk menangani cabaran sosial yang disebabkan oleh peningkatan kecerdasan buatan. Pada tahun 2022, pentadbiran Biden melancarkan rangka tindakan Rang Undang-undang Hak Kecerdasan Buatan untuk melindungi privasi dan kebebasan awam. Pada 2023, Institut Piawaian dan Teknologi Kebangsaan mengeluarkan rangka kerja pengurusan risiko kecerdasan buatan untuk membantu lembaga korporat dan pemimpin organisasi lain menangani risiko kecerdasan buatan. Akta Akauntabiliti Algoritma 2022 masih merupakan rang undang-undang yang bertujuan untuk mewujudkan ketelusan ke dalam pelbagai mekanisme membuat keputusan automatik. Ini hanyalah perundangan persekutuan. Pada tahun 2022 sahaja, tidak kurang daripada 17 negeri telah mencadangkan undang-undang untuk mengawal kecerdasan buatan, menyasarkan pengecaman muka, pengambilan berat sebelah, algoritma ketagihan dan kes penggunaan AI yang lain. Bagi syarikat multinasional, Rang Undang-undang Kecerdasan Buatan EU yang dicadangkan bertujuan untuk melarang atau menyederhanakan penggunaan biometrik, manipulasi psikologi, eksploitasi kumpulan yang terdedah dan pemarkahan kredit sosial.

Peraturan baharu akan datang tidak lama lagi, mungkin dalam tahun 2023. Perniagaan menghadapi risiko di luar pematuhan. Siapa yang akan bertanggungjawab sekiranya berlaku masalah dengan produk atau perkhidmatan yang menggunakan AI: Pembekal data atau entiti korporat? AI membuat keputusan untuk mematuhi undang-undang baharu peruntukan Ketelusan dalam .

5. Risiko Operasi

Bidang terakhir risiko AI mungkin yang paling jelas, tetapi dalam beberapa cara adalah yang paling berbahaya. Apakah yang berlaku jika pekerja menyalahgunakan ChatGPT secara tidak sengaja, menyebabkan rahsia perdagangan dibocorkan Apakah yang berlaku apabila AI tidak berfungsi seperti yang dijangkakan Kesan negatif penggunaan AI terlalu cepat?

ChatGPT ialah contoh kecerdasan buatan termaju yang paling terkenal hari ini, dengan orang di seluruh dunia mengujinya dan melaporkan kelemahannya setiap hari. Tetapi AI yang digunakan oleh perusahaan mungkin tidak menikmati faedah ini. Apabila AI memberitahu anda untuk menggandakan pembekal, bahan atau produk tertentu, tetapi tersilap - bagaimana anda tahu apa yang diharapkan

Watson IBM pernah mencadangkan rawatan yang salah dan berbahaya untuk kaedah pesakit kanser? Tyndaris Investments Britain disaman oleh taikun Hong Kong Charles Li selepas dana lindung nilai AI kerugian sehingga $20 juta sehari. Selain itu, Tesla yang di luar kawalan melanggar dan membunuh pejalan kaki adalah tugas pemimpin perniagaan untuk menyedari risiko operasi ini dan menguruskannya.

Atas ialah kandungan terperinci Lima risiko AI utama dalam zaman ChatGPT dan AI generatif. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!