'Penipuan AI' telah menjadi topik carian hangat Bagaimana AI boleh 'berbuat baik' selepas ia 'dilepaskan'? ｜Komen hangat tentang darjah titanium

Baru-baru ini, Biro Siasatan Jenayah Siber Telekomunikasi Biro Keselamatan Awam Bandar Baotou mengeluarkan kes penipuan telekomunikasi menggunakan teknologi AI pintar Mangsa telah ditipu sebanyak 4.3 juta yuan dalam masa 10 minit Topik "penipuan AI" menjadi carian hangat topik.

Apabila teknologi AI semakin matang, tahap realisme dan penipuan semakin kuat dan kuat penyanyi AI, anchor yang kelihatan seperti selebriti, dan lain-lain boleh dipalsukan apabila penampilan dan suara mereka boleh "sangat ditiru". mencegahnya?

Apakah kemajuan semasa dalam penyeragaman AI generatif? Bagaimanakah penerapan teknologi AI boleh mengelakkan risiko undang-undang?

Adakah insiden pelanggaran dan penipuan yang kerap berlaku semasa menyekat pembangunan industri?

Isu "Tidu Hot Review" ini secara khusus menjemput warga media senior untuk membincangkan topik hangat "penipuan AI". Perbincangan telah berlaku dan di bawah adalah beberapa sorotan.

Mengenai cara orang ramai harus mengambil langkah berjaga-jaga apabila penampilan dan suara mereka boleh ditiru.

Jia Xiaojun, pengurus Bedo Finance, berkata bahawa alat adalah neutral dan kuncinya terletak pada cara menggunakannya "penipuan AI" adalah contoh biasa. Bagi orang biasa, penipuan yang dihasilkan oleh teknologi AI jenis ini sangat sukar untuk dikenal pasti, terutamanya apabila bunyi dan video disimulasikan.

Sebab mengapa penipuan AI boleh berlaku pada dasarnya adalah masalah yang disebabkan oleh kebocoran maklumat peribadi Pihak yang satu lagi boleh menguasai maklumat sensitif pihak yang berkaitan, memberikan akaun, alamat dan maklumat lain dengan tepat, dan juga boleh mendapatkan buku alamat. , dengan itu menipu pengguna dana.

Bagi orang biasa, apabila bercakap mengenai dana, mereka mesti mengekalkan kepekaan dan berhati-hati memeriksa sama ada terdapat sebarang masalah. Sebaik-baiknya lakukan pengesahan silang dan perhatikan dompet mereka.

Dari perspektif kawal selia, pengenalan kakitangan saintifik dan teknologi harus diperkukuh dan teknologi tindakan balas yang berkaitan harus diinovasikan untuk memberikan peringatan dan pencegahan yang tepat pada masanya dan berkesan. Pada masa yang sama, kami akan mengukuhkan ambang akses platform dan mengambil langkah pemintasan yang munasabah.

Guo Shiliang, pakar di badan pemikir "Whale Platform", berkata bahawa semua orang bercakap tentang AI, tetapi orang ramai melihat lebih banyak manfaat AI, tetapi jarang melihat kesan negatif AI. Seseorang telah ditipu sebanyak 4.3 juta dalam masa 10 minit Perkara utama ialah penipu itu menggunakan teknologi AI yang menukar wajah, dan mangsa melepasi pengesahan video sebelum memindahkan wang itu secara tidak disangka-sangka, dan ia adalah satu penipuan -tamat penipuan Nampaknya Bertindak dengan sempurna.

Kemudian, dengan bantuan penuh bank, ia mengambil masa 10 minit untuk berjaya memintas dana yang ditipu sebanyak 3.3684 juta yuan dalam akaun penipuan, tetapi 931,600 yuan dana masih dipulihkan. Penipuan AI sangat bijak, menggunakan kedua-dua teknologi sintesis suara dan teknologi menukar wajah AI malah ia boleh menyerang maklumat hubungan rakan pihak lain dan berjaya mencuri wang mereka.

Kedatangan era AI membawa peluang serta ujian. Pada masa ini, penipu menggunakan teknologi baharu untuk menipu, dan kaedah anti-penipuan perlu mengikut peredaran masa kesedaran anti-penipuan setiap orang juga perlu dipertingkatkan apabila kandungan sensitif seperti pemindahan terlibat, semua orang harus berwaspada. Era AI telah tiba, dan undang-undang serta peraturan yang berkaitan perlu disusuli Seiring kemajuan teknologi, keupayaan penguatkuasaan kawal selia dan teknologi anti-penipuan juga perlu mengikut peredaran zaman.

Jiang Han, penyelidik kanan di Pangu Think Tank, berkata dengan perkembangan teknologi kecerdasan buatan, penipuan AI juga telah mula muncul. Penipuan AI ialah sejenis penipuan yang menggunakan teknologi kecerdasan buatan Kelebihan kaedah penipuan ini ialah ia boleh mencapai serangan frekuensi yang lebih tinggi, sasaran yang lebih tepat dan kesan penipuan yang lebih cekap Ia juga merupakan pedang bermata dua dalam proses teknologi pembangunan. Bagaimanakah kita harus melihat dan bertindak balas terhadap jenis penipuan ini?

Pertama sekali, insiden penipuan yang kerap memerlukan setiap orang untuk terus meningkatkan keupayaan pembelajaran mereka dan mengenal pasti potensi risiko penipuan. Teknologi AI telah mengukuhkan kaedah serangan penjenayah dari segi analisis data asas, latihan model dan pembuatan keputusan kecerdasan buatan Bagi pengguna, untuk mengelakkan penipuan tersebut, mereka perlu meningkatkan kesedaran teknikal dan keupayaan mengenal pasti risiko. Anda perlu cuba untuk tidak memberi panggilan yang tidak diketahui peluang untuk menjawab, jangan mudah tertipu atau tertipu, dan melindungi privasi dan keselamatan harta benda anda.

Kedua, perusahaan perlu mengukuhkan disiplin diri, penyeliaan perlu membimbing standard pasaran, dan individu perlu mengukuhkan lagi kesedaran mereka tentang pencegahan dan kawalan risiko. Teknologi AI boleh membawa kecekapan dan kelebihan daya saing kepada perusahaan, tetapi mereka juga harus memberi perhatian kepada keseimbangan antara inovasi dan pematuhan Terutama apabila ia melibatkan kawasan sensitif seperti maklumat pengguna dan privasi, perusahaan mesti mengukuhkan disiplin diri dan kawalan pematuhan. Bagi agensi kawal selia, adalah perlu untuk membimbing pembangunan piawaian pasaran dan mencegah aktiviti haram dan jenayah tersebut. Bagi individu, mereka harus mengambil bahagian secara aktif dalam pengurusan keselamatan awam, mempelajari pengetahuan baharu tentang pencegahan penipuan, dan meningkatkan keupayaan mereka untuk mengenal pasti potensi penipuan.

Dalam jangka panjang, trend AI bagi model besar generatif akan berterusan, tetapi cara menggunakan AI sebagai alat untuk menjadikannya lebih baik memerlukan semua orang bekerjasama. Dalam proses pembangunan AI, adalah perlu untuk memberi perhatian kepada pematuhan dan keselamatan teknologi, dan menggalakkan realisasi teknologi AI dan undang-undang tradisional, moral dan etika. Pembangunan AI tidak boleh semata-mata mengejar kelajuan dan kecekapan Pada masa yang sama, ia juga harus berdasarkan kajian sifat manusia, mengingati niat asal menggunakan kecerdasan buatan untuk berkhidmat dengan lebih baik kepada masyarakat, meneroka dan mengoptimumkan paradigma AI, mencegah. potensi penyalahgunaan dan bahaya, dan membantu pembangunan AI Sound.

Bi Xiaojuan, ketua editor Kumpulan Pemerhati Ekonomi Baru, berkata seperti kata pepatah, teknologi sentiasa menjadi pedang bermata dua. Dalam beberapa tahun kebelakangan ini, kita dapat melihat bahawa pembangunan data besar dan ekonomi perkongsian telah membawa manfaat ekonomi dan sosial yang besar, tetapi produk sampingannya ialah sejumlah besar kebocoran maklumat privasi peribadi, dan penipuan dan gangguan rangkaian telekomunikasi. mesej teks telah muncul satu demi satu. Walau bagaimanapun, dengan pemeriksaan dan pembetulan kekurangan kawal selia, susulan dasar dan peraturan tepat pada masanya, dan peningkatan kesedaran awam tentang pencegahan, insiden penipuan yang serupa telah dikurangkan pada tahap tertentu.

Proses yang sama kini sedang berlaku dalam bidang AI. Nilai komersial teknologi AI terus dikeluarkan, tetapi ia juga menjadikan penipu AI "seperti harimau terbang di langit": dengan berpura-pura menjadi saudara dan rakan pengguna melalui perubahan wajah, simulasi suara dan cara lain, hampir mungkin untuk menipu orang dengan yang palsu, menjadikannya sukar bagi pengguna untuk membezakan dan sangat mudah untuk jatuh untuk umpan. Bukan itu sahaja, dengan menggunakan teknologi AI, penjenayah boleh menipu sejumlah besar pengguna pada masa yang sama, menyebabkan pelbagai bahaya dan kerugian harta benda yang lebih besar kepada mangsa.

Tetapi sebagai pengguna biasa, dia pasti tidak berdaya menghadapi AI. Pertama sekali, kita mesti meningkatkan kesedaran kita tentang pencegahan risiko harta peribadi dan berhati-hati dengan jenis penipuan baharu ini, kedua, mengukuhkan perlindungan maklumat peribadi dan tidak mendaftarkan sejumlah besar aplikasi tidak rasmi dan temu janji; permintaan pihak lain untuk meminjam wang atau memindahkan wang melalui cara audio atau video, Tidak kira betapa cemasnya pihak lain, cuba gunakan pelbagai kaedah, dan jika boleh, lakukan pengesahan luar talian sebelum memindahkan wang Jika ia melibatkan pemindahan jumlah besar, anda malah boleh pergi ke kaunter bank untuk mengendalikannya; akhirnya, jika anda tertipu, hubungi polis secepat mungkin dan hubungi bank yang berkaitan untuk menghentikan kerugian itu secepat mungkin.

Dari segi undang-undang, peraturan dan penyeliaan, kita harus membuat susulan tepat pada masanya, menetapkan ambang dan tembok api untuk pembangunan dan aplikasi teknologi AI, dan mempromosikan AI untuk kebaikan. Berita baiknya ialah pada awal April, Pentadbiran Ruang Siber China telah merangka "Langkah-langkah Pengurusan Perkhidmatan Kecerdasan Buatan Generatif (Draf untuk Komen)" dan meminta pendapat secara terbuka daripada orang ramai Tujuannya adalah untuk mempromosikan yang saintifik, teratur, pembangunan industri AI negara saya yang sihat dan piawai dan mencegah kekacauan dan pelanggaran.

Bagi pengamal AI, mereka mesti mengikut arahan dasar kawal selia negara, mengekalkan kepekaan terhadap etika AI, dan mencapai penyatuan pembangunan teknologi dan tanggungjawab korporat.

Pemerhati industri Wenzi berkata bahawa penyelidikan tentang keselamatan AI boleh dikesan kembali ke 2008. Setakat ini ia telah merangkumi banyak kawasan. Dalam tinjauan 2022 terhadap komuniti pemprosesan bahasa semula jadi (NLP), 37% bersetuju atau sedikit bersetuju bahawa pembuatan keputusan AI boleh membawa kepada bencana yang "sekurang-kurangnya sama buruknya dengan perang nuklear habis-habisan." Walau bagaimanapun, terdapat beberapa suara sumbang, seperti profesor tambahan Universiti Stanford Andrew Ng menyamakannya dengan "bimbang tentang lebihan penduduk di Marikh sebelum kita menjejakkan kaki ke Bumi."

Pandangan Dr. Samuel Bowman adalah pemahaman yang lebih penting tentang isu ini-daripada menghentikan penyelidikan tentang AI/ML di seluruh dunia, orang harus memastikan bahawa semua kecerdasan buatan yang cukup berkuasa dibina dan digunakan dengan cara yang bertanggungjawab sistem.

Zhang Jingke, pengasas Internet Beijing Diary, berkata dengan jumlah besar maklumat yang dihasilkan pada kelajuan tinggi oleh AI, manusia pasti sekali lagi akan menghadapi masalah maklumat palsu yang seratus kali ganda lebih daripada itu pada era Ledakan maklumat internet.

Untuk melindungi kebanyakan orang daripada bahaya, anda boleh merujuk kepada berita tradisional dan model perlindungan hak cipta. Maksudnya, penyebaran maklumat perlu ditanda dengan sumber, dan jika ia adalah tulisan AI, penulis perlu ditanda. Ini juga merupakan harga yang perlu dibayar oleh netizen dan modal untuk menghapuskan perantara penyebaran maklumat Dalam jangka panjang, maklumat percuma tanpa pengawasan tidak lagi adil dan cekap.

Apakah kemajuan semasa dalam pembinaan spesifikasi untuk AI generatif? Bagaimanakah penerapan teknologi AI boleh mengelakkan risiko undang-undang?

Chu Shaojun, pengarah Duoduoshuo, berkata bahawa pertama sekali, dalam bidang komunikasi dan pendapat umum, "perkara yang baik tidak hilang, dan perkara yang buruk merebak beribu-ribu batu Penggunaan AI untuk menipu." bukanlah sesuatu yang baru, dan ia hanyalah satu daripada ribuan kaedah penipuan Pertama, kerana ia terikat dengan teknologi dan aplikasi AI yang popular, ia boleh menjadi topik hangat dan menarik perhatian semua pihak perang salib terhadap teknologi baharu dan bidang baharu pada tahap tertentu, dan memerlukan penyeliaan teknologi baharu itu akan tercetus semula dalam masa yang singkat. Tetapi buat masa ini, tidak perlu memberi terlalu banyak perhatian kepada teknologi baru dan bidang baru dan mengawasi mereka lebih awal Lagipun, pembangunan mana-mana teknologi baru dan bidang baru memerlukan masa dan toleransi, dan kadang-kadang memerlukan jumlah tertentu ". Masa dan ruang pertumbuhan liar.

Kedua, untuk bidang baharu dan teknologi baharu, penyeliaan dan perundangan sering ketinggalan Ini memerlukan lebih disiplin diri oleh perusahaan dan industri Sementara membangunkan perniagaan dan teknologi, perusahaan mesti mengambil kira tanggungjawab sosial mereka sendiri ramalan dan pencegahan semasa peringkat P&P dan reka bentuk. Pada masa yang sama, pendidikan pengguna dan pempopularan sains harus diperkukuh supaya pengguna dan khalayak umum dapat memahami teknologi baharu dan bidang baharu serta menyelesaikan masalah. Pada masa yang sama, pengguna dan khalayak sendiri mesti belajar lebih banyak dan memberi lebih perhatian padanya Pada masa yang sama, mereka mesti lebih berhati-hati dan menyemak pelbagai cara untuk membuat wang, meminjam wang dan memindahkan wang Pada masa yang sama, jangan sekali-kali percaya bahawa "pai akan jatuh dari langit."

Ketiga, teknologi baharu boleh digunakan untuk penipuan, tetapi dari perspektif lain, kemunculan teknologi baharu juga boleh digunakan untuk pencegahan penipuan dan anti penipuan. Banyak kali teknologi adalah neutral atau neutral, kuncinya terletak pada cara ia digunakan dan diseragamkan. Insiden pelanggaran dan penipuan yang kerap berlaku pada masa ini tidak akan menyekat pembangunan industri, tetapi akan menggalakkan pembangunan standard industri Lagipun, selepas pertumbuhan biadab, kejadian negatif yang kerap berlaku di satu pihak akan mencetuskan pengawasan pendapat umum. dan secara semula jadi mencetuskan perusahaan dan industri untuk menjadi lebih berdisiplin , sebaliknya, penyeliaan dan perundangan pasti akan mempercepatkan, dan akhirnya industri akan didorong kepada pembangunan yang lebih standard.

Akhir sekali, adalah perlu untuk mengelakkan pemikiran yang melampau dan pemikiran yang berlebihan walaupun berlaku peristiwa negatif, di satu pihak, penyeliaan dan perundangan diperlukan; untuk memberi ruang pembangunan yang mencukupi. Lagipun, melihat gambaran besar, pembangunan AI pada masa hadapan, terutamanya AIGC dan bidang lain, mungkin bukan sahaja menjejaskan industri perusahaan, tetapi juga hak negara untuk bercakap dalam bidang teknologi berkembang dengan lebih baik dan lebih stabil.

Blogger teknologi Internet Pipitui berkata bahawa teknologi kecerdasan buatan AI semakin matang Adakah terdapat sebarang risiko dan cara untuk mengelakkannya? Jawapan yang diberikan oleh Tongyi Qianwen ialah: Pembangunan teknologi kecerdasan buatan AI sememangnya membawa banyak kemudahan dan peluang kepada orang ramai, tetapi ia juga membawa beberapa risiko dan cabaran.

Mengelakkan risiko AI boleh bermula dari perkara berikut Yang pertama ialah privasi data: apabila mengumpul dan menggunakan data peribadi, peraturan privasi dan perlindungan yang ketat perlu dipatuhi untuk memastikan data tersebut tidak disalahgunakan atau dibocorkan. Kedua, ketelusan dan kebolehjelasan: Sistem AI harus telus dan boleh dijelaskan supaya orang ramai dapat memahami keputusan dan tingkah laku mereka. Ketiga, keselamatan: Pastikan keselamatan sistem AI, termasuk mencegah serangan berniat jahat, sandaran dan pemulihan data, pembetulan ralat, dsb. Keempat, pematuhan undang-undang: memastikan bahawa sistem AI mematuhi undang-undang, peraturan dan norma etika yang berkaitan, dan mengelakkan konflik dengan undang-undang. Kelima, tahap teknikal: Pastikan tahap teknikal sistem AI untuk mencegah penyalahgunaan atau penyalahgunaan teknologi. Akhir sekali, kerjasama dan kerjasama: Bekerjasama dan bekerjasama dengan pihak berkepentingan lain untuk memastikan pembangunan dan aplikasi sistem AI adalah untuk kepentingan awam dan tanggungjawab sosial.

Ringkasnya, untuk mengelakkan risiko AI, kami perlu memastikan pembangunan, penggunaan dan pengurusan sistem AI mematuhi piawaian etika, undang-undang dan keselamatan Kami juga perlu mengukuhkan pendidikan dan penyertaan awam untuk menggalakkan pembangunan AI yang sihat teknologi.

Zheng Yang, Pengarah Jabatan Pembangunan Strategik Zhonghuo International, berkata jenis penipuan AI semasa terutamanya termasuk sintesis suara, perubahan wajah AI, dan penggunaan data besar dan teknologi AI untuk menyaring dan menapis maklumat untuk disasarkan kumpulan sasaran. Teknologi ialah pedang bermata dua Pengalaman sejarah seperti penipuan telefon mesej teks, kecurian akaun dan p2p telah mengesahkan kebenaran berkali-kali, iaitu, setiap lelaran teknologi baharu akan membawa penipuan teknologi yang tidak berkesudahan.

Gunakan pemikiran terbalik untuk berfikir Pertama sekali, teras penipuan AI ialah ia boleh menjadi palsu dan nyata pemahaman yang mendalam tentang kemungkinan risiko teknologi AI (akal sehat yang popular) . Kedua, asas teknologi penipuan AI terletak pada data, dan tumpuan pencegahan dan penyeliaan ialah cara mencegah kebocoran dan penyalahgunaan maklumat peribadi.

Selain itu, dari perspektif kawal selia, di satu pihak, pendidikan dan pencegahan serta kawalan yang tepat terhadap kumpulan yang terdedah, seperti nester kosong, pengejar bintang fanatik, dan lain-lain, perlu dijalankan lebih awal. Sebaliknya, temu janji dalam talian, temu janji, pinjaman, permainan dalam talian dan saluran lain boleh diawasi dengan ketat.

Dalam proses pemasaran mana-mana teknologi, nilai sosial dan nilai ekonominya perlu seimbang. Setakat perkembangan semasa teknologi AI, isu sosial yang lebih menonjol termasuk risiko privasi dan perlindungan data, risiko pelanggaran harta intelek, risiko moral dan etika, dsb. Masalah ini pasti akan menjejaskan kelajuan pemasaran teknologi AI, tetapi ini sendiri adalah proses yang diperlukan untuk pelaksanaan teknologi.

Jika teknologi AI ingin mengurangkan risiko undang-undang secara asasnya, ia memerlukan syarikat pengeluaran teknologi AI dan alatnya untuk mengawal sendiri platform Contohnya, gelagat Google melabelkan setiap imej yang dihasilkan oleh AI alatnya adalah permulaan yang baik. Sebaliknya, jabatan yang berkaitan perlu mewujudkan undang-undang pengawalseliaan yang berkaitan, peraturan dan sistem standard secepat mungkin untuk menjelaskan sempadan undang-undang dan entiti yang bertanggungjawab Contohnya, peraturan yang dikeluarkan oleh Pentadbiran Ruang Siber China pada bulan April memerlukan organisasi dan individu yang menyediakan Perkhidmatan AI untuk memikul tanggungjawab pengeluar kandungan .

Wei Li, pengasas Dali Finance, berkata berdasarkan maklumat semasa yang diterbitkan mengenai kes penipuan AI, teknologi yang terlibat dalam penipuan AI adalah terutamanya teknologi sintesis mendalam, termasuk teknologi AI mengubah wajah, teknologi sintesis suara (bunyi) dan model penjanaan teks . Penjenayah boleh menggunakan teknologi AI mengubah wajah untuk mencipta video atau foto palsu untuk menipu orang lain dengan berpura-pura menjadi orang lain.

Di peringkat teknikal, terdapat juga banyak syarikat teknologi dan penyelidik yang giat berlatih untuk mengenal pasti jenis kandungan sintesis mendalam AI ini melalui "tindak balas teknikal" Produk "tindak balas teknikal" ini biasanya berdasarkan teknologi pembelajaran mendalam, contohnya, Kenal pasti video yang dijana AI dengan menganalisis ciri-ciri video, memproses kesan dan mengesan "tidak konsisten" dalam ciri muka.

Dari segi pencegahan dan kawalan undang-undang, agensi negeri, platform dan individu bekerjasama Sementara platform terus meningkatkan keupayaan audit dan pemantauan mereka mengikut pelbagai keperluan kawal selia, individu juga perlu berwaspada pada setiap masa. Ia juga mungkin perlu untuk mewujudkan kerjasama dan perkongsian pangkalan data, mengumpul dan menyimpan sampel video yang disahkan, atau mewujudkan pakatan anti-penipuan AI dan amalan penguatkuasaan undang-undang yang lain.

Bagaimana untuk menjadikan teknologi kecerdasan buatan "teknologi untuk kebaikan" telah menjadi masalah yang mendesak untuk diselesaikan. Pertama, privasi dan keselamatan data adalah sangat penting. Adalah perlu untuk mengukuhkan penyeliaan dan pengurusan teknologi kecerdasan buatan untuk mengelakkan penyalahgunaan dan penyalahgunaan maklumat peribadi. Kedua, keselamatan dan kebolehpercayaan, ketelusan dan keadilan teknologi kecerdasan buatan perlu diperkukuh. Akhir sekali, adalah perlu untuk mengukuhkan pendidikan dan mempopularkan teknologi kecerdasan buatan, meningkatkan literasi saintifik dan teknologi dan kesedaran keselamatan orang ramai, dan mengelakkan daripada ditipu dan menjadi mangsa.

MengenaiAdakah insiden pelanggaran dan penipuan yang kerap berlaku semasa menyekat pembangunan industri?

Zu Tengfei, orang kanan media, berkata, "Teknologi itu sendiri tidak bersalah." Teknologi baharu seperti AI bukanlah baharu hari ini, begitu juga "orang jahat" yang mencari wang melalui penipuan. Kita tidak seharusnya berhenti makan kerana tercekik. Dari perspektif global, AI adalah hala tuju yang hampir semua negara sedang giat membangun. Ia boleh digunakan dalam banyak bidang dan boleh membebaskan produktiviti dan meningkatkan kecekapan pengeluaran.

Menjejak kembali ke akar umbi, sumber penipuan AI ialah kebocoran maklumat peribadi. Terdahulu, disebabkan kebocoran maklumat peribadi, semua orang diganggu oleh panggilan telefon dan dihujani dengan mesej teks Ditambah pula dengan penipuan AI semasa, perlindungan maklumat peribadi telah sampai ke tahap yang perlu dilakukan. Pelbagai APP memerlukan akses kepada nombor telefon, foto, lokasi geografi, dsb. semasa memuat turun Adakah maklumat ini dilindungi dengan berkesan oleh syarikat perisian yang berkaitan? Atau adakah ia dijual semula dan diuntungkan oleh orang yang mempunyai motif tersembunyi?

Untuk menangani penipuan AI jenis baharu ini, kami masih perlu mengikuti mata pengetahuan yang dipopularkan oleh pelbagai blogger anti-penipuan, seperti melindungi maklumat peribadi, mengesahkan mesej, tidak memindahkan wang, tidak membayar, dsb. Pada masa yang sama, syarikat yang berkaitan mesti mematuhi dasar yang berkaitan dengan ketat, meningkatkan etika teknologi AI, dan mengukuhkan langkah penyeliaan keselamatan.

Tang Chen, hos Tang Chen, berkata bahawa kes negatif tidak dapat dielakkan semasa pembangunan AIGC penipuan, manusia digital, menukar wajah, dll. adalah semua manifestasi keupayaan alat kecerdasan buatan. Bagaimana untuk mengelakkan kesan negatif yang dibawa oleh pembangunan kecerdasan buatan secara asasnya memerlukan pengawalseliaan siapa yang boleh menggunakan kecerdasan buatan. Dua hari lalu, Stefanie Sun menjawab kontroversi hak cipta yang disebabkan oleh "AI Stefanie" dan berkata, "Semuanya mungkin dan semuanya tidak penting. Saya rasa cukup untuk mempunyai pemikiran yang murni dan menjadi diri sendiri. Jawapan Stefanie Sun sangat dipuji oleh orang ramai, kecuali Selain pujian mudah bakat sastera yang baik dan susun atur berskala besar, makna yang lebih mendalam ialah dia menunjukkan keyakinan manusia Ini juga keyakinan manusia bahawa kecerdasan buatan tidak dapat menggantikan manusia masa yang singkat. Mentalitinya juga harus menjadi rujukan orang ramai.

Begitu juga, logik ini terpakai kepada mana-mana industri yang sedang diubah oleh kecerdasan buatan. Seperti yang dikatakan oleh Ketua Pegawai Eksekutif OpenAI Sam Altman, teknologi kecerdasan buatan akan membentuk semula masyarakat seperti yang kita ketahui Ia mungkin "teknologi terhebat yang dibangunkan oleh manusia setakat ini" dan akan meningkatkan kehidupan manusia. Tetapi terdapat bahaya sebenar dalam menghadapinya, dan orang ramai harus gembira kerana sedikit takut terhadapnya. Hanya dengan rasa kagum kita boleh menggunakan teknologi kecerdasan buatan untuk kegunaan manusia dalam pembangunan sains dan teknologi. Dalam proses ini, apa yang dibimbangkan oleh orang ramai bukanlah teknologi itu sendiri, sama seperti Stefanie Sun sendiri tidak terlalu bimbang tentang AI Stefanie Sun, tetapi motivasi manusia untuk menggunakan teknologi. Semua orang harus memberi perhatian lebih kepada, apakah yang anda mahu teknologi berkembang? Dan bukan teknologi akan mengubah manusia menjadi apa? Ini mungkin intipati masalah.

"Titanium Hot Comments" ialah lajur pemerhatian acara hangat yang dilancarkan oleh Titanium Media Ia terutamanya menjemput pengamal media dan industri yang mempunyai pandangan unik dan pemerhatian mendalam mengenai pembangunan industri yang berbeza dan model perniagaan yang berbeza untuk memaparkannya secara komprehensif melalui. tafsiran pelbagai sudut Kesan dan kepentingan peristiwa.

Jika anda mengambil berat tentang aliran terkini, mempunyai pandangan unik anda sendiri, dan ingin berkongsi serta bertukar pandangan dengan lebih ramai orang yang berfikiran sama, anda dialu-alukan untuk menambah pembantu komuniti "Tidu Hot Review" WeChat: taiduzhushou dan sertai komuniti " Komen Panas Titanium", sertai kami untuk mewujudkan komuniti pemikir, supaya pemikiran yang berharga dapat dilihat oleh lebih ramai orang!

Atas ialah kandungan terperinci 'Penipuan AI' telah menjadi topik carian hangat Bagaimana AI boleh 'berbuat baik' selepas ia 'dilepaskan'? ｜Komen hangat tentang darjah titanium. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!