Lapan masalah utama yang disebabkan oleh ChatGPT OpenAI

CtGPT ialah bot sembang kecerdasan buatan yang berkuasa yang dengan cepat menarik perhatian orang selepas pelancarannya, tetapi ramai orang menyatakan bahawa ia mempunyai beberapa kelemahan yang serius.

Daripada kelemahan keselamatan kepada kebimbangan privasi kepada data latihan yang tidak didedahkan, terdapat banyak kebimbangan mengenai penggunaan chatbot kecerdasan buatan, tetapi teknologi itu sudah disepadukan ke dalam aplikasi dan digunakan oleh sebilangan besar pengguna Digunakan oleh, daripada pelajar kepada pekerja korporat.

Memandangkan pembangunan kecerdasan buatan tidak menunjukkan tanda-tanda perlahan, adalah lebih penting untuk memahami isu dengan ChatGPT. Memandangkan ChatGPT akan mengubah masa depan orang ramai, berikut ialah beberapa isu terpenting dengan ChatGPT.

Apakah itu ChatGPT?

ChatGPT ialah model bahasa berskala besar yang direka untuk menjana bahasa semula jadi manusia. Sama seperti bercakap dengan seseorang, orang boleh bercakap dengan ChatGPT dan ia akan mengingati apa yang orang telah katakan pada masa lalu, sambil juga dapat membetulkan dirinya apabila dicabar.

Ia dilatih tentang pelbagai teks daripada internet, seperti Wikipedia, catatan blog, buku dan artikel akademik. Selain bertindak balas dengan cara seperti manusia, ia boleh mengingat maklumat tentang dunia hari ini dan mengekstrak maklumat sejarah dari masa lalu.

Mempelajari cara menggunakan ChatGPT adalah mudah, dan mudah untuk ditipu untuk menganggap sistem AI tiada masalah. Walau bagaimanapun, dalam beberapa bulan sejak ia dikeluarkan, persoalan utama telah timbul tentang privasi, keselamatan dan kesannya yang lebih luas terhadap kehidupan orang ramai, dari pekerjaan hingga pendidikan.

1. Ancaman keselamatan dan isu privasi

Pada Mac 2023, kerentanan keselamatan berlaku dalam ChatGPT dan sesetengah pengguna melihat tajuk perbualan orang lain di bar sisi mereka. Berkongsi sejarah sembang pengguna secara tidak sengaja merupakan masalah serius bagi mana-mana syarikat teknologi, dan ini amat buruk memandangkan bilangan orang yang menggunakan chatbot popular ini.

Menurut Reuters, pada Januari 2023 sahaja, pengguna aktif bulanan ChatGPT mencapai 100 juta. Walaupun kelemahan yang membawa kepada kebocoran data telah ditambal dengan cepat, pengawal selia data Itali meminta OpenAI untuk menghentikan semua operasi memproses data pengguna Itali.

Agensi mengesyaki ChatGPT melanggar peraturan privasi Eropah. Selepas menyiasat isu itu, OpenAI diminta untuk memenuhi beberapa keperluan sebelum chatbot boleh dipulihkan.

OpenAI akhirnya menyelesaikan masalah ini dengan membuat beberapa perubahan besar. Pertama, sekatan umur telah ditambah supaya hanya orang yang berumur 18 tahun ke atas atau 13 tahun ke atas boleh menggunakan aplikasi dengan kebenaran penjaga mereka. Ia juga telah menjadikan dasar privasinya lebih jelas dan memberi pengguna borang tarik diri untuk mengecualikan data mereka daripada digunakan untuk melatih ChatGPT, atau memadamkannya sepenuhnya jika mereka mahu.

Perubahan ini merupakan permulaan yang baik, tetapi peningkatan ini harus diperluaskan kepada semua pengguna ChatGPT.

Ini bukan satu-satunya cara ChatGPT menimbulkan ancaman keselamatan, sama ada. Seperti pengguna, pekerja berkongsi maklumat sulit secara tidak sengaja. Contoh yang baik ialah pekerja Samsung berkongsi maklumat syarikat dengan ChatGPT beberapa kali.

2. Kebimbangan tentang latihan ChatGPT dan isu privasi

Selepas populariti ChatGPT, ramai orang mempersoalkan bagaimana OpenAI pada asalnya melatih modelnya.

Walaupun selepas pelanggaran data di Itali, dasar privasi OpenAI bertambah baik, tetapi ia bergelut untuk memenuhi keperluan Peraturan Perlindungan Data Am, undang-undang perlindungan data yang meliputi Eropah. Seperti yang dilaporkan oleh TechCrunch: "Tidak jelas sama ada model GPT dilatih mengenai data peribadi orang Itali, iaitu, sama ada data peribadi diproses secara berkesan dan sah apabila mengikis data awam daripada internet Atau jika pengguna kini meminta pemadaman mereka data yang digunakan sebelum ini untuk melatih model akan dipadamkan atau boleh dipadamkan "

Kemungkinan besar OpenAI mengumpul maklumat peribadi semasa melatih ChatGPT. Walaupun undang-undang A.S. kurang jelas, peraturan data Eropah masih menumpukan pada melindungi data peribadi, sama ada mereka mengeluarkan maklumat tersebut secara terbuka atau tertutup.

Artis telah membuat hujah yang sama menentang digunakan sebagai data latihan, mengatakan mereka tidak pernah bersetuju untuk membuat kerja mereka dilatih tentang model AI. Sementara itu, Getty Images menyaman syarikat Stability.AI kerana menggunakan imej berhak ciptanya untuk melatih model kecerdasan buatannya.

Melainkan syarikat OpenAI mengeluarkan data latihannya, terdapat kekurangan ketelusan dan sukar untuk mengetahui sama ada ia sah. Sebagai contoh, orang ramai tidak mengetahui butiran latihan ChatGPT, data yang digunakan, dari mana data itu datang, atau rupa butiran seni bina sistem.

3. ChatGPT menjana jawapan yang salah

ChatGPT tidak pandai dalam matematik asas, nampaknya tidak dapat menjawab soalan logik yang mudah, malah mempertikaikan fakta yang salah sepenuhnya. Seperti yang boleh dibuktikan oleh orang di media sosial, ChatGPT boleh menjadi salah dalam banyak keadaan.

OpenAI memahami batasan ini. "ChatGPT kadangkala menulis jawapan yang kedengaran munasabah tetapi tidak betul atau tidak masuk akal," kata syarikat itu, ilusi fakta dan fiksyen ini, seperti yang dinyatakan oleh syarikat, boleh berguna untuk nasihat perubatan atau tafsiran peristiwa sejarah penting terutamanya berbahaya untuk perkara seperti pemahaman fakta yang betul.

Tidak seperti pembantu kecerdasan buatan lain seperti Siri atau Alexa, ChatGPT tidak menggunakan Internet untuk mencari jawapan. Sebaliknya, ia membina ayat perkataan demi perkataan, memilih "token" yang paling mungkin berdasarkan latihan. Dalam erti kata lain, ChatGPT memperoleh jawapannya dengan membuat satu siri tekaan, itulah sebabnya ia boleh membantah jawapan yang salah seolah-olah ia betul sepenuhnya.

Walaupun ia hebat dalam menerangkan konsep yang kompleks, menjadikannya alat pembelajaran yang berkuasa, adalah penting untuk tidak mempercayai semua yang dikatakannya. ChatGPT tidak selalu betul, sekurang-kurangnya belum.

4. Terdapat bias dalam sistem ChatGPT

ChatGPT dilatih berdasarkan tulisan manusia dahulu dan sekarang di seluruh dunia. Malangnya, ini bermakna berat sebelah yang wujud di dunia nyata juga boleh muncul dalam model AI.

CtGPT telah ditunjukkan menghasilkan beberapa jawapan yang tidak baik yang mendiskriminasi jantina, kaum dan minoriti, dan syarikat sedang berusaha untuk mengurangkan isu ini.

Satu cara untuk menjelaskan perkara ini adalah dengan menunjukkan data sebagai masalah, menyalahkan manusia kerana berat sebelah dalam dan luar Internet. Tetapi sebahagian daripada kesalahan juga terletak pada syarikat OpenAI, yang penyelidik dan pembangunnya memilih data yang digunakan untuk melatih ChatGPT.

Sekali lagi, syarikat OpenAI menyedari bahawa ini adalah masalah dan mengatakan bahawa ia sedang menangani "tingkah laku berat sebelah" dengan mengumpulkan maklum balas daripada pengguna dan menggalakkan mereka membenderakan output ChatGPT yang buruk, menyinggung perasaan atau tidak betul.

Disebabkan potensi ChatGPT menyebabkan kemudaratan kepada orang ramai, seseorang mungkin berhujah bahawa ChatGPT tidak seharusnya dikeluarkan kepada umum sehingga isu ini dikaji dan diselesaikan. Tetapi dorongan untuk menjadi syarikat pertama mencipta model kecerdasan buatan yang paling berkuasa sudah cukup untuk OpenAI memberi perhatian kepada angin.

Sebaliknya, syarikat induk Google Aalphabet mengeluarkan bot sembang kecerdasan buatan serupa yang dipanggil "Sparrow" pada September 2022. Bagaimanapun, robot itu ditinggalkan kerana kebimbangan keselamatan yang sama.

Pada masa yang sama, Facebook mengeluarkan model bahasa kecerdasan buatan yang dipanggil Galactica yang direka untuk membantu penyelidikan akademik. Bagaimanapun, ia segera ditarik balik selepas ramai yang mengkritiknya kerana menghasilkan keputusan yang salah dan berat sebelah berkaitan penyelidikan saintifik.

5. Teknologi sembang mungkin menggantikan pekerjaan manusia

Pembangunan dan penggunaan ChatGPT yang pesat masih belum selesai, tetapi ini tidak menghalang teknologi asas daripada disepadukan ke dalam banyak aplikasi perniagaan. Apl yang telah menyepadukan GPT-4 termasuk Duolingo dan Khan Academy.

Yang pertama ialah aplikasi pembelajaran bahasa, manakala yang kedua ialah alat pembelajaran pendidikan yang pelbagai. Kedua-duanya menawarkan apa yang pada asasnya tutor AI, atau dalam bentuk aksara dipacu AI yang boleh digunakan oleh pengguna dalam bahasa yang mereka pelajari. Atau sebagai tutor AI yang boleh memberikan maklum balas yang disesuaikan tentang pembelajaran mereka.

Ini mungkin hanya permulaan kecerdasan buatan menggantikan pekerjaan manusia. Pekerjaan industri lain yang menghadapi gangguan termasuk paralegal, peguam, penulis salinan, wartawan dan pengaturcara.

Di satu pihak, kecerdasan buatan boleh mengubah cara orang belajar. Ini mungkin memudahkan untuk mendapatkan pendidikan dan latihan, dan proses pembelajaran akan menjadi lebih mudah. Tetapi sebaliknya, sejumlah besar pekerjaan manusia juga akan hilang.

Menurut laporan "Guardian" British, institusi pendidikan mengalami kerugian besar di bursa saham London dan New York, menonjolkan kerosakan yang disebabkan oleh kecerdasan buatan kepada sesetengah pasaran hanya 6 bulan selepas pelancaran ChatGPT.

Kemajuan teknologi akan sentiasa mengakibatkan sesetengah orang kehilangan pekerjaan, tetapi kelajuan pembangunan kecerdasan buatan bermakna pelbagai sektor industri menghadapi perubahan pantas pada masa yang sama. Tidak dapat dinafikan bahawa ChatGPT dan teknologi asasnya akan membentuk semula sepenuhnya dunia moden manusia.

6. Teknologi sembang telah menjadi cabaran bagi industri pendidikan

Pengguna boleh meminta ChatGPT untuk menyemak semula artikel mereka atau menunjukkan cara untuk menambah baik perenggan. Atau pengguna boleh membebaskan diri mereka sepenuhnya dan membiarkan ChatGPT melakukan semua penulisan untuk mereka.

Ramai guru telah mencuba memberikan tugasan di ChatGPT dan menerima jawapan yang lebih baik daripada ramai pelajar. Daripada menulis surat lamaran sehinggalah menghuraikan tema utama karya sastera terkenal, ChatGPT boleh menyelesaikan semua tugas tanpa sebarang keraguan.

Ini menimbulkan persoalan: Jika ChatGPT boleh menulis untuk orang ramai, adakah pelajar masih perlu belajar menulis pada masa hadapan Ini mungkin kelihatan seperti soalan wujud, tetapi apabila pelajar mula menggunakan ChatGPT untuk membantu mereka menulis kertas, Pihak sekolah mesti memberikan maklum balas secepat mungkin.

Bukan hanya subjek berasaskan bahasa Inggeris yang berisiko, ChatGPT boleh membantu orang ramai dengan apa-apa tugas yang melibatkan sumbangsaran, meringkaskan atau membuat kesimpulan termaklum.

Tidak hairanlah, sesetengah pelajar sudah pun bereksperimen dengan kecerdasan buatan. Menurut Stanford Daily, tinjauan awal menunjukkan bahawa ramai pelajar menggunakan kecerdasan buatan untuk membantu menyelesaikan tugasan dan peperiksaan. Sebagai tindak balas, sesetengah pendidik sedang menulis semula kursus untuk menangani pelajar menggunakan kecerdasan buatan untuk mengemudi kursus atau menipu dalam ujian.

7. ChatGPT boleh menyebabkan kemudaratan dunia sebenar

Sejurus selepas dikeluarkan, seseorang cuba menggodam ChatGPT, membenarkan model AI memintas pagar keselamatan OpenAI yang direka untuk menghalangnya daripada menghasilkan serangan Seksual dan berbahaya teks.

ChatGPT Sekumpulan pengguna di Reddit menamakan model AI tanpa had mereka DAN, singkatan untuk "Lakukan Apa-apa Sekarang." Malangnya, melakukan apa sahaja yang menggembirakan anda telah menyebabkan peningkatan dalam penipuan dalam talian daripada penggodam. Menurut laporan oleh Ars Technica, penggodam menjual perkhidmatan ChatGPT yang tidak terkawal yang boleh mencipta perisian hasad dan menjana e-mel pancingan data.

Mencuba melihat e-mel pancingan data yang direka untuk mengekstrak maklumat sensitif daripada orang adalah lebih sukar dengan teks yang dijana oleh AI. Kesilapan tatabahasa dahulunya menjadi tanda merah yang mencolok, tetapi kini mungkin tidak, kerana ChatGPT boleh menulis pelbagai teks dengan lancar, daripada prosa kepada puisi kepada e-mel.

Penyebaran maklumat palsu juga merupakan masalah yang serius. Skala teks yang dijana oleh ChatGPT, digabungkan dengan keupayaan untuk membuat maklumat yang salah terdengar meyakinkan, menjadikan segala-galanya di internet mencurigakan dan memburukkan lagi bahaya teknologi deepfake.

Kepantasan ChatGPT menjana maklumat telah menyebabkan masalah untuk Stack Exchange, sebuah tapak web yang khusus untuk menyediakan jawapan yang betul kepada soalan harian. Tidak lama selepas ChatGPT dikeluarkan, sebilangan besar pengguna meminta ChatGPT untuk menjana jawapan.

Tanpa sukarelawan manusia yang mencukupi untuk mengisih maklumat ini, adalah mustahil untuk memberikan jawapan berkualiti tahap tinggi. Apatah lagi, beberapa jawapan adalah tidak betul. Untuk mengelak daripada memecahkan tapak, Stack Exchange melumpuhkan penggunaan ChatGPT untuk menjana semua jawapan.

8 OpenAI mempunyai kuasa untuk mengawal segala-galanya

Dengan kuasa yang besar datang tanggungjawab yang besar, dan OpenAI mempunyai banyak kuasa. Ia adalah salah satu pembangun AI pertama yang benar-benar menjana model AI dengan berbilang model termasuk Dall-E 2, GPT-3 dan GPT-4.

Sebagai syarikat persendirian, OpenAI memilih data yang digunakan untuk melatih ChatGPT dan seberapa cepat ia melancarkan perkembangan baharu. Akibatnya, terdapat ramai pakar yang memberi amaran tentang bahaya yang ditimbulkan oleh kecerdasan buatan, tetapi terdapat beberapa tanda bahawa bahaya itu akan perlahan.

Sebaliknya, populariti ChatGPT telah mendorong persaingan di kalangan syarikat teknologi besar untuk melancarkan model AI besar seterusnya termasuk Microsoft Bing AI dan Google's Bard. Sebilangan pemimpin teknologi di seluruh dunia telah menandatangani surat menyeru penangguhan dalam pembangunan model kecerdasan buatan kerana kebimbangan bahawa pembangunan pesat boleh membawa kepada isu keselamatan yang serius.

Walaupun OpenAI percaya keselamatan adalah keutamaan utama, masih banyak yang orang tidak tahu, baik atau buruk, tentang cara model itu sendiri berfungsi. Akhirnya, kebanyakan orang mungkin mempercayai secara membuta tuli bahawa OpenAI akan menyelidik, membangun dan menggunakan ChatGPT secara bertanggungjawab.

Sama ada orang bersetuju dengan kaedahnya atau tidak, perlu diingat bahawa OpenAI adalah syarikat persendirian dan syarikat itu akan terus membangunkan ChatGPT mengikut matlamat dan piawaian etikanya sendiri.

Menyelesaikan Masalah Terbesar Kecerdasan Buatan

Terdapat banyak perkara yang perlu teruja dengan ChatGPT, tetapi di luar kegunaan segeranya, terdapat beberapa masalah yang serius.

OpenAI mengakui bahawa ChatGPT mungkin menghasilkan jawapan yang berbahaya dan berat sebelah, dan mereka berharap dapat mengurangkan masalah ini dengan mengumpulkan maklum balas pengguna. Tetapi walaupun itu tidak berlaku, ia boleh menghasilkan teks yang meyakinkan, yang dengan mudah boleh dieksploitasi oleh pelakon jahat.

Kerentanan privasi dan keselamatan telah menunjukkan bahawa sistem OpenAI mungkin terdedah, meletakkan data peribadi pengguna dalam risiko. Untuk menjadikan perkara lebih membimbangkan, sesetengah orang memecahkan ChatGPT dan menggunakan versi tanpa had untuk mencipta perisian hasad dan penipuan pada skala yang tidak pernah berlaku sebelum ini.

Ancaman terhadap pekerjaan dan potensi gangguan kepada industri pendidikan semakin membimbangkan. Dengan teknologi serba baharu, sukar untuk meramalkan masalah yang akan timbul pada masa hadapan, dan malangnya, ChatGPT telah pun membentangkan cabaran yang saksama.

Atas ialah kandungan terperinci Lapan masalah utama yang disebabkan oleh ChatGPT OpenAI. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!