OpenAI mengeluarkan pemalam ChatGPT, menyebabkan kebimbangan: kualiti kandungan dan keselamatan perlu diukur

Berita pada 24 Mac, waktu tempatan di Amerika Syarikat pada hari Khamis, syarikat penyelidikan kecerdasan buatan OpenAI mengeluarkan berbilang pemalam untuk robot sembang popularnya ChatGPT, yang akan membantu ChatGPT menyambung ke rangkaian untuk Mendapatkan semula maklumat dalam masa nyata atau menggunakan aplikasi pihak ketiga.

Dilaporkan bahawa pemalam OpenAI akan membolehkan ChatGPT mengakses sumber dan pangkalan data pengetahuan pihak ketiga, termasuk Internet, sekali gus memperluaskan keupayaan chatbot. OpenAI akan menyediakan versi Alpha kepada pengguna dan pembangun aplikasi ujian ChatGPT. Keutamaan pada mulanya akan diberikan kepada sebilangan kecil pembangun dan pelanggan ChatGPT Plus sebelum boleh diakses oleh orang awam.

Pemalam yang paling menarik sudah pasti ialah pemalam penyemakan imbas web pihak pertama OpenAI, yang membolehkan ChatGPT mencari data daripada web untuk menjawab pelbagai soalan yang dikemukakan kepadanya. Sebelum ini, kandungan maklumat ChatGPT terhad kepada tarikh, acara dan orang sebelum September 2021. Pemalam baharu menggunakan API carian Bing Microsoft untuk mendapatkan semula kandungan daripada web, sambil memaparkan tapak web yang ia lawati semasa meringkaskan jawapan dan memetik sumbernya dalam respons ChatGPT.

Walau bagaimanapun, dapat mengakses sumber maklumat lain dalam talian mungkin menimbulkan risiko baharu, seperti yang ditemui oleh penyelidikan terdahulu oleh pasukan OpenAI. OpenAI mencipta sistem percubaan yang dipanggil WebGPT pada tahun 2021, yang kadangkala memetik maklumat daripada sumber yang tidak boleh dipercayai dan didorong untuk memilih data daripada tapak web yang boleh dipercayai oleh pengguna, walaupun sumber ini tidak berwibawa secara objektif. BlenderBot 3.0 luar talian Meta yang kemudiannya juga mempunyai akses kepada Internet, tetapi ia dengan cepat menyimpang daripada penglihatan asal. Apabila digesa oleh teks tertentu, ia menyiarkan teori konspirasi atau kandungan lain yang menyinggung perasaan.

Rangkaian langsung kurang tepat berbanding set data latihan statik, dan ini bermakna lebih sedikit sekatan penapisan. Enjin carian seperti Google dan Bing menggunakan mekanisme keselamatan mereka sendiri untuk mengurangkan kemungkinan kandungan yang tidak boleh dipercayai naik ke bahagian atas hasil carian, tetapi keputusan ini mungkin dimanipulasi, ia tidak semestinya mewakili keseluruhan rangkaian. Seperti yang dilaporkan sebelum ini, algoritma Google mengutamakan tapak yang menggunakan teknologi web moden seperti penyulitan, sokongan mudah alih dan penanda skema. Oleh itu, banyak tapak web dengan kandungan berkualiti tinggi yang lain cenderung terlepas. Ini memberikan enjin carian banyak kuasa untuk memilih data yang mungkin memberitahu jawapan kepada model bahasa web. Google didapati mengutamakan perkhidmatannya sendiri dalam carian, seperti menjawab pertanyaan perjalanan dengan data daripada Tempat Google, dan bukannya mengagregatkan maklumat daripada sumber sosial yang lebih kaya seperti TripAdvisor. Pada masa yang sama, pendekatan algoritma untuk mencari juga terdedah kepada kelemahan. Pada tahun 2020, Pinterest mengambil kesempatan daripada anomali dalam algoritma carian imej Google untuk menunjukkan lebih banyak kandungan dalam Carian Imej Google. OpenAI mengakui bahawa ChatGPT yang didayakan internet boleh melakukan semua jenis kelakuan buruk, seperti menghantar mesej penipuan dan e-mel spam, memintas sekatan keselamatan dan secara amnya "meningkatkan keupayaan mereka yang menipu, mengelirukan, atau menyalahgunakan orang lain." keupayaan pelaku jahat". Tetapi syarikat itu juga berkata ia telah "melaksanakan beberapa perlindungan" secara dalaman dan luaran untuk mengelakkan perkara ini daripada berlaku.

Selain pemalam penyemak imbas, OpenAI juga menyediakan penterjemah Python untuk model di belakang ChatGPT yang berfungsi dalam kotak pasir, persekitaran pelaksanaan tembok api dan beberapa ruang cakera sementara. Pemalam ini menyokong memuat naik fail ke ChatGPT dan memuat turun hasilnya. OpenAI mengatakan ia amat berguna untuk menyelesaikan masalah matematik, melaksanakan analisis data, visualisasi dan menukar antara format fail.

Ramai kolaborator awal telah membina pemalam untuk ChatGPT, termasuk Expedia, FiscalNote, Instacart, Kayak, Klarna, Milo, OpenTable, Shopify, Slack, Speak, Wolfram dan Zapier.

Sebagian besar, tujuan pemalam ini adalah jelas. Sebagai contoh, alat tambah OpenTable akan membenarkan chatbot mencari restoran untuk tempahan yang tersedia, manakala alat tambah Instacart membenarkan ChatGPT membuat pesanan dari kedai tempatan. Zapier ialah salah satu apl paling berskala yang pernah dibuat, menyambung dengan apl seperti Helaian Google, Trello dan Gmail untuk mencetuskan pelbagai tugas berkaitan produktiviti.

Untuk menggalakkan pembangun mencipta pemalam baharu, OpenAI telah membuka sumber pemalam "pendapatan semula" yang membolehkan ChatGPT mengakses coretan dokumen daripada sumber data seperti fail, nota, e-mel atau dokumen awam dengan bertanya soalan dalam bahasa semula jadi. OpenAI menyiarkan: "Kami bekerja keras untuk membangunkan pelbagai pemalam dan membawanya kepada khalayak yang lebih luas. Kami masih perlu banyak belajar dan dengan bantuan anda, kami berharap dapat mencipta sesuatu yang praktikal dan selamat."

Untuk ChatGPT, pemalam adalah suplemen penting. ChatGPT dahulunya terhad kepada pembelajaran daripada data latihannya, tetapi dengan pemalam, ia tiba-tiba menjadi lebih berkuasa dan mungkin kurang berisiko dari segi undang-undang. Ramai pakar menuduh OpenAI mendapat keuntungan daripada melatih ChatGPT pada data tidak berlesen ChatGPT mengandungi pelbagai jenis tapak web awam, dan pemalam itu boleh menyelesaikan masalah ini dengan membenarkan syarikat mengekalkan kawalan penuh ke atas data mereka. (Sedikit)

Atas ialah kandungan terperinci OpenAI mengeluarkan pemalam ChatGPT, menyebabkan kebimbangan: kualiti kandungan dan keselamatan perlu diukur. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!