OpenAI Membangunkan Alat untuk Mengesan Kandungan Dijana ChatGPT Dengan Ketepatan 99.9% tetapi Tiada Rancangan untuk Mengeluarkannya

Syarikat California telah lama membayangkan bahawa ia sedang menyelidik teknologi yang boleh mengesan kandungan kecerdasan buatan (AI), tetapi ia telah menyebabkan pelanggannya percaya bahawa teknologi ini sudah lama berlalu.

OpenAI dilaporkan telah membangunkan alat yang boleh mengesan apabila seseorang menggunakan ChatGPT untuk menjana kandungan dengan ketepatan 99.9%, tetapi syarikat itu tidak bercadang untuk mengeluarkannya kepada umum.

Syarikat California telah lama membayangkan bahawa ia sedang menyelidik teknologi yang boleh mengesan kandungan kecerdasan buatan (AI), tetapi ia telah menyebabkan pelanggannya percaya bahawa teknologi ini sudah lama berlalu. Bagaimanapun, menurut orang dalam yang bercakap dengan Wall Street Journal (WSJ), alat ini telah tersedia selama berbulan-bulan.

Mengesan kandungan yang dijana AI telah menjadi satu cabaran yang ketara apabila penerimaan pakai semakin meningkat. Penggubal undang-undang telah menggubal undang-undang yang menghendaki pembangun AI memasukkan tera air dan ciri tersendiri lain dalam kandungan tersebut, tetapi tiada satu pun yang memegangnya.

Cabaran ini lebih berleluasa dalam beberapa bidang, seperti sistem pendidikan, di mana kajian terbaru mendapati bahawa 60% pelajar sekolah menengah dan menengah menggunakan AI untuk membantu kerja sekolah.

Menurut orang dalam OpenAI, cabaran ini telah diselesaikan lebih setahun yang lalu oleh pasukan yang mampu mencapai ketepatan 99.9% dalam mengesan kandungan yang dijana ChatGPT. Walau bagaimanapun, syarikat itu tidak bercadang untuk mengeluarkan alat itu kepada orang ramai.

“Ia hanya perlu menekan butang,” kata salah seorang sumber.

OpenAI berkata kelewatan itu perlu untuk melindungi pengguna kerana alat itu memberikan "risiko penting."

“Kami percaya pendekatan sengaja yang kami ambil adalah perlu memandangkan kerumitan yang terlibat dan kemungkinan kesannya terhadap ekosistem yang lebih luas di luar OpenAI,” kata jurucakap syarikat kepada WSJ.

Firma itu juga mendakwa bahawa jika teknologi itu tersedia untuk semua orang, pelakon jahat boleh menguraikan teknik itu dan membangunkan penyelesaian.

Namun, sumber mengatakan bahawa motif sebenar adalah pengekalan pengguna. Tinjauan syarikat tahun lepas mendapati bahawa 70% pengguna ChatGPT tidak memihak kepada alat baharu itu, dengan satu daripada tiga mengatakan mereka akan berhenti daripada chatbot dan beralih kepada saingannya.

Sejak itu, eksekutif kanan telah menyekat alat itu, mendakwa ia belum bersedia untuk pelancaran awam. Dalam mesyuarat dua bulan lalu, pegawai tertinggi menyatakan bahawa alat ini, yang bergantung pada output penanda air, adalah terlalu kontroversi dan syarikat mesti meneroka pilihan lain.

Saingan OpenAI, yang diterajui oleh Google (NASDAQ: GOOGL), tidak menunjukkan prestasi yang lebih baik. Gergasi enjin carian itu, yang Gemini LLM adalah salah satu peneraju industri, telah membangunkan alat serupa, yang digelar SynthID, tetapi masih belum melancarkannya secara terbuka.

Untuk membolehkan kecerdasan buatan (AI) berfungsi dengan betul mengikut undang-undang dan berkembang maju dalam menghadapi cabaran yang semakin meningkat, ia perlu menyepadukan sistem rantaian blok perusahaan yang memastikan kualiti dan pemilikan input data—membolehkan ia memastikan data selamat di samping menjamin kebolehubahan data.

Pelanggan CoinDesk boleh mengakses cerita penuh di sini.

Tonton: Aplikasi AI Transformatif akan datang

Baru menggunakan blockchain? Lihat bahagian Blockchain untuk Pemula CoinGeek, panduan sumber utama untuk mengetahui lebih lanjut tentang teknologi blockchain.

Atas ialah kandungan terperinci OpenAI Membangunkan Alat untuk Mengesan Kandungan Dijana ChatGPT Dengan Ketepatan 99.9% tetapi Tiada Rancangan untuk Mengeluarkannya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!