Siasatan dalaman ditemui: OpenAI juga tidak tahu bagaimana AInya membuat keputusan

Rangkaian Berita Rujukan dilaporkan pada 14 Mei Menurut laporan di laman web "Vanguard" Sepanyol pada 13 Mei, OpenAI, syarikat di belakang ChatGPT, baru-baru ini cuba untuk mengetahui bagaimana model bahasanya berprestasi dalam dalaman. tinjauan. Satu kesimpulan yang dibuat oleh mereka yang membuat keputusan adalah: "Ia berkesan. Tetapi tidak banyak yang diketahui tentang cara ia berfungsi."

Menurut laporan, laporan yang diterbitkan baru-baru ini oleh penyelidik OpenAI menyatakan bahawa "Model bahasa kini menjadi lebih berkuasa dan lebih biasa, tetapi kami tidak memahami cara ia beroperasi." Kenyataan ini menyokong pandangan mereka yang telah menimbulkan kebimbangan tentang kekurangan keselamatan beberapa kecerdasan buatan yang dipromosikan oleh orang ramai.

Tetapi OpenAI juga menyatakan bahawa "penyelidikan baru-baru ini telah mencapai kemajuan dalam memahami bilangan litar yang kecil dan tingkah laku yang terhad", tetapi syarikat itu percaya bahawa "untuk memahami sepenuhnya model bahasa" memerlukan "menganalisis berjuta-juta neuron" . Berhadapan dengan beban kerja yang besar, syarikat itu mula menggunakan teknologi yang secara automatik menganalisis semua neuron dalam model bahasa.

Menurut penyelidikan yang diterbitkan, syarikat itu masih belum mencapai ini, menurut laporan. Walaupun syarikat itu masih belum menemui cara neuron berfungsi, ia berharap dapat melakukannya pada masa hadapan. "Kami berharap bahawa bermula daripada pendekatan mengautomasikan kebolehtafsiran ini akan membolehkan kami menyemak secara menyeluruh keselamatan model sebelum penggunaan. Walaupun GPT-4 telah digunakan secara meluas, mereka pada masa ini tidak dapat melaksanakan tugas ini." gagal menyelesaikan tugasan ini (Disusun oleh Su Jiawei)

Atas ialah kandungan terperinci Siasatan dalaman ditemui: OpenAI juga tidak tahu bagaimana AInya membuat keputusan. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!