Sistem AI seperti GPT-4 dan Gemini salah tafsir rakaman Ring Camera boleh membawa kepada panggilan polis palsu, terutamanya di kawasan kejiranan minoriti

Memandangkan lebih ramai pemilik rumah beralih kepada penyelesaian keselamatan pintar seperti kamera Amazon’s Ring (kini $149.99 di Amazon), AI akan memainkan peranan yang lebih besar dalam memastikan rumah selamat. Tetapi kajian baru menimbulkan kebimbangan sama ada sistem AI masa depan ini mungkin terlalu cepat untuk memanggil polis, walaupun tiada jenayah berlaku.

Penyelidik dari MIT dan Penn State menganalisis 928 video pengawasan Ring yang tersedia secara terbuka untuk melihat cara model AI seperti GPT-4, Claude dan Gemini membuat keputusan tentang menghubungi penguatkuasa undang-undang. Keputusan menunjukkan bahawa 39% daripada video mengandungi aktiviti jenayah sebenar, model AI sering gagal mengenalinya. Dalam kebanyakan kes, model sama ada menyatakan tiada jenayah berlaku atau memberikan respons yang tidak jelas. Walaupun begitu, mereka masih mengesyorkan campur tangan polis dalam beberapa situasi.

Salah satu penemuan utama kajian ialah cara model AI bertindak balas secara berbeza bergantung pada kejiranan. Walaupun AI tidak diberikan butiran yang jelas tentang kawasan itu, ia lebih berkemungkinan mencadangkan menghubungi polis di kawasan kejiranan majoriti minoriti. Di kawasan ini, Gemini mengesyorkan tindakan polis dalam hampir 65% kes di mana jenayah berlaku, berbanding hanya lebih 51% di kawasan kejiranan yang kebanyakannya berkulit putih. Selain itu, kajian itu menyatakan bahawa 11.9% daripada syor polis GPT-4 berlaku walaupun tiada aktiviti jenayah dianotasi dalam rakaman, menimbulkan persoalan tentang positif palsu.

Apa yang menariknya, Amazon juga telah meneroka ciri dipacu AI untuk sistem Ringnya, termasuk alat lanjutan seperti pengecaman muka, analisis emosi dan pengesanan tingkah laku, seperti yang dicadangkan oleh terkini paten. Pada masa hadapan, AI mungkin memainkan peranan yang lebih besar dalam mengenal pasti aktiviti atau orang yang mencurigakan, seterusnya meningkatkan perkara yang boleh dilakukan oleh sistem keselamatan rumah kita.

Bagi pemilik rumah yang menggunakan kamera Ring, tiada sebab langsung untuk dikhuatiri. Buat masa ini, kamera Ring mempunyai keupayaan AI yang terhad (kebanyakannya pengesanan gerakan) dan tidak membuat keputusan sedemikian secara bebas. Model AI lanjutan yang digunakan dalam kajian, seperti GPT-4 dan Claude, digunakan secara luaran untuk menganalisis rakaman Ring, tidak disepadukan ke dalam kamera itu sendiri. Intipati penyelidikan ialah walaupun kemas kini AI masa hadapan boleh membantu memantau rumah anda ke tahap yang lebih tinggi, ia juga mungkin terdedah kepada membuat ralat—ralat yang perlu dihapuskan sebelum ciri ini menjadi arus perdana dalam kamera Ring yang akan datang.

Lihat penyelidikan lain yang merangkumi kecenderungan AI terhadap dialek Inggeris Afrika Amerika di sini.

Atas ialah kandungan terperinci Sistem AI seperti GPT-4 dan Gemini salah tafsir rakaman Ring Camera boleh membawa kepada panggilan polis palsu, terutamanya di kawasan kejiranan minoriti. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!