OpenAI menyatakan kebimbangan tentang pengguna yang mengembangkan perasaan untuk chatbotnya

GPT-4o telah diperkenalkan sebagai model yang dipertingkatkan dengan sangat baik untuk ChatGPT. Sejak kemunculannya, orang ramai telah memuji ChatGPT-4o kerana interaksi seperti manusia. Walaupun ini kedengaran hebat, OpenAI telah menyedari masalah: orang ramai mula menganggap chatbot sebagai manusia dan membentuk ikatan emosi.

OpenAI telah memerhatikan orang ramai menggunakan bahasa yang "mungkin menunjukkan hubungan." Syarikat itu menyatakan bahawa ia telah menemui contoh di mana orang menggunakan bahasa yang menyatakan "bon kongsi." Ini disifatkan sebagai berita buruk kerana dua sebab utama.

Pertama sekali, apabila ChatGPT-4o kelihatan seperti manusia, pengguna boleh mengabaikan mana-mana halusinasi yang keluar daripada chatbot. Untuk konteks, halusinasi AI pada asasnya ialah output yang tidak betul atau mengelirukan yang dijana oleh model. Ini boleh berlaku kerana data latihan yang cacat atau tidak mencukupi.

Kedua, interaksi seperti manusia dengan chatbot boleh mengurangkan interaksi sosial sebenar di kalangan pengguna. OpenAI mengatakan bahawa interaksi chatbot berpotensi bermanfaat untuk "individu yang kesepian", tetapi mereka juga boleh menjejaskan hubungan yang sihat. Syarikat itu juga menyatakan bahawa orang boleh mula bercakap dengan manusia dengan persepsi bahawa orang lain adalah chatbot.

Itu buruk kerana OpenAI telah mereka GPT-4o untuk berhenti bercakap apabila pengguna mula bercakap mengenainya. Dengan semua kebimbangan ini, syarikat itu mengatakan bahawa ia kini akan memantau bagaimana pengguna membangunkan ikatan emosi dengan ChatGPT-4o. OpenAI juga menyatakan bahawa ia akan membuat pelarasan pada model jika perlu.

Dapatkan perakam suara berkuasa AI PLAUD Note daripada Amazon

Atas ialah kandungan terperinci OpenAI menyatakan kebimbangan tentang pengguna yang mengembangkan perasaan untuk chatbotnya. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!