OpenAI 对用户对其聊天机器人产生感情表示担忧

GPT-4o 是作为 ChatGPT 的大幅改进模型而推出的。自推出以来，人们就对 ChatGPT-4o 的类人交互赞不绝口。虽然这听起来不错，但 OpenAI 注意到了一个问题：人们开始将聊天机器人视为人并形成情感纽带。

OpenAI 观察到人们使用“可能表明正在形成联系”的语言。该公司指出，它发现人们使用表达“共同纽带”的语言的例子。这被描述为坏消息有两个主要原因。

首先，当 ChatGPT-4o 看起来像人类时，用户可以忽略聊天机器人发出的任何幻觉。就上下文而言，人工智能幻觉基本上是模型生成的不正确或误导性的输出。这种情况的发生可能是由于训练数据有缺陷或不足。

其次，与聊天机器人的类人交互可能会减少用户之间的真实社交互动。 OpenAI 表示，聊天机器人交互可能对“孤独的人”有益，但也可能影响健康的人际关系。该公司进一步指出，人们甚至可以开始与人类交谈，并认为对方是聊天机器人。

这会很糟糕，因为 OpenAI 设计了 ​​GPT-4o，当用户开始说话时就停止说话。考虑到所有这些担忧，该公司表示现在将监控用户如何与 ChatGPT-4o 建立情感联系。 OpenAI还表示，将在必要时对模型进行调整。

从亚马逊获取 PLAUD Note AI 驱动的录音机

以上是OpenAI 对用户对其聊天机器人产生感情表示担忧的详细内容。更多信息请关注PHP中文网其他相关文章！