谷歌制定“人工智能机器行为准则”，以保障人类不受伤害

IT之家 1 月 5 日消息，谷歌旗下 DeepMind 公司近日公布了三项新进展，其中之一针对收集训练数据的系统，起草了“机器人宪法”，确保 AI 机器人不会伤害人类。

谷歌的数据收集系统AutoRT利用视觉语言模型（VLM）和大型语言模型（LLM），以适应环境、理解环境并确定任务。

本次起草的“机器人宪法”受艾萨克・阿西莫夫的“机器人三大定律”启发，着重于安全。宪法指示LLM避免从事涉及人类、动物、尖锐物体甚至电器的任务。

DeepMind表示为了提高安全性，限制了机器人的关节，当力超过阈值时会自动停止，并配备了物理紧急停止开关。

谷歌表示，在过去的7个月中，他们部署了一支由53台AutoRT机器人组成的机群。这些机器人被分别部署在四个不同的办公楼，并进行了超过77000次试验。

一些机器人由人类操作员远程控制，而其他机器人则根据脚本或完全自主地使用谷歌的RT-2人工智能学习模型运行。

试用中使用的机器人看起来更实用而不是花哨 —— 只配备了摄像头、机械臂和移动底座。对于每个机器人，系统使用 VLM 来理解其环境和视野内的物体。接下来，LLM 提出了机器人可以执行的创造性任务清单，比如将零食放在台面上，并扮演决策者的角色，选择机器人执行的适当任务。

据IT之家报道，DeepMind的另一项新技术SARA-RT被发现具有比现有的Robotic Transformer RT-2更准确和更快的神经网络架构。

谷歌还宣布了 RT-Trajectory，添加了 2D 轮廓，以帮助机器人更好地执行擦桌子等特定的物理任务。

以上是谷歌制定“人工智能机器行为准则”，以保障人类不受伤害的详细内容。更多信息请关注PHP中文网其他相关文章！