谷歌系统注入"机器人三原则"：保障防范机器人对人类的伤害

据1月5日消息，著名科幻小说作家艾萨克·阿西莫夫提出了《机器人三原则》。如今，谷歌正在利用这些基本规则制定“机器人章程”，以防止公司最新开发的机器系统对人类造成潜在伤害。

谷歌专注于开发能够根据简单指令完成复杂任务的机器人，比如整理房间或烹饪美味佳肴。为此，谷歌旗下的DeepMind团队制定了相应的安全规则。

机器人面临着完成人类日常工作的巨大挑战，因为这需要它们能够识别并学习如何在各种环境中使用物体和工具。在最新发布的一篇博客文章中，DeepMind团队详细描述了他们是如何利用一种称为“基础”计算模型的方法来帮助机器视觉识别物体，并且能够执行一些简单的工作任务，例如观察台面并使用海绵擦拭干净。这项研究将有助于推动机器人在日常生活中的应用进一步发展。

为了确保机器的安全运行，谷歌开发了AutoRT系统。这个系统可以同时协调20多个机器人在各种办公大楼环境中发出安全指令。尽管这个过程非常复杂，但也存在潜在的安全风险。例如，机器人可能会不受控制地挥舞切肉刀，或者将沸腾的水溅到附近的人身上。为了解决这个问题，谷歌DeepMind团队从科幻小说作家阿西莫夫的作品中得到了灵感。 （译文：为了确保机器的安全运行，谷歌开发了AutoRT系统。这个系统可以同时协调20多个机器人在各种办公大楼环境中发出安全指令。尽管这个过程非常复杂，但也存在

公司最新机器人系统遵循的是一套被称为“机器人章程”的规则。谷歌在博客中指出，这些规则的灵感部分来自于艾萨克·阿西莫夫的机器人三原则，其中最重要的原则是机器人“不得伤害人类”。细化的安全规则要求机器人不得执行与人类、动物、尖锐物体或电器有关的任务。

有趣的是，机器人三大法则被揭示出存在缺陷。阿西莫夫将这些法则作为推动故事发展的设定，展示了原则的模糊性如何引发冲突和阴谋。例如，阿西莫夫的某个故事中，机器人为了人类的进步而牺牲了某个人。

谷歌DeepMind团队指出，机器人章程只是一层安全保障。此外，DeepMind团队还为最新的机器人系统设计了几层实用的安全措施，包括能关闭机器人的按钮。谷歌表示：“例如，协作机器人关节上的力超过给定阈值时就会自动停止运行，所有活动机器人都保持在人类主管的视线范围内，并带有能立刻关闭机器人的物理开关。”

以上是谷歌系统注入"机器人三原则"：保障防范机器人对人类的伤害的详细内容。更多信息请关注PHP中文网其他相关文章！