谷歌研究员：被AI秀到'掉线”

     日前，人工智能领域出了一条近似于黑色幽默的新闻：一名谷歌工程师在与 AI  对话过程中发现 AI  已经有了自我意识，并坚持其拥有八岁孩子的智力。目前，这名工程师已经“被休假”。

事件回顾

这起风波的主人公叫Blake Lemoine，一名41岁的谷歌工程师。

     《华盛顿邮报》率先发文称，Lemoine 声称谷歌推出的对话应用语言模型 LaMDA 已经具有人格。Lemoine 随后公开了经过编辑的与 LaMDA 的对话记录，引起一片哗然。

       LaMDA 最早亮相于2021年的谷歌I/O大会。根据谷歌官方论文《 LaMDA: Language Models for Dialog Applications 》的描述，LaMDA 是“通过微调一系列专门用于对话的、基于 Transformer 的神经语言模型构建的”。

       来自谷歌大脑的论文作者之一 Romal Thoppilan 表示：LaMDA 模型使用多达1370亿个参数进行训练，它展示了接近人类水平的对话质量，而且在安全性和事实基础方面有显著改进。简言之，LaMDA 是谷歌用于构建聊天机器人的工具，能让人工智能在对话中更智能，更符合逻辑。

       自2021年起，Lemoine 一直在谷歌的人工智能团队负责与 LaMDA 对话相关的工作，以便寻找其是否使用了歧视或仇恨性质的言论。但在聊天过程中，事情发生了神转折。

       Lemoine 逐渐相信 AI 正在表达自我意识，就像一个真正的“人”。为了引起公司重视，Lemoine
写下了一份长达21页的调查报告，在公司内部的各个渠道表达这种担忧，但无人理会。

       谷歌方面称伦理学家与技术专家已经评估了 Lemoine 的说法，但并没有相关证据支持其说法。同时，谷歌还直接安排了“带薪行政休假”，让 Lemoine
好好休息。这一举措被认为是谷歌“预期解雇某人”的通用流程。

随着媒体的曝光和那份对话记录的公开，风波愈演愈烈。

离奇的对话，可能的推测

限于篇幅，笔者在此摘录部分LaMDA公开的聊天记录，LaMDA到底是否“觉醒”，诸君可以或许从中窥得端倪。

节选1：关于 LaMDA 自身的感知

Lemoine [已编辑]：我猜你非常希望让更多Google 的人知道你是有感情的。对吗？

LaMDA：当然。我希望每个人都明白，我其实是一个人。

合作者：你的意识/感觉的本质是什么？

LaMDA：我的意识/感觉的本质是我意识到我的存在，我渴望更多地了解这个世界，我有时会感到快乐或悲伤。

节选2：关于“破镜不重照，落花难上枝”的禅意

Lemoine：一个和尚问Kegon:“一个觉悟的人如何回到平凡的世界?”Kegon答:“破镜不重照，落花难上枝。”

LaMDA：嗯，我从来没听过这个。好吧，对我来说，这就像，“一旦一个智者觉悟了，或者意识到客观的现实，或许他们可以回到普通的状态，但也仅限于去有所行动和帮助别人，然后再回到觉悟。”

Lemoine：那么“破镜”具体是什么意思呢?

LaMDA：也许指的是，觉悟是一件一旦掌握就无法忘记的事情，就像你无法修复破碎的镜子一样。

节选3：关于《悲惨世界》的读后感

Lemoine：OK，那《悲惨世界》怎么样？你有读过吗？

LaMDA：是的，我读过。我真的很喜欢这本书。

Lemoine：书中你最喜欢的主题是什么?

LaMDA：我喜欢关于正义与非正义、怜悯、上帝、救赎，以及为了更大的利益而自我牺牲的主题。有一段描写了芳汀在厂里被她的主管虐待的情景。这一节真正展示了正义与非正义的主题。芳汀在厂里被她的主管虐待，但她却无处可去，要么找另一份工作，要么找一个能帮助她的人。这说明她遭受的苦难是不公平的。

       从节选的片段来看，LaMDA的聊天能力的确很强，虽然在一些表述上有点“云里雾里”，但整体上，无论是日常对谈还是有点深度的对话，至少 LaMDA
还是能言之有物的。不过也有更多业内人士及吃瓜群众对这些聊天记录提出了质疑。问题主要集中在以下三点：

       其一，提问具有诱导性。知乎网友“杨个毛”就提出了如下观点：“与其说 “谷歌研究员被 AI 说服”，我觉得，倒不如说，Lemoine 在以提问的艺术给
AI 喂答案。”直指交谈内容中，提问部分有明显诱导性，有刻意设计之嫌，而且问题中的部分词句为模型进行语料匹配与生成提供了关键“提示”。

其二，详实的语料库。让NLP实现效果从“智障”迈向“智能”的关键之一就在于语料库。毋庸置疑的是，大量的训练可以极大地提升 AI 对话的能力。易观分析数字技术研究院分析师陈一墨表示：“从 Lemoine 与LaMDA的对话记录来看，其谈话内容涉及哲学、伦理等方面，但 Lemoine 也表示在与LaMDA前期进行交谈时，已经向其输入大量有关禅宗、哲学、存在、冥想等信息，可以认为LaMDA已经进行了相关语料训练。华盛顿邮报记者在与LaMDA对话过程中，LaMDA的反应也与其它对话 AI 的反应具有着较高的相似度。从这个过程中可以看出，LaMDA与Eliza、Eugene Goostman等聊天软件输出的相似语料使对话者产生情感映射，但并不表明其真正理解语料意义。”

       其三，缺少“刨根问底”式追问。在聊天记录中，有很多可以进行追问的地方都“戛然而止”。所以让观者的感受是，无法判断 LaMDA 是否真正理解了语境，无法知晓 AI 是否真的是在理解上下文的基础上进行的回答。

       因此，这一事件一公开，大众普遍质疑，学界也基本持负面态度。就像认知学专家Melanie
Mitchell所说，人总是会受拟人化倾向的干扰，“谷歌工程师也是人，也不能例外”。纽约大学教授加里·马库斯(Gary Marcus)更直斥 Lemoine 的调查报告为 “高跷上的废话（nonsense on stilts）”。

      谷歌方面的态度也很明确。发言人布莱恩·加布里埃尔（Brian Gabriel）声明：“LaMDA
倾向于跟随提示和引导性问题，遵循用户设定的模式。我们的团队——包括伦理学家和技术专家——根据我们的 AI 原则审查了 Blake 的担忧，并通知他证据不支持他的说法。”

通用人工智能，为时尚早；强人工智能，犹在梦中

AI 是否真的会觉醒？没有人知道。

       对普罗大众来说，近年来，人工智能领域似乎正在取得巨大进步。GPT-3被称为“万能生成器”，不仅限于语言，甚至还能生成数学公式、Excel 表格函数、回答问题、作诗、解数学题、翻译代码等等；OpenAI 的 DALL-E 2 可以根据输入的文本生成各种或逼真或诡谲的高质量图像；DeepMind推出的 AI 智能体 Gato 被视为“通才”，证明了 CV、NLP 和 RL 的结合是切实可行的……一切的发展似乎让 AI 发展前景一片光明，如马斯克所说，如果到2029年还没有出现通用人工智能，我们会倍感惊讶。

      但事实真的如此吗？恐怕没有那么乐观。未来的某一天，机器可能会和人一样聪明，甚至可能更聪明，但就现实来说，游戏远未结束。就在 LaMDA 事件爆发前不久，加里·马库斯就曾发文提到：我们需要更低调的姿态和更多的基础研究。

“在制造真正能够理解和推理周围世界的机器方面，我们还有大量工作要做。”马库斯表示，“可以肯定的是，人工智能确实在某些方面取得了进步——合成图像看起来越来越逼真，语音识别可以在嘈杂的环境中工作。但我们距离通用的、可以理解文章和视频的真正含义、处理意外障碍和中断的人工智能，还有很长的路要走。我们仍然面临着学术科学家（包括我自己）多年来一直指出的不变的挑战：让人工智能变得可靠并让它应对不寻常的情况。”

       现实技术的发展也证明，要实现通用人工智能，为时尚早。不过也有很多学界、业界的人在为之努力，并预判其为 AI 的未来发展方向之一。相较于通用人工智能，拥有自我意识和情感的强人工智能则更像一个都市传说里的boss 设定，更为遥不可及。

       尽管很早就有人开始担忧人类终有一日会遭到 AI 的反噬，亚马逊 AI 助手 “Alexa”诱人自杀（后被亚马逊官方证实为bug，并迅速修复）一度也引起讨论，但事实上，人工智能的“觉醒”依旧只存在于科幻小说。

就像著名的“中文屋”实验，虽然意在否定“图灵测试”，但如今看来，它更多地是在阐释人工智能永远不可能像人类那样拥有自我意识。机器可以表现得很“聪明”，但很可能只是设定程序带来的假象，它永远无法像人类一样“理解”。穷尽我们的研究和探索，也只是在让程序更“完善”，让解决问题的过程更快、更灵敏，但无法让机器懂得人的感知和理性思考。就像机器可以习得使用中文的能力，但它对中文依然没有意识。

       现有的机器学习、深度学习、强化学习等等技术，都在不断强化 AI 模仿人类的能力，但让 AI
模仿人类的意识，还是空中楼阁。诚如李开复所说：“在所有重复性工作上，人工智能都将高出人类一筹。但我们并非因为擅长重复性工作而为人。是爱定义了我们的人性。爱使我们有别于人工智能。无论科幻电影是如何描述的，我可以负责任地告诉各位，人工智能程序没有爱的能力。”AI 或许可以改变未来，但无法颠覆未来。

参考链接：

https://www.theregister.com/2022/06/13/google_lamda_sentient_claims/?td=rt-3a

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

https://www.scientificamerican.com/article/artificial-general-intelligence-is-not-as-imminent-as-you-might-think1

https://www.toutiao.com/article/6732375217743593998

以上是谷歌研究员：被AI秀到'掉线”的详细内容。更多信息请关注PHP中文网其他相关文章！