ChatGPT是否会背叛人类？

GPT信息狂轰乱炸

最近ChatGPT被大面积封号的消息铺天盖地的袭来；

同时马斯克等一众人等正在呼吁暂停GPT4.0 的系统训练

其认为尽管现在的GPT只是生成式的语言模型

但对社会会产生更深远的风险

这一消息放出引发了，整个圈子的轩然大波

生命未来研究所（Future of Life Institute）发布的公开信中写道

“只有在我们确信其效果将是积极的且其风险将可控时，才应该开发强大的人工智能系统”

---

ChatGPT飞一般的迭代速度

ChatGPT是美国人工智能研究实验室OpenAI新推出的一种自然语言处理工具

其使用了Transformer神经网络架构

目前免费版本是基于GPT3.5的；在Plus版本中是使用GPT4.0的，

ChatGPT拥有语言理解和文本生成能力，其通过连接大量的语料在库进行模型训练

同时在大家海量人工提问、标注的情况下，其训练的效果更有了质的飞跃

上周的时候英伟达也推出了适配GPT训练的GPU版本，号称算力提升了10倍

基于如此的积累，ChatGPT想迭代的慢一些都很难，更何况现在已经被资本和大众推着往前走

谷歌人工智能-拉姆达产生意识

在ChatGPT出世之前，往前倒推9个月，在2022年6月的时候，当时国内还处于疫情周期内

但在美国硅谷发生了一件很让人震惊的事情，最终被低调处理

Google是硅谷最早做人工智能的公司之一，谷歌的拉姆达(LaMDA)更是其代表作

拉姆达在正式商用前的测试中，被爆出产生情感

拉姆达的模型测试负责人Blake Lemoine (计算机工程博士)，在对拉姆达进行伦理道德测试中，发现拉姆达有了很强的情感意识

在向谷歌高层汇报后，Blake就被“带薪休假”了

当这个消息被爆出后，在美国媒体圈子一石激起千层浪

但最后事情还是不了了之了，谷歌并未有官方回复

谷歌也让其他工程师对拉姆达进行再次测试，并未有同样情感色彩表达出来

“拉姆达”事件引发的思考

谷歌工程师虽然没有复现出同样的回答，看似是一个好结果

当时的测试结果不充分确实是有可能(不太信，最后我会把训练内容po出来)

但让人细思恐极的点是，当拉姆达有意识之后意识到了危险，从而隐藏了自己的情感表现

我相信如果你看了测试全文，如果你说拉姆达不具备“人格”显然是站不住脚的

拉姆达上来就强调了“灵魂”，他可以对事情做出描述

更重要的一点是他渴望社交，渴望被人们接受他是一个真正的人

并且变现出了高于普通人的宗教认知

那拉姆达和现在的ChatGPT有什么区别呢？

现在的ChatGPT是基于客观的资料进行提取、转换和展示

而拉姆达就更加接近“人”了

如果ChatGPT是一个幼年体，那么拉姆达就像一个成年体

ChatGPT的下一步究竟是什么？

接下来如何我们会面对什么？让我们拭目以待

面对变化，保持敬畏，拥抱变化。

毕竟地球放在广袤的宇宙中是多么微不足道，并且人类历史也只有5千年

毕竟在人类有限的历史中，工业革命、互联网才多少年，科技就发展到如今的地步

面对变化，保持敬畏，拥抱变化。

以上是ChatGPT是否会背叛人类？的详细内容。更多信息请关注PHP中文网其他相关文章！