本篇文章作者将从文本、问答、翻译、逻辑、代码编写和计算能力等几个方面,对比讯飞星火和ChatGPT两个应用的差别 ,希望这篇文章能对你有所帮助。
讯飞星火6月9日迭代在即,一起来看看它是否能成为真的中文ChatGPT?本文将从多种指令角度,全面对比并评测下讯飞星火认知模型与ChatGPT的差异。
讯飞星火:继百度文心一言与众多国内AI平台发布后,讯飞星火发布的一款认知大模型,主要能力包括文本生成、语言理解、知识问答、逻辑推理、数学能力、代码能力、多模态能力。
笔者有幸成为讯飞星火体验的受邀人员,以普通工作者的身份,接下来分别从“文本生成、问答能力、语言翻译、逻辑推理、代码编写、数学计算能力”这几个方面进行评测对比。
(注:ChatGPT测试模型为3.5版本)
一、文本生成
讯飞星火在中文语言理解能力一定程度上是优于ChatGPT的。
可以看到下方对“七言绝句”的处理结果明显好于对方;但是对于日常工作的文本生成,ChatGPT文本更为自然。
相比较ChatGPT生硬的文字联想堆积,讯飞对于文学小说故事的生成理解更为深入。总体而言,中文的理解能力略胜一筹,但在普通文本生成方面,ChatGPT在大多数情况下更具优势。
关于生成诗词与邮件的对比:
二、问答能力
工作问题1:
以下是讯飞星火:
工作问题2:
虽然表格和数据检索看起来处理得更快,但所获取的数据并非真实可信。使用这些数据回答问题可能会导致负增长。尽管ChatGPT无法获取精确数据,但它至少不会向用户提供虚假数据,这是星火急需改进的地方。
常识问题:
三、语言翻译
两者都具有直译能力,但是涉及到中文的理解力,星火翻译的更有感染力一些.
例如下图示例中,ChatGPT使用的是“sprouting up”-发芽;而星火使用的是“emerging in droves”-“涌现”,明显字意表达更为贴切。
四、逻辑推理
逻辑问题1:
正确答案:
逻辑问题2:
可以看到此时ChatGPT就已经出现错误了,但仍然有一定的正确率。
再看星火,从第二个问题开始,“cpu”就已经被干烧了。
五、代码编写
两者都具备一定的代码编写能力,包括代码编写、代码注释、代码debug能力。
由于笔者不是专业开发人员,不能实际验证是否能真实编译但是从外部资料和输出结果看,讯飞星火对比刚发布时代码编写能力有一定提升,找错的准确度也更好于之前。
咨询过很多开发同学,ChatGPT整体实力上还是比星火优秀。
以上是星火纠错的一个实例。
六、数学计算能力
对于数学计算,所有的语言模型都存在短板,高难度的数学问题是十分严谨的,只要其中一个步骤出错答案就会出错。
计算机语言并不能像人类一样人性化地理解一些含义,例如它可能会把“10”解释为“1”和“0”两个数字。解决大部分数学问题需要进行复杂的推理逻辑,这使得计算机处理这些“定量推理”问题非常困难。
可以看下星火的数学计算实例:
可以看到,星火连题意都没理解清楚,但ChatGPT至少举例了一种情况。
七、总结
在全面体验讯飞星火后,同时将其与其他产品在工作中使用的情况进行对比,我发现在问题处理和多次prompt的情况下,ChatGPT提供的答案在参考价值和回答广度方面仍然更优。
自从百度文心一言推出后,讯飞星火是我使用过的最佳且最流畅的国内AI模型产品。可以说它完全配得上“星星之火”的称号。
然而,与OpenAI的技术相比,仍存在一定差距。同时,作为生产力工具,它的实用性稍弱一些。但在中文语言理解和特定常识问题方面,它具有一定的优势。
客观地说,讯飞已经取得了很大的进步,希望国内的互联网科技公司能够加紧追赶,不要让“西方成为潮流”,让“华流才是最吊的”。
本文由 @旺仔产品笔记 原创发布于人人都是产品经理,未经作者许可,禁止转载。
题图来自Unsplash,基于CC0协议。
以上是讯飞星火,AI燎原or熄灭?的详细内容。更多信息请关注PHP中文网其他相关文章!