首頁 >科技週邊 >人工智慧 >訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

王林
王林轉載
2023-06-10 11:51:011124瀏覽

這篇文章作者將從文本、問答、翻譯、邏輯、代碼編寫和計算能力等幾個方面,對比訊飛星火和ChatGPT兩個應用的差別 ,希望這篇文章能對你有所幫助。

訊飛星火,AI燎原or熄滅?

訊飛星火6月9日迭代在即,一起來看看它是否能成為真的中文ChatGPT?本文將從多種指令角度,全面比較並評測下訊飛星火認知模型與ChatGPT的差異。

訊飛星火:繼百度文心一言與眾多國內AI平台發布後,訊飛星火發布的一款認知大模型,主要能力包括文本生成、語言理解、知識問答、邏輯推理、數學能力、程式碼能力、多模態能力。

筆者有幸成為訊飛星火體驗的受邀人員,以普通工作者的身份,接下來分別從「文本生成、問答能力、語言翻譯、邏輯推理、代碼編寫、數學計算能力」這幾個方面進行評測對比。

(註:ChatGPT測試模型為3.5版本)

一、文字產生

訊飛星火在中文語言理解能力某程度上是優於ChatGPT的。

可以看到下方對「七言絕句」的處理結果明顯好於對方;但是對於日常工作的文本生成,ChatGPT文本更為自然。

相比較ChatGPT生硬的文字聯想堆積,訊飛對於文學小說故事的生成理解更為深入。整體而言,中文的理解能力略勝一籌,但在普通文本生成方面,ChatGPT在大多數情況下更具優勢。

關於生成詩詞與郵件的比較:

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

二、問答能力

  • 工作上常規問題回答,訊飛星火更為通用化些,ChatGPT更為細緻化,從匹配度上說,ChatGPT的參考價值會高些。
  • 都能理解普通的上下文記錄。 ChatGPT的記憶能力略強。
  • 中文常識問題,特別涉及歷史文化文學,星火對資訊的檢索與分析明顯優於ChatGPT。

工作問題1:

訊飛星火,AI燎原or熄滅?

以下是訊飛星火:

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

工作問題2:

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

雖然表格和資料檢索看起來處理得更快,但所取得的資料並非真實可信。使用這些數據回答問題可能會導致負成長。儘管ChatGPT無法取得精確數據,但它至少不會向用戶提供虛假數據,這是星火急需改進的地方。

訊飛星火,AI燎原or熄滅?

常識問題:

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

三、語言翻譯

兩者都具有直譯能力,但是涉及到中文的理解力,星火翻譯的更有感染力一些.

例如下圖範例中,ChatGPT使用的是“sprouting up”-發芽;而星火使用的是“emerging in droves”-“湧現”,明顯字意表達更為貼切。

四、邏輯推理

  1. 邏輯陷阱。例如詢問「爸媽結婚為啥不叫我」類似問題時,國內大部分語言模型都無法正確處理,ChatGPT的答案更為全面,星火直接選擇不答。
  2. 基礎的邏輯能力兩者都具備。對於複雜的邏輯題目,兩者回答的出錯率都很高
  3. 邏輯分析的廣度、深度總體ChatGPT優於星火。但ChatGPT這類語言模型只要脫離了常見的「常見區域」基本上都會犯錯,只是在錯誤中,ChatGPT的錯誤機率或出錯的離譜度小於星火。

邏輯問題1:

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

正確答案:

邏輯問題2:

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

可以看到此時ChatGPT就已經出現錯誤了,但仍有一定的正確率。

再看星火,從第二個問題開始,「cpu」就已經被乾燒了。

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

五、程式碼寫

兩者都具備一定的程式碼編寫能力,包括程式碼編寫、程式碼註解、程式碼debug能力。

由於筆者不是專業開發人員,不能實際驗證是否能真實編譯但是從外部資料和輸出結果看,訊飛星火對比剛發佈時代碼編寫能力有一定提升,找錯的準確度也更好於之前。

諮詢過很多開發同學,ChatGPT整體實力上還是比星火優秀。

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

以上是星火糾錯的一個實例。

六、數學運算能力

對於數學計算,所有的語言模型都存在短板,高難度的數學問題是十分嚴謹的,只要其中一個步驟出錯答案就會出錯。

電腦語言並不能像人類一樣人性化地理解一些意義,例如它可能會把「10」解釋為「1」和「0」兩個數字。解決大部分數學問題需要複雜的推理邏輯,這使得電腦處理這些「定量推理」問題變得非常困難。

可以看下星火的數學計算實例:

訊飛星火,AI燎原or熄滅?

訊飛星火,AI燎原or熄滅?

可以看到,星火連題意都沒理解清楚,但ChatGPT至少舉例了一種狀況。

七、總結

在全面體驗訊飛星火後,同時將其與其他產品在工作中使用的情況進行對比,我發現在問題處理和多次prompt的情況下,ChatGPT提供的答案在參考價值和回答廣度方面仍然更優。

自從百度文心一言推出後,訊飛星火是我使用過的最佳且最流暢的國內AI模型產品。可以說它完全配得上「星星之火」的稱號。

然而,與OpenAI的技術相比,仍有一定差距。同時,作為生產力工具,它的實用性稍弱一些。但在中文語言理解和特定常識問題方面,它具有一定的優點。

客觀地說,訊飛已經取得了很大的進步,希望國內的互聯網科技公司能夠加緊追趕,不要讓“西方成為潮流”,讓“華流才是最吊的”。

本文由 @旺仔產品筆記 原始發佈於人人都是產品經理,未經作者許可,禁止轉載。

題圖來自Unsplash,基於CC0協定。

以上是訊飛星火,AI燎原or熄滅?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:sohu.com。如有侵權,請聯絡admin@php.cn刪除