這篇文章作者將從文本、問答、翻譯、邏輯、代碼編寫和計算能力等幾個方面,對比訊飛星火和ChatGPT兩個應用的差別 ,希望這篇文章能對你有所幫助。
訊飛星火6月9日迭代在即,一起來看看它是否能成為真的中文ChatGPT?本文將從多種指令角度,全面比較並評測下訊飛星火認知模型與ChatGPT的差異。
訊飛星火:繼百度文心一言與眾多國內AI平台發布後,訊飛星火發布的一款認知大模型,主要能力包括文本生成、語言理解、知識問答、邏輯推理、數學能力、程式碼能力、多模態能力。
筆者有幸成為訊飛星火體驗的受邀人員,以普通工作者的身份,接下來分別從「文本生成、問答能力、語言翻譯、邏輯推理、代碼編寫、數學計算能力」這幾個方面進行評測對比。
(註:ChatGPT測試模型為3.5版本)
一、文字產生
訊飛星火在中文語言理解能力某程度上是優於ChatGPT的。
可以看到下方對「七言絕句」的處理結果明顯好於對方;但是對於日常工作的文本生成,ChatGPT文本更為自然。
相比較ChatGPT生硬的文字聯想堆積,訊飛對於文學小說故事的生成理解更為深入。整體而言,中文的理解能力略勝一籌,但在普通文本生成方面,ChatGPT在大多數情況下更具優勢。
關於生成詩詞與郵件的比較:
二、問答能力
工作問題1:
以下是訊飛星火:
工作問題2:
雖然表格和資料檢索看起來處理得更快,但所取得的資料並非真實可信。使用這些數據回答問題可能會導致負成長。儘管ChatGPT無法取得精確數據,但它至少不會向用戶提供虛假數據,這是星火急需改進的地方。
常識問題:
三、語言翻譯
兩者都具有直譯能力,但是涉及到中文的理解力,星火翻譯的更有感染力一些.
例如下圖範例中,ChatGPT使用的是“sprouting up”-發芽;而星火使用的是“emerging in droves”-“湧現”,明顯字意表達更為貼切。
四、邏輯推理
邏輯問題1:
正確答案:
邏輯問題2:
可以看到此時ChatGPT就已經出現錯誤了,但仍有一定的正確率。
再看星火,從第二個問題開始,「cpu」就已經被乾燒了。
五、程式碼寫
兩者都具備一定的程式碼編寫能力,包括程式碼編寫、程式碼註解、程式碼debug能力。
由於筆者不是專業開發人員,不能實際驗證是否能真實編譯但是從外部資料和輸出結果看,訊飛星火對比剛發佈時代碼編寫能力有一定提升,找錯的準確度也更好於之前。
諮詢過很多開發同學,ChatGPT整體實力上還是比星火優秀。
以上是星火糾錯的一個實例。
六、數學運算能力
對於數學計算,所有的語言模型都存在短板,高難度的數學問題是十分嚴謹的,只要其中一個步驟出錯答案就會出錯。
電腦語言並不能像人類一樣人性化地理解一些意義,例如它可能會把「10」解釋為「1」和「0」兩個數字。解決大部分數學問題需要複雜的推理邏輯,這使得電腦處理這些「定量推理」問題變得非常困難。
可以看下星火的數學計算實例:
可以看到,星火連題意都沒理解清楚,但ChatGPT至少舉例了一種狀況。
七、總結
在全面體驗訊飛星火後,同時將其與其他產品在工作中使用的情況進行對比,我發現在問題處理和多次prompt的情況下,ChatGPT提供的答案在參考價值和回答廣度方面仍然更優。
自從百度文心一言推出後,訊飛星火是我使用過的最佳且最流暢的國內AI模型產品。可以說它完全配得上「星星之火」的稱號。
然而,與OpenAI的技術相比,仍有一定差距。同時,作為生產力工具,它的實用性稍弱一些。但在中文語言理解和特定常識問題方面,它具有一定的優點。
客觀地說,訊飛已經取得了很大的進步,希望國內的互聯網科技公司能夠加緊追趕,不要讓“西方成為潮流”,讓“華流才是最吊的”。
本文由 @旺仔產品筆記 原始發佈於人人都是產品經理,未經作者許可,禁止轉載。
題圖來自Unsplash,基於CC0協定。
以上是訊飛星火,AI燎原or熄滅?的詳細內容。更多資訊請關注PHP中文網其他相關文章!