DoNews6月7日消息,當下GPT-4 模型最大的短板主要是算術能力,由於模型的邏輯推理能力尚待提升,因此即使是許多人認為相對簡單的計算問題,GPT-4 卻無法得出正確的結果。
新加坡國立大學的研究人員近日推出了名為Goat的模型,旨在解決算術問題。這消息被IT之家報道。研究人員表示「在對 LLaMA 模型進行微調後,Goat 在算數上實現了比 GPT-4 更高的準確度與更出色的性能」。
研究人員提出了一種新方法,將任務根據算數的可學習型進行分類,然後利用基本算術原理將不可學習的任務分解為一系列可以學習的任務(IT之家注:把複雜的計算過程分點拆解成簡單的步驟)後導入AI 模型。
這種新方法可以讓模型學習答案模式,並將過程泛化為看不見的數據,而不是僅僅依靠純粹的“權重記憶計算”,因此能夠有效地提高算數性能,可以在零樣本學習中以「近乎完美的精確度」為大數加法和減法產生答案。
研究人員在具備24 GB 顯存的GPU 上進行訓練,並將最終得到的模型使用BIG-bench 算數子任務進行測試,準確率結果較為出眾,領先於業內的Bloom、GPT-NeoX、OPT 等模型。
其中零樣本的 Goat-7B 的準確率甚至一度超過了少樣本學習後的 PaLM-540 模型,在大數計算方面遠超 GPT-4。
以上是新加坡發布AI算數模型Goat,能力居於GPT-4之上的詳細內容。更多資訊請關注PHP中文網其他相關文章!