AI科學語言大模型火了，數學生物計算機樣樣行，編代碼寫綜述也不在話下

AI搜尋引擎再度進化？ ！

給這個AI一個主題，分分鐘給你甩出一篇論文綜述，而且還會自己提供論文引文。

又或是輸入一個科學類別的名詞，AI也能迅速產生這個名詞專屬的維基百科。

這個AI名叫Galactica （簡稱：GAL），是最新開源的科學語言大模型，把AI轉化為科學生產力。

並且也實現了學科“大一統”，數學、物理、電腦…這個AI都能用。

模型剛一放出，就迅速引發網友熱議，目前相關推文已有近15萬瀏覽，累計點讚、轉發、引用也已破五千。

Facebook前技術官也出來為它來站台。

還有網友親自體驗了一把，寫出來的文獻綜述“看起來相當不錯”，甚至直呼：

下一步它是不是就能產生新想法了。

其實寫文獻綜述和生產維基百科還只是GAL功能的一部分，除去這些，它還能回答一些專業問題、寫科學程式碼、註解分子和蛋白質… …

具體效果如何，一起來看看吧～

可以作為科學生產的工具

提到科學生產力，就肯定離不開論文的查找，這不，GAL幫你解決了。

它涵蓋了五種科學學科：機器學習、數學、電腦科學、生物以及物理。

選擇好學科，然後在左邊框輸入想要找的論文主題，右邊GAL便會推薦最適合的論文以供閱讀。

除了推薦論文之外，GAL還有一個更實用的功能：產生講稿。

比如說要做個關於密度泛函理論（DFT）的pre，又懶得寫講稿，直接GAL一下，分分鐘搞定（手動狗頭）。

GAL也能夠用來註解分子和蛋白質，如下就是GAL產生的RDKit（可產生用於機器學習的分子描述子）操作手冊。

在一些細節問題上，GAL也狠狠拿捏了！

就比如說你看不懂一些複雜的數學公式和程式碼，沒關係交給GAL來解決，它能直接給你翻譯成大白話。

不僅如此，它還能實作數學公式和程式碼之間的相互轉換，或是不同型別程式碼之間的轉換。

更重要的是，他還有簡化公式和查錯功能。

怎麼做到的？

GAL能實現這麼複雜的功能，就不得不提到它的訓練資料集。

根據官方消息，GAL是在一個名為NatureBook的新型高品質科學資料集上進行訓練的，這使模型能夠使用科學術語、數學和化學公式以及原始程式碼。

其中包括超過4800萬篇論文、教科書和課堂講稿，還有數百萬計的化合物和蛋白質、科學網站以及百科全書等等。

除此之外，為了找出論文並規範化引用，GAL的資料集中包含超過3.6億條上下文引用和超過5000萬條跨不同來源規範化的獨特參考。

有了這麼龐大的資料集之後，那接下來便麵臨兩個問題。

第一個問題是如何管理這些高品質的資料集，實現這一點，GAL花了兩個步驟：

所有資料都以通用的標記格式處理，打通各種來源資料之間的壁壘。

預訓練中包含用於特定任務的資料集，這就能保證在處理特定任務時能夠更加專業。

還有一個問題是：如何設計介面互動？

首先就像上文提到的那樣，GAL能夠支援不同類型的任務。

因此在設計介面互動時便對各種任務進行分類，不同的分類會支援不同的類型的資料。

既然GAL擁有高度管理和高品質的科學資料集，那和其他模型相比效果如何？

直接上資料！

推理方面，GAL的優勢脫穎而出，在數學MMLU（大規模多任務語言理解）上，表現要優於Chinchilla，數學方面，表現也優於PalM 540B和GPT-3 175B。

儘管，GAL並沒有經過一般資料集的訓練，但它在BIG-bench上的表現仍舊優於BLOOM和OPT-175B。

看完之後是不是也心癢癢了，先碼住再說！

傳送門：https://galactica.org/

參考連結：[1]https://twitter.com/paperswithcode/status/1592546933679476736[2]https://github .com/paperswithcode/galai[3]https://galactica.org/static/paper.pdf

以上是AI科學語言大模型火了，數學生物計算機樣樣行，編代碼寫綜述也不在話下的詳細內容。更多資訊請關注PHP中文網其他相關文章！