模擬大腦功能，這個AI模型真正實現像人一樣持續學習

正如影像處理、智慧醫療、自動駕駛汽車和智慧城市等各個 AI 領域的突破所展現的那樣，深度學習無疑正在經歷著黃金期。在未來十年左右，AI 和電腦系統最終將具備類人的學習和思考能力，以處理持續的資訊流，與現實世界互動。

但是，目前的 AI 模型在連續進行新資訊訓練時會遭受效能損失。這是因為每當產生新資料時，都會在已有資料之上寫入，從而擦除先前的資訊。這種效應被稱為「災難性遺忘」。穩定性 - 可塑性困境導致 AI 模型需要更新其記憶以不斷適應新訊息，同時保持當前知識的穩定性。這個問題阻止了 SOTA AI 模型持續地從現實世界資訊中學習。

同時，邊緣運算系統允許將運算從雲端儲存和資料中心轉移到原始來源附近，例如連接物聯網的裝置。在資源有限的邊緣運算設備上有效地應用持續學習仍然是一個挑戰，儘管領域內也提出了許多持續學習模型來解決這個問題。傳統模型需要高運算能力和大儲存容量。

最近，新加坡科技設計大學（SUTD）的研究團隊設計了一種能夠實現高能源效率持續學習系統的新型模型，研究《Continual Learning Electrical Conduction in Resistive-Switching-Memory Materials 》發表在了期刊《先進理論與模擬》。

論文網址：https://onlinelibrary.wiley.com/doi/abs/10.1002/adts.202200226

該團隊提出一個受大腦啟發的模型—Brain-Inspired Replay(BIR)，它可以自然地進行持續學習。 BIR 模型基於人工神經網路和變分自編碼器來模擬人類大腦的功能，在沒有儲存資料的類別增量學習場景中也能表現得很好。研究者也使用 BIR 模型來表示在數位儲存系統中使用電流的導電絲生長。

下圖左上為生成式回放設置，右上為訓練具有生成式回放的人工神經網路；左下和右下分別為常規以及 BIR 模型的歸一化電流精度。

論文通訊作者之一、助理教授Loke 解釋稱，「在BIR 中，知識被保存在訓練過的模型中，從而在引入額外任務時將性能損失降至最低，並無需參考以往工作中的數據。因此，這種做法可以大量節能。」

他也補充道，「在無儲存數據的情況下，在當前學習任務的合規性挑戰上實現了89% 的SOTA 準確率，這比傳統持續學習模型高了約兩倍，並且實現了高能效。」

此外，為了使BIR 模型能夠獨立處理現實世界的現場訊息，該團隊計劃在下一階段的研究中擴展它的可調能力。

Loke 表示，這項研究基於小規模演示，仍處於早期階段。不過，採用這種方法有望使得邊緣 AI 系統在無人類控制的情況下獨立發展。

以上是模擬大腦功能，這個AI模型真正實現像人一樣持續學習的詳細內容。更多資訊請關注PHP中文網其他相關文章！