加強AI安全能力以實現AI應用的最大價值釋放

在日前召開的綠盟科技智慧安全大會上，中國工程院院士鄔江興強調，AI深度應用對資料、演算法、算力的要求很高，同時也對安全隱私能力提出了巨大挑戰。他指出，只有在確保資料安全與隱私保護的前提下，同時健全AI能力與安全，才能真正釋放AI技術的應用價值

譚建榮院士在會上表示，生成式人工智慧、元宇宙數位空間和擬人化機器人是三種顛覆性的技術。這些技術的交叉融合將會開創資訊科技理論方法和應用的新局面。然而，生成式人工智慧的應用也存在著數據合規和數據品質等方面的風險。這些風險不僅來自應用層面，也來自開發層面，因此需要進行預警和預防

如何預防生成式人工智慧的風險？在網路安全領域存在許多未知漏洞的情況下，我們該如何有效地防範呢？

資料安全攸關多個層面的協同防護

#國家資訊中心副處長國強表示，爭取「資料主權」成為全球資料安全發展新態勢，各國紛紛推出資料戰略，立法維護國家資料主權。

「《關於建立資料基礎制度更好發揮資料要素作用的意見》對原始資料提出了『可用不可見』的要求，基於此，我們團隊將資料作為資產進行梳理和管理，對資料進行分類分級，並進一步提高對資產台帳敏感資料發現的準確性和效率。」綠盟科技集團首席技術長葉曉虎表示，以資產的方式管理資料需要技術創新，再透過工程化實現成熟的產業應用。

在國家相關辦法與政策的指引下，各層級資料系統建構主體進行了協同創新的探索。

國強介紹，國家層級的「數盾」系統旨在保障資料安全，以安全平台為基礎，整合現有的網路與資料安全能力，建立起貫穿網路層、運算層（雲端平台）、應用層、資料層的協同資料安全防護體系

葉曉虎介紹說，綠盟科技的"風雲衛"安全大模型是基於海量安全專業知識訓練而構建的。該系統涵蓋了安全營運、偵測回應、攻防對抗、知識問答等多種場景，可輔助網路安全營運的決策。系統的建設從"場景牽引，技術驅動，生態協同"三個維度進行，透過大模型解決了實戰態勢指揮調度、紅藍對抗輔助決策以及安全運營效能提升方面的難題

透過創新資料安全技術，可以實現安全且有效的應用

#「數位經濟發展離不開數位安全保障。加速推動數位經濟永續發展，必須維護資料安全與網路安全，建構好安全底座。」鄔江興指出，目前應進一步加速提升數位科技核心技術的研發和發展，建構資料安全和網路安全新態勢，為數位經濟的發展保駕護航。

保障資料安全是為了有效應用，創新技術應在安全基礎上促進其有效流轉實現價值。國強表示，國家資訊中心將持續推動「數盾」體系建設試點驗證，以安全賦能「東數西算」等算力基礎設施，建構全國算力網路安全生態。

「資料安全技術創新的重點，應放在以技術支撐解決資料共享交換如何安全流轉等方面。」葉曉虎表示，為保障資料和應用在儲存態、運行態、傳輸態的機密性和完整性，更高性能實現數據“可用不可見”，綠盟科技的數據保險箱通過可信計算環境、全密態數據處理、動態權限管控等技術，實現數據可靠保護、任務可信計算和數據可控流轉等功能，幫助資料共享合法合規、安全且有效率地實現。

中國電腦學會與綠盟科技在會上共同發布了2023年度的"鯕鵬"科研基金計畫。據介紹，今年的"鯤鵬"科研基金將重點關注資料安全與隱私運算、人工智慧賦能與對抗、新型網路安全攻防技術三個方向，旨在促進國家科研成果的有效轉化和落地，並透過產學研三方的合作，最大限度地激發安全產業的潛力，推動國內整體安全市場適應人工智慧廣泛應用的進程

需要重寫的內容是：（大會主辦單位提供的圖片）

（資料來源：科技日報）

以上是加強AI安全能力以實現AI應用的最大價值釋放的詳細內容。更多資訊請關注PHP中文網其他相關文章！