華雲安與其他單位共同發起成立'AI安全工作小組”，旨在加強AI安全領域的合作與研究

9月7日下午，2023 Inclusion·外灘大會舉行的《探索下一代安全智能》論壇上，世界權威國際產業組織雲安全聯盟（CSA）大中華區宣布成立“AI安全工作組”，華雲安與中國電信研究院、螞蟻集團、華為、西安電子科技大學、深圳國家金融科技評測中心等30多家機構成為首批發起單位。 「AI安全工作小組」致力於共同解決AI技術快速發展所帶來的安全難題。

雲端安全聯盟大中華區AI安全工作小組的聯席組長單位將由中國電信研究院和螞蟻集團擔任，該工作組將召集聯盟內涉及人工智慧產業鏈上下游的企業、學校、研究機構和用戶單位等，共同研究人工智慧安全的尖端技術。此次AI安全工作小組的成立也將發揮國際橋樑的作用，使我國在人工智慧安全領域的研究成果能夠在全球範圍內產生影響力

AI安全工作小組將聚焦人工智慧突出的安全風險問題，輸出人工智慧內生安全、衍生安全、助力安全等領域的白皮書、產業知識圖譜、團體標準、系統框架、解決方案等，為整個業界提供一個清晰、系統化的AI安全研究架構。根據計劃，工作小組先期將輸出《AI安全白皮書》《大模型安全研究報告》《AI資料安全評估規範》等研究成果。

從安全的角度來看，人工智慧技術可以說是一把「雙面刃」。它不僅對資料、業務和系統等方面構成威脅，同時也為安全科技的發展提供了動力。近年來，人工智慧在網路安全領域的研究與應用逐漸展開。華雲安公司積極探索人工智慧技術在網路安全領域的應用，特別是在基於深度學習的安全分析和攻擊面情報治理等方面已經取得了相當成熟的應用

在網路資產偵測識別的人工智慧應用方面，華雲安引入機器學習、深度學習等方法進行作業系統指紋識別，可以在較短時間，實現基於協定棧指紋的作業系統被動識別，大幅提高未精確匹配指紋的辨識率，從而彌補並提高基於規則庫的作業系統指紋辨識速度和準確性。

人工智慧在路徑決策上的應用，智慧決策技術主要包含智慧路徑決策和智慧攻擊決策。靈刃·智慧滲透與攻擊模擬系統Ai.Bot是華雲安基於人工智慧技術自主研發的智慧滲透與攻擊模擬系統。在攻擊過程中，靈刃（Ai.Bot）會針對內網的目標選擇進行決策，優先選擇更具針對性的戰法和對應適配的武器，不僅如此，靈刃（Ai.Bot）的智能引擎也對目標的選擇進行判斷，優先選擇攻陷幾率較大的目標。

此外，在5月舉行的2023網路安全營運技術高峰會（SecOps 2023）上，華雲安進一步分享了對大模型的技術理解與實務。華雲安的安全大語言模型專注在情報分析和智慧攻防領域在擴展威脅情報方面，透過對1day漏洞情報、敏感資料外洩情報分析，幫助企業快速感知情報價值，決斷回應與修復；在智慧攻防方面，基於大模型的語義理解和生成，將晦澀的攻防技術成果進行易讀性文字總結，以及場景化驗證腳本和思路生成，進一步提高了安全運營效率，縮小攻防信息差。

華雲安作為首批發起單位，積極參與AI安全工作小組對人工智慧技術在網路安全領域應用的研究探索與實踐。華雲安將與AI安全工作小組合作，為AI場景下的安全防護技術的發展以及AI技術在網路安全領域的應用提供支持，以提供更高效的網路安全防護，構建更堅固的網路安全保障

以上是華雲安與其他單位共同發起成立'AI安全工作小組”，旨在加強AI安全領域的合作與研究的詳細內容。更多資訊請關注PHP中文網其他相關文章！