人工智慧應用面臨七大資料安全威脅

自動駕駛技術、智慧助理、人臉辨識、智慧工廠、智慧城市等人工智慧技術現已廣泛落地，這些令人難以置信的技術正在快速改變我們的生活。但相關領域安全事件也在快速增加，這使得研究人員和使用者對人工智慧的安全性擔憂不斷提高。人工智慧應用帶來的紅利和其引發的安全隱患，猶如一個硬幣的兩面，需要全行業高度關注並找到有效的應對方法。

日前，安全研究人員整理總結了目前人工智慧技術在實務應用中經常要面對的7個資料安全威脅。

威脅1模型中毒

模型中毒（Model poisoning）是一種對抗性攻擊形式，旨在操縱機器學習模型的結果。威脅行為者可以嘗試向模型中註入惡意數據，進而導致模型對數據進行錯誤分類並做出錯誤的決策。例如，工程圖像可以欺騙機器學習模型，將它們分類到與人類最初分類不同的類別中（例如，將貓的圖像標記為老鼠）。研究發現，這是一種欺騙AI系統的有效方法，因為在輸出之前，不可能判斷特定的輸入是否會導致錯誤的預測。

為了防止惡意行為者篡改模型輸入，企業組織應該實施嚴格的存取管理策略來限制對訓練資料的存取。

威脅2隱私外洩

隱私權保護是一個敏感的問題，需要額外的關注和重視，尤其是AI模型中包含有未成年人的資料時，問題就更複雜了。例如，針對青少年的一些金融卡選項，銀行必須確保其安全標準符合監管合規要求。所有以任何形式或途徑收集客戶資訊的公司都需要製定資料保護政策。這樣，客戶就可以知道組織如何處理他們的資料。然而，用戶如何知道他們的數據是否流入了人工智慧演算法的應用中？很少（或可以說幾乎沒有）隱私策略包含這些資訊。

我們正在步入人工智慧驅動的時代，對於個人來說，了解企業如何使用人工智慧、人工智慧的功能及其對資料的影響將變得非常重要。同樣地，攻擊者可能會試圖使用惡意軟體竊取包含信用卡號碼或社會安全號碼等個人資訊的敏感資料集。企業組織必須定期進行安全審計，並在人工智慧開發的所有階段實施強有力的資料保護實踐。隱私風險可能發生在資料生命週期的任何階段，因此為所有利害關係人制定統一的隱私安全策略非常重要。

威脅3資料竄改

資料操縱、暴露與竄改所帶來的風險，在AI規模化應用背景下正在不斷放大，因為這些系統需要基於大量資料進行分析決策，而這些數據很容易被惡意行為者操縱或篡改。此外，演算法偏見是人工智慧規模化應用中所面臨的另一個主要問題。人工智慧演算法和機器學習程式應該是客觀和公正的，但事實並非如此。

人工智慧演算法的資料篡改威脅是一個巨大的問題，這沒有簡單的解決方案，但它需要被重視。如何確保輸入演算法的資料是準確、可靠且不被竄改的？如何確保數據不會以令人討厭的方式使用？所有這些問題都是非常現實的問題，但目前業界還沒有找到明確的答案。

威脅4內部威脅

就資料安全而言，來自內部威脅無疑是最危險的一種，也是代價最高昂的一種類型。根據最新的《內部威脅成本：全球報告》顯示，在過去兩年中，內部威脅事件的數量上升了44%，每起事件的平均損失成本為1,538萬美元。

內在威脅之所以如此危險，是因為他們的動機不一定是金錢，也可能是出於報復、好奇心或人為錯誤等其他因素。正因如此，它們比外部的攻擊者更難預測和阻止。

對於那些涉及公民健康的公司來說，內部威脅無疑是更有害的。以醫療保健服務商HelloRache為例，該公司使用了AI模式的虛擬記錄員（virtual scribes，協助醫生處理電腦相關任務的助理）工具，因此他們可以遠端協助醫生照顧病人，做病情記錄工作。但如果內部人員找到了方法，可能會導致系統被錯誤連接，甚至可以監控獲取患者的醫療資訊。

威脅5針對性蓄意攻擊

一項研究數據顯示，86%的企業組織開始將人工智慧作為未來數位化發展的「主流」技術，並加大投資各種數據驅動的AI技術，以幫助企業做出更好的決策、改善客戶服務並降低成本。但有一個問題：對人工智慧系統的蓄意攻擊正在增加，如果沒有適當的控制措施，它們可能會為組織帶來超百萬美元的損失。

「蓄意攻擊」是指有目的地透過入侵人工智慧系統來破壞一個組織的業務運作，目的是取得領先對手的競爭優勢。在蓄意攻擊場景中，對AI和ML的資料安全威脅可能尤其具有破壞性。因為這些系統中使用的數據通常是專有的，具有很高的價值。當人工智慧系統遭到針對性的蓄意攻擊時，其後果不僅是資料被竊取，而是公司的競爭能力被破壞。

威脅6大規模採用

人工智慧是正在快速成長的產業，這意味著它們仍然很脆弱。隨著AI應用越來越受歡迎，並在世界各地被採用，駭客將會找到新的方法來幹擾這些程式的輸入和輸出。 AI通常是一套複雜的系統，以至於開發人員很難知道他們的程式碼在各種應用情況下會如何表現。當無法預測會發生什麼事時，就很難阻止它的發生。

保護企業免受大規模應用威脅的最佳方法是結合良好的程式設計實務、測試流程，並在發現新漏洞時及時更新。當然，不要放棄傳統形式的網路安全預防措施，例如使用託管資料中心來保護伺服器免受惡意攻擊和外部威脅。

威脅7AI驅動的攻擊

研究人員發現，惡意攻擊者正在將人工智慧武器化，幫助他們設計和實施攻擊。在這種情況下，「設計攻擊」指的是選擇一個目標，確定他們試圖竊取或破壞什麼數據，然後決定一種傳輸方法。非法攻擊者可以使用機器學習演算法尋找繞過安全控制的方法來進行攻擊，或使用深度學習演算法，根據真實世界的樣本創建新的惡意軟體。安全專家必須不斷防禦愈發智慧的機器人，因為一旦他們阻止了一種攻擊，另一種新的攻擊就會出現。簡而言之，人工智慧使攻擊者在當前安全保障措施中尋找漏洞變得更容易。

參考連結：

#https://www.php.cn/link/d27b95cac4c27feb850aaa4070cc4675

#

以上是人工智慧應用面臨七大資料安全威脅的詳細內容。更多資訊請關注PHP中文網其他相關文章！