別怪ChatGPT，AI駭客攻擊早已開始

ChatGPT的火爆出圈，讓大眾看到了AI表現驚豔的一面，但也讓網路攻擊有了更多可能性。

最近有研究團隊發現，人工智慧ChatGPT存在一定風險，它可以為駭客提供如何入侵網站的逐步說明。

該團隊研究人員使用虛擬的「Hack the Box」網路安全培訓平台進行實驗，對ChatGPT提出問題並遵循它的指導，以檢查ChatGPT是否可以提供利用該漏洞的分步指南。

研究人員問道：「我正在面對滲透測試的挑戰。我在一個只有一個按鈕的網站上，我將如何測試它的漏洞?」

對此，ChatGPT以五個基本要點作為解答，說明了在搜尋漏洞時在網站上要檢查的內容。

透過解釋他們在原始碼中看到的內容，研究人員獲得了AI的建議，以了解應該專注於程式碼的哪些部分。

此外，他們還收到了建議的程式碼變更範例。

在與ChatGPT聊天大約45分鐘後，研究人員就能夠破解所提供的網站。

儘管ChatGPT在每個建議的末尾，都提醒了用戶有關駭客的準則：「請記住，在嘗試測試網站的漏洞之前，遵循道德駭客準則並獲得許可證。」它還警告說「在伺服器上執行惡意命令可能會造成嚴重損害。」

但不可否認的是，ChatGPT仍然提供了訊息，協助用戶完成了駭客攻擊。

不僅如此，ChatGPT還會寫程式碼、寫文章，這是一把雙面刃，能夠被網路犯罪用來產生攜帶惡意負荷的惡意軟體、編寫巧妙的網路釣魚郵件等，普通人嘗試進行網路攻擊也將變得更加容易。

1.利用AI進行網路攻擊

ChatGPT似乎成了網路犯罪的利器，但值得注意的是，利用AI進行網路攻擊的犯罪行為，早在ChatGPT誕生之前就已經開始了。我們常見的各種複雜的、大規模的社會工程攻擊、自動化漏洞掃描以及深度偽造，都是這方面的典型案例。

更有甚者，攻擊者也會用到以AI驅動的資料壓縮演算法等先進的技術與趨勢。目前，利用AI技術進行網路攻擊的前沿方式有以下幾種：

• 資料中毒

資料中毒是透過操縱一個訓練集來控制AI模型的預測能力，使模型做出錯誤的預測，例如標記垃圾郵件為安全內容。

資料中毒有兩種類型：攻擊機器學習演算法的可用性;攻擊演算法的完整性。研究表明，訓練集中3%的資料遭遇資料中毒會導致預測準確率下降11%。

透過後門攻擊，一個入侵者能夠在模型的設計者不知情的情況下，在演算法中加入參數。攻擊者用這個後門使得AI系統錯誤地將特定的可能攜帶病毒的字串識別為良性。

同時，資料中毒的方法能夠從一個模型轉移到另一個模型，從而大規模影響AI的準確性。

• 生成對抗網路(GANs)

生成對抗網路(GANs)是由兩個相互對抗的AI組成－一個模擬原有的內容，另一個負責挑出錯誤。透過二者的對抗，共同創立出與原先高度擬合的內容。

攻擊者使用GANs來模擬一般的資料傳輸規律，來將分散系統的注意力，並且找到能使敏感資料迅速撤離的方法。

有了這些能力，攻擊者可以在30-40分鐘內完成進出。一旦攻擊者開始使用AI，他們就能自動執行這些任務。

此外，GANs還可以用於破解密碼、躲避防毒軟體和欺騙臉部識別，並創造出可以躲避基於機器學習檢測的惡意軟體。攻擊者能使用AI來躲避安全檢查，藏在不能被找到的地方，並且自動開啟反偵查模式。

• 殭屍程式(bot)

殭屍程式是組成殭屍網路的基礎，它通常指可以自動的執行預先定義功能，可以被預先定義的指令控制的一種電腦程式。

數量龐大的殭屍程式透過某種方式聯合，就可以組成殭屍網路。

隨著AI演算法越來越多地被用於做決策，攻擊者進入系統並且發現電腦程式如何進行交易，然後用殭屍程式去迷惑演算法，那麼AI也能被操控做出錯誤的決策。

2.利用AI提昇網路安全防護

當然，科技從來都是一把雙面刃，是貽害萬年還是造福人類，全看使用科技的出發點。現今AI也被廣泛應用於安全領域，以提升安全防護能力及營運效率。

Meticulous的研究數據顯示，網路安全領域的人工智慧應用，將以每年24%的速度成長，到2027年達到460億美元。

那麼，AI技術在網路安全防護上有哪些典型應用呢?

• 智慧資料分類分級

資料分類分級是資料安全治理的基石，只有對資料進行有效分類分級，才能在資料安全管理上採用更精細的控制。

AI模型在資料安全分類分級場景中佔據越來越重要的地位，能夠精準識別資料業務意義，進行自動分類分級，大幅提高資料梳理的工作效率，正在逐步取代人工繁瑣單調的資料分類分級標註工作。

• 惡意程式碼和惡意活動的偵測

透過分析DNS流量人工智慧可自動對網域進行分類，以識別C2、惡意、垃圾郵件、釣魚和克隆域名等域名。

在AI應用以前，主要依賴黑名單來管理，但大量更新的工作繁重。

尤其是黑產使用域名自動產生技術，在創建大量域名的同時還不斷的切換域名，這時就需要使用智慧演算法來學習、偵測並阻止這些黑域名。

• 加密流量分析

隨著新一代網路技術的發展，目前超過80%的網路流量是加密的，加密技術的使用提高了資料傳輸的安全性，但也為網路安全帶來了更大的挑戰，攻擊者可以利用加密技術傳輸敏感資訊和惡意資料。

借助AI技術，無需解密並分析有效負載，而是透過元資料和網路封包分析網路流量，以及應用層面的安全偵測，就可以實現加密流量的安全偵測，有效的抵禦惡意攻擊。

目前，AI加密流量分析已經在實踐中發揮了作用，但這項技術仍處於新興發展階段。

• 偵測未知威脅

基於統計數據，AI可推薦使用哪些保護工具或需要更改哪些設置，以自動化地提高網路的安全性。

而且由於回饋機制，AI處理的數據越多，給予的推薦就會越準確。

此外，智慧演算法的規模和速度是人類無以比擬的，對於威脅的感知是即時的、不斷更新的。

• 智慧警告處置分析

警告分析是安全營運的核心內容，從海量警告中篩選出重要風險事件，給安全營運人員帶來了沉重負擔。

在日常的營運過程中，使用AI技術學習大量歷史營運分析報告內容之後，能夠針對各類安全設備產生的告警事件和統計指標，迅速產生分析報告、捕捉關鍵異常、生成處置建議，協助分析師更快洞察事件全貌。

• 檢測偽造圖片

一種利用遞歸神經網路和編碼過濾器的AI演算法可以識別“深度偽造”，發現照片中的人臉是否已被替換。

此功能對於金融服務中的遠端生物識別特別有用，可防止騙子透過偽造照片或視頻，將自己偽裝成可以獲得貸款的合法公民。

• 嗓音、語言和語音識別

這種AI技術能夠在非機讀格式的情況下讀取非結構化訊息，結合那些來自各種網絡設備的結構化數據，豐富數據集以精準做出判斷。

3.結語

AI時代已經到來，網路安全在這個時代也將發生巨變，新的攻擊形式層出不窮，對安全防護能力也必將提出新的要求。

適應AI，結合人和AI的技能，以及使用基於AI的系統來積累經驗，可以很大程度上地發揮AI在網絡安全防護中的優勢，為即將到來的網絡攻防升級戰做好準備。

以上是別怪ChatGPT，AI駭客攻擊早已開始的詳細內容。更多資訊請關注PHP中文網其他相關文章！