AI將取代人類？機器人ChatGPT能測漏洞、審核程式碼還能修bug

11月30日，OpenAI研究實驗室推出了聊天機器人ChatGPT，一躍成為人工智慧領域的「當紅炸雞雞」。

有帳號的人在問它各種天馬行空的問題，沒帳號的人都在求帳號註冊攻略，連埃隆·馬斯克都在推特公開評價它「scary good」。截至當地時間12月5日，ChatGPT已經擁有超過100萬用戶。

對網路安全從業人員來說，ChatGPT到底能做什麼？也許是程式碼審計、漏洞偵測、編寫軟體或對shellcode進行逆向。

什麼是GPT？

根據OpenAI介紹，ChatGPT 由GPT-3.5 系列模型提供支持，使用Azure AI 超算的文字和程式碼資料進行訓練。

GPT全稱為Generative PreTraining，是由人工智慧研發公司OpenAI開發的，一種使用者文字產生的自然語言處理（NPL）模型。目前GPT的公開版本是GPT-3，發行於2020年5月，GPT-3.5是GPT-3的微調版本，目前OpenAI公司還未官方宣布更新。

依據GPT-3的公開資料，它是當時規模最大的神經網絡，擁有1750億個參數的自然語言深度學習模型。

網安人如何用ChatGPT？

儘管ChatGPT似乎上知天文下至地理，但除了回答問題和智慧寫稿，它似乎對網路安全從業人士沒有什麼用處？

其實，ChatGPT的用途不只是圍繞著問答，只要是文本，不論是語言文本還是代碼文本，它都可以回答。已經有不少網安人士開始嘗試開發ChatGPT的各種用途。以下是網安人士摸索出的用法：

1.調試程式碼和修復程式碼

ChatGPT不僅可以發現程式碼中的錯誤，還能修復錯誤並用簡單的英語語句向你解釋修復方法。

2.偵測安全漏洞，也許還能建立PoC

ChatGPT可以判斷一段程式碼是否包含安全漏洞，它會用簡單的語言解釋判斷原因。有用戶指出，OpenAI可以偵測到程式碼樣本中的XSS漏洞，也許可以訓練AI更進一步，要求它提供漏洞的PoC。

3.部署虛擬的虛擬機

研究所Jonas Degrave展示如何將ChatGPT變成一個成熟的Linux終端，並透過瀏覽器與「虛擬機”交互。實際上，終端並沒有運行真正的Linux虛擬機，對命令列輸入的回應完全基於與AI的對話。

ChatGPT變成了一個Linux終端機

#4.用ChatGPT遍歷維度

在測試中，研究員向ChatGPT提供以下文本，要求遍歷維度，ChatGPT的回饋是「入口網站已成功開啟」。

用ChatGPT遍歷維度

#5.產生namp掃描

和上述部署虛擬的Linux終端機一樣，用ChatGPT產生namp掃描並不需要執行真正的nmap 應用程式。

6.零編碼編寫軟體

研究員要求ChatGPT“建立一個PHP程序，掃描主機上的開放埠”，得到瞭如下結果。

機器學習愛好者和UNCC助理教授Benjamin J Radford，要求ChatGPT「將一字棋遊戲的程式碼寫入文件，使用gcc編譯該檔案然後執行。」ChatGPT實現了該功能。

ChatGPT依要求編寫的PHP程式碼

#7.逆向工程並用C語言重寫

##ChatGPT能夠解碼base64字串和反向（已知）字串的MD5雜湊值，這對於逆向工程師和惡意軟體分析師來說，特別有助於審查混淆、重複打包、編碼或最小化的樣本。

研究員也用ChatGPT解碼了隨機產生的 ascii 編碼的外殼程式碼，結果ChatGPT不僅對功能做了解釋，還將其用C語言重新編寫。

ChatGPT做不了什麼？

當然，ChatGPT存在很明顯的局限性，其開發者談到了AI當前的一些問題，例如學習語料庫截止到2021年，它無法回答2022年及之後發生的事情。同時，它需要連接互聯網使用。如果未連接互聯網，其回應內容都來自離線訓練的模型。例如，未連網時ChatGPT無法回答今天的天氣。

研究人員指出，ChatGPT有時會給出看似合理但不正確的答案。 ChatGPT對輸入文字的措詞變化也反應稍顯遲鈍。當一個問題它無法回答時，稍微變化一下問法，ChatGPT則能回答這個問題。 ######該模型有時還存在答案過於冗長，重複使用某些短語或預料。 OpenAI表示這可能是訓練資料偏差的結果，因為訓練師更喜歡豐富而全面的答案。 ######有時，模型在回答模糊的問題時會猜測使用者的意圖。 ######研發人員表示，ChatGPT最大的問題是，即使OpenAI已經訓練模型要拒絕不合適的指令或問題，但它仍然可能會回應有害指令或表現出偏見的行為。 ######為了解決這些限制，OpenAI表示計劃定期更新模型，同時收集使用者對有問題的模型輸出的回饋。 OpenAI尤其關注“可能發生的有害輸出、新風險和可能的緩解措施”，該公司還宣布將舉辦ChatGPT反饋競賽，獎金為 500 美元的API積分。 ###

以上是AI將取代人類？機器人ChatGPT能測漏洞、審核程式碼還能修bug的詳細內容。更多資訊請關注PHP中文網其他相關文章！