生成式AI爆發，安全問題如何解決？

在生成式AI浪潮下，如何為產業用戶提供符合實際應用場景需求的生成式AI服務，是產業數位轉型的下一個重點。 《亞馬遜雲端科技AIGC加速企業創新指南》白皮書指出，AIGC在遊戲、零售電商、金融、媒體娛樂、醫療健康等產業都有典型應用場景。作為 AI 數位商業的探路者，AIGC有望開啟下一場數位商業模式的新篇章。

「目前，生成式AI已經應用到企業創新的各個環節，透過智慧客服優化客戶體驗、透過自動產生程式碼提高技術團隊生產力、透過文字產生圖片的方式加速創意內容產生、透過自動化文件處理提高整個組織的營運效率等等…生成式AI真正讓AI在企業加速落地。」

亞馬遜雲端科技大中華區解決方案架構部總監代聞

亞馬遜雲端科技大中華區解決方案架構部總監代聞在「2023亞馬遜雲端科技re:Inforce中國站」上表示，已經很久沒有看到一個技術在各行各業同時遍地應用、突飛猛進。代聞在工作中也發現了一個很有意思的現象，那就是越來越多的生成式AI的需求是由業務部門提出，生成式AI不只是技術部門進行創新的工具或平台，而變成了業務增強競爭力的一個核心手段，將大幅加速各行業智慧化發展，也將促進改變產業遊戲規則機會的出現。

同時，也正是因為生成式AI應用場景的井噴，業務部門需求如此旺盛，目前為企業技術部門帶來了前所未有的挑戰。大語言模式和AIGC的安全威脅並不是預言而是正在發生的事實。以資料外洩為例，前段時間網路上的一則訊息顯示，某大型國際企業在採用了基於某大語言模型的公開聊天應用服務後，20天內出現了3起資料外洩事件，包括產品良率的洩露、代碼的洩漏以及會議內容的洩漏。而進一步深度分析，這些洩漏也代表了存取控制的不足。

面對AIGC安全挑戰，企業到底該怎麼做？亞馬遜雲端科技認為，安全是建構生成式AI應用不可迴避的議題。從建置開始，企業就需要把安全當作企業AI策略的核心環節，尤其是在快速發展的現階段。具體該怎麼做？亞馬遜雲端科技建議，要從全端技術角度審視和建立合規體系，包括應用、模型、資料、框架、基礎設施等，從而建立使用者體驗良好且安全合規的AI和生成式AI應用。

目前，亞馬遜雲端科技在人工智慧和機器學習領域，擁有從人工智慧服務到大模型和機器學習等豐富的產品組合。例如，亞馬遜雲端科技推出了大量AI服務，讓客戶透過簡單的API呼叫就可添加AI功能到應用程式中，如圖像識別、預測和智慧搜尋等；在AIGC方面，亞馬遜雲端科技讓更多客戶能夠存取基礎模型能力、為推理和訓練提供基礎設施、提高所有開發人員的編碼效率，更簡單、更容易地在業務中使用AIGC；而全託管一站式機器學習平台Amazon SageMaker，為所有開發人員構建、訓練和部署模型提供最大便利。

亞馬遜雲端科技秉持著「逆向工作法」的產品服務開發概念，即95%以上的服務都是透過不斷聽取顧客需求而產生。截至目前，亞馬遜雲端科技已經幫助超過10萬家來自各行各業不同規模的客戶使用機器學習進行創新。正是因為有了規模化的AI客戶優勢，讓亞馬遜雲端科技在第一時間掌握新AI領域的安全解決之道。

以AIGC存取控制為例，亞馬遜雲端科技的存取控制服務Amazon Identity and Access Management（Amazon IAM）自誕生至今的12年間已經陸續發布了多項服務，透過不斷聽取客戶需求進行迭代優化更新，從而滿足在複雜的企業環境中輕鬆實現存取控制的設定、驗證及實施。針對大模型，亞馬遜雲科技在幾個月前推出了Amazon Bedrock和多種生成式AI服務和功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock等集成，集成以後可以很好地管理加密、權限控制所有行為日誌。

亞馬遜雲端科技不僅提供了一系列的技術、服務和工具幫助更多企業充分釋放生成式AI 的潛力，同時確保安全合規是開展一切業務的基礎，包括生成式AI的各種工具，涵蓋數據、模型以及應用各環節。同時，亞馬遜雲端科技也將AI以及生成式AI技術應用於安全及合規服務中，以更智慧的安全、合規服務應對複雜的安全威脅、提高合規效率。

亞馬遜雲科技運用自身經驗，將AI防護應用到軟體開發的全生命週期，讓開發更便利、更安全，例如亞馬遜雲科技近期發布的兩項AI開發安全能力－Amazon CodeWhisperer是亞馬遜雲科技推出的AI程式設計助手，可根據開發者指令利用內嵌的基礎模型即時產生程式碼建議，該服務內建了程式碼安全掃描功能，可協助開發者找到難以偵測的漏洞並提出補救建議；Amazon CodeGuru Security可以掃描程式碼，在程式碼裡面尋找漏洞，包括呼叫套件漏洞以及其他程式碼邏輯漏洞，還能夠在CICD流程中透過人工智慧和機器學習的方式自動降低誤報率，同時基於API設計可方便地整合到開發工作流程，實現集中化和良好的擴展性。

生態建設是全端安全的全面保障，亞馬遜雲科技也在AI安全方面深耕的重點。在IDC近期發布的《2023中國公有雲託管安全服務能力報告》中，亞馬遜雲科技在專家能力、漏洞及威脅檢測、威脅情報等7項目評估維度上是獲得滿分最多的廠商之一，其中「生態建設”評估維度是唯一獲得滿分的廠商。

在2023亞馬遜雲端科技re:Inforce中國站”大會上，亞馬遜雲科也宣布與塗鴉智慧成立“聯合安全實驗室”，雙方將在機密計算及資料隱私、Matter技術合作及體系建設、生成式AI在IoT領域的安全實踐等方面展開聯合共創；與德勤企業諮詢合作發布《中國企業出海發展建議白皮書2023版》，為中國出海企業解讀相應的法律法規，分析面臨的問題和挑戰，並提出因應策略提升出海企業資料安全。

Gartner 將生成式AI 列為最有商業前景的人工智慧技術之一。根據Gartner發布的2022 年人工智慧技術成熟度曲線，預計生成式AI 將在2-5 年內進入生產成熟期，發展潛力與應用空間龐大。根據預測，2025年，30%大型組織對外消息將由生成式AI產生；2025年，50%的藥物發現與研發將使用生成式AI；2027年，30%的製造商將使用生成式AI提高產品研發效率。

展望不遠的未來，生成式AI正加速AI在企業內的真正落地，正加速產業融合與變革。隨著生成式AI向數實融合全面滲透，全端安全思維必須成為企業數位轉型的總領，也是企業加速智慧化發展的底盤。 (文/寧川)

以上是生成式AI爆發，安全問題如何解決？的詳細內容。更多資訊請關注PHP中文網其他相關文章！