AI語音產生器會成為下一個主要安全威脅嗎？

人工智慧是一項功能強大的技術，有望徹底改變我們生活。這一點從來沒有像今天這樣昭然若揭；只要能連結互聯網，誰都可以享用功能強大的工具。

這些工具包括人工智慧語音產生器，這種先進的軟體能夠惟妙惟肖地模仿人類語音，以至於無法區分和辨別兩者。這對網路安全又意味著什麼呢？

人工智慧語音產生器是如何運作的？

語音合成指人工生成人類語音的過程，它已經存在了幾十年。就像所有技術一樣，多年來它經歷了重大而深刻的變化。

用過Windows 2000和XP的用戶可能還記得微軟Sam，這是微軟作業系統預設的文字轉換成語音男聲。微軟Sam的表現可謂中規中矩，但它發出的聲音很機械、很僵硬、很造作。我們現在手邊擁有的工具要先進得多，這在很大程度上歸功於深度學習。

深度學習是一種基於人工神經網路的機器學習方法。由於這些神經網絡，現代人工智慧處理數據的能力幾乎就像人類大腦中的神經元解釋資訊一樣強大。也就是說，人工智慧變得越像人類，模仿人類行為的本領就越高超。

簡而言之，這就是現代人工智慧語音產生器的工作方式。它們接觸的語音數據越多，就越擅長模仿人類語音。由於這項技術最新取得的進展，最先進的文字轉換成語音軟體基本上可以複製饋送給它的聲音。

威脅分子如何使用人工智慧語音產生器？

不出所料，這種技巧正被威脅分子濫用。不僅是典型意義上的網路犯罪分子，還有假資訊代理人、騙子、黑帽行銷人員和網路酸民。

就在ElevenLabs於2023年1月發布其文字轉換成語音軟體的測試版的那一刻，留言板4chan上的極右翼網路噴子就開始濫用它。他們使用這種先進的人工智慧技術，複製了BBC電視台主持人David Attenborough和知名演員Emma Watson等名人的聲音，讓人感覺這些名人好像在發表惡毒、仇恨的長篇大論。

正如IT外媒Vice當時所報道，ElevenLabs承認有人在濫用其軟體，尤其是在濫用語音克隆功能。這項功能讓任何人都可以「複製」另一個人的聲音；你只需要上傳一分鐘時長的錄音，然後讓人工智慧做剩餘的事情。據推測，錄音時間越長，輸出結果就越逼真。

2023年3月，一段在TikTok上瘋傳的影片引起了《紐約時報》雜誌的注意。在這段影片中，著名的播客主持人Joe Rogan和經常現身其The Joe Rogan Experience節目的Andrew Huberman博士討論了一種「增強性慾」的咖啡因飲料。這段影片讓人覺得Rogan和Huberman都明確力挺這款產品。而實際上，他們兩個的聲音是用人工智慧克隆出來的。

大約在同一時間，總部位於加州聖克拉拉的矽谷銀行因風險管理錯誤及其他問題而倒閉，並被州政府接管。這是自2008年金融危機以來美國最嚴重的銀行倒閉事件，因此在全球市場引起了軒然大波。

讓人們更加恐慌的是美國拜登總統的一段假錄音。在錄音中，可以明顯聽到拜登警告即將到來的“崩潰”，並指令美國政府“充分利用媒體的力量來安撫公眾”。像PolitiFact這樣追求事實真相的網站很快就揭穿了這段視頻，但至此可能已經有數百萬人聽過了這段錄音。

如果人工智慧語音產生器可以用來冒充名人，那麼它們也可以用來冒充平民百姓，這正是網路犯罪者一直在從事的勾當。根據IT外媒ZDNet報道，每年都有成千上萬的美國人上語音釣魚（vishing）騙局的當。 2023年，一對年邁的夫婦因接到「孫子」打來的電話而登上了全國報章頭條，「孫子」聲稱關在監獄裡，向他們要錢。

如果你曾經上傳過YouTube影片（或在YouTube影片中出現過）、與一群不認識的人一起參加過大型群體電話會議，或者以某種方式將自己的聲音上傳到互​​聯網上，理論上來說你或親朋好友可能處於危險之中。怎麼樣才能阻止騙子把你的聲音上傳到人工智慧生成器、複製聲音、然後冒充你聯絡你的家人？

人工智慧音產生器在顛覆網路安全格局

不是說非得是網路安全專家才能意識到人工智慧落入壞人之手有多危險。雖然所有技術都是如此，但人工智慧是一種獨特的威脅，這有幾個原因。

首先，它是一項比較新的技術，這意味著我們其實不知道它能為我們帶來什麼。現代人工智慧工具讓網路犯罪分子能夠以前所未有的方式擴大活動規模，並實現自動化操作，同時充分利用大眾對這個問題相對無知來大做文章。此外，生成式人工智慧使缺乏知識和技能的威脅分子也能夠創建惡意程式碼、建立欺騙網站、傳播垃圾郵件、撰寫釣魚郵件、生成逼真的圖像，並產生長篇的虛假音訊和視訊內容。

至關重要的是，我們反過來也可以利用人工智慧：人工智慧也被用於保護系統，而且可能在未來幾十年都是如此。可以料想，網路犯罪分子和網路安全產業之間會上演某種人工智慧軍備競賽，因為這些工具的防禦和進攻能力本質上不相上下。

對一般人來說，生成式人工智慧的遍地開花需要徹底重新思考安全實踐。儘管人工智慧可能令人興奮、很實用，但它至少可以以假亂真，最壞的情況是加劇現有的安全問題，並為威脅分子提供新的舞台。

語音產生器展示了人工智慧的破壞性潛力

ChatGPT一上市，有關監管人工智慧的討論就開始升溫。任何試圖遏制這種技術的做法都可能需要國際合作，需要我們在過去幾十年來從未見過的合作程度，因此不太可能遏制人工智慧。

精靈已從瓶子裡跑出來，我們能做的也就是習慣它適應它，但願網路安全產業能做出相應的調整。

https://www.makeuseof.com/ai-voice-generators-security-threat

以上是AI語音產生器會成為下一個主要安全威脅嗎？的詳細內容。更多資訊請關注PHP中文網其他相關文章！