法官提醒—警惕AI技術濫用的法律風險

人工智慧技術近年來悄無聲息地融入我們生活中的各個角落：智慧語音客服、AI主播、語音轉文字等常見功能極大地提高了工作生活的便利性，眾多AI換臉、 AI繪畫App或小程式也因上手簡單而讓一般人一秒鐘實現明星夢、畫家夢，去年年底美國研發的聊天工具ChatGPT一經問世更是火爆全球。不過，科技永遠是把雙刃劍，繼「AI孫燕姿」翻唱事件後，近日，福建一男子被騙子透過AI換臉和擬聲技術佯裝成其好友，並透過視訊聊天10分鐘詐騙430萬元一事，讓人們更深刻地思考：AI技術該如何服務人類？科技濫用會帶來哪些法律風險，又會造成什麼樣的信任危機呢？

1、AI「創作」存在侵權風險

#AI技術的發展初衷在於改善人類生活，近年來，其對於視訊、音訊、影像、文字的處理逐漸從實驗室走向大眾，改變著人們的生產生活方式，且應用場景廣泛，玩法多元，在降本增效、解放生產力方面有著不凡表現。

以AI視訊技術為例。以往，某位演員的失德失範可能導致其參與的整部作品無法播出，對拍攝方造成經濟損失。透過AI技術，就可以在作品已經拍攝完成後對問題演員進行“換臉”，及時止損。在特效製作方面，過去的AI還只是特效師的輔助，但是目前已經有多個軟體可以“傻瓜式”生成大片特效，電影特效進入“平民時代”，普通人也能擁有自製特效的奇妙體驗。另外，AI技術還能夠在僅有文案而不添加其他圖片視頻素材的基礎上“無中生有”創作視頻，滿足了創作者們更加多元化的需求。

今年春節期間，一組紅色背景、毛茸茸的卡通兔子圖片風靡朋友圈，成為了很多人的屏幕保壁紙和頭像，這些圖片均是由AI繪圖技術生成。眾多AI繪圖工具已經在設計、繪畫領域嶄露頭角，使用者只需要輸入文字指令，就可以實現“以文生圖”，在幾分鐘內得到一張不錯的作品，極大地提高了生產效率。不過，這可能會對圖片版權產業產生衝擊。

一般來講，想要使用一張有版權的圖片，包括繪畫和攝影作品等，需要付費才能夠合法使用，否則便會引發版權侵權案件，在自媒體領域相關糾紛尤其明顯。有些自媒體帳號在發布的廣告宣傳中未經許可，使用了他人的版權圖片作為配圖，被權利人起訴索賠，有些版權代理公司還可能刻意隱瞞並誘導別人使用版權圖片，等握取侵權事實後來再向對方索取賠償、逼迫簽訂包年合約或提起訴訟，將維權變成了牟利手段。而AI繪圖技術的出現，在一定程度上能夠幫助自媒體經營者控製成本，降低因不當使用圖片作品引發的涉訴風險，另一方面，也對圖片作品商業化維權產業鏈擾亂市場經營秩序的行為構成打擊。

上述AI影片、AI繪圖技術，以及能夠幫助人們寫論文、郵件、腳本、詩歌、程式碼的「全能」聊天工具ChatGPT，都是深度合成技術的具體應用，不論人們是否具有專業背景和相關經驗，只要具備簡單的表達能力，都可以藉助這些AI工具進行「創作」。那麼，這些生成的影片、圖片、文字作品版權歸屬如何呢？事實上，我國著作權法對於利用AI生成的作品版權歸屬尚無明確規定，不過，眾多的AI工具均對產出作品的權利歸屬設置了相應的使用規則，有些軟體還對免費用戶和付費用戶生成作品的權利歸屬以及是否可商用進行了區分，可視為雙方就生成作品版權問題達成了一致，用戶對作品的處分應遵照約定執行。

此外，也有人質疑AI透過對海量樣本的學習、模仿後生成的作品，是否會侵犯在先作品版權人的合法權利？對此，北市第四中級人民法院法官認為，要看AI作品對他人作品的借鏡、使用程度是否構成實質相似。如果只是對他人創作的手法、規則、技巧、風格的學習模仿，很難認定為“抄襲”，但如果是機械地照搬、拼接了他人作品，則有可能構成侵權。因此，在前期利用AI獲取靈感創意的基礎上，創作者應注入自己的思想觀點、人文情感等，使其內容具備實質的改動，讓作品的權屬問題和後續使用更加穩妥。

2、AI「換臉」可能侵害肖像權

#

技術的迭代讓許多不可能成為了可能，近日爆火網路的「AI孫燕姿」就是如此。許多創作者以孫燕姿的音色來訓練AI，並以合成的音色翻唱其他歌手的作品，讓多年不出專輯的孫燕姿瞬間多出了千餘首翻唱作品，連她本人都表示“人類無法超越它已指日可待」。那麼，這些AI翻唱的作品是否合法呢？

事實上，歌手的唱腔、音色本身不屬於著作權法的保護範疇，但是民法典第一千零二十三條規定，對自然人聲音的保護參照適用肖像權保護的有關規定，也就是說，不得利用資訊科技手段偽造的方式侵犯他人對聲音的權利。

此外，有人以「僅供娛樂並非商用」為由來聲明免責，但是根據著作權法第四十二條的規定，錄音製作者使用他人已經合法錄製為錄音製品的音樂作品來製作錄音製品，可以不經著作權人許可，但應依規定支付報酬，免責聲明並非其著作權侵權的阻卻事由。而且有些人上傳AI翻唱作品後會獲得平台收益或用戶打賞，雖然並非必須付費才能收聽，但製作者也的確因此獲得了收益，所以也很難將其作品定義為著作權法合理使用制度中的「免費表演」。

可見，AI技術雖好，但必須謹防濫用。曾有一段時間，“楊冪”“熱巴”等明星頻頻現身帶貨直播間，被眼尖的網友一眼識破，原來這些都是AI換臉技術，某些人妄圖頂著一張“明星臉”吸引更多用戶走進直播間。這樣做，雖然有了流量，卻也侵犯了他人合法權益。根據民法典第一千零一十九條規定，任何組織或個人不得以醜化、污損，或利用資訊科技手段偽造等方式侵害他人的肖像權。未經肖像權人同意，不得製作、使用、公開肖像權人的肖像，但法律另有規定的除外。未經肖像權人同意，肖像作品權利人不得以出版、複製、發行、出租、展覽等方式使用或公開肖像權人的肖像。明星的肖像相較於普通人更具商業價值，非法將名人肖像“移植”到主播身上，相當於零成本獲取名人效應，不僅侵害了被換臉明星的肖像權及其代表的經濟利益，對其他依法付費使用名人肖像的經營者也明顯不公義。

此外，還有網友曾上傳自己的照片，用自己的臉替換影視劇中演員的臉，此種行為也存在法律風險。根據肖像權的法律規定，「反向換臉」也屬於利用資訊科技手段偽造的方式侵害他人肖像權的行為。特別是換臉影視劇人物並將影片上傳網路發布，也可能構成對影視作品資訊網路傳播權、保護作品完整權等著作權的侵害，相關著作權人可保留追究其責任並獲取賠償的權利。

北京市第四中級人民法院法官提醒，「換臉」還可能引發其他人格權方面的糾紛。有影片部落客近期透過AI換臉技術將影視劇中親密戲部分男主角的臉換成了自己，造成了許多網友及演員粉絲的不適。演員在劇中的親密戲份屬於表演需要，在合約、劇本中有所體現，是在演員本人知情、同意的基礎上對劇情的必要演繹。但該部落客的行為不僅構成了對女演員的無禮和冒犯，還可能因符合民法典第一千零一十條所述「違背他人意願，以語言、文字、圖像、肢體行為等方式對他人實施性騷擾」的情形而承擔民事責任。更有甚者為了「造黃謠」或非法牟利，將女明星或普通女性的肖像換臉到黃色影片中，嚴重侵害了他人的名譽權，給當事人造成了極大的精神痛苦，應依法予以懲處。

3、重點防範利用AI實施犯罪

在人們還在拓展AI的各種便利性時，犯罪者早已盯上了這項技術。據報道，福建郭先生的微信「好友」透過視訊聯絡他，表示要藉430萬元保證金。基於對視訊通話的信任，郭先生在10分鐘內完成了轉賬，不久後發現被騙。原來，騙子先是盜取了郭先生好友的微信，知曉了郭先生的經濟實力，又獲取了「好友」的臉孔、聲音等資訊用於後期合成，最終完成了詐騙，讓人防不勝防。原本遠端通訊是為便利而生，但AI技術的濫用反而降低了人們對於線上互動的信任。試想一下，如果有人將AI技術用於製作非法影片、假新聞等，這對社會信任體系無疑是不利的。

誠信對於保障交易安全至關重要，但是深度合成技術的不當使用可能增加違約風險，尤其是在以對方智力成果為標的的交易領域。當創作者的作品是透過ChatGPT、Midjourney等AI工具產生的文字或圖片時，其作品的獨創性或將會有瑕疵。例如在著作權許可或轉讓合約方面，除非合約雙方就使用AI進行創作達成了一致，否則這種合成的作品可能因獨創性不足而構成瑕疵履行，或者因侵犯他人著作權而存在權利瑕疵，給被許可方或受讓方在後續商業化使用作品過程中造成不必要的損失。

另外，AI技術的觸手可及也將提昇道德風險。北京市第四中級人民法院法官表示，利用AI完成工作所需的工作量與個人進行獨立智力勞動所需的工作量相比，無論時間、經濟、精力成本都相差甚遠，如果寫作、繪畫等方面的從業人員大量借助AI完成工作卻不予告知付費客戶，仍然按照個人獨立完成的標準報價，則相關行業良性競爭的秩序將被打破，職業道德也將出現危機。當然，高風險的還有學術領域。學生用ChatGPT等人工智慧工具輔助寫論文已經不是什麼新鮮事，但是就現階段來講，AI創作的論文還存在很多弊端，或是缺乏新穎性，或是缺乏邏輯性表達，甚至連參考文獻都可能是AI胡編濫造，這樣的學術成果不但沒有任何價值可言，反而加劇了學術不端現象。

面對相關風險，我們既要做好補救，也要做好防範。國家網路信函辦公室推出的《網路資訊服務深度合成管理規定》於今年1月10日正式施行，主要針對深度合成服務者的義務進行了規定，其中要求深度合成服務提供者提供智慧對話、合成人聲、人臉生成、沉浸式擬真場景等產生或顯著改變資訊內容功能的服務的，應進行顯著標識，避免公眾混淆或誤認。可見，做好風險防範首先要從技術開發者、服務提供者著手。

對於個人而言，人臉、指紋、聲音等生物資訊以及身分證、銀行卡、社群媒體帳號等個人資訊的保護則變得愈發重要。如果遇到熟人在線上提出轉帳需求時，要透過多重驗證來確認其身份，特別是對AI技術了解不多的老年人更要重點防範。

供圖：視覺中國

來源：北京日報客戶端 記者：袁京

流程編輯：u060

以上是法官提醒—警惕AI技術濫用的法律風險的詳細內容。更多資訊請關注PHP中文網其他相關文章！