你的自拍照可能被收入'不雅圖素材庫”，AI作惡其實離你很近！

作者 | 卡子

編輯 | 捲毛 俞添

頭圖 | Midjourney

* 今日頭圖使用Midjourney創作，關鍵字「一個女孩，坐在昏暗的房間裡哭泣，插畫風格」

我們與惡的距離，和工具有關。

AI，這個史上（也許）最強工具，在惡人手裡，也已全副武裝。對一般人來說，AI的加入，讓種種騙局和傷害，更防不勝防。

試想一下，任何的身影和動作，那張臉可能是你自己，恐怖嗎?

個人發佈在社交平台的自拍和視頻，很容易就可以經過AI換臉、AI繪畫技術的處理，被不法分子作為不雅圖片和視頻的“素材”，兜售或者冒用。

再想一下，鋪天蓋地看到的訊息，都是被基於某種目的製作和散發的，可怕嗎？

網路流傳的各種截圖、聊天記錄，本就難以分辨真假，當AI加入“創作”，風格能模仿，邏輯能自洽，還能不知疲倦的批量生產，信息污染，一鍵達成。

以下這些作惡事件中，都有AI的應用。

AI「煉製」色圖模型

一、社群平台出現AI合成兒童軟性色情照片

#5月16日，微博部落客「賽博十塊鑑定處」發文稱，發現在B站有部分用戶上傳了AI繪畫工具合成的寫實風兒童軟色情圖片。生成的圖片內女孩衣著暴露，舉止不雅，用戶會在評論和動態內分享「圖包」。

事件曝光後，因遭到用戶舉報，目前部分影片已被下架，相關涉事用戶帳號被封鎖。

圖源：賽博十塊鑑定處

二、CP29漫展場照被「煉」不雅照

5月6日，有網友投稿微博博主“春日矮男”，稱一位網友在某論壇表示不滿當天在漫展拍攝的coser場照，於是使用AI繪畫工具配合LoRA模型（一種微調模型），將素人的圖片經過局部調整「煉」成了「掀裙子」的不雅照。

該投稿在微博公佈後，轉發量高達2.1萬。

圖源：春日矮男 via 微博

#無獨有偶，此前5月3日，部落客DeadPrince在微博私訊被告知，自己的自拍照被陌生人製作成了LoRA模型上傳到了繪畫模型分享網站Civital，並且有人使用該模型繪製了裸照。

圖源：DeadPrince

AI寫假新聞

#2月16日，杭州某小區業主群內討論ChatGPT，一位業主嘗試用ChatGPT撰寫了一篇假的新聞稿，大致內容為“自2023年3月1日起，杭州將取消限行” 。隨後這則假新聞就被不明所以的群組成員截圖傳播，甚至上了熱搜，最後警方介入調查，涉事業主公開道歉。

圖源：浙江之聲

AI冒充明星行騙

#5月13日，據《每日郵報》報道，一家西班牙小電影公司Peabody Films收到英國著名男星“卷福”本尼迪克特·康伯巴奇的電話，電話裡的“卷福」對電影劇本有興趣，想合作拍電影。

但電影公司幾次邀約他本人面談，「卷福」都拒絕了，甚至還提出天價見面費，要該公司先匯款20萬英鎊再說。

由於感覺不太對勁，電影製作公司向「卷福」經紀公司確認，確認後才發現，這是一場AI騙局。

根據電影公司工作人員介紹，如果只從語音電話看，由於聲音相似度高達100%，他們完全相信對方就是「捲福」。

AI換臉產生不雅影片

4月26日，網紅“Caro 賴賴_”在微博發文稱，自己被外網某社交平台“盜臉”，冒充註冊她本人的假帳號，並且粉絲只要付費就可以觀看自己的不雅影片。

她同時還發現許多明星、博主甚至素人的圖片都被製造成了不雅視頻，以此途徑獲利，甚至還提供AI定制服務，使用在線網站的AI技術就可以做到“一鍵脫衣」。

AI「一鍵脫衣」

3月28日，「女子地鐵照被AI一鍵脫衣傳播」登上微博熱搜，照片裡的女士是一名小紅書博主，而所謂的「裸照」則是她去年7月在平台分享的一張照片。

原圖中她衣著正常，但卻被有心之人使用AI軟體“一鍵脫衣”，故意全網散播造成惡劣影響。事件發酵後，該部落客已向相關部門進行維權。

AI內容難辨真假，海內外加大監管力度

由於AI技術的普及，各大社群媒體平台湧現大量AI生成內容，但AI生成的真人寫實感圖片和影片、難辨真假的文字稿件，如果你對AI技術沒那麼了解，很容易「上當」。

例如前段時間，有一位海外網友在Twitter平台發布了一組「時尚教宗」惡搞照片火了。圖片裡的「假教宗」脫下傳統的教袍，換上時尚的白色羽絨服，非常容易讓不明真相的路人誤會這是真的教宗換裝了，但其實是使用AI繪畫工具Midjourney繪製的。

圖源：@skyferrori via twitter

#由於這組AI生成的圖片太過“火爆”，以防路人誤解，推特作為平台方，及時將圖片標記上了“AI-generated”（AI生成）。

縱觀海內外，近期有不少平台及時跟進針對AI內容的監管，發布了人工智慧相關的規範和舉措。

一、抖音發布《抖音關於人工智慧生成內容的平台規範暨產業倡議》

#該行業倡議其中的第九條至第十一條，提到了對AI生成內容進行標識以及將對虛擬人提供註冊能力，並且會開放用戶反饋管道。

9. 平台將提供統一的人工智慧產生內容標識能力，幫助創作者打標，方便使用者區分。

10. 平台將提供虛擬人的註冊能力，並對已註冊的虛擬人形象進行保護。

11. 平台將提供使用者回饋管道，方便用戶回饋違規產生內容。

相關文章： 《抖音新規落地！虛擬主播終於“合法”，但必須自曝身份、真人驅動”

二、小紅書在筆記中加入AI創作標識

#在4月底，部分小紅書用戶發現，平台開始標記AI生成的內容，並請用戶注意甄別真實度。

圖表來源：網路

#三、Google在2023開發者大會宣佈為AI生成圖片打浮水印

#Google在最近舉行的2023年開發者大會上宣布，將確保公司的每一張AI生成圖片都內嵌水印，該水印雖然無法以肉眼識別，但谷歌搜尋引擎等軟體可讀取並以標籤顯示出來，以提示使用者該圖片由AI產生。在未來的幾個月內，這項功能將會上線。

此外，我國在2021年就發布了《新一代人工智慧倫理規範》，其中涉及戰略規劃、政策法規和技術標準制定實施，資源配置以及監督審查等。並且在今年3月，網信辦發布了《生成式人工智慧服務管理規定（徵求意見稿）》，對生成式AI服務提供者的行為進行了規範，還包括用戶權益保護、資訊安全保障、技術安全保障等方面。

放眼海外，義大利政府在今年3月對ChatGPT實施了臨時禁令，理由是擔心它違反了歐盟的《通用資料保護條例》。 5月16日，OpenAI的CEO Sam Altman也在美國參議院就AI技術的潛在危險作證，並且督促立法者對開發GPT-4等先進AI系統的組織實施許可要求和其他法規。

OpenAI CEO亮相美國國會山，呼籲監管AI 圖源：網路

可以看到，目前這些侵害更多還是在資訊領域。一方面從物料來看，是相對無主的公共訊息，原本茶餘飯後街談巷議的東西，雖然有大量的虛假和臆測，但無非也就是從這個街頭傳到那個巷口，但就像社交媒體能把信息流放大，惡人們也可以用AI把濁流放大；另一方面從受害者來說，則大多是有口難辨的普通人，發聲明也沒人看，更很難去發律師函了。儘管法律法規以及平台都在跟進對AI技術的監管，但一般人的維權成本還是很高。

問題回到惡人，當他們藏身於網路背後，管住他們手裡的刀成為一個必須去做的事。

ps.明天就是520

，身為一個浪漫的AI玩家，怎麼能少得了玫瑰呢？

在「頭號AI玩家」公眾號後台回覆關鍵字「520」或「521」，即可隨機獲得一幅由AI產生的盲盒玫瑰

以上是你的自拍照可能被收入'不雅圖素材庫”，AI作惡其實離你很近！的詳細內容。更多資訊請關注PHP中文網其他相關文章！