最新版Midjourney V5作图已经达到以假乱真的程度。
这不,马斯克新女友都安排上了——GM的首席执行官Barra。
还有,特朗普被一群警察围捕。
甚至,穿着白色羽绒服,走路趾高气扬的教皇都上线了。
上周,教宗方济各这张穿搭照在推特上骗过了所有人,被许多网友疯狂转发,甚至有人直呼教皇太潮了。
86岁教皇头顶白色小瓜帽、一身喇叭口的白色羽绒服,金属制的十字架项链外露,外加一本正经的表情。
谷歌趋势显示,在教皇这张照片被发布到推特后不久,搜索教皇的人数出现了显著上升。
在大家都信以为真时,突然有人点出这是AI生成的,许多人瞬间傻眼了。
「怎么就是假的呢,还想问一下是哪个品牌的,是真的好看。」
网友表示。「我一开始认为教皇穿的那件羽绒服是真的,没有多想。我肯定无法在未来的科技发展中生存下来。」
其实不难看出,这个時尚爆紅,網友直呼太潮! Midjourney出圖騙過全世界是由AI伪造的。
这张時尚爆紅,網友直呼太潮! Midjourney出圖騙過全世界最先被发布在reddit上r/midjourney版块上,后被网友发在推特上,瞬间在网上引起轩然大波。
仔细去看这张图,就会发现有人工智能生成的明显迹象,包括几个明显模糊的细节区域:
- 看似不完整的手正试图抓住一个不太像咖啡杯的东西,旁边还有污迹
- 教皇佩戴的十字架也不是直角形状,上面还刻着一个像是用黏土雕刻而且坐着的耶稣
- 眼镜与脸部的阴影不一致
这几点都表明这是由人工智能生成的。它仅了解现实的表面,但不了解支配物理对象是如何相互作用的基本规则。
话是这么说,但是无可否认这张時尚爆紅,網友直呼太潮! Midjourney出圖騙過全世界看起来太过真实。
你可能在上週的Feed上滑過它,可能沒有多想,或許會在推特上發一條“天哪,教皇是個潮牌王”,然後繼續自己的一天。
這張圖之所以走紅,是因為它代表了主題和美學的特殊結合,恰恰是因為它與我們今天已有的消費圖像的方式相匹配。
看到走紅的教宗後,有網友也動手操作了起來,並奉上了自己的prompt:
「Pope Francis using a big white puffer jacket in the Vatican City, noon light, screen space Global illumination, lumen reflections, space Reflections, diffraction grading, chromatic aberration, ambilections, space Reflections, diffraction grading, chromatic aberration, ambi occphotographion, realistic -v 5”
「medium-full shot of pope francis wearing puffer jacket, walking on the street, natural afternoon光, shot on Agfa Vista 200, side-angle view, 4k --ar 16:9 --stylize 1000 --v 5”
3月18日,川普在其自創的社群媒體平台上表示,紐約檢方正在調查一起案件,他預計自己將於3月21日被捕,號召支持者發起抗議。
然而,等到22日,川普提前劇透的大新聞並沒有發生。
專注於開源情報集團Bellingcat的創辦人Eliot Higgins便成全了他。
Higgins在推特上發布了一個帖子,其中有50張川普被捕的真實圖像,這些照片都由Midjourney生成的。
Higgins後來表示,自己被Midjourney禁用。另外,「被捕」這句話也被Midjourney平台禁止使用。
Higgins說,名人更容易成為深度偽造的目標。因為很明顯,一個人越有名,人工智慧必須學習的圖像就越多,所以非常有名的人被渲染得非常好,而不太出名的人通常有點不穩定。
上上週的時候,川普被捕1.0還沒那麼真實,可能因為太高清了,不太像包過漿的新聞圖,仔細看手部也能看出些端倪。
而後,川普也在Truth Social上分享出AI生成自己的圖片。
看來川普並不反對人工智慧創建的圖片。不過這張單膝跪地祈禱的照片也很假。
首先,還是手的問題,他似乎失去了右手的無名指,拇指也奇奇怪怪,違背了基本的人體解剖學。
還有一個線索,這個單膝跪地的姿勢有點為難這個76歲的男人,而且,特朗普從未在公共場合下跪過。
#還有就是他的右膝蓋,似乎直接跪在了左腳後面。該不會他在偷偷練瑜珈呢,這驚人的彈性與平衡感!
還有就是旁觀者的神態露了餡,前總統跪下竟然無人在意!
Deep Fake換臉以及AI生成影像都讓人真假難辨,國內這樣的P圖事件也是不少。許多明星被P圖、造謠,但如今這種技術越來越逼真,也讓受害者越來越難以為自己辯駁。
Sensity在2020年的一份報告中表明,每個月都有數百個以女性名人為主角的露骨偽造影片上傳到世界上最大的網站。
其中,Deep Fake換臉影片的總數約為49000,其中超過95%是色情內容。
自從幾年前人工智慧驅動的換臉工具進入主流以來,包括艾瑪華森、娜塔莉波曼、比莉艾利許和泰勒絲在內的女演員都成為了深度換臉的目標。
想必以後人們在看到媒體的新聞時,都需要先去進行多方查證才能知道事情的真相。
或許以後看圖片先看手。
又或許需要當事人出來打假。
總之,我們需要更多的手段來鑑別真偽。
不過有網友認為,這還只是簡單模式。等技術真的進化到無法分辨時,那才是真的大麻煩,到時候估計只有親眼見到才敢確認新聞的真實度吧。
加州大學柏克萊分校的Farid說,Midjourney 逼真的圖像能力產生了政治風險,因為它能產生看起來合理的圖像,然後引發社會的憤怒。
「讓人們相信這些東西很容易。開局一張圖,剩下全靠編。之前還可以靠看手辨別真偽,現在越來越逼真,越來越難以辨認。」
他認為,人工智慧公司應該好好思考,他們透過改進科技可能造成的傷害。他建議這些公司加入護欄,像DALLE-2一樣設定違禁詞,加入影像浮水印,防止匿名帳號建立照片。
#但是,Fraid認為,人工智慧公司不太可能放慢影像製作技術研究的進程。
生成性人工智慧領域是一場軍備競賽,每個人都想弄清楚如何賺錢,他們的速度很快,而考慮安全性問題會讓你慢下來。
#以上是時尚爆紅,網友直呼太潮! Midjourney出圖騙過全世界的詳細內容。更多資訊請關注PHP中文網其他相關文章!