AI假造五角大廈爆炸圖致股市波動，推特開啟眾包事實查核

用戶可以在推特上的照片和影片旁邊添加筆記，並為那些有誤導性質的內容添加上下文和與該圖像相關的資訊。

·社群筆記將跟隨圖片出現。這意味著即使一個可疑的圖片被其他用戶發到推特別處，旁邊也會有筆記。

推特宣佈在當地時間5月30日擴展其社區筆記系統，以便識別被篡改和偽造的圖像。一週前，五角大廈爆炸的虛假圖片在該平台上被病毒式傳播，推特推出這項新功能，旨在利用無償的眾包事實查核來控制錯誤訊息和惡作劇。

此特性可讓使用者在推特上傳的照片和影片旁加上註釋，並為內容存在誤導性的相關資訊提供上下文和補充說明。

社群筆記功能將允許用戶在推特的照片和影片旁邊添加筆記。

標記功能目前仍處於測試階段，僅適用於包含單一影像的推文。推特計劃不久將來擴展該功能，處理其他形式的多媒體內容，例如動態圖像、影片和多張圖片的推文。

達到一定分數才能使用

#在該公告發布的一周前，在推特上廣泛傳播了一張AI生成的五角大樓爆炸的圖片。首次發布這張圖片的是一個標有「藍V」認證標誌的帳號，自稱與彭博社有關。 「藍V」一直是帳號真實性的證明，但自從特斯拉CEO伊隆馬斯克收購推特後，只要訂閱高級Twitter Blue服務就能得到這個標誌。

推特在公告中表示，AI生成的假圖片已經在平台上像病毒一樣傳播，其中一些可能會引起人們的困惑或恐懼。在某些情況下，這些圖片不會帶來危害，但在五角大廈的案例中，虛假圖片對股市產生了真實的影響——引起了500億美元的市值變動。

AI合成的圖片顯示五角大廈附近爆炸，引發股市動盪。

先前，社群筆記對誤導性和虛假資訊的檢查僅限於文字。現在，貢獻者可以添加媒體筆記（Notes on Media）來註釋圖像或視頻，以提供相關資訊。

社群筆記的目的是透過授權推特用戶共同協作，在可能引導人們錯解的推文上添加上下文訊息，以創造一個更豐富的資訊世界。根據推特的公告，帶有社群筆記的推文相比沒有筆記的推文，其按讚和轉發率增加了15%到35%。

一旦使用者成為貢獻者，他們就可以開始添加筆記。要成為社群筆記的貢獻者，使用者必須先證明自己有這個能力。推特為了確認這一點，給每個有潛力的貢獻者分配了一個寫作影響力評分。分數從0開始，必須達到5分才能成為社區筆記的貢獻者，達到10分才能在圖像上添加社區筆記。使用者可以透過評分已有的筆記等方式來提高寫作影響力分數。

「他們的工作品質可能導致他們失去貢獻者的身份。」推特表示，換句話說，如果有人透過遵守規則進入系統，然後利用貢獻者身份放大或傳播錯誤訊息，就會被踢出貢獻者團隊，必須再次證明自己才能重新加入。

先前，社群筆記用戶添加的註釋會隨著推文的轉發和引用展示給其他人，但如果推文中的圖片出現在其他貼文中，該筆記就不存在了。推特稱，現在社區筆記將跟著圖片出現。即使其他用戶在推特上分享被標記為可疑的圖片，旁邊也會有註釋。

一個被標記的可疑圖片即使被其他使用者發到別處，旁邊也會有筆記。

許多時候，這些筆記所提供的有價值的上下文可以適用於任何包含相同媒體的推文，而不僅僅是一條特定的推文。 」推特官方公告中寫道。

遭到質疑

然而，推特對於能否將標記過的圖片與平台上其他類似圖片進行匹配還缺乏信心。推特社區筆記團隊提醒道，新功能在匹配圖片時可能會出現誤報或漏報，“我們會努力調整這個功能，讓它覆蓋更多圖片，同時避免錯誤匹配。”

2022年底，馬斯克在收購推特不久後首次推出了社區筆記功能，這一功能基於該公司之前的“觀鳥（Birdwatch）”計劃，其目的是通過利用無償的眾包來核實推文的真實性，從而控制錯誤訊息和惡作劇的傳播。

自馬斯克收購推特後，該平台的內容審核一直是關鍵問題。他在大規模裁員中砍掉了大部分內容審核團隊的職位，但內容審核是維持社群媒體網站正常運作、維持平台吸引力和獲利能力的關鍵。

推特即使有完整的內容審核團隊，仍然難以解決假訊息的問題。專業的信任和安全專家指出，鑑別人工智慧產生的圖像和影片是他們最擅長的領域。推特想透過擴展筆記功能來讓用戶群參與內容審核，但不幸的是，這些用戶並不以他們的紀律或細節處理能力而聞名。

日本SmartNews的信任與安全主管阿瓊·納拉揚（Arjun Narayan）也在一次採訪中對這種做法表示擔心，「這種削弱專業團隊的做法可能會給公司帶來麻煩。」

以上是AI假造五角大廈爆炸圖致股市波動，推特開啟眾包事實查核的詳細內容。更多資訊請關注PHP中文網其他相關文章！