AIが国防総省の爆発写真を偽造し株価変動を引き起こす、Twitterが事実確認のクラウドソーシングを開始

ユーザーは、Twitter 上の写真やビデオの横にメモを追加したり、誤解を招くコンテンツの画像に関するコンテキストや情報を追加したりできます。

·画像の後にコミュニティノートが表示されます。これは、たとえ問題のある画像が他のユーザーによってツイートされた場合でも、その横にメモが表示されることを意味します。

Twitterは現地時間5月30日、改ざん画像や偽画像を特定できるようコミュニティノートシステムを拡張すると発表した。 Twitterは、国防総省の爆発に関する誤った画像がプラットフォーム上で拡散してから1週間後、偽情報やデマを制御するために無償のクラウドソーシングによるファクトチェックを利用することを目的とした新機能を開始した。

この機能を使用すると、ユーザーは Twitter にアップロードされた写真やビデオの横にコメントを追加し、内容が誤解を招く場合に関連情報のコンテキストや追加の説明を提供できます。

コミュニティ ノート機能を使用すると、ユーザーは Twitter 上で写真やビデオと一緒にメモを追加できます。

タグ機能は現在ベータ版であり、単一の画像を含むツイートに対してのみ機能します。 Twitter は近い将来、この機能を拡張して、動画、ビデオ、複数画像のツイートなど、他の形式のマルチメディア コンテンツを処理できるようにする予定です。

一定のスコアに達した場合のみ使用できます

この発表は、AI が生成した国防総省の爆発画像が Twitter で広く共有されてから 1 週間後に行われました。この画像は、ブルームバーグと提携していると主張する「Blue V」認証マークが付いたアカウントによって最初に投稿された。 「Blue V」は常にアカウントの信頼性を証明するものでしたが、Tesla CEO のイーロン・マスクが Twitter を買収して以来、プレミアム Twitter Blue サービスに加入している人は誰でもこのマークを取得できるようになりました。

Twitterは発表の中で、AIが生成した偽の画像がプラットフォーム上でウイルス的に拡散しており、その一部は人々に混乱や恐怖を引き起こす可能性があると述べた。場合によっては、画像は無害でしたが、国防総省の場合、偽の画像は株式市場に実際の影響を与え、市場価値に 500 億ドルの変動を引き起こしました。

AI が生成した画像には、国防総省近くで爆発が起き、株式市場に混乱を引き起こしている様子が映っています。

以前は、コミュニティ ノートによる誤解を招く情報や虚偽の情報のチェックはテキストに限定されていました。投稿者は、メディアにメモを追加して画像やビデオに注釈を付け、関連情報を提供できるようになりました。

コミュニティ ノートの目的は、Twitter ユーザーが協力して、誤解を招く可能性のあるコンテキスト情報をツイートに追加できるようにすることで、より豊かな情報の世界を作り出すことです。 Twitterの発表によると、コミュニティメモのあるツイートは、メモのないツイートよりも「いいね！」やリツイートが15％から35％多いそうです。

ユーザーが寄稿者になると、メモの追加を開始できます。コミュニティ ノートの寄稿者になるには、ユーザーはまずその能力を証明する必要があります。これを確認するために、Twitter は各潜在的な投稿者に書き込み影響スコアを割り当てます。スコアは 0 から始まり、コミュニティ ノートの投稿者になるには 5 ポイントに達する必要があり、画像にコミュニティ ノートを追加するには 10 ポイントに達する必要があります。ユーザーは、既存のメモやその他の方法を評価することで、ライティング インパクト スコアを向上させることができます。

「彼らの仕事の質により、寄稿者としての地位を失う可能性があります。」 つまり、誰かがルールに従ってシステムに侵入し、寄稿者としての地位を利用して誤った情報を増幅または拡散した場合、その人は追い出されることになります。再参加する前にもう一度自分の実力を証明しなければならない貢献者のチーム。

以前は、コミュニティノートユーザーが追加したコメントは、ツイートがリツイートされ引用されると他の人にも表示されていましたが、ツイート内の画像が他の投稿に表示された場合、ノートは存在しませんでした。 Twitterによると、今後はコミュニティノートが画像に続くようになるという。他のユーザーが疑わしいとしてフラグが付けられた画像を Twitter で共有した場合でも、その横にメモが表示されます。

フラグが立てられた不審な写真が他のユーザーによって投稿された場​​合でも、その横にはメモが表示されます。

多くの場合、これらのメモが提供する貴重なコンテキストは、特定の 1 つのツイートだけでなく、同じメディアを含むあらゆるツイートに適用できます。 」と公式発表がTwitterに書かれています。

質問されました

ただし、Twitter は、タグ付けされた画像をプラットフォーム上の他の同様の画像と照合できるかどうか自信がありません。 Twitter コミュニティ ノート チームは、この新機能により、画像を照合する際に誤検知または誤検知が発生する可能性があると警告し、「誤一致を回避しながら、より多くの画像をカバーできるよう、この機能を調整するよう努力していきます。」

2022 年末、マスク氏は Twitter を買収した直後にコミュニティ ノート機能を初めて立ち上げました。この機能は、誤った情報の拡散を制御するために、同社の以前の「バードウォッチ」プログラムに基づいています。そしてデマ。

マスク氏がTwitterを買収して以来、プラットフォーム上のコンテンツモデレーションが重要な問題となっている。同氏は大規模な人員削減でコンテンツモデレーションチームのポジションのほとんどを排除したが、コンテンツモデレーションはソーシャルメディアサイトを継続して運営し、プラットフォームの魅力と収益性を維持するための鍵となる。

完全なコンテンツ管理チームがいるにもかかわらず、Twitter は依然として誤った情報の問題を解決することが困難です。信頼とセキュリティの専門家は、人工知能によって生成された画像とビデオを最も得意な分野だと指摘しています。 Twitter は、メモ機能を拡張することでユーザーベースをコンテンツ管理に関与させたいと考えていますが、残念ながら、これらのユーザーは規律や詳細を処理する能力について知られていません。

スマートニュースジャパンの信頼・安全担当ディレクターのアルジュン・ナラヤン氏もインタビューでこのアプローチについて懸念を表明し、「プロフェッショナルチームを弱体化させるこのアプローチは会社に問題を引き起こす可能性がある」と述べた。

以上がAIが国防総省の爆発写真を偽造し株価変動を引き起こす、Twitterが事実確認のクラウドソーシングを開始の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。