OpenAI画像検出ツール公開、CTO：AIが生成した画像の99％を認識可能

OpenAI は AI 画像認識を開始する予定です。

最新のニュースは、彼らの会社が検出ツールを開発しているということです。

最高技術責任者のミラ・ムラット氏によると:

このツールの精度は非常に高く、精度率は最大 99% です。

現在社内でテスト中ですが、間もなく一般公開される予定です。

この精度はまだ少し刺激的だと言わざるを得ませんが、結局のところ、OpenAI の AI テキスト検出におけるこれまでの取り組みは、「精度 26%」という悲惨な失敗に終わりました。

AI コンテンツ検出は単純ではありません

OpenAI は、AI コンテンツ検出の分野ですでにレイアウトを持っています。

今年 1 月、同社は AI テキストの悪用を防ぐために、AI と人間が生成したコンテンツを区別する AI テキスト検出器をリリースしました。

しかし、このツールは悲しいことに 7 月に廃止されました。何の発表もなく、ページは直接 404 になりました。

理由は正解率が低すぎて「ほぼ当てずっぽう」だからです。

OpenAI 自体が公開したデータによると:

AI が生成したテキストの 26% しか正しく識別できず、人間が書いたテキストの 9% は誤って識別されます。

この性急な終了の後、OpenAI はユーザーからのフィードバックを吸収し、改善に努め、より効果的なテキスト ソース テクノロジを研究すると述べました。

同時に、画像、音声、動画がAIによって生成されたものかどうかを判定するツールも開発されると発表した。

現在、DALL-E 3 の出現と、Midjourney などの同様のツールの継続的な反復により、AI ペイント機能はますます強化されています。

最大の懸念は、世界中でフェイクニュース画像の捏造に利用されることだ。

たとえば、reddit には、AI によって偽造された「2001 年のカスカディア 9.1 地震と津波」の「シーン」があり、12,000 人を超えるネチズンが「いいね」を付けています。

AI テキスト検出ツールと比較して、AI 描画検出ツールの開発は明らかに緊急です (おそらく、「スピーチが自分で書いたものであるか、誰かが書いたものであるかは誰も気にしないからです」秘書」だが、「写真と真実」の内容は一部の人には信じられない）。

しかし、OpenAI の AI テキスト検出ツールがオフラインだったように、一部のネチズンは次のように指摘しました。

生成ツールと検出ツールを同時に開発するのは矛盾しています。

一方がうまくいっている場合は、もう一方もうまくいっていないことを意味し、利益相反が発生する可能性もあります。

より直接的なアイデアは、第三者に引き渡すことです。

しかし、AI テキストに関するサードパーティのパフォーマンスはこれまで良くありませんでした。

テクノロジー自体に関する限り、もう 1 つの実現可能な方法は、AI がコンテンツを生成するときにウォーターマークを非表示にすることです。

それが Google のやっていることです。

最近 (今年 8 月末)、Google は OpenAI に先駆けて AI 画像検出テクノロジー

SynthID を発表しました。

現在、Google のヴィンセント グラフ モデル Imagen と連携しているため、モデルによって生成されたすべての画像には、「これが AI によって生成されたことを示すメタデータ識別」が埋め込まれています -

画像がトリミング、フィルターの追加、色の変更、さらには非可逆圧縮などの一連の変更は、認識には影響しません。

内部テストでは、SynthID は編集された多数の AI 画像を正確に識別しましたが、具体的な精度は明らかにされていませんでした。

OpenAI の次期ツールでどのようなテクノロジが使用されるか、またそれが市場で最も精度の高いツールになるかどうかはわかりません。

ウルトラマン、「コア構築計画」に応答

上記のニュースは、今週ウォール・ストリート・ジャーナルが開催したTech LiveカンファレンスでOpenAI CTOとAltmanが行ったスピーチからのものです。

会議では、両氏は OpenAI に関するさらなるニュースも明らかにしました。

たとえば、次世代の大型モデルが間もなく発売される可能性があります。

名前は明らかにされていませんが、OpenAI は今年 7 月に GPT-5 の商標を出願しました。

「GPT-5」の精度を懸念し、エラーや虚偽のコンテンツが生成されなくなるのではないかと尋ねる人もいます。

この点、CTOの態度は慎重で「もしかしたら」と言うだけでした。

彼女は次のように説明しました:

私たちは GPT-4 の幻覚問題に関して大きな進歩を遂げましたが、まだ到達すべき段階には達していません。

ウルトラマンは「コアビルディング計画」について語った。

彼の元の言葉から判断すると、「本当のハンマー」はありませんが、無限の想像力の余地も残されています。 . しかし、私はそれを決して排除しません。

「コア作成計画」に比べると、

携帯電話製造の噂

に対するウルトラマンの返答は非常に単純だった。

今年 9 月、Apple の元最高デザイン責任者ジョニー・アイブ (Apple で 27 年間勤務) が OpenAI と接触していることが暴露されました。情報筋によると、アルトマン氏はハードウェア デバイスの開発を望んでいたとのことです。 AI と対話するためのより自然かつ直感的な方法は、「AI の iPhone」と呼ぶことができます。

さて、彼はみんなにこう言いました:

自分が何をしたいのかはまだわかりません。漠然としたアイデアがあるだけです。

そして:

AI デバイスが iPhone の人気を覆い隠すことはありません。私はスマートフォンと競合することに興味がありません。

参考リンク:
[1]https://finance.yahoo.com/news/openai- claims-tool-detect-ai-051511179.html?guccounter=1。

[2]https://gizmodo.com/openais-sam-altman-says-he-has-no-interest-in-competing-1850937333。

以上がOpenAI画像検出ツール公開、CTO：AIが生成した画像の99％を認識可能の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。