8つの言語を理解して文脈を理解するAIコンテンツレビューが登場！ Microsoft が新製品を発表: テキストと画像を検出できる

Microsoft は現地時間 5 月 23 日、より安全なネットワーク環境の構築を目的として、人工知能 (AI) を活用したコンテンツ レビュー サービス製品、Azure AI Content Safety (Azure AI コンテンツ セキュリティ サービス) を開始しました。この製品は、画像やテキスト内の偏見、憎しみ、暴力などに関連するネガティブなコンテンツを検出できる一連のトレーニング済み AI モデルを提供します。

レポートによると、この製品は Azure OpenAI サービスに組み込まれ、サードパーティ開発者に公開される予定です。 Azure OpenAI サービスは、Microsoft が管理するエンタープライズ中心のサービス製品であり、企業が AI 研究所 OpenAI のテクノロジーにアクセスし、ガバナンス機能を追加できるように設計されていることがわかります。 Azure AI コンテンツ セキュリティ サービスは、Azure OpenAI サービスで使用されるだけでなく、ゲーム プラットフォームやオンライン コミュニティなどの非 AI プラットフォームにも適用できることは注目に値します。

↑情報画像

Azure AI コンテンツ セキュリティ サービスは、英語、スペイン語、ドイツ語、フランス語、中国語、日本語、ポルトガル語、イタリア語を含む 8 つの言語に「堪能」であると報告されています。つまり、これら 8 つの言語の画像またはテキストを理解して検出し、フラグが立てられたコンテンツに重大度スコアを割り当てて、人間のレビュー担当者にどのコンテンツにアクションが必要かを示すことができます。

さらに、Microsoft の広報担当者によると、この製品は、以前の同種の製品と比較して、テキスト コンテンツや文化的背景をよりよく理解できるとのことです。 「当社には言語と公平性の専門家からなるチームがおり、文化、言語、文脈を考慮したガイドラインの開発に取り組んでいます。報告書はまた、Microsoft が現在の AI が完璧ではないことを認識していると指摘し、次のことを期待しています」と広報担当者は付け加えた。人間は AI を使用することで AI を改善します。

レポートでは、すべての AI レビュー プログラムが直面する問題と同様、Azure AI コンテンツ セキュリティ サービスも最終的にはデータとコンテンツのマーク付けを人間のレビュー担当者に依存している、つまりその公平性は最終的には人間に依存していると指摘しました。レポートによると、データとコンテンツの手動処理におけるバイアスは頭痛の種を引き起こす可能性があります。 2015年、グーグルの人工知能画像認識ソフトウェアが有色人種を誤ってオランウータンと分類したとの報道が流れ、論争が起きた。米国メディアは、8年経った今でもテクノロジー大手は依然として「同じ間違いを繰り返す」ことを懸念していると伝えた。

実際のところ、AI によってもたらされるリスクにどのように対処するかは、一般の人々やテクノロジー業界の間で常に話題になっています。今月２２日、ＡＩが合成したとみられる「国防総省近くの爆発」の偽画像がインターネット上に出回り、一時パニックが起きたが、米国防総省報道官が緊急に反論した。その後、米国メディアの分析では、画像にはAIが生成したすべての特徴があったと述べられた。今月初め、OpenAIの最高経営責任者（CEO）サム・アルトマン氏は、米上院小委員会の公聴会で政府による人工知能（AI）の規制を求めた。同氏は、この技術に誤りがあれば、その結果は非常に深刻であり、世界に多大な損害をもたらす可能性があると強調した。

レッドスターニュース記者リー・ジンルイ

編集者何賢峰 編集者李彬彬

以上が8つの言語を理解して文脈を理解するAIコンテンツレビューが登場！ Microsoft が新製品を発表: テキストと画像を検出できるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。