Microsoft、一部の人工知能サービスへのアクセスを制限

人工知能はテクノロジーの未来を握っていますが、悪者の手に渡れば、多くの人々に問題を引き起こす可能性があります。そのため、Microsoft は責任ある AI 標準にいくつかの変更を加え、新しい制限付きアクセス ポリシーを導入すると発表しました。同社は6月21日の複数の投稿で、AIを使用する一部のサービスを今後削除し、アクセスを制限すると発表した。特に、これらのポリシー変更は、Microsoft の Azure Face 顔認識サービスとカスタム ニューラル音声に影響します。

この変更によって大きな影響を受ける機能の 1 つは、物議を醸している顔分析テクノロジーです。これは、個人の感情状態を推測し、性別、年齢、笑顔、顔の表情などのさまざまな人間の属性を識別することを目的としています。髪もヘアもメイクも。 Microsoftは、今回の措置はプライバシー上の懸念と、「感情」の概念の定義に関する科学的合意の欠如を考慮したものだと述べた。

「私たちは社内外の研究者と協力して、このテクノロジーの限界と潜在的な利点を理解し、トレードオフを考慮しています」と、Azure AI のプリンシパル グループ プロダクト マネージャーであるサラ バード氏は述べています。 「特に感情分類の場合、これらの取り組みは、プライバシー、「感情」の定義に関する合意の欠如、ユースケース、地域、人口統計全体で顔の表情と感情状態を一般化できないことに関する重要な疑問を引き起こします。機密属性を予測する機能への API アクセスは、人々を固定観念、差別、不当なサービス拒否にさらすなど、さまざまな悪用の可能性を広げます。」

その結果、同社は次のように発表しました。属性検出機能は新規顧客向けに6月21日から提供開始、既存顧客向けは同月30日に提供を終了する。それでも Microsoft は、「これらの機能は、制御された一連のアクセシビリティ シナリオで使用する場合に価値があることを認識している」と述べているため、障害のある人向けに設計されたアプリ (Seeing AI など) でのこれらの機能の継続的な提供には例外があります。

一方、Microsoft は、申請者が Azure Face API、Computer Vision、Video Indexer の顔認識サービスにアクセスすることを制限します。 Microsoft が導入した制限付きアクセス ポリシーによれば、顧客は操作にアクセスするにはユース ケースと顧客資格要件に合格する必要があります。現在の顧客は、2023 年 6 月 30 日までの 1 年間、顔認識サービスの継続使用を申請して承認される必要があります。一方、ぼかし、露出、眼鏡、頭のポーズ、ランドマーク、ノイズ、オクルージョン、顔の境界ボックスを検出するための追加の顔検出機能は、アプリなしでも引き続き利用できます。

最後に、Bird 氏によると、Microsoft のカスタム ニューラル音声機能にも悪用の可能性を防ぐためにいくつかの制限が課せられる予定です。 「カスタムニューラル音声から学んだことに基づいて、同様の制御を当社の顔認識サービスに適用する予定です」と最高責任人工知能責任者のナターシャ・クランプトン氏は別のブログ投稿で述べた。 「既存の顧客に対する移行期間の後、当社はこれらのサービスへのアクセスを管理対象の顧客とパートナーに制限し、使用例を事前に定義された許容可能な使用例に絞り込み、サービスに組み込まれた技術的制御を活用します。」

以上がMicrosoft、一部の人工知能サービスへのアクセスを制限の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。