今日の人工知能環境において、説明可能な AI とは何でしょうか?

人工知能 (AI) がより洗練され、社会に広く導入されるにつれて、最も重要なプロセスと手法のセットの 1 つが説明可能な AI (XAI とも呼ばれます) です。

説明可能な AI は次のように定義できます。

人間のユーザーが機械学習アルゴリズムの結果を理解し、信頼するのに役立つ一連のプロセスと方法。

ご想像のとおり、この解釈可能性は非常に重要です。 AI アルゴリズムは多くの領域を制御するため、バイアス、アルゴリズムの欠陥、その他の問題が発生するリスクが伴います。説明可能性を通じて透明性を実現することで、世界は人工知能の力を真に活用できるようになります。

Explainable AI は、その名前が示すように、AI モデル、その影響、潜在的なバイアスを説明するのに役立ちます。また、モデルの精度、公平性、透明性、AI 主導の意思決定プロセスの結果を記述する役割も果たします。

今日の AI 主導の組織は、本番環境の AI モデルに対する信頼と確信を築くために、常に説明可能な AI プロセスを採用する必要があります。今日の人工知能環境では、説明可能な AI も責任ある企業になるための鍵となります。

今日の人工知能システムは非常に進歩しているため、人間はアルゴリズムがどのように結果に到達したかを追跡するために計算プロセスを実行することがよくあります。そのプロセスは「ブラックボックス」となり、理解できなくなります。このような説明のつかないモデルがデータから直接開発されると、何が起こっているのか誰も理解できません。

AI システムがどのように動作するかを理解するための説明可能な AI を通じて、開発者はシステムが適切に動作することを保証できます。また、モデルが規制基準に準拠していることを確認し、モデルに異議を唱えたり変更したりする機会を提供することにも役立ちます。

AI と技術および手法の違い ML プロセスにおけるあらゆる意思決定が追跡可能で説明可能であることを保証するための技術および手法。対照的に、従来の AI は結果を得るために ML アルゴリズムを使用することがよくありますが、アルゴリズムがどのように結果を得るのかを完全に理解することは不可能です。従来のAIの場合、精度の確認が難しく、制御性、説明責任、監査性が失われます。

Explainable AI の利点

Explainable AI の導入を検討している組織には、次のような多くの利点があります。

結果の迅速化: Explainable AI により、組織は次のことが可能になります。ビジネスの成果を最適化するためにモデルを体系的に監視および管理します。モデルのパフォーマンスを継続的に評価および改善し、モデル開発を微調整することができます。

• リスクの軽減: 説明可能な AI プロセスを採用することで、AI モデルが説明可能かつ透明であることを保証できます。手動検査のオーバーヘッドを最小限に抑えながら、規制、コンプライアンス、リスク、その他のニーズを管理できます。これらすべては、意図しないバイアスのリスクを軽減するのにも役立ちます。
• 信頼の構築: Explainable AI は、本番環境の AI に対する信頼の構築に役立ちます。 AI モデルを迅速に本番環境に導入し、解釈可能性を保証し、モデルの評価プロセスを簡素化して透明性を高めることができます。
• 説明可能な AI テクノロジー

すべての組織が検討すべき XAI テクノロジーがいくつかあり、予測精度、トレーサビリティ、意思決定の理解という 3 つの主要なアプローチがあります。

最初のアプローチである予測の精度は、日常業務で人工知能をうまく活用するための鍵となります。シミュレーションを実行すると、XAI 出力がトレーニング データ セットの結果と比較され、予測の精度を判断するのに役立ちます。これを実現するための最も一般的な手法の 1 つは、ローカルに解釈可能なモデル独立説明 (LIME) と呼ばれるもので、機械学習アルゴリズムを通じて分類子の予測を解釈する手法です。

• 2 番目のアプローチはトレーサビリティです。これは、意思決定の方法を制限し、機械学習のルールと機能の範囲を狭くすることで実現されます。最も一般的なトレーサビリティ テクノロジの 1 つは、DeepLIFT (Deep Learning 重要な機能) です。 DeepLIFT は、各ニューロンの活性化をその参照ニューロンと比較し、活性化された各ニューロン間の追跡可能なリンクを示します。また、相互の依存関係も示します。
• 3 番目の方法は意思決定の理解です。これは人間中心であるという点で最初の 2 つの方法とは異なります。意思決定の理解には、AI が意思決定を行う方法と理由を理解できるように、組織、特に AI を使用するチームを教育することが含まれます。このアプローチは、システムの信頼を構築するために重要です。
• 解釈可能な AI 原則

XAI とその原則をより深く理解するために、米国商務省の関連会社である国立標準技術研究所 (NIST) は、XAI とその原則をより深く理解するために、次の 4 つの原則を提供しています。説明可能な AI 原理の定義:

• AI システムは、各出力に対して証拠、サポート、または推論を提供する必要があります。
• AI システムはユーザーが理解できる説明を提供する必要があります。
• 説明は、システムが出力を達成するために使用するプロセスを正確に反映している必要があります。
• AI システムは、設計された条件下でのみ動作する必要があり、結果に十分な自信がない場合は出力を提供すべきではありません。

これらの原則は、次のようにさらに整理できます。

• 有意義: 有意義の原則を実装するには、ユーザーは提供される説明を理解する必要があります。これは、さまざまなタイプのユーザーによる AI アルゴリズムの使用を考慮すると、複数の解釈が存在する可能性があることも意味します。たとえば、自動運転車の場合、次のような説明が考えられます...「AI は道路上のビニール袋を石と分類したため、衝突を避けるための行動をとりました。」ドライバーに適用されますが、この問題を修正しようとしている AI 開発者にとってはあまり役に立ちません。この場合、開発者は誤分類が発生した理由を理解する必要があります。
• 説明精度: 出力精度とは異なり、説明精度には、AI アルゴリズムが出力にどのように到達したかを正確に説明することが含まれます。たとえば、実際には申請者の居住地に基づいているにもかかわらず、ローン承認アルゴリズムが申請者の収入に基づいて決定を解釈する場合、この解釈は不正確になります。
• 知識の限界: AI の知識の限界には 2 つの方法で到達できます。これには、システムの専門知識を超えた入力が含まれます。たとえば、鳥の種を分類するシステムを構築し、「リンゴ」の写真が与えられた場合、その入力は鳥ではないと解釈できるはずです。ぼやけた画像がシステムに与えられた場合、システムは画像内の鳥を識別できない、またはその識別の信頼性が非常に低いことを報告できるはずです。

説明可能な AI におけるデータの役割

説明可能な AI の最も重要なコンポーネントの 1 つはデータです。

Google によると、データと説明可能な AI に関して、「AI システムは、基礎となるトレーニング データとトレーニング プロセス、および結果として得られる AI モデルを通じて最もよく理解されます。」この理解は、トレーニングされた AI の能力を統合することに依存しています。モデルをトレーニングに使用する正確なデータセットにマッピングする機能と、データを綿密に調査する機能を備えています。

モデルの解釈可能性を高めるには、トレーニング データに注意を払うことが重要です。チームは、アルゴリズムのトレーニングに使用されるデータのソース、データ取得の合法性と倫理、データ内の潜在的なバイアス、バイアスを軽減するためにどのような手順を実行できるかを特定する必要があります。

データと XAI のもう 1 つの重要な側面は、システムに関係のないデータを除外する必要があることです。これを達成するには、無関係なデータがトレーニング セットまたは入力データに含まれていてはなりません。

Google は、説明可能性と説明責任を達成するための一連の実践方法を推奨しています:

• 説明可能性を追求するための選択肢を計画する
• 説明可能性をユーザー エクスペリエンスの中核部分として考える
• 解釈可能なモデルを設計する
#最終目標と最終的なミッションを反映する指標を選択する
• #トレーニング済みモデルを理解する
• #モデルを使用したユーザー コミュニケーションの説明
• 広範なテストを実施して、AI システムが期待どおりに動作することを確認します
• これらの推奨プラクティスに従うことで、組織は説明可能な AI を確実に実装できます。これは、今日の環境における AI 主導の組織にとって重要です。

以上が今日の人工知能環境において、説明可能な AI とは何でしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。