IEEE 解釈可能な AI アーキテクチャ標準 P2894 が正式にリリース

Explainable AI (XAI) は、人工知能の新興分野です。人工知能の機能によって行われるあらゆる意思決定の背後にあるロジックを分析するために使用されます。これは、人工知能の持続可能な開発に対する中心的な懸念事項の 1 つです。大規模モデルの時代の到来により、モデルはますます複雑になり、解釈可能性に注意を払うことは、人工知能システムの透明性、安全性、信頼性を向上させる上で非常に重要です。

解釈可能な AI国際標準 IEEE P2894 がリリースされました。A を開きますI「ブラック ボックス」

最近、説明可能な AI アーキテクチャに関する IEEE 標準協会の標準 P2894 (説明可能な人工知能のためのアーキテクチャ フレームワークのガイド) が正式にリリースされました。 IEEE は世界最大の非営利専門技術団体であり、学術標準および国際標準の分野で権威があると認められており、900 以上の現行の業界標準を策定しています。

標準原文リンク:https://www.php.cn/link/b252e54edce965ac4408effd7ce41fb7

この解釈可能な内容AI アーキテクチャ標準のリリースは、機械学習モデルの構築、デプロイ、管理のための技術的な青写真を業界に提供すると同時に、さまざまな説明可能な AI 手法を採用することで透明性と信頼性の高い AI の要件を満たします。この規格では、Explainable AI の説明と定義、Explainable AI 手法の分類と各タイプに適用可能なアプリケーション シナリオ、Explainable AI システムの精度、プライバシー、セキュリティなど、Explainable AI のアーキテクチャ フレームワークとアプリケーション ガイドラインが定義されています。パフォーマンスの評価方法。

2020 年 6 月の時点で、WeChat Bank、Huawei、JD.com、Baidu、Yitu、Hisense、CETC ビッグデータ研究所、コンピューティング技術研究所、中国科学院、チャイナ テレコム、チャイナ モバイル、中国Unicom、Shanghai Computer Software 技術開発センター、ENN グループ、チャイナ アセット マネジメント、シノベーション ベンチャーズを含む 20 以上の企業や機関が、AI テクノロジーのセキュリティ仕様と金融、小売、金融、小売、金融などのビジネス シナリオに基づく説明可能性について深い理解を深めています。スマートシティなどの分野での検討を進め、IEEE標準協会と共同で議論し、解釈可能性作業部会が設立され、同月第1回標準作業部会会議が開催された。 WeChat Bank の人工知能の主任研究者である Fan Lixin 博士が標準作業グループの議長を務め、米国ワシントン大学教授の Chen Yixin 博士が副議長を務めています。それ以来、標準作業グループは複数回の会議を開催し、最終的な標準草案は 2024 年 2 月に IEEE 標準協会によって正式にリリースされる予定です。

標準作業グループの議長である Fan Lixin 博士は次のように述べています。「説明可能性は、AI 技術の現在の開発段階では無視できない重要な問題ですが、関連する業界標準と規範文書はまだ整備されていません。この標準策定には、金融、通信、小売、インターネットなどのさまざまな分野の大手企業や研究機関からの最先端の実践経験が吸収されており、AI の広範な実装に貴重な参考となると考えられます。」

AIのデータセキュリティとプライバシー保護に焦点を当てた、学習と信頼できるAIに関連するTrusted Federation標準が次々にリリースされます

「データDr. Fan Lixinは説明可能なAIであることを紹介しました」今回リリースされたシステムアーキテクチャ標準も「Trusted Federation Learning」であり、新しいパラダイムの研究と実装における重要なマイルストーンです。 「信頼できるフェデレーテッド ラーニング」は、ユーザーと監視のニーズを満たすことができる分散型機械学習パラダイムです。このパラダイムでは、プライバシー保護、モデルのパフォーマンス、アルゴリズムの効率性が三角形の中核であり、モデルの意思決定の解釈可能性とモデルの監視可能性の 2 つの柱とともに、より安全で信頼できるフェデレーション ラーニングを形成します。 》「Trusted Federated Learning」という新しいパラダイムを紹介する記事です。このパラダイムでは、プライバシー保護、モデルのパフォーマンス、アルゴリズムの効率性が三角形の中核であり、モデルの意思決定の解釈可能性とモデルの監視可能性の 2 つの柱とともに、より安全で信頼できるフェデレーション ラーニングを形成します。このパラダイムはあらゆる側面のニーズを満たすことができ、新しい分散機械学習手法です。この記事では、このパラダイムの重要性と構成要素を紹介します。

データの安全な循環は重要な役割を果たし、信頼できるフェデレーテッド ラーニングはデータ要素の安全な循環を促進する上で重要な役割を果たします。国家データ局が発行した「データ要素」3 か年行動計画 (2024 ～ 2026 年) では、「安全で信頼できる流通環境を構築し、プライバシー コンピューティングやフェデレーテッド ラーニングなどのテクノロジーの適用を深め、信頼性と信頼性を向上させる」ことを提案しています。信頼できるフェデレーテッド ラーニングは、プライバシー コンピューティング、フェデレーテッド ラーニングなどのテクノロジーに基づいたデータ コンプライアンス循環手法として、信頼性、制御性、およびデータ コンプライアンスと効率的な流通と使用を促進します。データ利用の説明責任：測定機能は、コンプライアンスに準拠したデータの適用、効率的な循環と使用を促進し、それによってデータの価値を最大化します。

産業界と学界がフェデレーテッド ラーニングと信頼できる人工知能に注目するにつれ、IEEE 標準協会によって承認された複数の信頼できるフェデレーテッド ラーニングと信頼できる人工知能の標準も次々とリリースされます。その中で、フェデレーテッド ラーニングのプライバシーとセキュリティ アーキテクチャに関する標準規格 IEEE P2986 (Federated Machine Learning のプライバシーとセキュリティに関する推奨プラクティス) の草案が完成し、間もなく正式にリリースされる予定です。この標準は、業界で初めてフェデレーテッド ラーニングのプライバシー リスク レベルとセキュリティ リスク レベルの評価方法を提案します。具体的には、フェデレーテッド機械学習の一般的な障害とその対策、フェデレーテッド機械学習のプライバシーとセキュリティの要件、フェデレーテッド機械学習のプライバシーとセキュリティの評価ガイドラインが含まれます。

さらに、IEEE P2986 に基づいて、フェデレーテッド ラーニングの信頼性、説明可能性、最適化、および監視にさらに焦点を当てた、信頼できるフェデレーテッド ラーニング標準 IEEE P3187 (信頼できるフェデレーテッド マシン ラーニングのフレームワークのガイド) も完全に初期化されました。レビュー。この規格は、信頼できるフェデレーテッド ラーニングのフレームワークと特性を提案し、これらの特性の実装に特定の制約を設定し、信頼できるフェデレーテッド ラーニングを実装するためのソリューションを紹介します。

Big Model AI A#gent フェデレーション ラーニング、大規模時代の信頼できる人工知能を作成するモデル

最近、China Telecom と WeBank は共同で、セマンティック インフォメーション エージェントのフェデレーテッド ラーニング標準に関する IEEE P3427 (セマンティック インフォメーション エージェントのフェデレーテッド マシン ラーニングの標準) ワーキング グループの設立も開始しました。この標準計画で議論されるトピックには、役割定義、インセンティブ メカニズム、フェデレーテッド機械学習に基づくセマンティック コグニティブ ネットワークにおけるさまざまなセマンティック エージェントのセマンティック コミュニケーション、人間が理解しやすいセマンティック エージェント上のセマンティック情報の表現、およびセマンティック エージェント間のフェデレーションが含まれます。セマンティックエージェント、情報セキュリティ、効率的な対話など。標準作業グループは、2024 年 3 月末に標準開発を開始する予定であり、現在、共同で標準を改善し、業界の発展を促進するために参加するさまざまな業界の関連専門家を募集しています。

関連する業界標準の連続リリースにより、業界や分野を超えた技術協力とイノベーションがさらに促進され、AI の「ブラック ボックス」が開かれ、データ要素の安全かつ効率的な流通、高精度が促進されます。人工知能は、人類に利益をもたらすテクノロジーの広範かつ責任ある効果的な適用を実現するのに役立ちます。

以上がIEEE 解釈可能な AI アーキテクチャ標準 P2894 が正式にリリースの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。