検索
ホームページテクノロジー周辺機器AI人工知能をより透明にすることは可能でしょうか?

人工知能をより透明にすることは可能でしょうか?

人工知能をより倫理的に健全で実用的なものにするためには、ディープ ニューラル ネットワークの解釈可能性を高めることが重要です。

AI への取り組みに関する透明性は、テクノロジーを日常業務に統合している組織にとって頭痛の種となる可能性があります。では、説明可能な AI の必要性についての懸念を和らげるために何ができるでしょうか?

AI がどの業界でも大きなメリットをもたらすことはよく知られています。私たちは、このテクノロジーが世界中の何千もの企業の業務をスピードアップし、従業員をより想像力豊かに活用するのにどのように役立っているかを認識しています。さらに、AI の長期的なコストとデータ セキュリティの利点は、テクノロジー コラムニストやブロガーによって何度も文書化されています。ただし、人工知能には相応の問題があります。問題の 1 つは、テクノロジーの意思決定に疑問が生じる場合があることです。しかし、より重要なことは、AI 駆動システムが恥ずかしい、または壊滅的な方法で誤動作するたびに、説明可能性がわずかに欠如することがより大きな問題であるということです。

人間は毎日間違いを犯します。ただし、エラーがどのように発生するかを正確に知っています。将来同じ間違いを避けるために、明確な一連の修正措置を講じることができます。ただし、AI の一部のエラーは説明が不可能です。データの専門家は、アルゴリズムがその動作においてどのようにして特定の結論に達するのかを理解していないからです。したがって、説明可能な AI は、テクノロジーを日常業務に導入しようと計画している組織と、すでに導入している組織の両方にとって、最優先事項である必要があります。

人工知能を説明可能にする理由

人工知能に関するよくある誤解は、人工知能は完全に無謬であるということです。ニューラル ネットワークは、特に初期段階では間違いを犯す可能性があります。同時に、これらのネットワークは非透明な方法で注文を実行します。前述したように、AI モデルが特定の結論に達するまでの経路は、運用中のどの時点でも明確ではありません。したがって、経験豊富なデータ専門家であっても、このようなエラーを説明することはほとんど不可能です。

人工知能の透明性の問題は、医療業界において特に深刻です。この例を考えてみましょう。病院には、患者の脳疾患を診断するニューラル ネットワークまたはブラック ボックス AI モデルがあります。このインテリジェント システムは、過去の記録や患者の既存の医療ファイルからデータのパターンを探すように訓練されています。予測分析では、対象者が将来脳関連疾患にかかりやすいとモデルが予測する場合、その予測の背後にある理由が 100% 明確ではないことがよくあります。民間機関と公的機関の両方において、AI への取り組みの透明性を高める 4 つの主な理由は次のとおりです:

1. 説明責任

前述したように、関係者は AI モデルについて知る必要があります。特に予期しない推奨事項や決定については、意思決定プロセスの背後にあります。説明可能な AI システムにより、将来的にアルゴリズムが公正かつ倫理的な推奨と決定を行うことが保証されます。これにより、組織内の AI ニューラル ネットワークに対するコンプライアンスと信頼が向上します。

2. より優れた制御

説明可能な人工知能により、作業中にシステム エラーが発生するのを防ぐことができます。 AI モデルの既存の弱点に関するより多くの知識を利用して、それらを解消できます。その結果、組織は AI システムによって提供される出力をより詳細に制御できるようになります。

3. 改善

誰もが知っているように、人工知能のモデルとシステムには、随時継続的な改善が必要です。 Explainable AI アルゴリズムは、定期的なシステム更新中にさらに賢くなります。

4. 新しい発見

新しい情報の手がかりにより、人類はHIVエイズの治療薬や治療法、注意欠陥障害に対処する方法など、現代の主要な問題の解決策を発見できるようになります。 。さらに、これらの発見は、普遍的な検証のための確かな証拠と理論的根拠によって裏付けられます。

AI 主導のシステムでは、透明性は、人間が理解できる自然言語による分析ステートメント、出力の決定に使用されるデータを強調表示する視覚化、および特定のデータをサポートするポイントを示す視覚化の形式で表現されます。システムが他の決定を拒否した理由を強調するケースまたはステートメント。

近年、説明可能な人工知能の分野が発展し、拡大しています。最も重要なことは、この傾向が将来も続けば、企業は説明可能な AI を使用して、AI を活用したすべての重要な意思決定の背後にある理論的根拠を理解しながら、成果を向上させることができるようになるということです。

これらが AI の透明性を高める必要がある理由ですが、同じことが起こらないようにするにはいくつかの障害があります。これらの障害には次のようなものがあります。

AI 責任のパラドックス

説明可能な AI は、AI システムの公平性、信頼性、正当性などの側面を改善できることが知られています。ただし、説明可能な AI が多くの問題を引き起こす可能性があるため、一部の組織はインテリジェント システムの説明責任を高めることにあまり熱心ではないかもしれません。これらの問題には次のようなものがあります。

AI モデルがどのように動作するかについての重要な詳細を盗む。

システムの脆弱性に対する意識の高まりによる、外部からのサイバー攻撃の脅威。

さらに、AI システム内の機密の意思決定データを公開および公開すると、組織は訴訟や規制措置に対して脆弱になると多くの人が考えています。

この「透明性のパラドックス」の犠牲にならないように、企業は説明可能な AI に関連するリスクとその明確なメリットを考慮する必要があります。企業は、説明可能な AI システムによって生成された情報が希薄化しないようにしながら、これらのリスクを効果的に管理する必要があります。

さらに、企業は 2 つのことを理解する必要があります。まず、AI の透明化に関連するコストによって、そのようなシステムの統合が妨げられることがあってはなりません。企業は、提供する重要な情報の機密性を保つために、解釈可能なモデルに対応したリスク管理計画を策定する必要があります。第 2 に、企業はサイバーセキュリティ フレームワークを改善して、データ侵害につながる可能性のある脆弱性やサイバー脅威を検出して無力化する必要があります。

人工知能のブラック ボックス問題

ディープ ラーニングは人工知能に不可欠な部分です。深層学習モデルとニューラル ネットワークは、多くの場合、教師なしの方法でトレーニングされます。深層学習ニューラル ネットワークは、画像認識と処理、高度な音声認識、自然言語処理、システム翻訳に関与する人工知能の重要なコンポーネントです。残念なことに、この AI コンポーネントは従来の機械学習モデルよりも複雑なタスクを処理できますが、ディープラーニングは日常の業務やタスクにブラックボックスの問題をもたらします。

ご存知のとおり、ニューラル ネットワークは人間の脳の働きを再現できます。人工ニューラル ネットワークの構造は、実際のニューラル ネットワークを模倣しています。ニューラル ネットワークは、相互接続されたノードのいくつかの層とその他の「隠れた」層から作成されます。これらのニューラル ノードは基本的な論理演算および数学的演算を実行して結論を​​導き出しますが、履歴データを処理してそこから結果を生成するのに十分な賢さと直観性も備えています。本当に複雑な演算には、複数のニューラル層と数十億の数学的変数が関係します。したがって、これらのシステムから生成された出力は、組織内の AI 専門家によって完全に検証および検証される可能性はほとんどありません。

Deloitte や Google などの組織は、ブラック ボックスを突破し、AI による重要な意思決定に使用されるデータを明らかにして、インテリジェント システムの透明性を高めるツールやデジタル アプリケーションの作成に取り組んでいます。

AI の説明責任を高めるには、組織は既存の AI ガバナンス戦略を再考する必要があります。ここでは、ガバナンスを改善することで透明性ベースの AI の問題を軽減できる重要な領域をいくつか紹介します。

システム設計

初期段階では、組織は AI システムを構築し、ニューラル ネットワークをトレーニングする際に信頼と透明性を優先できます。 AI サービス プロバイダーやベンダーが AI ネットワークをどのように設計するかに細心の注意を払うことで、組織内の主要な意思決定者に AI モデルの機能と精度に関する疑問を早期に認識させることができます。このように、システム設計段階で組織が観察できるように、AI に関する透明性ベースの問題の一部を明らかにする実践的なアプローチがあります。

コンプライアンス

AI の責任に関して世界中の AI 規制がますます厳しくなるにつれ、組織は AI モデルとシステムをこれらの規範や標準に準拠させることで真の利益を得ることができます。組織は、説明可能な AI システムを作成するよう AI ベンダーに働きかける必要があります。 AI アルゴリズムの偏りを排除するために、企業は高価なデータ専門家やチームを雇う代わりに、クラウドベースのサービスプロバイダーにアプローチすることができます。組織は、クラウド サービス プロバイダーに対して、職場での AI システムのインストールおよび実装中にコンプライアンス関連のすべてのボックスにチェックを入れるよう明確に指示することで、コンプライアンスの負担を軽減する必要があります。これらのポイントに加えて、組織は AI ガバナンス計画にプライバシーやデータ セキュリティなどのポイントを含めることもできます。

私たちは、今世紀に入って以来、人工知能やディープラーニングなど、最も驚くべきテクノロジーの進歩を遂げてきました。幸いなことに、100% 説明可能な AI はまだ存在していませんが、AI を活用した透明なシステムの概念は実現不可能な夢ではありません。 AI ガバナンスを改善し、リスクを負ってこれを達成できるかどうかは、これらのシステムを実装する組織にかかっています。

以上が人工知能をより透明にすることは可能でしょうか?の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明
この記事は51CTO.COMで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。
2023年机器学习的十大概念和技术2023年机器学习的十大概念和技术Apr 04, 2023 pm 12:30 PM

机器学习是一个不断发展的学科,一直在创造新的想法和技术。本文罗列了2023年机器学习的十大概念和技术。 本文罗列了2023年机器学习的十大概念和技术。2023年机器学习的十大概念和技术是一个教计算机从数据中学习的过程,无需明确的编程。机器学习是一个不断发展的学科,一直在创造新的想法和技术。为了保持领先,数据科学家应该关注其中一些网站,以跟上最新的发展。这将有助于了解机器学习中的技术如何在实践中使用,并为自己的业务或工作领域中的可能应用提供想法。2023年机器学习的十大概念和技术:1. 深度神经网

人工智能自动获取知识和技能,实现自我完善的过程是什么人工智能自动获取知识和技能,实现自我完善的过程是什么Aug 24, 2022 am 11:57 AM

实现自我完善的过程是“机器学习”。机器学习是人工智能核心,是使计算机具有智能的根本途径;它使计算机能模拟人的学习行为,自动地通过学习来获取知识和技能,不断改善性能,实现自我完善。机器学习主要研究三方面问题:1、学习机理,人类获取知识、技能和抽象概念的天赋能力;2、学习方法,对生物学习机理进行简化的基础上,用计算的方法进行再现;3、学习系统,能够在一定程度上实现机器学习的系统。

超参数优化比较之网格搜索、随机搜索和贝叶斯优化超参数优化比较之网格搜索、随机搜索和贝叶斯优化Apr 04, 2023 pm 12:05 PM

本文将详细介绍用来提高机器学习效果的最常见的超参数优化方法。 译者 | 朱先忠​审校 | 孙淑娟​简介​通常,在尝试改进机器学习模型时,人们首先想到的解决方案是添加更多的训练数据。额外的数据通常是有帮助(在某些情况下除外)的,但生成高质量的数据可能非常昂贵。通过使用现有数据获得最佳模型性能,超参数优化可以节省我们的时间和资源。​顾名思义,超参数优化是为机器学习模型确定最佳超参数组合以满足优化函数(即,给定研究中的数据集,最大化模型的性能)的过程。换句话说,每个模型都会提供多个有关选项的调整“按钮

得益于OpenAI技术,微软必应的搜索流量超过谷歌得益于OpenAI技术,微软必应的搜索流量超过谷歌Mar 31, 2023 pm 10:38 PM

截至3月20日的数据显示,自微软2月7日推出其人工智能版本以来,必应搜索引擎的页面访问量增加了15.8%,而Alphabet旗下的谷歌搜索引擎则下降了近1%。 3月23日消息,外媒报道称,分析公司Similarweb的数据显示,在整合了OpenAI的技术后,微软旗下的必应在页面访问量方面实现了更多的增长。​​​​截至3月20日的数据显示,自微软2月7日推出其人工智能版本以来,必应搜索引擎的页面访问量增加了15.8%,而Alphabet旗下的谷歌搜索引擎则下降了近1%。这些数据是微软在与谷歌争夺生

荣耀的人工智能助手叫什么名字荣耀的人工智能助手叫什么名字Sep 06, 2022 pm 03:31 PM

荣耀的人工智能助手叫“YOYO”,也即悠悠;YOYO除了能够实现语音操控等基本功能之外,还拥有智慧视觉、智慧识屏、情景智能、智慧搜索等功能,可以在系统设置页面中的智慧助手里进行相关的设置。

人工智能在教育领域的应用主要有哪些人工智能在教育领域的应用主要有哪些Dec 14, 2020 pm 05:08 PM

人工智能在教育领域的应用主要有个性化学习、虚拟导师、教育机器人和场景式教育。人工智能在教育领域的应用目前还处于早期探索阶段,但是潜力却是巨大的。

30行Python代码就可以调用ChatGPT API总结论文的主要内容30行Python代码就可以调用ChatGPT API总结论文的主要内容Apr 04, 2023 pm 12:05 PM

阅读论文可以说是我们的日常工作之一,论文的数量太多,我们如何快速阅读归纳呢?自从ChatGPT出现以后,有很多阅读论文的服务可以使用。其实使用ChatGPT API非常简单,我们只用30行python代码就可以在本地搭建一个自己的应用。 阅读论文可以说是我们的日常工作之一,论文的数量太多,我们如何快速阅读归纳呢?自从ChatGPT出现以后,有很多阅读论文的服务可以使用。其实使用ChatGPT API非常简单,我们只用30行python代码就可以在本地搭建一个自己的应用。使用 Python 和 C

人工智能在生活中的应用有哪些人工智能在生活中的应用有哪些Jul 20, 2022 pm 04:47 PM

人工智能在生活中的应用有:1、虚拟个人助理,使用者可通过声控、文字输入的方式,来完成一些日常生活的小事;2、语音评测,利用云计算技术,将自动口语评测服务放在云端,并开放API接口供客户远程使用;3、无人汽车,主要依靠车内的以计算机系统为主的智能驾驶仪来实现无人驾驶的目标;4、天气预测,通过手机GPRS系统,定位到用户所处的位置,在利用算法,对覆盖全国的雷达图进行数据分析并预测。

See all articles

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

mPDF

mPDF

mPDF は、UTF-8 でエンコードされた HTML から PDF ファイルを生成できる PHP ライブラリです。オリジナルの作者である Ian Back は、Web サイトから「オンザフライ」で PDF ファイルを出力し、さまざまな言語を処理するために mPDF を作成しました。 HTML2FPDF などのオリジナルのスクリプトよりも遅く、Unicode フォントを使用すると生成されるファイルが大きくなりますが、CSS スタイルなどをサポートし、多くの機能強化が施されています。 RTL (アラビア語とヘブライ語) や CJK (中国語、日本語、韓国語) を含むほぼすべての言語をサポートします。ネストされたブロックレベル要素 (P、DIV など) をサポートします。

SublimeText3 Linux 新バージョン

SublimeText3 Linux 新バージョン

SublimeText3 Linux 最新バージョン

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

DVWA

DVWA

Damn Vulnerable Web App (DVWA) は、非常に脆弱な PHP/MySQL Web アプリケーションです。その主な目的は、セキュリティ専門家が法的環境でスキルとツールをテストするのに役立ち、Web 開発者が Web アプリケーションを保護するプロセスをより深く理解できるようにし、教師/生徒が教室環境で Web アプリケーションを教え/学習できるようにすることです。安全。 DVWA の目標は、シンプルでわかりやすいインターフェイスを通じて、さまざまな難易度で最も一般的な Web 脆弱性のいくつかを実践することです。このソフトウェアは、

PhpStorm Mac バージョン

PhpStorm Mac バージョン

最新(2018.2.1)のプロフェッショナル向けPHP統合開発ツール