人工知能への盲信を妨げる 6 つの要因

ChatGPT の影響はさまざまな業界に影響を与えており、人工知能が世界を変えていることが証明されています。いずれにせよ、こうした展開が基本的に確実であるというわけではない。 AI が多くの分野でエキサイティングな新しい機会を提供しているにもかかわらず、AI には意思決定を導くための固有の道徳的羅針盤や事実確認システムが欠けているという事実を無視することはできません。

世界がAI中心になり続けるにつれて、私たちは聞いたことすべてを事実確認することを主張する必要があります。一部のツールはコンテキストを誤解し、自信を持って間違いを犯したり、データを操作したりする可能性があるため、AI をむやみに信頼することはお勧めできません。

6 人工知能への盲目的な信頼を妨げる要因

1. セキュリティ

最も明白かつ基本的なものはセキュリティです。 「まず危害を加えない」という基本原則に違反すると、裏切りなど取り返しのつかない重大な結果が生じます。 2018年にはテスラの自動運転車がコンクリートのガードレールに衝突し、運転手が死亡した。 2019年の研究論文では、道路上に戦略的に引かれた線が人工知能アルゴリズムをハイジャックしたり、車両を衝突させたりする可能性があることを証明しようとしたが、このケースは壊滅的な異常値だった。

2. 堅牢性とセキュリティ

アクセスの制限、情報の整合性の維持、およびアクセシビリティの一貫性の維持は、セキュリティの中核です。何千ものアルゴリズムが人工知能の堅牢性とセキュリティの弱点を突いています。こうした悪意のある攻撃は引き続き想像されます。包括的な保護対策が存在しない場合、アナログ インテリジェンス エンジニアが新しい安全対策ごとに適切な安全率をカスタマイズすることがさらに重要になります。 AI は、設計上の欠陥や特定の敵対的な攻撃の弱点によってだまされたり、弱体化したりする可能性があります。これが本当なら、他人の車椅子を乗っ取って安全な場所に入る事も可能だろう。

3. プライバシー

危害の防止もプライバシー原則の中核です。情報漏洩は非常に多く、そのすべてが悪意のある者にとって、同意なしに個人を特定したり、その人の幸福、お金、私生活に関するデータを分析したりする機会となります。心配なことに、アメリカ人の 81% は、データ収集の利点がリスクを上回ると信じています。研究者らは、有色人種や少数民族グループが他のグループよりも脆弱であることを発見しました。過小評価されているため、前述の漏洩を受けて、その情報のより効果的な匿名化がさらに必要になります。

4. シンプルさと合理性

コンピューターベースのインテリジェンスに関しては、シンプルさが大きな特徴です。ユーザーは少なくとも、自分が人間ではなく人工知能と対話していることを知っています。最も極端な場合、すべての専門的なサイクルと情報が報告され、アクセス可能で意味のあるものになります。この例は、透明性の欠如がもたらす結果を完全に示しており、英国の試験採点スキャンダルがその代表例です。スコアを評価する際、アルゴリズムは生徒の成績だけでなく、学校の過去のスコア記録や同じスコアを受けた生徒の数も考慮します。

5. 倫理と環境

倫理と公平性は人工知能の目標でなければなりません。確立され施行された社会規範 (法律とも呼ばれます) を遵守する必要があります。シンプルですが、技術的には難しいです。本当の物語は、公権力が時代遅れの戦略を実行したり、自由な企業戦略を採用したりするときに始まります。適切な倫理的バランスを見つけることは、利害関係者の利益、手段と目的、プライバシー権、データ収集に対処する AI エンジニアと所有者の責任です。そして職場だけでなく、大手テクノロジー企業は性差別を永続させているとして非難されることが多い。女性の音声アシスタントは、労働者や親としての女性の見方を正常化していると活動家や研究者はみなしている。

6. 説明責任

責任により、前に参照したさまざまなコンポーネントに対してフレームワークを調査できることが保証されます。進捗状況をフィルタリングし、利益の損失を防ぐために、多くの組織は現在、責任ある AI を社内で構築しています。ただし、外部からの制御やレビューができない場合があります。 Clearview AI はこの点の一例です。同社の顔認識テクノロジーは、市場にある他のすべてのテクノロジーよりも優れていますが、非公開で所有されており、所有者が管理しています。犯罪組織や独裁政権に悪用されれば、数え切れないほどの人々が危険にさらされる可能性があります。

以上が人工知能への盲信を妨げる 6 つの要因の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。