清華大学の新しい研究で情報コクーンルームが解読されました!新しい情報ダイナミクス理論が Nature サブジャーナルに掲載

新世代の情報とインテリジェントテクノロジーの急速な発展により、人類は徐々にインテリジェント社会への移行を推進しています。デジタルテクノロジーとインテリジェントなレコメンデーションアルゴリズムのサポートにより、メディアとプラットフォームはますます配慮されており、常に人々のパーソナライズされた好みやニーズに可能な限り迅速かつ正確に応えることができます。

しかし、同時に、インテリジェントで正確なレコメンデーションは、同じような考えを持つ人々がサイバー空間でグループを形成し、特定の価値を生み出す「情報のコクーンルーム」現象を継続的に発酵させることにもつながりました。グループ内で好みが収集され、増幅され、徐々に極端な意見が生まれます。

有名人や社会的出来事に対するあらゆる極端な見方は、イデオロギーへの参加や影響力を高めるツールとして利用され、サイバー空間や現実世界の火に油を注いで「世論の混乱」を引き起こす可能性があります。 。」

しかし、それでも、情報コクーンについてはほとんどわかっていません。実際のオンライン システムにおける情報コクーンはどれほど深刻なのでしょうか?大規模な実証研究が不足しているが、情報繭の形成メカニズムはどうなっているのか？基本的な理論的裏付けの欠如、情報コクーンルームの問題をどう解決するか?有効な手段が不足している。

最近、清華大学電子工学部都市科学コンピューティング研究センターと公共政策管理学部が分野を超えて協力し、初の大規模データ実証研究を実施しました。大規模な実証研究と情報力学の理論モデリングを通じて、理論は情報メディアにおける情報コクーンルームの出現の内部メカニズムと相転移境界を明らかにし、人間と知性の相互作用の複雑な社会システムを理解する新しい方法を提供します。現在のインテリジェント社会。

成果は、「Human-AI Adaptive Dynamics drives of information cocoon」（Nature Machine Intelligence）というタイトルで「Nature・Machine Intelligence」に掲載され、オンラインで公開されました。

#論文リンク: https://www.nature.com/articles/s42256-023-00731-4

コードとデータのリンク: https://github.com/tsinghua-fib-lab/Adaptive-Information-Dynamic-Model

この成果はニュースとビデオに焦点を当てています2 つの典型的なシナリオでは、5 億 7,000 万のユーザー行動データを分析し、情報エントロピーを使用して情報の繭の深刻度を測定することにより、1 年間のインタラクション後、アクティブ ユーザーの 57% 以上がさまざまな程度の情報エントロピーの減少を経験したことが判明しました。現実世界のシステム 情報の繭の深刻さ。

経験的発見に基づいて、この結果は、人間と推奨アルゴリズムの間の重要なフィードバック ループをモデル化するための、人間と知性の適応情報ダイナミクス モデルを提案します。また、システムを通じて情報エントロピーの進化の法則を示します。情報繭の相転移プロセスを記述するために使用されます。

このモデルは、「多様性-部分情報繭室-深さ情報繭室」という複雑なシステムの相変化過程と相変化境界を非平衡統計力学の観点から明らかにします。人間と知性のインタラクティブな複雑な社会システムにおける情報の繭の問題は、理論的基礎を提供し、システムの正と負のフィードバック、および正確なアルゴリズムのプッシュとユーザーのバランスをとることによって情報の繭を破壊するためのその後の設計にインスピレーションを与えます。自由な探索により、責任ある推奨を実現します。

論文の概要

新興の破壊的テクノロジーとして、人工知能は人間の生産、ライフスタイル、考え方を大きく変え、経済発展に大きな影響を与えています。それは、重大かつ広範な影響を及ぼします。その中でも、推奨アルゴリズムは最も広く使用されている人工知能テクノロジーであり、情報過多の問題を効果的に軽減し、人々が見たり聞いたり考えたりするものに大きな影響を与えることができます。

しかし、レコメンデーション アルゴリズムは諸刃の剣でもあり、パーソナライズされたレコメンデーションが提供されるため、人々がさらされる情報はますます均一になり、徐々に罠にはまってしまいます。コクーンルームにて。この均質な情報は、人々の視野を制限し、集団や社会から遠ざけるだけでなく、社会的な対立や分裂を促進することになります。

したがって、情報繭の発生を抑制するには、その仕組みを理解することが第一歩となります。

情報の均一性の問題については研究が行われています[1-5]が、そのほとんどは人間の行動やインテリジェントなアルゴリズムに焦点を当てています。この研究では、実証的な研究方法を通じて、ソーシャルメディア上に同質な群衆が集まる潜在的な要因やアルゴリズムのフィルタリング効果を指摘しましたが、データと方法論の限界により、相関関係の結論しか提供できません。

最近、いくつかの実証研究 [25,26] が原因分析を実施しました。しかし、これらの研究は依然として、根底にあるメカニズムの分析と説明を提供していません。さらに、現在の推奨アルゴリズムのほとんどはブラックボックスの人工知能ディープラーニング手法に基づいており、その背後にある数億のパラメーターにより、情報のコクーンの根本原因を洞察することがさらに困難になっています。

未知の情報源が繭に閉じ込められるという問題に対応するため、研究チームは、ニュースとビデオという 2 つの典型的なシナリオに焦点を当てました。大規模な実証研究を通じて、1 年間のやり取りの間に、57 以上の情報が収集されることがわかりました。アクティブ ユーザーの割合はさまざまな程度の情報多様性の低下を経験しており、類似性に基づくマッチングと正および負のフィードバックが情報の均質化プロセスに影響を与える重要な要素であると指摘されています。

さらに、研究チームは、推奨アルゴリズムの分野における経験的な発見と実践に基づいて、確率的熱力学のアイデアに触発され、人間と知能の適応情報ダイナミクスを創造的に提案しました。モデル。

このモデルは、類似性マッチングとフィードバック利用に基づく 2 つの基本メカニズムを記述し、システム情報エントロピーを通じてシステムの進化を使用することにより、人間と推奨アルゴリズムの間の主要なフィードバック ループを機械的にモデル化します。システムの相転移プロセスを説明します。

シミュレーション実験と理論解析を通じて、「多様性-部分情報繭室-深層情報繭室」という複雑な系の相変化過程と相変化境界を明らかにし、コントローラーの基礎 - インテリジェントでインタラクティブな複雑な社会システムにおける情報の繭問題は、理論的基礎と実践的な方法を提供します。

#人間知性適応型情報ダイナミクスモデル

技術的なポイント

研究チームは、ニュースとビデオという 2 つの典型的なコンテンツ推奨シナリオに焦点を当て、大規模な実データの実証分析を通じて、実世界の情報の繭の重大度とその影響要因を特徴付けました。

具体的には、研究チームは情報エントロピーを使用してユーザーが受け取る情報の多様性を特徴付け、アクティブ ユーザーの 57% 以上がさまざまな程度の情報多様性の低下を経験していることを発見しました。推奨アルゴリズムによって徐々に狭い情報の繭に制限されていきます。

研究チームはさらなる分析を通じて、類似性マッチングと肯定的フィードバックと否定的フィードバックに基づく推奨アルゴリズムの強度が、情報コクーンの生成に影響を与える重要な要素であることを発見しました。この実証研究は、実際の大規模オンライン情報システムにおける情報の繭の重大度を初めて定量化しただけでなく、その後の理論モデルの基礎も築きました。

(a-c) ニュースとビデオの 2 つの典型的なシーンに焦点を当て、現実世界を定量化します。情報コクーン ルームの重大度; (d-f) 類似性一致強度、正および負のフィードバックは、情報コクーン ルームの形成に影響を与える重要な要素です。

研究チームは、推奨アルゴリズムの分野における経験的結論と実践に基づいて、確率的熱力学の理論と組み合わせて、人間と知能の適応情報ダイナミクスモデルを創造的に提案しました。

このモデルは、情報エントロピーを使用してユーザーがさらされる情報の多様性を表し、システム情報エントロピー分布を使用してシステムの状態を表します。

数億のパラメータに依存するディープ ラーニング モデルとは異なり、提案されたモデルは、人間を機械的にモデル化するための類似性マッチングとユーザー フィードバックに基づく 2 つの基本メカニズムのみに依存します。確率的動的方程式を使用した、推奨アルゴリズムと人間と知能の複雑な動的相互作用プロセスの間のループ。

このうち、 はユーザー l の観察された関心分布を表します、 はアイテム k の特性分布を表し、 は類似度ベースのマッチング強度、正のフィードバックの利用率、負のフィードバックの利用率、および自由探索の強度をそれぞれ表します。

上記の式に基づいて、さまざまなトピックについて観察されたユーザーの好みを記述するフォッケ・プランク方程式を導き出すことができます。さらに、平均場近似法を通じて、最終的に分布を求めることができます。ユーザーが受け取る情報エントロピーの人口に対する割合が導出されます。

研究チームは、異なるパラメータ空間の下で、人間と知性のインタラクティブな複雑な社会システムには、多様化、部分情報コクーンルーム、深層情報コクーンルームという3つの状態があり、これら3つのシステム状態はそれぞれに分けられると指摘しました。 3 つの状態: 異なる情報エントロピー分布によって特徴付けられます。

大規模シミュレーション実験と実証分析により、提案されたモデルの説明力と有効性がさらに検証されました。

(a) 類似性に基づくマッチング強度または (b) 正のフィードバックの利用速度が増加すると、人間と知性の相互作用する複雑な社会システムは、多様な状態から部分的な情報の繭状態、そして深い情報の繭状態への相転移プロセスを経験しました。赤い点線は理論上のライン、ヒストグラムはシミュレーションのラインです。

研究チームは、類似性に基づくマッチングの強度や正のフィードバックの利用が増加するにつれて、複雑なシステムが多様な状態から部分的な情報の繭状態までの状態を提示することを発見しました。そして深度情報コクーン状態の相転移過程へ。

しかし、負のフィードバックの利用率や自由探索の強度が増加すると、システムは逆の相変化過程を経ます。つまり、深い情報の繭から情報の繭への変化です。部分的な情報の繭、そして最終的には多様な状態へ。上記の 4 つの相転移プロセスは、理論解析と大規模シミュレーション実験によって一貫して検証されています。

(a) 負のフィードバックの利用が増加する、または (b) 自由探索の強度が増加するにつれて、人間と知性の相互作用が複雑な社会システムの経験これは、深い情報コクーン状態から部分情報コクーン状態、そして多様化状態への逆相転移プロセスを記述しています。赤い点線は理論上のライン、ヒストグラムはシミュレーションのラインです。

共同解析を通じて、研究チームは、類似性の推奨、正と負のフィードバックの利用、および自由なフィードバックに基づく 4 つの要素の共同駆動によって駆動されるシステム全体の相変化図を実証しました。情報の繭における出現の内部メカニズムを解明。

具体的には、類似性に基づくマッチングは、複雑なインタラクティブ システムの多様化から均質化を促進する効果的な力場として機能します。正のフィードバックはこの力の場をさらに増幅させ、その結果、情報の多様性が減少します。

負のフィードバックと自由探索は、有効な力場の影響に抵抗することでシステムに外乱を導入し、情報の多様性を促進します。

相転移境界に関しては、理論予測結果とシミュレーション実験結果が高い整合性を示すとともに、数多くのシミュレーション実験と実証解析を通じて、置換関数、測定された情報エントロピー分布など。提案されたモデルの堅牢性と有効性がさらに検証されます。

システム相変化図、(a-b) ビデオおよびニュースシーンデータに基づく 3 次元システム相変化図、(c-e) ビデオシーンデータに基づく 2 次元システム相変化図、(f-h) ニュースシーンデータに基づく 2 次元システムの相変化図。

人工知能テクノロジーの広範な応用に伴い、人間とインテリジェント システムの間の複雑な相互作用は、複数のエンティティと複数のフィードバックを含む複雑な人間と知能の相互作用システムを構成します。

現在の人工知能は主に深層学習技術に基づいており、そのブラックボックス的な性質により、このような複雑な対話型システムにおける動的特性や新たな動作を深く理解することがさらに妨げられています。

研究チームが提案した適応情報ダイナミクスモデルは、創発的な行動の機械的モデリングを提供することにより、さまざまなタイプの複雑な人間と知性の相互作用システムを詳細に研究するためのメカニズムを提供します。情報コクーンの強力な理論ツール。さらに、提案された理論モデルは、責任ある推奨アルゴリズム設計の実践的な指針となる重要性を持っています。

この研究では、情報を繭に保管するための 2 つの効果的な方法、すなわち、ネガティブなフィードバックの効果的な使用を促進し、ユーザーのネガティブなフィードバックを学習するという新しい観点からユーザーの好みをモデル化することと、ユーザーができることを促進することを指摘しています。自分のコンテンツを消費する際の自由と自主性を高めることで、自由に探索し、情報の視野を広げます。

要約すると、この研究結果は、推奨アルゴリズム設計の実際的な改善の方向性を指摘するだけでなく、人間と知性のインタラクティブな複雑な社会システムを理解するための理論的ツールを提供し、その後の関連研究にインスピレーションを与えます。 AI のための複雑なシステムについて。

著者紹介

都市科学・コンピューティング研究センターの博士課程学生、Pu Jinghua 氏とポスドク研究員 Liu Jiazhen 氏この論文の共同筆頭著者は清華大学電子工学科のLi准教授、Yong准教授が責任著者、清華大学公共政策管理学院のZhang Fang助教授とSu Jun教授が共著者である。

研究成果は、科学技術イノベーション2030-「新世代人工知能」主要プロジェクトと中国自然科学財団によって支援されています。

以上が清華大学の新しい研究で情報コクーンルームが解読されました!新しい情報ダイナミクス理論が Nature サブジャーナルに掲載の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。