研究者らは大規模言語モデル (LLM) におけるイデオロギーの偏見について懸念を表明

これらのモデルは、要約や質問応答などのタスクに広く使用されており、作成者の世界観を反映しています。ゲント大学の新しい研究は、LLM が言語、地域、トレーニング データに基づいてどのように異なるイデオロギー的立場を持っているかを示しています。

大規模言語モデル (LLM) は、テキストの要約から質問への回答まで、さまざまなタスクに使用できる強力なツールです。しかし、ゲント大学の最近の研究では、LLM にも、作成者のイデオロギー的世界観を反映して偏りがある可能性があることが示されています。

この研究では、英語と中国語での LLM 反応におけるイデオロギーの違いを調査しました。研究者らはモデルに歴史上の人物について説明するよう依頼し、それぞれの回答における道徳的判断を分析した。彼らは、LLM が言語と地理的訓練に基づいて異なる反応を示すことを発見しました。これは、西洋と非西洋の LLM が世界的な紛争や政治的人物の記述をどのように扱ったかを見れば明らかです。

Tether の CEO、Paolo Ardoino 氏は最近の投稿でこの問題について懸念を表明しました。同氏はAIモデルに対するユーザーコントロールの重要性を強調し、大手ハイテク企業の影響力が世論形成に利用される可能性があると警戒感を表明した

。

ルガノのプラン B イベントで、Ardoino はソリューションとして Tether のローカル AI 開発キットを紹介しました。プライバシーを重視したこのキットは、ピアツーピア (P2P) テクノロジーを利用して、テクノロジーで管理された大規模な AI モデルの代替手段を提供します。

実行し、依存するモデルを制御する必要があります。

そして、テクノロジー大手に私たちの考えを強制したりコントロールさせたりしないでください。

解決策 https://t.co/1MyRIUXwit

Tether AI SDK は高度にモジュール化されており適応性があるため、開発者は低価格の携帯電話から高度なコンピューターに至るまで、さまざまなデバイスで使用できます。オープンソース キットは、Marian や LLaMA などのさまざまなモデルをサポートしており、ユーザーはプライバシーを強化するために P2P 構造にデータを保存できます。この分散型アプローチは、AI アプリケーションを実行するローカルかつプライベートな方法を提供します。

ゲント大学の研究では、LLM が歴史的および政治的出来事にどのように対処するかにも違いがあることも判明しました。西洋のモデルは説明において西洋のイデオロギーと一致する傾向がありましたが、非西洋のモデルはこれらのトピックに異なるアプローチをとり、物語の視点の違いを浮き彫りにしました。これらの発見は、「中立的な」AI システムを構築する際の課題を浮き彫りにしています。

分散型 AI プラットフォームに対する Ardoino の取り組みは、プライバシーの向上に向けたテクノロジー業界の広範な傾向と一致しています。 Tether の Local AI キットはテストされており、ユーザーが制御するモジュール型 AI の新たな手段を示しています。このアプローチは、プライバシーの問題に対処し、AI ニーズに対する大手テクノロジーへの依存を減らす可能性があります。

この記事は本質的に教育的かつ情報的なものです。これは財務上のアドバイスやいかなる種類のアドバイスも構成するものではありません。 Coin Edition は、記載されたコンテンツ、製品、またはサービスの利用の結果として発生した損失については責任を負いません。金銭的またはその他の決定を下す前に、資格のある専門家にご相談ください。

以上が研究者らは大規模言語モデル (LLM) におけるイデオロギーの偏見について懸念を表明の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。