Google、人間を危害から守るための「人工知能マシンの行動規範」を開発

IT House は 1 月 5 日、Google の子会社である DeepMind が最近 3 つの新しい開発を発表したと報じました。 そのうちの 1 つは、AI ロボットが危害を及ぼさないように訓練データを収集するシステムに関する「ロボット憲法」を草案しました。人類。

Google のデータ収集システムである AutoRT は、ビジュアル言語モデル (VLM) と大規模言語モデル (LLM) を活用して、環境に適応し、環境を理解し、タスクを決定します。

今回策定された「ロボット憲法」は、アイザック・アシモフの「ロボット三原則」にインスピレーションを受け、安全性を重視したものとなっている。憲法は、LLM に対し、人間、動物、鋭利な物体、さらには電気製品に関わる作業を避けるよう指示しています。

DeepMindは、安全性を向上させるためにロボットの関節は制限されており、力が閾値を超えると自動的に停止し、物理的な緊急停止スイッチが装備されていると述べました。

Google は、過去 7 か月間に 53 台の AutoRT ロボットを導入したと発表しました。ロボットは 4 つの異なるオフィスビルに導入され、77,000 回以上の試験が実施されました。

一部のロボットは人間のオペレーターによって遠隔制御されますが、他のロボットはスクリプトに従って動作するか、Google の RT-2 人工知能学習モデルを使用して完全に自律的に動作します。

試験で使用されたロボットは、カメラ、ロボット アーム、移動ベースのみを備えた、ギミックというより実用的なものに見えました。各ロボットについて、システムは VLM を使用してその環境とその視野内のオブジェクトを理解します。次に、LLM は、カウンタートップにスナックを置くなど、ロボットが実行できる創造的なタスクのリストを作成し、ロボットが実行する適切なタスクを選択する意思決定者の役割を果たしました。

IT House によると、DeepMind のもう 1 つの新技術である SARA-RT は、既存の Robotic Transformer RT-2 よりも正確で高速なニューラル ネットワーク アーキテクチャを備えていることが判明しました。

Google はまた、ロボットがテーブルを拭くなどの特定の物理的タスクをより効率的に実行できるように 2D 輪郭を追加する RT-Trajectory も発表しました。

以上がGoogle、人間を危害から守るための「人工知能マシンの行動規範」を開発の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。