Google entwickelt einen „Verhaltenskodex für Maschinen mit künstlicher Intelligenz', um Menschen vor Schaden zu schützen

IT House News am 5. Januar kündigte DeepMind, eine Tochtergesellschaft von Google, kürzlich drei neue Entwicklungen an Eine davon hat eine „Roboterverfassung“ für das System entworfen, das Trainingsdaten sammelt, um sicherzustellen, dass KI-Roboter Menschen keinen Schaden zufügen.

Das Datenerfassungssystem AutoRT von Google nutzt visuelle Sprachmodelle (VLM) und große Sprachmodelle (LLM), um sich an die Umgebung anzupassen, die Umgebung zu verstehen und Aufgaben zu bestimmen.

Die dieses Mal entworfene „Roboterverfassung“ ist von Isaac Asimovs „Drei Gesetze der Robotik“ inspiriert und konzentriert sich auf Sicherheit. Die Verfassung weist LLMs an, Aufgaben zu vermeiden, an denen Menschen, Tiere, scharfe Gegenstände und sogar Elektrogeräte beteiligt sind.

DeepMind gab an, dass zur Verbesserung der Sicherheit die Gelenke des Roboters begrenzt sind, er automatisch stoppt, wenn die Kraft den Schwellenwert überschreitet, und er mit einem physischen Not-Aus-Schalter ausgestattet ist.

Google gab an, in den letzten sieben Monaten eine Flotte von 53 AutoRT-Robotern eingesetzt zu haben. Die Roboter wurden in vier verschiedenen Bürogebäuden eingesetzt und führten mehr als 77.000 Tests durch.

Einige Roboter werden von menschlichen Bedienern ferngesteuert, während andere nach Skripten oder völlig autonom mithilfe des RT-2-Lernmodells für künstliche Intelligenz von Google arbeiten.

Der im Versuch verwendete Roboter sah eher zweckmäßig als schick aus – ausgestattet nur mit einer Kamera, einem Roboterarm und einer mobilen Basis. Für jeden Roboter verwendet das System VLM, um seine Umgebung und Objekte in seinem Sichtfeld zu verstehen. Als nächstes erstellte LLM eine Liste kreativer Aufgaben, die der Roboter ausführen konnte, wie beispielsweise das Platzieren von Snacks auf der Arbeitsplatte, und fungierte als Entscheidungsträger bei der Auswahl der geeigneten Aufgaben, die der Roboter ausführen sollte.

Laut IT House wurde festgestellt, dass eine weitere neue Technologie von DeepMind, SARA-RT, über eine genauere und schnellere neuronale Netzwerkarchitektur verfügt als der bestehende Robotic Transformer RT-2.

Google hat außerdem RT-Trajectory angekündigt, das 2D-Konturen hinzufügt, um Robotern dabei zu helfen, bestimmte physische Aufgaben wie das Abwischen von Tischen besser auszuführen.

Das obige ist der detaillierte Inhalt vonGoogle entwickelt einen „Verhaltenskodex für Maschinen mit künstlicher Intelligenz', um Menschen vor Schaden zu schützen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!