谷歌制定'人工智慧機器行為準則”，以保障人類不受傷害

IT之家1 月5 日消息，Google旗下DeepMind 公司近日公佈了三項新進展，其中之一針對收集訓練數據的系統，起草了“機器人憲法”，確保AI 機器人不會傷害人類。

Google的資料收集系統AutoRT利用視覺語言模型（VLM）和大型語言模型（LLM），以適應環境、理解環境並確定任務。

本次起草的「機器人憲法」受艾薩克・阿西莫夫的「機器人三大定律」啟發，著重於安全。憲法指示LLM避免從事涉及人類、動物、尖銳物甚至電器的任務。

DeepMind表示為了提高安全性，限制了機器人的關節，當力超過閾值時會自動停止，並配備了物理緊急停止開關。

Google表示，在過去的7個月中，他們部署了一支由53台AutoRT機器人組成的機群。這些機器人被分別部署在四個不同的辦公大樓，並進行了超過77,000次試驗。

有些機器人由人類操作員遠端控制，而其他機器人則根據腳本或完全自主地使用Google的RT-2人工智慧學習模型運作。

試用中使用的機器人看起來更實用而不是花哨 —— 只配備了攝影機、機械手臂和移動底座。對於每個機器人，系統使用 VLM 來理解其環境和視野內的物體。接下來，LLM 提出了機器人可以執行的創意任務清單，例如將零食放在檯面上，並扮演決策者的角色，選擇機器人執行的適當任務。

根據IT之家報告，DeepMind的另一項新技術SARA-RT被發現具有比現有的Robotic Transformer RT-2更準確和更快的神經網路架構。

Google也宣布了 RT-Trajectory，增加了 2D 輪廓，以幫助機器人更好地執行擦桌子等特定的物理任務。

以上是谷歌制定'人工智慧機器行為準則”，以保障人類不受傷害的詳細內容。更多資訊請關注PHP中文網其他相關文章！