有效的加速主義或親社會AI。 AI的未來是什麼？

加速主義者的願景：全速前進

有效的加速主義，即短期內被稱為E/ACC，大約在2022年左右作為技術優先主義運動，在矽谷及其他地區獲得了巨大的吸引力，其核心是E/ACC提倡的快速，不受限制的技術進步。

是什麼加速加速主義者？

如果您曾經聽說過有人說“進步是不可避免的”或“監管只是減慢了創新”，那麼您會聽到E/ACC思維的迴聲。這種哲學基於幾種關鍵信念：

作為命運的技術：E/ACC支持者將技術進步視為不可阻擋的力量 - 例如重力 - 不應阻礙。他們認為試圖減慢發展的嘗試不僅徒勞無功，而且可能有害。

市場最了解：他們擁護自由市場的創新，將法規視為高速公路進步的速度。

E/ACC認為，通過創新豐富：而不是重新分配現有資源，而是認為創建強大的新技術將為每個人帶來前所未有的豐富。

機會，而不是風險：在其他人看到高級AI的危險的地方，E/ACC看到了人類最大的機會，這是解決我們最大的問題並超越當前局限性的機會。

科技投資者馬克·安德森（Marc Andreessen）在他的“技術優先宣言”中宣稱：“我們相信技術是我們創造更好的未來，豐富的未來，一個奇蹟的未來，一個充分實現人類潛力的未來的方式。”

親社會視野：人類價值觀首先

對比的是P Rosocial AI ，這是一個將人類和行星福利置於技術發展中心的框架。根據定義，親社會AI系統是“量身定制，訓練，測試和針對性的，可以為人物和星球帶來最好的選擇。”他們的實施是我們所屬於的人類，我們所屬的社區，我們所屬於的國家以及我們所依賴的星球的雙贏。

是什麼使AI真正親社會？

想像一下，如果我們正在構建的AI系統的設計不僅是為了聰明，而且是明智的，可以反映我們的最高價值，而不僅僅是我們的技術能力。親社會AI通過幾個核心原則體現了這一野心：

人類代理事務：親社會AI始於人類代理 - 我們做出有意義的技術選擇的能力。這種方法重視意識（了解正在發生的事情），欣賞（認識不同的觀點），接受（在努力改善時承認現實）和問責制（對結果負責）。

我們塑造我們的工具。然後他們塑造了我們：這一簡單的真理可能總結了親社會方法中最深刻的見解：“我們不能指望明天的技術比今天的人類更好。”換句話說，AI將反映我們的價值觀 - 無論好壞。

進行演講：親社會的AI要求“雙重對齊” - 我們所說的我們珍視與實際行為的和諧，以及我們的人類願望與我們創造的算法之間的和諧。您不能在沒有自己練習的情況下將同情心編程為AI。

速度前的安全：親社會的擁護者優先考慮徹底的測試和魯棒的安全機制，而不是趕上強大的AI系統上市。

餐桌上的每個人：無社會AI並沒有讓一小部分技術人員或投資者做出影響數十億美元的決定，而是支持具有多種聲音的包容性治理。

人類行星意識的設計：在此框架中，AI應該使人類和我們依賴的更廣泛的生態系統受益。

這些願景衝突的地方

這些相互競爭的框架為AI開發提供了根本不同的方法：

誰在駕駛員座位上？

E/ACC傾向於將技術視為具有自己動力的自主力量 - 幾乎就像人類應該有助於促進而不是直接的現像一樣。相比之下，親社會AI強調人類對我們創造的技術仍然負責。正如我們不會責怪錘子的使用方式一樣，我們不能將道德責任委託給AI系統。古老的俗話“垃圾，垃圾”仍然持有。它可以顛倒為 - 值，值。 Gigo與Vivo。這種轉變需要人類的選擇。

權衡風險

這些方法之間的風險計算截然不同。 E/ACC支持者經常認為，最大的危險在於發展太慢 - 可能失去經濟優勢或缺少可能解決緊急問題的技術突破。

親社會的擁護者反駁說，在沒有足夠的保障措施的情況下向前衝，可能會導致破壞隱私，擴大不平等甚至構成存在風險的系統。正如AI研究人員斯圖爾特·羅素（Stuart Russell）所說：“一個對目標函數進行優化的系統，該目標函數無法完全捕獲我們的價值會導致任意不良結果。”

道路規則

這些差異擴展到治理方法：

E/ACC劇本：最小的前期規則，讓市場競爭推動創新並在出現後解決問題。

親社會劇本：在部署前建立的周到的護欄，並進行了包括各種利益相關者的監督。

人類元素：技術缺失的作品

使親社會方法特別獨特的原因是它認識到僅技術解決方案還不夠。我們AI的質量最終將反映我們人類的質量。

這樣考慮：您是否希望根據人們在X上的互動或我們對人類行為的最高願望做出道德決定的AI系統？我們所說的我們珍視與我們經常行動之間的差距為AI開髮帶來了根本的挑戰。

這種洞察力翻轉了有關AI倫理的通常對話。而不是問：“我們如何使AI與人類價值觀保持一致？”我們必須問：“我們如何使自己的行為與聲稱擁有的價值觀保持一致？”它表明，開發有益的AI需要更好的算法和更好的人類 - 那些始終如一地展示他們希望看到的智慧，同情和責任的人，他們希望看到他們的技術創造。

尋找共同點

儘管它們有所不同，但這些框架具有一些重要的領域：

技術的變革力量：兩者都承認AI的前所未有的重塑社會的潛力。

卓越技術：價值創新和尖端功能。

人類蓬勃發展：兩者都聲稱要追求有利於人類的技術發展，即使他們以不同的方式定義了這一發展。

這對我們的AI未來意味著什麼

這些方法之間的張力在今天做出的實際決定中發揮了作用：

公司優先事項：科技公司在最大化開發速度和對安全研究的投資之間進行選擇。

人才決策：工程師和研究人員正在決定在哪裡集中精力 - 突破界限或確保有益的結果。

政策選擇：立法者正在確定是優先考慮創新激勵措施還是保護性護欄。

教育重點：大學和培訓計劃平衡技術技能與道德理解。黃金路徑是對雙重掃盲的投資，以利用對自然和人工智能的整體理解。

前進的路

有效的加速度和親社會AI之間的辯論不僅是學術，而且在我們開發越來越強大的技術時，它代表了道路上的叉子。最有前途的道路可能從這兩個角度融合了見解：保持技術動態，同時確保這一進步真正地為人類和行星福利服務。

越來越清楚的是，技術發展不能與人類發展分開。隨著我們構建越來越強大的工具，我們必須同時培養將這些工具引導到有益目的所需的智慧，價值和責任。

明天AI的質量最終將反映當今人類的質量。倫理不是抽象的意圖，而是一種野心，在我們瀏覽未經憲章的領土時，具有真實而緊迫的含義。人類必須設計混合的未來 - 對於具有人道視野的人類。有效的加速度和親社會AI之間的張力提醒我們，最重要的一致性問題可能是我們內部的一個問題。這不是對人類深處的技術挑戰。

以上是有效的加速主義或親社會AI。 AI的未來是什麼？的詳細內容。更多資訊請關注PHP中文網其他相關文章！