ChatGPT之父成平衡大師：賺錢和AI技術安全我都要

4月3日訊息，OpenAI的終極目標是開發安全的通用人工智慧。該公司執行長薩姆·奧爾特曼(Sam Altman)既需要利用技術收益來推動人工智慧不斷進步，又需要使用非營利性來確保人工智慧技術的安全性。他的密友都稱，這是一種平衡的藝術。

現年37歲的OpenAI執行長奧特曼一直夢想著電腦可以像人類一樣相互交流和學習。他因ChatGPT而走到人工智慧熱潮的前沿。奧特曼說，自己記得最清楚的就是兒時在臥室裡熬夜玩麥金塔LC II，那是他八歲生日時得到的禮物。當時奧特曼突然意識到：「總有一天，電腦會學會思考。」

在最近幾個月裡，奧特曼不僅在建構人工智慧的未來，還在努力將其商業化。去年11月，他領導的OpenAI公司發布了ChatGPT，這款聊天機器人可以像人類一樣寫文章，成為科技史上最具病毒式傳播效應的產品之一。投資人文件顯示，在ChatGPT火爆全網的過程中，OpenAI以近乎創紀錄的速度從一家小型非營利組織成長為價值數十億美元的公司。這在一定程度上得益於OpenAI成立了一個營利性部門，並從微軟獲得了130億美元的融資。

這種成功也是微妙平衡行為的組成部分。奧爾特曼說，他也擔心如果不顧後果地將人工智慧投入社會，到底會發生什麼事。他和其他人在八年前共同創立了非營利研究組織OpenAI，當時奧爾特曼認為，用利潤推動開發人工智慧強大模型非常危險。

奧特曼對用利潤激勵人工智慧開發非常謹慎。他說，自己並沒有直接持有OpenAI股份，在矽谷很罕見。要知道，矽谷成功新創公司的創辦人通常都是透過所持有的股權致富的。

奧爾特曼談到經濟效益時說：「和大多數人一樣，我也喜歡看著財富數字上漲，但我只是不想讓這成為全部因素。」OpenAI表示奧爾特曼的薪酬“適中”，但沒有透露具體數字。奧爾特曼透露，他持有一家投資OpenAI的風險基金的少量股份，但那點東西「無關緊要」。

奧特曼早年透過投資新創公司賺到了一大筆錢，「賺得比我需要的還要多」。他擁有三處房產，其中包括舊金山一處社區的豪宅和納帕谷的一處度假屋。他雇了幾十名員工來管理房產和家族投資事宜。

奧特曼的目標是建立新秩序，用機器來解放人們，讓人們可以自由地從事更具創造性的工作。在奧爾特曼的設想中，每個人都會獲得基本收入，從而彌補那些被人工智慧取代的工作的報酬。他甚至認為，人類會非常喜歡人工智慧，而先進的聊天機器人可以成為「人們意志的延伸」。

奧爾特曼說，從長遠來看，他希望建立全球化的治理結構，監督有關未來人工智慧的決策，並逐漸降低OpenAI高階主管團隊對人工智慧技術的影響力。

支持者表示，奧爾特曼是領導OpenAI的理想人選。但也有不少人說奧爾特曼的商業頭腦太過發達，總是沉浸在矽谷思維中，無法承擔這場正在重塑商業和社會生活的科技革命。

投資者文件顯示，今年1月OpenAI與微軟簽署了一項價值100億美元的協議，微軟將擁有OpenAI旗下營利性部門49%的股份。這種企業合作關係加上奧爾特曼一系列積極推動人工智慧技術商業化的舉措，讓OpenAI早期的負責人們感到失望。他們認為這些決定違背了最初的承諾，在股東影響之外開發人工智慧。

特斯拉執行長馬斯克(Elon Musk)也批評OpenAI。馬斯克在2015年參與OpenAI的創立，但在2018年因控制權和發展方向的爭議而離開。今年2月，馬斯克在Twitter上表示，OpenAI成立之初是一家開源的非營利組織，「是為了製衡谷歌，但現在它已經變成了一家資源封閉、追求最大利潤、實際上被微軟控制的公司。這完全不是我的本意。」

當被問及馬斯克的批評時，奧爾特曼停頓了一下。 「我喜歡馬斯克，」他最後回答道，「我留意他所說的話。」

在上週發布的一封公開信中，包括馬斯克、蘋果聯合創始人史蒂夫·沃茲尼亞克(Steve Wozniak)在內的矽谷名人呼籲全行業6個月內暫停開發比OpenAI最新技術GPT-4更先進的人工智慧，避免技術競賽可能失控的局面。

長期以來，人們一直在想通用人工智慧不僅擅長生成文字或圖像，還能像人類一樣理解和學習，甚至比人類表現更好。奧爾特曼說，OpenAI不一定要成為開發通用人工智慧的第一團隊，但他們的終極任務是開發出安全的通用人工智慧。

根據投資者文件顯示，OpenAI為投資者設定了利潤上限，任何超出一定水準的收益都將流向所屬的非營利機構。利潤上限的具體數值從投入資金的7倍到100倍不等，取決於投資時間。 OpenAI和微軟也成立了一個聯合安全委員會，成員包括奧爾特曼和微軟技術長凱文·斯科特(Kevin Scott)。如果委員會認為微軟和OpenAI發布的產品太危險，就有權進行撤銷。

OpenAI的早期捐贈者、億萬富翁創投家彼得·蒂爾(Peter Thiel)是奧爾特曼的密友。他表示，通用人工智慧的可能性讓奧爾特曼萌生了一種想法，認為某種類似技術創造了宇宙。長期以來，蒂爾一直支持人類和機器終有一天會相互融合的觀點。

ChatGPT發布後，一系列與之競爭的人工智慧系統也紛紛出現。今年2月份，Google宣布正在測試自家聊天機器人Bard，並於3月對外開放。

「他們競相發布新聞稿，奧特曼在談到競爭對手時說，「顯然，他們現在落後了。 」

OpenAI在其創始憲章中承諾，如果另一個項目比它更接近開發出通用人工智慧，OpenAI將放棄現有的研究工作。公司表示，這是為了將人類安全放在首位，避免競相打造危險的人工智慧系統。

OpenAI總部位於舊金山教會區，辦公室內遍布石頭噴泉、多肉植物和蕨類植物。奧爾特曼滔滔不絕地講述了自己設計的中央樓梯，這樣公司400名員工每天都有機會近距離相遇。週一到週三，員工們還必須面對面工作。大樓內還設有大學風格的自助餐廳、自助酒吧和圖書館。圖書館的設計是奧爾特曼最喜歡的巴黎書店和史丹佛大學圖書館頂樓安靜學習空間Bender Room設計靈感的結合。

奧爾特曼穿著典型的科技公司CEO裝扮：灰色衛衣、牛仔褲和白得發亮的運動鞋。他說自己的成長過程很樸素。

奧爾特曼在聖路易斯的郊區長大，是家中四個孩子中的大哥。他母親是皮膚科醫生，父親做過律師等各種工作。家人們說，奧特曼父親真正的職業是運營經濟適用房方面的非營利組織，曾花了多年時間試圖重振聖路易斯市中心。

#奧爾特曼說，父親教給他的一課是，「你要盡量幫忙別人。即使沒有時間，你也要想辦法。 」

奧爾特曼的母親說，她兒子在2歲時就開始使用家裡的錄影機，13歲時自己改簽從夏令營回家的機票。她說，在奧爾特曼讀三年級的時候，就開始幫助當地公立學校的老師解決電腦問題。中學時，他轉到私立的約翰·巴勒斯學校。

「老師們喜歡他，因為他真的非常非常聰明又努力，而且也非常善於社交，」時任校長安迪·阿博特(Andy Abbott)說。「他很有趣，很有個性。 」

奧特曼後來去了史丹佛大學，在一個人工智慧實驗室做研究。大二時，他與人共同創立基於位置的社交網路服務公司Loopt，後來成為了創業加速器Y Combinator第一期課程的一部分。隨後奧爾特曼也離開了學校。

Loopt從未大熱過，2012年以4.34億美元的價格出售，接近紅杉資本等投資者的投資額。

隨後，奧特曼又創辦了一家風險基金，結交了蒂爾和Y Combinator聯合創始人保羅·格雷厄姆（Paul Graham）等朋友。這些人幫忙將奧爾特曼的公司打造成在矽谷有影響力的經紀人。奧爾特曼用自己的錢成功投資了幾十家公司，其中包括雲軟體公司Asana和留言板網站Reddit。

在和Y Combinator打交道期間，奧特曼越來越擔心像DeepMind這樣的大型研究實驗室正在公眾視線之外開發有潛在危險的人工智慧技術。馬斯克也同樣擔心強大的人工智慧機器會支配人類社會。

奧爾特曼和馬斯克都認為是時候建立自己的實驗室了。最終兩人參與的一個團隊承諾向非營利組織OpenAI提供10億美元的成立資金。

OpenAI在成立之初步履蹣跚，嘗試過一些小項目，比如教機器人如何拼魔方等等。2017年，OpenAI裁掉了一大批員工。

OpenAI研究人員很快得出結論，實現通用人工智慧最有可能的途徑在於大型語言模型，也就是模仿人類讀寫方式的電腦程式。奧爾特曼說，這種模型需要基於大量文字內容的訓練，需要大量計算能力。但作為一家非營利組織，OpenAI不具備大規模融資的條件。

"我們其實沒有意識到這個計畫會有多麼昂貴，" 奧爾特曼說，「我們當時還不知道。」

奧爾特曼表示，那一年他探索了各種為OpenAI籌集更多資金的方案，例如尋求政府資助或推出一種新的加密貨幣。他說：「沒有人願意為這項研究提供資金，那段時間真的很艱難。」

知情人士透露，奧特曼和馬斯克之間的緊張關係不斷加劇。馬斯克對研究進展緩慢感到沮喪，他想獲得更多對OpenAI的控制權。

OpenAI高層最終提出了一個完全不同的想法，創建一個營利性部門OpenAI LP，並向非營利性母機構匯報工作。

招募平台LinkedIn共同創辦人里德‧霍夫曼(Reid Hoffman)當時是OpenAI的顧問，後來成為公司董事會成員。他表示，這個想法是為了吸引那些渴望從OpenAI技術商業化中獲益的投資者，加速推動OpenAI的發展。

霍夫曼說：「你想要成為實現目標的第一個人，你想設定標準。」「這就是為什麼開發速度會成為道德和倫理問題的一部分原因。」

知情人士表示，這項決定導致馬斯克的營運理念與OpenAI進一步疏離。 2018年2月，他與OpenAI分道揚鑣。

參加會議的前員工們說，馬斯克是在全體員工會議上宣布離職的。馬斯克當時解釋說，他認為自己透過特斯拉會有更好機會開發通用人工智慧，因為在特斯拉他可以獲得更多資源。

前員工們說，一名年輕的研究人員當時質疑馬斯克是否考慮過安全問題。他們說，馬斯克顯然變得很沮喪，還稱這名實習生為“蠢貨”，讓員工們驚呆了。這是他們中的許多人最後一次見到馬斯克本人。

不久之後，OpenAI一位高層委託為這位年輕研究人員製作了一個「傻瓜」獎杯，後來還把獎杯放在枕頭上送給了他。 「你得找點樂子，」奧特曼說。 「這就是公司文化的組成部分。」

馬斯克的離開成為OpenAI的轉捩點。當年晚些時候，OpenAI領導層告知員工，奧爾特曼將領導公司。他正式成為OpenAI首席執行官，並於2019年初幫助創建了營利性部門。

在最初承諾的10億美元捐贈中，OpenAI表示大約收到了1.3億美元。在營利部門成立後，OpenAI不再需要更多捐款。馬斯克則在推特上表示，他向OpenAI捐贈了約1億美元。

據參加會議的前員工們說，馬斯克是在一次全員會議上宣布辭職的。馬斯克當時解釋說，他認為透過特斯拉，他能夠獲得更多資源，從而有更好的機會開發通用人工智慧。

前員工們表示，一名年輕的研究人員曾問馬斯克是否考慮過安全問題。他們說，馬斯克顯然感到非常沮喪，並稱這名實習生為“笨蛋”，讓員工們大吃一驚。這是他們中的許多人最後一次見到馬斯克本人。

不久之後，OpenAI的高層委託製作了一個「傻瓜」獎杯，並把它放在這位研究人員的枕頭上作為禮物。奧特曼說：「你得找點樂子，這也是公司文化的一部分。」

馬斯克的離開成為了OpenAI的轉捩點。當年晚些時候，OpenAI的領導層告知員工，奧爾特曼將領導公司。他正式成為OpenAI的首席執行官，並於2019年開始創建營利部門。

在最初宣布的10億美元捐贈中，OpenAI表示已經收到了大約1.3億美元。在創建營利部門後，OpenAI不再需要更多的捐款。馬斯克在Twitter上表示，他向OpenAI捐贈了約1億美元。

同時，奧特曼開始尋找投資者。 2018年夏天，他在愛達荷州太陽谷（Sun Valley）參加了艾倫公司年會，碰巧在樓梯間遇到了微軟首席執行官薩蒂亞·納德拉（Satya Nadella）。奧爾特曼向納德拉介紹了OpenAI，並得到了他的興趣。那年冬天，雙方展開了正式的對話。

「我記得後來回來時，我說，這是唯一合適的合作夥伴，」奧爾特曼回憶道。 「他們得到了安全的東西，他們得到了人工智慧。而且他們有資本，有大量算力。」

OpenAI前員工們表示，奧爾特曼在談判過程中及時公佈合約內容，並安排全員上班，以消除人們的顧慮，防止人們認為這種合作關係與OpenAI最初承諾的在企業領域之外開發人工智慧相矛盾。

但是，有些員工仍然認為這是在與魔鬼做交易。 OpenAI首席安全研究員達裡奧·阿莫代伊（Dario Amodei）和他的副手們擔心，這筆交易將允許微軟在OpenAI技術通過足夠的安全測試之前銷售相關產品。他們認為OpenAI技術還遠遠沒有準備好實施大規模發布，更不用說與世界上最大的軟體公司之一合作了。他們擔心技術可能會故障或被濫用，造成無法預測的危害。

一些前員工說，阿莫代伊還擔心，這筆交易將把OpenAI和微軟綁在一起，使得OpenAI更難履行創始章程中的承諾，即如果首先實現通用人工智慧，就會轉身幫助另一個項目。

微軟最初向OpenAI投資了10億美元。這筆交易為OpenAI帶來了所需的資金，但也帶來了一些限制。 OpenAI同意只透過Azure雲端服務使用微軟巨型伺服器來訓練人工智慧模型，並將OpenAI技術授權給微軟的產品使用。

納德拉在最近一次採訪中說：「當你站在懸崖邊緣時，唯一能做的就是跳下去，期望自己能夠穩定著陸。」他稱這是平台轉型的過程。

紐約大學心理學和神經科學名譽教授加里·馬庫斯（Gary Marcus）是一家機器學習公司的聯合創始人，他說：「這筆交易完全破壞了OpenAI獲得非營利組織地位所遵循的原則。」

馬庫斯認為，奧爾特曼「操縱了一個180度大轉彎，在我看來，這只是在口頭上表達對人類安全的關心。」

奧爾特曼則不同意這種說法，「微軟作為合作夥伴的非同尋常之處在於，它讓我們保留了所有我們認為對使命很重要的原則。」他說，其中包括投資的收益上限以及如果首先實現通用人工智慧，就會轉身幫助另一個項目的承諾等等。

這筆資金無疑加速了OpenAI的研發進展，使研究人員獲得了改進大型語言模式所需的關鍵運算能力。 OpenAI很快就開發出更強大的語言模型GPT-3，並於2020年6月透過應用程式介面（API）向開發人員出售這項技術。

據前員工透露，奧特曼和阿莫代伊在API發布問題上再次發生衝突。阿莫代伊認為，產品發布應該限制在較小的使用者群體，並分階段進行，以減少公眾關注，讓安全團隊有更多時間進行測試。

幾個月後，阿莫代伊與其他人一起離開了OpenAI，創辦了一家與之競爭的人工智慧實驗室Anthropic。奧爾特曼表示：「他們與我們在如何獲得安全的通用人工智慧方面存在分歧。」

Anthropic已經從谷歌獲得了超過3億美元的投資，並在今年3月發布了人工智慧聊天機器人Claude，開發者可以透過API呼叫這款機器人。

最近的一份投資人報告顯示，Anthropic表示「致力於大規模商業化」來開發出安全的通用人工智慧，並計劃在9月發布「符合承諾」的商業化方法。 Anthropic成立時定位為人工智慧安全和研究公司，並計劃可能從產品中創造商業價值。

投資人文件顯示，在最初交易之後的三年時間裡，微軟向OpenAI共投資了30億美元。

去年11月，ChatGPT發布後短短五天內就獲得了超過100萬的註冊用戶，這個速度甚至讓奧爾特曼感到驚訝。在此之前，OpenAI推出了DALL-E 2，可以根據文字提示產生複雜圖像。

ChatGPT傳播開來後，人們使用這款聊天機器人進行各種趣味應用，例如寫詩或策劃生日派對等，引起了網路的熱議。

據瑞銀分析師稱，到今年2月份，ChatGPT的活躍用戶數量已經達到了1億，是歷史上消費性應用程式普及的最快速度。

奧爾特曼的親密夥伴們盛讚他在平衡OpenAI優先事項方面的能力。蒂爾表示，沒有人比他更適合在「理想主義」和「現實狀況」之間尋求平衡。

奧爾特曼說，為了進行更多的安全測試，他將最新版本的GPT-4推遲到了今年3月進行發布。不少用戶報告在使用GPT-4模型時出現了一些問題，例如在整合到微軟的必應搜尋中，GPT-4會編造一些錯誤的答案。

奧特曼表示：「正確的方法是讓人們參與進來，探索這些系統，研究它們並學習如何使它們變得更加安全。」

#根據文件顯示，在收回初期投資後，微軟將在OpenAI達到收益上限前獲得約49%的利潤，高於先前安排的21%。非營利母公司OpenAI將獲得剩餘收益。

除了OpenAI，奧特曼還投資了其他項目，其中包括他共同創立的Worldcoin公司，目標是為所有人提供加密貨幣服務。

近年來，奧特曼幾乎把所有流動資金都投入了兩家公司。奧爾特曼說，他向Helion Energy投資了3.75億美元，這家公司正在研究如何透過核融合創造無碳能源，已經接近「在真正演示中創造出淨能量增益」。

此外，他還向Retro公司投資了1.8億美元，目標是透過「細胞重編程、等離子體療法和自噬」等創新技術，將人類壽命延長10年。

奧特曼表示，從道德上講，這些問題比人工智慧要容易得多。 「如果你在研究核融合，這肯定是有利的。是好事。」他說，「如果你在開發人工智慧，它可能非常好，也可能非常糟糕。」

以上是ChatGPT之父成平衡大師：賺錢和AI技術安全我都要的詳細內容。更多資訊請關注PHP中文網其他相關文章！