GPT-4老闆：別慌，我有一個計劃，AGI未來真的很美好！

OpenAI的聊天機器人讓世界震驚。

但是當人們意識到這種技術也是一種傳播虛假訊息的方式，也會勸說人們做危險的事情時，一些批評者指責奧特曼的行為很魯莽。

許多產業領袖、人工智慧研究人員和學者認為ChatGPT是一項基本的技術轉變，其意義不亞於網頁瀏覽器或iPhone的誕生。但很少人能就這項技術的未來達成一致。

有些人認為它將帶來一個烏托邦，在那裡每個人都擁有所有需要的時間和金錢。其他人則認為它可能摧毀人類。還有一些人把大部分時間花在爭論上，認為這項技術永遠不會像大家說的那麼強大，堅持認為無論是涅槃還是末日，都還很遙遠。

在過去的一周裡，一千多名人工智慧專家和技術領袖呼籲OpenAI和其他公司暫停他們在ChatGPT等系統上的工作，說它們“給社會和人類帶來了深刻的風險”。

作為OpenAI的首席執行官，奧特曼以某種方式體現了這些看似矛盾的觀點中的每一種觀點，他希望將這一奇怪的、強大的、有缺陷的技術推向未來，同時去平衡無數種可能性。

這意味著他經常受到來自各個方向的批評。但OpenAI的總裁Greg Brockman認為這是應該的：「如果你同樣讓兩個極端的人感到不安，那麼你就做對了。」

曼哈頓計畫領導人Robert Oppenheimer認為原子彈是科學進步的必然產物，而奧特曼跟Oppenheimer同一天生日。在談到OpenAI的技術時，奧特曼也引用了他的話：「科技發生是因為它是可能的。」他相信人工智慧將以某種方式發生，它將做出連他自己都無法想像的美妙事情，我們可以找到方法來減輕它可能造成的傷害。

這種態度反映了奧特曼自己的發展軌跡。他在有效的個人技能的驅動下，相當穩定地向著成功和財富攀登。他相信好的事情會發生，這是有道理的。

但是，他也表示，如果他錯了，還有一個逃生艙門：在與微軟等投資者的合約中，OpenAI的董事會保留了在任何時候關閉技術的權利。

自我拉扯

奧特曼是個生活在矛盾中的人，他是個素食主義者，卻養著牛。

當他談到公司研發的技術時，他認為科技將「解決我們一些最緊迫的問題，真正提高生活水平，並為人類的意志和創造力找出更好的用途。」

但是，他並不完全確定它將解決哪些問題。同時，他又同樣擔心科技如果落入一些專制政府的手中，那樣可能會造成嚴重的傷害。

創投公司Thrive Capital的合夥人Kelly Sims曾作為OpenAI的董事會顧問與奧特曼共事，她說他就像在不斷地與自己爭論：「在談話中，他自己就是辯論的兩方。」

問題是，奧特曼的兩方最終是否相容：如果可能以災難告終，那麼領先這個潮流是否有意義？奧特曼當然決心要看看這一切是如何發生的。

2014-2019年，作為矽谷創業加速器和種子投資者Y Combinator的總裁，他為源源不斷的新公司提供建議，並且敏銳地投資了幾個如今已家喻戶曉的公司，包括Airbnb、Reddit和Stripe。

他很自豪自己可以辨識一項技術是否可以達到指數級成長。

我對金錢不感興趣

矽谷的許多人，個人財富被捆綁在各種各樣的公共和私人公司中，奧特曼和他們一樣。而且他的財富並沒有驚人的多。

他在OpenAI中沒有任何股份。他唯一能從該公司賺到的錢是大約65,000美元的年薪，以及Y Combinator對該公司的舊投資的一小部分。

Y Combinator的創辦人Paul Graham是他的夥伴、導師，他這樣解釋奧特曼的動機：

「他為什麼要從事不會讓他更富有的工作？一個答案是，很多人一旦有了足夠的錢就會這樣做，Sam就是這樣。而另一個答案就是，他喜歡權力。」

#比爾蓋茲一定就是這樣的

20世紀90年代末，以19世紀美國自然學家和哲學家命名的私立預科學校John Burroughs的學生群體中充斥著對同性戀的恐懼。

21世紀初，17歲的學生奧特曼開始改變學校的文化，一個個說服教師在教室門上張貼「安全空間」的標誌，作為支持像他這樣的同性戀學生的聲明。

Georgeann Kepchar教授學校的高級電腦科學課程，她認為奧特曼是她最有天賦的電腦科學學生之一：「他有創造力和遠見，再加上雄心壯志和人格力量，他可以說服別人與他合作，將他的想法付諸行動。奧特曼還告訴我，他曾成功要求一位特別仇視同性戀的老師，貼出安全空間的標誌。」

大一結束後，他在Andrew Ng教授的人工智慧和機器人實驗室工作，教授後來在Google創立了旗艦人工智慧實驗室。但他說在史丹佛大學的短暫停留期間，他從晚上打撲克中學到的東西比其他大學活動中學到的東西更多，撲克教會了他如何看待人和評估風險。

「如何注意到人們長期以來的模式，如何在非常不完美的信息下做出決定，如何決定何時值得用痛苦去獲得更多信息，這是一個偉大的遊戲。」

##與奧特曼一起工作了十年的Graham在這個來自聖路易斯的人身上看到了同樣的說服力：「他有一種天生的能力，可以說服人們去做事情。如果這不是與生俱來的，至少在他20歲之前就已經充分擁有這種能力了。我第一次見到Sam時，他才19歲，我當時就在想：『比爾蓋茲一定就是這樣的』。」

#當Graham辭去了Y Combinator總裁的職務之後，他挑選了28歲的奧特曼作為他的繼任者，這令矽谷的人十分震驚，因為這可不是僱用編碼員、工程師或人工智慧研究人員，他是要製定議程、組建團隊和達成交易的人。

身為YC的總裁，奧特曼幾乎是放棄了對公司的擴張，成立了一個新的投資基金和一個新的研究實驗室，並將公司每年提供諮詢的公司數量擴大到數百家。

他也開始從事投資公司以外的幾個項目，包括他在2015年與包括馬斯克在內的一群人一起創立的非營利組織OpenAI。 YC越來越擔心奧特曼把自己搞得太累了，於是他決心將注意力重新集中在一個專案上，正如他所說，這個專案將對世界產生真正的影響，這個專案就是人工智慧。

據他的弟弟所說，他相信自己是少數幾個可以透過人工智慧研究改變世界的人之一。

2019年，就在OpenAI的研究開始起步時，奧特曼先生抓住了機會，卸下了Y Combinator總裁的職務，專注於一家員工不到100人，甚至不知道如何開薪水的公司。

在一年之內，他將OpenAI轉變為一個非營利機構，並設有一個營利性部門。這樣一來，他就可以尋求資金，建造一台可以做人腦所能做的任何事情的機器。

在一個通常被稱為「億萬富翁夏令營」的科技領導者年度聚會上，他碰到了微軟執行長Satya Nadella，之後他親自與Nadella和微軟首席技術官Kevin Scott談判達成了協議。

OpenAI的總裁Brockman曼先生說，奧特曼的才能在於理解人們的需求：「他真的試圖找到對一個人來說最重要的東西，然後想辦法把它送給他們，這是他反覆使用的演算法。」

這項協議將OpenAI和微軟置於一場運動的中心，這場運動準備重塑從搜尋引擎到電子郵件應用程式到線上導師的一切。而這一切的發生速度甚至讓那些幾十年來一直追蹤這項技術的人感到驚訝。

在這股熱潮中，奧特曼一如既往地冷靜。微軟的CTO Scott認為，奧特曼最終會成為像史蒂夫·賈伯斯、比爾·蓋茲和馬克·祖克柏一樣偉大的人。

「這些人在科技業的結構上留下了不可磨滅的印記，也許在世界的結構上也是如此。我認為Sam將成為這些人中的一員。 」

漫漫夢路

Yudkowsky以及他的著作在創建OpenAI和DeepMind方面發揮了關鍵作用。他也幫助催生了由理性主義者和有效的利他主義者組成的龐大網路社區，他們相信人工智慧是一種生存風險，擔心人工智慧有一天會毀滅世界。

包括OpenAI在內的許多頂尖人工智慧實驗室的研究人員都屬於這個十分有影響力的群體。他們不認為這是虛偽的行為：他們中的許多人認為，由於他們處於建立這種技術的最佳位置，他們比其他人更清楚地了解這些危險。

奧特曼認為，有效的利他主義者在人工智慧的興起中發揮了重要作用，可以提醒產業注意危險。他還認為他們誇大了這些危險。

在OpenAI開發ChatGPT時，包括Google和Meta在內的許多其他公司都在建立類似的技術。但正是奧特曼和OpenAI選擇與世界分享這項技術。

該領域的許多人批評了這一決定，認為這掀起了一場發布技術的競賽，這些技術會出錯，會胡編亂造，並可能很快被用於快速傳播假訊息。

上週五，義大利政府暫時禁止ChatGPT在該國使用，理由是出於對隱私和對未成年人接觸危險內容的擔憂。

奧特曼認為，與其完全閉門造車地開發和測試這項技術，然後再全面發布，不如逐步分享它，讓大家更好地了解風險和如何處理它們，這樣比較安全。

他說，這將是一次「非常緩慢的騰飛」。他說，他無法想像一個人類智慧毫無用處的世界。如果他錯了，他認為他可以彌補人類的過失。

他將OpenAI重建為他所謂的獲利上限的公司。這使他能夠透過向微軟等投資者承諾利潤來獲得數十億美元的融資。但這些利潤是有上限的，任何額外的收入都將被抽回2015年成立的OpenAI非營利組織。

他的宏偉構想是，OpenAI將透過創造AGI來獲取世界上大部分的財富，然後將這些財富重新分配給人民。

不過，他並不確定如何重新分配這些財富。他認為在這個新世界裡，金錢可能意味著不同的東西，不過「我覺得AGI可以幫助解決這個問題。」

以上是GPT-4老闆：別慌，我有一個計劃，AGI未來真的很美好！的詳細內容。更多資訊請關注PHP中文網其他相關文章！