當OpenAI在2022年11月下旬忽然決定推出ChatGPT時,員工們都驚呆了。
當時在研發GPT-4的員工,忽然被下令把已經GPT-3.5包裝一下,盡快做成一個聊天機器人。
幾天后,ChatGPT零宣傳地上線了,員工們沒有抱任何期望,然而幾十天內ChatGPT彷彿滾雪球一般,在全世界開啟了傳播。
而媒體們,一直在深挖這個頂流AI誕生的幕後故事。
最近,他們發現了OpenAI的35歲CTO,ChatGPT教母-Mira Murati。
這些天,媒體的聚光燈從ChatGPT之父Sam Altman,轉移到了Mira Murati身上。
尤其是外媒這兩個月來對於她的頻繁報道,分外惹人注目。
但她是如此神秘,甚至連維基百科的主頁都沒有。
不可否認的是,她現在已經成為科技界最有影響力的人物之一。而她能走到這一步,絕不是偶然。
根據網路上流傳的信息,Mira Murati出生於一個阿爾巴尼亞高中教師家庭,之後在達特茅斯學院取得了機械工程學士學位。
2013年,Murati正式加入特斯拉,負責Model X的開發。
也就是在這一年,她對AI產生了興趣。
當時,特斯拉正在研發人工智慧駕駛輔助軟體Autopilot的早期版本,也正在為工廠開發人工智慧機器人。這使Murati開始考慮其他現實世界的應用。在
之後,Murati在Leap Motion擔任了兩年的產品和工程副總裁。
Leap Motion是一家軟體和硬體公司,它生產的控制器,使用戶能夠在與PC或Mac連接時,用手部動作操縱數位物件。
在Murati在Leap Motion任職期間,該公司推出了為VR的手部追蹤而設計的新軟體。
身為產品和工程副總裁,她希望能使用者與電腦的互動可以「像玩球一樣直覺」。但她很快就意識到,基於VR的技術還沒能被大眾所接受。
Murati仔細考慮了自己下一步該怎麼辦,她得出的結論是,「科技的巨大進步」必須用來解決世界上最大的挑戰。
2018年,Murati加入了OpenAI,擔任應用人工智慧和合作關係的副總裁。
此時,OpenAI已經加緊了步調,制定了比目前的實力更有野心的計畫。
2019年,OpenAI從非營利組織轉型為營利組織。
隨後,Murati步步高升,成為OpenAI產品和合作夥伴關係的高級副總裁。
在10個月前,她成為技術長。
自打Murati被任命為技術長以後,OpenAI就發布了一些最熱門的明星AI產品,例如DALL-E 2和ChatGPT。
這些產品也讓全世界對OpenAI刮目相看,所有人都體認到:OpenAI的技術可以為世界創造不可想像的經濟價值。
2月24日,OpenAI CEO、ChatGPT之父Sam Altman發布了AGI路線圖,確保AGI造福全人類,目標直指超級智慧世界。
毫無疑問,如果通用人工智慧(AGI)——人類層級的人工智慧真的實現,世界經濟可能會在一夜之間發生天翻地覆的變化,而緊隨其後的是,社會結構、政治制度甚至國際權力格局的根本變化。
顯然,目前人們探討的ChatGPT可能對人類社會造成的顛覆性影響,並未誇張。
而Murati能讓自己走進OpenAI,成為具有影響全世界力量的人,走出的每一步,都不是隨意的。
在Leap Motion任職期間,Murati深刻地意識到VR還未被大眾接受,為了找出解決世界上最大挑戰的技術,她於2018年加入了OpenAI。
這次,她絕對沒有選錯。
在OpenAI,她找到了許多志同道合的人,他們有著和她共同的信念-AGI將成為改變全世界的科技。
在這裡,Murati發現了一個不斷變化的組織。這個世界上最好的人工智慧實驗室,正在利用網路規模的資料量和客製化的超級電腦來訓練他們的模型,他們的蠻力方法正在產生結果。
起初,OpenAI的規模雖小,但團隊卻在不斷壯大。他們意識到,公司需要的算力越來越昂貴。商業化既是經濟上的需要,也是讓他們的技術了解世界的途徑。
2019年,這家非營利組織將自身重組為營利性新創公司,母公司為非營利組織,任命前Y Combinator總裁Sam Altman擔任執行長。他不負眾望,很快就從微軟募集了10億美元。
隨著OpenAI開始新的旅程,Murati擔任了應用人工智慧和合作夥伴關係的副總裁。
OpenAI面臨著大語言模型(或在神經網路上處理和生成文字的演算法)的核心問題,按照OpenAI的競爭對手、Stable Diffusion的研發副總裁Patrick Hebron的說法,大語言模型就像被密封的天才。
打個比方,莫札特不是莫札特,直到有人遞給他一件樂器。
同樣的,OpenAI的基礎語言模型雖然具有巨大的潛能,但還需要在外部合作夥伴的幫助下,才能以更快的速度曝光。
同時,其他的AI實驗室也正在探索如何用大規模語言模型來開發產品。例如Google Duplex,一種能幫人打電話預約的、語音機器人版本的谷歌助理。
相比起來,OpenAI更多的精力是在如何讓模型更好地符合人類意圖。 (Google後來的失敗,在這裡就埋下了伏筆。)
此時,Murati也被提升為研究監督總管,她發現自己正處於這項工作的核心。
具體來說,要實現真正的「Chat」GPT,OpenAI就需要讓模型理解人類對話的價值。很多語言都是主觀的:什麼歌曲算好聽?什麼餐廳算高檔?沒有人類的回饋,語言模型就很難理解這些概念,更別說聽懂玩笑了。
為了向GPT傳遞這些人類的價值觀,OpenAI做了一系列的努力。它僱用承包商,來評估GPT的輸出,並寫出更好的輸出,同時也讓OpenAI自己的員工做同樣的事。
它發現合作夥伴願意分享他們的實驗數據。它建立了一個安全操作,試圖預測使用者可能破壞系統的方式。然後將來自所有這些過程的數據,反饋到一個可以位於語言模型之上的演算法層。
最後一步,就是在系統上建立一個搜尋欄介面,並將其命名為ChatGPT,這一步是最容易的。
就這樣,時下最火爆的當紅頂流語言模型誕生了。用Murati的話來說,他們得到了一個聊天機器人,它「更可能做你想讓它做的事情」。
Greylock訪談:史丹佛HAI聯合主任李飛飛博士與OpenAI首席技術長Mira Murati
#但ChatGPT也只是一個開始。
OpenAI 擁有多樣化的應用程式組合,從一開始,OpenAI就設計了廣泛的產品組合。
「我們想要做出Dall-E的原因之一,就是為了更深入地了解世界,讓這些模型以我們的方式了解世界,」Murati 說。
在她看來,多模態學習(即包含文字、圖像、音訊、視訊甚至機器人技術的學習)訓練的人工智慧模型,就是實現長期突破的關鍵點。
而訣竅就是,將這些未來的計畫與此時此地的產品連結起來。
出席GIRL GEEK X舉辦的活動
與Google嚴摀自己的AI研究不同,顯然,Murati熱衷於與大眾測試這些產品。
「你可以在沒有現實世界接觸的情況下在真空中取得技術進步。但接下來的問題是,你真的在朝著正確的方向前進嗎?」
在Murati看來,如果只在實驗室範圍內建構AGI,它出現後造成的社會衝擊會更加令人不安。
而透過強化學習和人類回饋來調節大語言模型,是解決AGI未來挑戰最有效的方法,也是讓大眾參與對話的一種方式。
另外,儘管Murati對OpenAI 的能力充滿信心,但她似乎並不像CEO Sam Altman那樣,經常談起AGI產生意識之類的科幻故事來製造頭條新聞。
在Murati看來,意識是一種哲學思想,而不是科學思想。
Murati想重新設想圖靈測試,以確定電腦是否可以像人類一樣思考,並承擔廣泛的認知任務。
但最重要的是,她希望OpenAI的系統能向真實的人類學習。
關於Murati的個人訊息,我們目前只知道她是科幻經典《2001:太空漫遊》、詩人Rainer Maria Rilke和搖滾樂團Radiohead的粉絲
昨天,廣大用戶發現,必應AI忽然有三種「人格」可供選擇:創造性、平衡性和精確性。
這背後,也有著Murati等OpenAI員工的推廣。
根據Fast Company的報道,在OpenAI的舊金山總部,ChatGPT背後的六人領導團隊每週都會聚集在一起開例會。
在1月底的一個早晨,例會的第一個問題就是-團隊該如何讓ChatGPT在回答中平衡準確性和創造性。
Murati作為CTO在例會上第一個發言,詢問了團隊對於ChatGPT的準確性與其想像力之間的相關性了解多少。
前粒子物理學家和Google大腦科學家、現OpenAI研究人員Liam Fedus表示,「越來越多的證據表明,我們的基礎模型在創意寫作方面很有才華,但由於OpenAI在某種程度上轉向了一個更有用的模型,也許已經讓它失去了一些能力。」
Murati認真聽著回答,記著筆記,計劃在未來幾週展開測試模型準確性與創造力的新實驗。
這條調查線,影響的是數十億美元和數百萬個工作機會。
如果無法證明ChatGPT的可信度,OpenAI作為矽谷幾十年來最有前途新創公司的地位,就可能受到威脅。
如今我們可以看到,類ChatGPT模型整合進微軟的必應之後,也在真實的市場回饋中一步步試探、摸索著產品的路線。
此前,Murati很少走到台前,但隨著最近AIGC的爆火,OpenAI成為了引領時代潮流的一個符號,Murati也更多地出現在了公眾的視野中。
早在四個月前,她就出現在崔娃的「The Daily Show」上,討論這些強大的AI工具可能會對人類造成的影響。
在2021年,OpenAI聘請了ML研究員Jan Leike,他現在領導著一個對齊團隊,標誌著他們更重視人類回饋強化學習(RLHF)的訓練。
在推特上,Murati一直與Leike有著密切的互動,他們也討論了在訓練AI模型期間納入回饋的重要性。
早在八個月前與CogX的討論中,Murati就解釋說:「我們希望這些模型遵循我們的明確指令,但我們也希望它們遵循我們隱含的指令,所以我們不希望它們產生任何刻板印象,或產生有毒的反應。我們希望它們大致上能與我們想要的東西保持一致,這可能是相當模糊的。為了達到這個目標,我們需要在循環中對模型進行人工回饋,使意圖更加清晰。」
也是在那次討論中,她盛讚了AI帶來的進步,但也坦白承認,自己不知道AI工具是否會取代人類。
「我們不確定AGI是不是會完全取代我們,或幫助我們正在做的事情。現在還不清楚,人類的工作以後會發生什麼變化,經濟體系又會變成什麼樣子。」
「但整體上,我認為AI會為人類帶來非常正面的影響,因為它可以解決現實世界中非常困難的問題,例如應對氣候變化,或治療疑難雜症。」
在崔娃的「The Daily Show」中,Murati卻採取了一種更不置可否的態度,稱OpenAI的應用程式為「人類的幫手」,會變成「社會塑造它們」的樣子。
OpenAI CEO兼創辦人Sam Altman在談論與ChatGPT相關的道德問題時,態度也同樣模糊。
而Murati也承認,「AGI對人類會有什麼確切影響這種問題」太大、太開放了,她現在還無法回答。
而最近接受《時代》雜誌採訪時,Murati也呼籲,政策制定者應該開始監管AI了。
「對於OpenAI和同類的公司來說,以一種可控和負責任的方式將AI帶入公眾意識是很重要的。但我們是一個小團體,我們需要在這個系統中獲得更多的投入,以及更多超越技術的投入,例如監管者、政府以及其他所有力量。」
現在,OpenAI的下一個大型語言模型GPT-4也在準備推出了,顯然,它可能會和ChatGPT吸引到同樣的關注,甚至更多,不過,Murati認為,對此「少一些炒作會更好」。
但毫無疑問,Murati和她的團隊接下來的每一步,都會繼續攪動這個世界。
以上是獨家揭秘:ChatGPT背後的35歲神秘教母,一手推火這個神級AI的詳細內容。更多資訊請關注PHP中文網其他相關文章!