華裔數學家陶哲軒領導白宮生成式AI工作小組，李飛飛將在小組演講

·美國總統科技顧問委員會成立的生成式AI工作小組旨在幫助評估人工智慧領域的關鍵機會和風險，並就盡可能確保公平、安全、負責地開發和部署這些技術向美國總統提供意見。

·AMD的執行長蘇姿豐（Lisa Su）和Google雲端首席資訊安全長菲爾·維納布爾斯（Phil Venables）也是這個工作小組的成員。

華裔數學家、菲爾茨獎得主陶哲軒。

當地時間5月13日，華裔數學家、菲爾茨獎得主陶哲軒公佈消息，他和物理學家勞拉·格林（Laura Greene）共同領導美國總統科技顧問委員會（PCAST​​）的生成式人工智慧工作小組。該小組將於當地時間5月19日在PCAST​​會議期間舉行公開會議，AlphaGo之父、DeepMind創始人德米斯·哈薩克斯（Demis Hassabis）及史丹佛大學教授李飛飛等將在會上演講。

美國總統科技顧問委員會（PCAST​​）生成式人工智慧工作小組將於當地時間5月19日舉行公開會議。

華裔數學家、菲爾茨獎得主陶哲軒在自己的部落格公佈消息。

據陶哲軒在部落格中透露，生成式人工智慧工作小組主要研究生成式人工智慧技術在科學及社會領域的影響，包括ChatGPT等基於文字的大型語言模型，DALL-E 2、Midjourney等圖像生成器，以及蛋白質設計或天氣預報等科學應用模型。值得一提的是，AMD的執行長蘇姿豐（Lisa Su）和Google雲端首席資訊安全長菲爾·維納布爾斯（Phil Venables）也是這個工作小組的成員。

美國總統科技顧問委員會（PCAST​​）生成式人工智慧工作小組成員。

根據美國白宮在官網發布的文章介紹，PCAST​​成立的生成式人工智慧工作小組旨在幫助評估人工智慧領域的關鍵機會和風險，並就盡可能確保公平、安全、負責地開發和部署這些科技向美國總統提供意見。

文章中將生成式人工智慧定義為，在對大型資料集進行訓練後，可用於根據給定提示產生文字、圖像、影片或其他輸出的一類AI系統。這些技術發展迅速，有可能徹底改變現代生活的許多面向。這些工具在科學研究中被應用於新藥、蛋白質和材料的設計，預計將促進科學發現的進程。在醫學領域，生成式人工智慧有可能為醫療保健專業人員提供建議。這些工具可以在工作場所提升電腦程式碼編寫速度、撰寫簡報和總結。

文章同時指出，生成式人工智慧模型也可能被用於惡意行為，例如製造虛假資訊、散佈錯誤訊息以及冒充個人身分。如果在沒有保障的情況下使用，生成式人工智慧可能會引發社會分化，加劇社會中的偏見和不平等，更普遍的是，透過讓公民難以理解世界上發生的事情來威脅民主。此外，生成式人工智慧系統可能會侵犯隱私權並破壞智慧財產權。

向總統提出建議的是PCAST​​生成式人工智慧工作小組，他們確定了額外的需求和機會並提出了最佳解決方法。

在19日舉行的會議中，生成式人工智慧工作小組的兩個專家小組將介紹當下該領域的情況，發言者包括：

人工智慧賦能科學（AI Enabling Science）:

#Anima Anandkumar （英偉達機器學習研究總監、加州理工學院電腦與數學科學教授）

Demis Hassabis（DeepMind創始人）

李飛飛（史丹佛大學電腦科學教授）

人工智慧的社會影響（Al Impacts on Society）:

Sendhil Mullainathan（芝加哥大學布斯商學院計算與行為科學教授）

Daron Acemoglu（麻省理工學院經濟學教授）

Sarah Kreps（康乃爾大學政府學教授）

陶哲軒表示，工作小組正在徵求公眾意見，以確定如何識別和促進生成式人工智慧的有益部署，並找到最佳方式以降低風險。 「我們最初的重點是如何檢測、抵制和減輕人工智慧產生的虛假資訊和深度造假這一具有挑戰性的話題，同時又不犧牲健康民主運作所需的言論自由和與民選官員的公眾參與；未來我們也可能會圍繞生成人工智慧的其他方面發出進一步的請求。」

ChatGPT的出現引起了頂尖數學家的高度關注，例如陶哲軒，他們開始研究如何利用人工智慧來輔助完成工作。在《自然》雜誌的一篇《AI如何改變數學？在聊天機器人的興起突顯了對話的重要性》中，加拿大蒙特婁大學的數論學家安德魯‧格蘭維爾（Andrew Granville）也表示，「我們正在研究一個非常具體的問題：機器會改變數學嗎？」數學家凱文·巴扎德（Kevin Buzzard）表示同意，「事實上，現在像菲爾茲獎得主和其他非常著名的大數學家都對這個領域感興趣，這表明它以一種前所未有的方式變得'熱門'。”

先前，陶哲軒在去中心化社交網絡Mastodon上寫道，「我可以明確地說，今天是GPT-4為我節省了大量繁瑣工作的第一天。」在嘗試中，陶哲軒發現了ChatGPT的許多隱藏功能，如搜尋公式、解析帶程式碼格式的文件、改寫學術論文中的句子等，有時ChatGPT還可以對未完成的數學問題進行語義搜尋以產生一些提示。

他也比較了自己和目前生成式人工智慧工具的比較優勢：

對於每天執行的任務，我已經開發了足夠的技術來優化我的工作流程，而人工智慧工具對我來說並沒有太多的增值價值。最明顯的是在研究數學方面，但也包括撰寫電子郵件。我安裝了一個插件，讓GPT-4在我點擊按鈕時寫電子郵件回复，但我幾乎從未使用它，因為經過幾十年的實踐，我已經可以快速寫出合適的電子郵件回复。

對於那些我有一些專業知識但很少實踐的任務，人工智慧工具是有幫助的：通常我可以用它們來創建輸出的初稿，然後我可以驗證和修改，或至少作為靈感來源使用。有時候，靈感來自於AI的缺陷，這與坎寧安法則的想法相吻合，但相較於我自己嘗試解決問題，這種方法更有效。這種類型的例子涵蓋了資料處理、翻譯，以及我極少使用的文字格式，例如公開演講和規則文件。

對於那些我沒有什麼專業知識也不需要極高品質和可靠性的任務，可以簡單地詢問人工智慧工具，並且或多或少地聽從其建議。在這裡，人工智慧的功能是作為傳統搜尋引擎的一個稍微方便些的版本。

最後，對於那些我不具備專業知識但又需要品質和可靠性的任務，人工智慧和我自己都無法解決，我必須諮詢人類專家，如修理一個複雜、昂貴、精緻的設備。

一個有趣的嘗試是，陶哲軒要求ChatGPT從描述中辨識「庫默爾定理」（用來描述在限制條件下如何找到最優解），雖然ChatGPT不能給出正確答案，但其還是能根據勒讓德公式（Legendre's formula）給出一個大概的答案。對於ChatGPT的表現，陶哲軒表示，人工智慧在數學中發揮了作用，提供了一個初步的近似答案，再與傳統搜尋引擎結合就可以輕鬆找到正確答案。

以上是華裔數學家陶哲軒領導白宮生成式AI工作小組，李飛飛將在小組演講的詳細內容。更多資訊請關注PHP中文網其他相關文章！