ChatGPT一路狂飆，我們的安全帶在哪裡？

自去年11 月30 日發布以來，OpenAI 的ChatGPT 已經在短短的三個月內席捲了各個社會領域：普通人用它當搜尋引擎；辦公室文員用它來寫文案、做會議紀要，程式設計師用它來寫程式碼。

但是，令人擔憂的是，學生也會用它來寫作業。前段時間的一項調查表明，美國近 9 成的學生已經在用 ChatGPT 寫作業了，有篇 ChatGPT 生成的論文甚至拿到了全班第一名。對學校老師來說，這項改變來得太突然。在還沒想出對策之前，有些學校直接選擇了禁用。

同樣給ChatGPT 下了禁令的還有一些公司，包括花旗、高盛、摩根大通等華爾街金融機構，因為他們擔心員工在使用ChatGPT 的時候會洩露公司敏感信息。

這些手忙腳亂的因應措施反映出一個問題：我們這個社會還沒有為ChatGPT 這類AI 產生模型的到來做好準備，相關問題的討論需要被提上日程。或許這也是近期舉辦的全球人工智慧開發者先鋒大會「由知道智：AI 安全與倫理洞察主題論壇」座無虛席的原因。

雖然大會的主題是「A 安全與倫理洞察」，但嘉賓的討論範圍並沒有局限於此，而是加入了多個維度的討論，從ChatGPT 等AI 生成模型對基礎研究的影響到它的應用問題再到新時代人才培養思路，各個角度都展開了深入探討。透過這個論壇，大家試著勾勒出一個問題的答案：在已經到來的 AIGC 時代，我們要如何面對？

ChatGPT 為科研領域帶來了哪些啟發與挑戰？

今年 1 月份，因為對 ChatGPT 的評價過於苛刻，圖靈獎得主 Yann LeCun 被送上了熱搜。在他看來，「就底層技術而言，ChatGPT 並沒有什麼特別的創新，」也不是「什麼革命性的東西」，只能算一個像樣的工程實例。

「ChatGPT 是否具有革命性」是個充滿爭議的話題。但毋庸置疑，它確實是個工程上的傑作。在現場，中國科學院院士鄂維南也指出了這一點。

他也強調，這傑作是 OpenAI 逐步驗證、集中投入的結果。其中，「集中投入」這一點是非常重要的。因為 OpenAI 的成功表明，以往那種「小作坊、專案製」的 AI 賦能方式正在成為歷史，而「AI 工程化、平台化」正成為釋放人工智慧技術紅利的重要支撐。如果能夠適應這種變化，AI 在自然語言領域所取得的成功，則有望在基礎科學研究領域中被複製。這也是鄂維南院士所從事的 AI for Science 領域的工作。

當然，這項工作並不容易，需要我們集中力量去建立用於基礎科學研究的平台化基礎設施，包括數據、基礎軟體工具、算力平台、智能化科研平台等。在過去的幾年，鄂院士已經帶領團隊做了一些這方面的工作，發布了原子間位能函數預訓練模型等重要成果。

不過，他們的工作還面臨許多挑戰，例如累積的資料格式不一、雜訊大，軟體缺乏基本的測試體系，算力基礎設施跟不上等等。在鄂院士看來，這屬於「黎明前的黑暗」，只有敢於在原始創新方向上集中資源，我們才能迎來曙光。

除了自然科學，ChatGPT 的出現對於社會科學領域的研究者也有一定的啟發。對此，華東師範大學政治與國際關係學院院長吳冠軍也貢獻了非常有價值的思維。

吳院長指出，在 ChatGPT 面前，社會科學研究者應該有一些危機感。首先，它的背後是巨量的數據，這些數據可能是人類學者靠著傳統的田野調查蒐集不到的，而且它能夠在短時間內處理大量數據。其次，它「讀」了大量的書，這些書，人可能一輩子都讀不完。

「我們正在面對（技術）奇點，但是我們很多學者卻茫然不知，」吳冠軍說到。

這裡的技術奇點指的是一個根據技術發展史總結出的觀點，認為未來將要發生一件不可避免的事件：技術發展將會在很短的時間內部發生極大的接近無限的進步。屆時，我們熟悉的知識、價值、規則全部都會失效。

因此，他呼籲，社會科學家需要和其他科學家一起，推進對科技奇點時代的研究。這種研究以亞里斯多德知識分類法中的「實踐知識」（如倫理、政治）為主，因為在另外兩類知識（生產性知識和理論性知識）領域，AI 已經開始學習甚至學得比人類好了。而在政治等實踐知識領域，AI 只能複述，無法創造新的世界。因此，吳院長認為，人類在這一領域將大有可為。

AIGC 市場即將爆發，應用端要如何做好準備？

前幾天，OpenAI 在千呼萬喚中發布了 ChatGPT 的 API，而且價格非常便宜，產生百萬 token 僅需 2 美元。對應用端來說，這是一個頗為振奮人心的消息。同時，國內的類 ChatGPT 產品的研發也正在加快，本月也將有新產品問世。可以預見的是，在未來的一年，由 AIGC 模型支持的應用將在國內外集中爆發。

但同時，我們對於應用端的投入似乎並沒有跟上，這是德勤中國主席蔣穎觀察到的現象。

具體來說，她發現我國的人工智慧發展對於研發供給面和應用需求側的投入存在失衡現象。這種失衡表現在三方面。

首先，在角色方面，目前許多的決策組織主要還是由科研機構、科技企業構成，產業協會等應用情境的相關方參與相對不足。因此，蔣穎認為，我們需要建立一個多方參與的聯盟，進而進一步提升轉化需求側力量在人工智慧發展中的策源作用。

其次，在發展方面，透過技術創新來提升人工智慧發展已經被充分提及並得到大量支持，但模式創新的力量還沒有得到充分重視。因此，蔣穎提出，我們應該鼓勵人工智慧創新商業模式的實際運用，並加大這方面的研究。

最後，在人才培養方面，現在許多大學都設立了人工智慧相關專業，但這些專業大多局限於理工類知識和技能的培養，導致具備技術和管理應用雙向知識的人才相對匱乏。要知道，在實際應用場景中，要讓AI 真正發揮經濟效能，僅僅用它來完成某個生產線的工作是不夠的，整個流程、管理架構都需要轉變，能滿足這類需求的人才現階段是非常稀缺的。

#在應用層面，商湯科技智能產業研究院院長、上海人工智慧研究院副院長田豐也分享了自己的觀點，不過他更加關注的是AI 應用過程中存在的各種風險，包括模型風險、數據風險等等。

具體來說，田豐主張用科技及管理工具去提升企業 AI 倫理治理能力。在過去的幾年，商湯科技已經自研了一套AI 倫理風險的治理工具箱，包括數位浮水印、資料脫敏、資料沙箱、模型體檢平台等，涵蓋設計、開發、部署、上線這樣一個完整的產品生命週期。

學生都在用 ChatGPT，老師怎麼辦？

在論壇現場，上海大學副校長汪小帆#被問到了一個問題：上海大學會禁止學生用 ChatGPT 嗎？對此，汪校長回答：不主張禁用。

在他看來，ChatGPT 等 AI 工具的出現有其正面的一面。

在教學實踐中，它可以為學生提供即時的回饋，像 AlphaGo 輔助人類棋手一樣幫助學生更快地取得進步。回想一下，30 年前，我們還在圖書館一本一本地查閱文獻；20 年前，我們開始在網路上快速檢索文獻；而今天，ChatGPT 已經能夠幫我們把文獻整理成摘要或綜述了。這無疑大大提高了我們學習知識的效率。

在教學內容和方法上，它會迫使教學工作者去反思：我們的教育應該教導什麼樣的知識？如何利用 ChatGPT 這類工具讓我們高等教育的「教」與「學」更有效率？經過這一輪反思和變革，高等教育可能會更加貼近其本質。就像愛因斯坦所說，「大學教育的價值不在於記住很多事實，而是訓練大腦會思考… 被放在首要位置的永遠應該是獨立思考和判斷的總體能力的培養，而不是獲取特定的知識」。

當然，ChatGPT 為大學教育帶來的問題也是無法迴避的。對此，汪校長提出了三項需要做的工作：一是有章可循，即制定在教學和研究中使用AIGC 的指導性原則，並確保學生和教師都能了解和遵循這些準則；二是合理使用，即支持在教、學和研究中合理使用AIGC，但採取有效措施禁止抄襲等學術不端行為；三是教學示範，即教師在教學和研究過程中起到示範作用，並把合理使用AIGC 等人工智慧技術納入學術誠信和倫理道德課程教學。

人工智慧發展，不能走汽車老路

除了嘉賓們的精彩分享，本次論壇還誕生了兩項重要成果。

第一項成果是上海標準《資訊科技 人工智慧系統生命週期治理指南》工作小組核心專家成員獲聘書。指南將從 AI 演算法模型的概念設計開始，貫穿開發、測試評估、部署、運行監控、退出使用的完整生命週期，為人工智慧系統的治理提供指導。這是國內首個關於人工智慧系統治理的地方標準，旨在以標準規則促進發展，透過技術手段和監管措施守住安全和倫理的底線，確保類似AIGC 等技術充分發揮其社會價值、經濟價值，用實際成效樹立人工智慧發展的「上海經驗」。

第二個成果《2023 上海人工智慧安全倫理倡議書》的發布與簽署。 《倡議書》以《上海市促進人工智慧產業發展條例》為指導，倡導人工智慧開發者向光而行，確保人工智慧產業朝著公平公正、內容安全、隱私保護、互聯互通、共建共享共治方向不斷前進，向上發展。來自上海市人工智慧產業協會、上海中青年知識分子聯誼會、上海臨港集團、信通院華東分院、市軟體開發中心等代表共同簽署了《倡議書》。

為什麼要做這兩件事？在演講中，汪校長提到了一個冷知識：汽車是 19 世紀末被發明出來的，但直到 20 世紀下半葉，不同的國家才出台了強制要求開車繫安全帶的法規。可以想像，這中間必然有多少人白白喪命。

仔細想一下，現在的我們其實有點像19 世紀那些剛接觸汽車的人們：新興的AIGC 在加速狂飆，但開車的人卻沒有法規去約束，坐車的人也沒有安全帶可系。這些問題迫在眉睫。

「今天人工智慧的發展，顯然不能走汽車的這條路，」汪校長語重心長地說。以論壇為起點，社會各方都在探索一條新的路徑，讓我們能夠從容地應對 AIGC 時代的到來。

以上是ChatGPT一路狂飆，我們的安全帶在哪裡？的詳細內容。更多資訊請關注PHP中文網其他相關文章！