2023智源大會AI安全話題備受關注，《人機對齊》新書先發

眾多AI領域的探索者、實踐者齊聚一堂，分享研究成果、交換實踐經驗，暢敘科技之美，2023北京智源大會近日順利召開，作為人工智能領域綜合性內行盛會，這場閃爍智慧光芒的思想交流，以百場精彩報告研討，共同見證一場關於智能的驚嘆演化。

在AI安全與對齊論壇上，眾多專家學者展開交流，進入大模型時代，如何確保越發強大和通用的人工智慧系統安全可控，符合人類意圖和價值觀，是極為重要的一個問題。這個安全問題又被稱為人機對齊（AI alignment）問題，它代表了本世紀人類社會面臨的最緊迫和最有意義的科學挑戰之一。

論壇上「深度學習之父」Geoffrey Hinton、OpenAI創始人Sam Altman和張鈸院士等14位國內外嘉賓圍繞人機對齊、大模型的可同時，與此論壇議題高度契合的科學作家布萊恩·克里斯汀(Brian Christian)的最新作品--The Alignment Problem，中文版書名：《人機對齊》也在會上正式發布。該書由湖南科學技術出版社引進出版，安遠AI審校。安遠AI創始人謝旻希主持了此次新書發布儀式。

《人機對齊》作者Brian Christian應邀線上發言。在發言中，他先向讀者與與會嘉賓發來問候。他為新書《人機對齊》的發布感到榮幸，並希望該書能為中國人工智慧領域的持續研究做出貢獻。同時對《人機對齊》的主要內容做了簡要介紹：全書共分為三篇，第一篇就當前影響機器學習系統的倫理和安全問題進行了探討，第二篇名為自主，焦點從監督和自監督學習轉移到強化學習，第三篇在監督學習、自監督學習、強化學習的基礎上探討我們如何在現實世界中對齊複雜的AI系統。希望《人機對齊》在國內的發表不僅對研究人員起到幫助，更能有助於我們把自己對於這個領域的熱情傳遞給每一位非專業人士。他最終表達了期望，希望透過本次大會的討論和中國在AI領域的研究來促進人工智慧領域的全球發展。

《人機對齊》

#【美】布萊恩‧克里斯汀著；唐璐譯

#出版社：湖南科學技術出版社

現代的機器學習系統已經變得非常強大，可以在各種情境中代替我們觀察和聽取訊息，並為我們做出決策。但是警鐘已經敲響。隨著機器學習快速發展，人們的擔憂也與日俱增。當人工智慧（AI）的行為與我們的真正目標不符時，可能會引發潛在的風險和道德問題。 The researchers refer to it as the alignment problem.。

布萊恩克里斯汀以生動的筆調，清晰地闡述了AI與我們密不可分的問題，使其暢銷作品的閱讀者受益匪淺。在書中，我們將認識第一批積極應對對齊問題的學者，了解他們為了避免AI發展的局面失控，付出的卓絕努力和雄心勃勃的計劃。克莉絲汀不僅精練地描繪了機器學習的發展史，並且親自深入科研一線同科學家對話，準確呈現了機器學習最前沿的進展。對齊問題的研究成敗將對人類未來產生至關重要的影響，讀者可以深刻地認識到這一點。

對齊問題還是一面鏡子，將人類自身的偏見和盲點暴露出來，讓我們看清自己從未闡明的假設和經常自相矛盾的目標。這是一部精彩的跨領域史詩，不僅審視了人類的科技，也審視了人類的文化，時而讓人沮喪，時而又柳暗花明。

### ###

這本書在國外的出版反應熱烈，被微軟執行長薩蒂亞·納德拉評為2021年最激勵他的五本書之一，被《紐約時報》評為關於AI關鍵技術和道德問題的best書籍，如作者布萊恩·克里斯汀所言：「希望中國AI領域以及更廣泛的中國讀者也可以讀到這本書，希望對你們而言，這本書是內容豐富、發人深省、鼓舞人心的，不僅對於作為研究人員有幫助，也有助於你們把自己對這個領域的熱情傳遞給生活中的非計算機科學家。」

瀟湘晨報記者周詩浩

以上是2023智源大會AI安全話題備受關注，《人機對齊》新書先發的詳細內容。更多資訊請關注PHP中文網其他相關文章！