科技觀察丨人工智慧威脅人類文明引擔憂，AI將引發下一場金融危機？

封面新聞記者 燕磊

當地時間5月17​​日，路透社/益普索民調顯示，大多數美國人認為，人工智慧AI技術的快速發展可能危及人類的未來。根據民調顯示，超過三分之二的美國人擔心人工智慧的不良影響，而61%的人擔心它可能對文明造成威脅。

人工智慧或將威脅人類文明

自從OpenAI的ChatGPT聊天機器人成為有史以來用戶成長最快的應用程式以來，AI在日常生活中的廣泛使用使得其成為公眾討論的重點。 ChatGPT正在參與一場AI軍備競賽，其中包括微軟、Google等科技巨頭推出相似產品並進行競爭。

國會議員和AI企業也對此表達了擔憂。在國會作證時，OpenAI的CEO山姆·奧特曼表達了對該技術可能被濫用的擔憂，並呼籲加強監管。

國會參議員科里·布克在聽證會上表示：「無法將這個精靈困在瓶子裡。」。在全球範圍內，它正在爆炸式增長。 ”

民調發現，預期AI將帶來不利後果的美國人數是不這樣預見的3倍，61%的受訪者認為AI對人類構成風險，只有22%的人不同意，還有17 %的人不確定。

在2020年投票給川普的選民表達了更高程度的擔憂：70%的川普選民和60%的拜登選民認為AI可能威脅人類。

據未來生命研究所的美國政策主任蘭登·克萊恩表示，如此眾多的美國人對AI的負面影響表示出擔憂。特斯拉CEO馬斯克在聯署一封公開信中，支持該組織要求暫停6個月的AI研究。

雖然美國人普遍擔心AI，但他們最擔心的問題是犯罪和經濟：77%的人支持增加警察撥款打擊犯罪，82%的人擔心經濟衰退的風險。

路透社/益普索線上民調於5月9日至5月15日期間進行，訪問了4,415名美國成年人，可信度區間為正負2個百分點。

多方呼籲美國政府加強監管

OpenAI公司CEO奧特曼於5月16日首次在國會露面，敦促政府加強對人工智慧領域的監管。他建議，若一家公司欲開發強大的人工智慧系統，應取得政府的相關許可。

OpenAI公司執行長奧特曼在參議院作證。

奧特曼與IBM首席隱私和信任官克里斯蒂娜·蒙哥馬利，以及紐約大學心理學和神經科學榮譽退休教授加里·馬庫斯一起出席了參議院司法委員會舉行的聽證會，討論對人工智能的監督問題。

像ChatGPT這樣的人工智慧系統的快速發展，促使許多頂尖的技術專家和學者呼籲該行業暫停一些開發，並要求政府對此進行幹預。

尚未達成共識的是業界對於實施哪種監管方式，國會和聯邦機構一直在探索自己的角色。在作證之前的那天，奧特曼向約60名參議員發表了演講，贏得了許多人的讚揚，並在其後的近兩個小時回答了問題。

參議員理查德·布盧門撒爾建議，可以要求讓人工智慧模型公開其訓練所涉及的資訊。奧特曼對這個想法做出了積極的回應。

共和黨國會參議員約什霍利指出人們可能會使用人工智慧作為資訊的來源之後，奧特曼再次表示，他認為政府在監管這項技術方面可以發揮作用。但他也表示，他相信大眾將學會適應人工智慧製造的假訊息。

有一些業界專家呼籲政府將完全監管人工智慧的工作交由科技公司負責。對此，馬庫斯呼籲在美國建立一個內閣級的組織來監管人工智慧。

下一場金融危機或由AI引發？

根據《華爾街日報》5月17日消息，美國證監會主席根斯勒表示，下一次金融危機可能出現企業對人工智慧的使用上，他對該技術傳播構成的潛在“系統性風險”發出警告。

當地時間16日，根斯勒在美國金融業監理局於華盛頓舉辦的一次會議上說，資料聚合器和人工智慧平台可能成為未來金融體系「脆弱性」 的主要組成部分。

根斯勒表示：「多年後的觀察家可能會回過頭來說，2027年的危機是因為一切都依賴於一個基礎層面，也就是所謂的生成性人工智慧層面，而一堆金融科技應用都建立在這個基礎之上。」

鑑於人工智慧有望用更少人工完成更多工作，美國經濟各領域的許多企業已經接受人工智慧，即便在這種情況下，與根斯勒一樣，許多政府官員也對這項技術持懷疑態度。

人工智慧已廣泛應用於銀行和其他金融機構的各種功能中，涉及的工作包括評估新客戶和檢查可疑交易等繁重的合規工作。但根斯勒說，儘管有可能提高效率，但這些系統應受到嚴格審查。他說：「你不一定需要理解所有的數學，但你必須真正理解風險管理是如何運作的。」。 ”

以上是科技觀察丨人工智慧威脅人類文明引擔憂，AI將引發下一場金融危機？的詳細內容。更多資訊請關注PHP中文網其他相關文章！