首頁  >  文章  >  科技週邊  >  GPT會涼嗎?巴菲特、馬斯克等大佬呼籲暫停

GPT會涼嗎?巴菲特、馬斯克等大佬呼籲暫停

WBOY
WBOY轉載
2023-05-14 09:49:05944瀏覽

ChatGPT 迅速“風靡”全球,無疑成為了人工智能領域備受矚目的“明星產品”,然而隨著ChatGPT 應用越來越廣泛,陸續爆出被用於學術造假、製作黑客武器以及洩露用戶敏感聊天訊息等一系列負面新聞。至此,社會開始重新審視類似 ChatGPT 的人工智慧技術。

GPT會涼嗎?巴菲特、馬斯克等大佬呼籲暫停

相較於以往服務於工業領域的智慧機器人,只能取代人類從事繁雜、機械、危險的體力勞動,類似ChatGPT 人工智慧科技具有更強的可對話性,靈活性以及不俗的「獨立思考能力」 ,重新塑造了社會對人工智慧領域的認知。目前,科技巨頭發布的人工智慧產品已融入文字工作、程式設計、繪畫等各類型的產業中,引起了新一輪科技變革。

無可爭議,一旦類似 Chat GPT 人工智慧技術發展完備,便能夠很好地服務社會,造福人類。同時,Chat GPT 人工智慧技術也是一把“雙刃劍”,其安全問題、合規問題以及對社會人員工作分配的衝擊,受到許多行業領導者以及各國的重視。

多位知名人士呼籲思考類似ChatGPT人工智慧的研發

當全社會沉浸於類似ChatGPT 人工智慧技術將掀起第四次工業革命的「幻想」中,許多科技界大佬提出相左的意見,甚至對類ChatGPT人工智慧技術的快速發展表現出隱隱擔憂。

巴菲特對人工智慧技術是否有益社會表示存疑

近日,投資業教父級人物巴菲特接受媒體採訪時談到自身對 ChatGPT 類人工智慧快速發展的想法。巴菲特向記者表示,毋庸置疑人工智慧技術在技術能力方面確實有了令人難以置信的進步,但基於對整個社會的影響來看,目前尚沒有大規模的實驗結果來支撐人工智慧發展對人類有益這一觀點,因此對於人工智慧的發展應該謹慎、理性。

巴菲特的擔憂不無道理,ChatGPT 迅速火爆掩蓋了背後的安全、合規等問題,人類對這類技術產生的直面感受僅僅是先進、高效,對其潛在威脅了解並不深刻。

GPT會涼嗎?巴菲特、馬斯克等大佬呼籲暫停

從媒體目前披露的資訊來看,已經有證據表明部分駭客正在利用類似ChatGPT 的人工智慧產品來編寫惡意程式碼,釣魚攻擊郵件,更不用說ChatGPT 本身的安全問題。 (此前,三星曾因員工在 ChatGPT 上訓練數據,導致資訊外洩;ChatGPT 用戶聊天資訊清單外洩等)。

馬斯克聯名呼籲暫停更強大人工智慧系統的訓練

在巴菲特表達出對人工智慧技術發展擔憂前,特斯拉創辦人馬斯克曾聯合上千名科技人士發表公開信呼籲暫停訓練比GPT-4 更強大的人工智慧系統。

3 月29 日,馬斯克付出行動,在數千名業界和學界知名人士聯署公開信籤上姓名,呼籲所有人工智慧實驗室至少暫停6 個月訓練比GPT-4 更強大的人工智慧系統,以便制定和實施安全協議。

對於這項舉動,馬斯克表示考慮到 ChatGPT 展現的強大技術能力,需要對其安全問題進行監管。此外,馬斯克一再強調人工智慧具備強大能力的同時也伴隨著巨大的風險,無疑是一柄雙刃劍,甚至悲觀的認為人工智慧技術是未來人類文明面臨的最大風險之一。

GPT會涼嗎?巴菲特、馬斯克等大佬呼籲暫停

值得一提的是,不同於巴菲特,馬斯克等對於人工智慧技術發展持「負面」態度,前世界首富比爾蓋茨對此相對樂觀,並表示暫停開發並不能徹底解決問題,搞清楚採用哪些方式,合理利用人工智慧技術的發展才是最優解。

各國認真審視類ChatGPT 人工智慧技術的發展

許多電影、電視劇、小說中曾暢想人工智慧機器人服務社會,造福人類,也對人工智慧的安全性、可靠性、忠誠度、是否取代人類統治世界進行過深度探討,類似ChatGPT 的產品正在將這一構想慢慢推向現實,當人類開始真正直面人工智能發展這一「雙刃劍」時,需要認真考慮其安全、合規等問題。

義大利打響 ChatGPT 的安全問題「第一槍」。

十幾天前,義大利政府以OpenAI 公司非法收集大量義大利用戶個人數據,未設立檢查ChatGPT 用戶年齡的機制防止未成年人接觸非法材料為由,封禁了Chat GPT 在義大利的運營。經過幾天緩衝,義大利資料保護機構稍微讓步,向 OpenAI 提出了一系列要求,如果能夠滿足的話,義大利便允許 ChatGPT 繼續在該國運作 。

至此,義大利打響了 ChatGPT 安全合規問題的「 第一槍」。

義大利對 ChatGPT 採取的安全措施,引起了歐洲國家注意,目前,歐洲諸國正在研究是否需要對類似 ChatGPT 人工智慧技術採取嚴格的限制措施。其中,西班牙資料保護機構已經要求歐盟隱私監管機構評估圍繞 ChatGPT 使用帶來的隱私合規問題。

緊接著,德國監管機構也宣布禁止使用 ChatGPT,法國、愛爾蘭、西班牙等歐洲國家也開始考慮對 AI 聊天機器人採取更嚴格的監管。

美國緊跟歐盟,擬對人工智慧進行監管

一石激起千層浪,義大利加強對 ChatGPT 的監管力度,不僅激起了歐盟諸國對於人工智慧的擔憂,同樣影響大洋彼岸的美國。

美國當地時間4 月11日,《華爾街日報》突然爆出基於由於美國社會對於ChatGPT 等人工智慧技術可能帶來的安全威脅,拜登政府已經開始研究是否需要對這類工具進行限制。

緊隨其後,美國商務部4 月11 日就相關的問責措施正式公開徵求意見(徵求意見的期限為60 天,其中包括具有潛在風險的新型人工智慧模型在發布前是否應該進行核准認證程序)此舉被視為美國對人工智慧技術實施潛在監管的第一步。

對於如此急迫設定規則,規範類似ChatGPT 人工智慧技術的發展,美國商務部下屬機構國家電信與資訊管理局局長艾倫·戴維森指出,鑑於人工智慧技術僅是初始階段就已如此“先進”,政府需要考慮潛在犯罪分子利用該技術進行犯罪活動,因此不得不制定一些必要界限。

我國政府發布關於人工智慧領域的管理辦法

不只是美國,我國也開始收緊人能智慧領域研發。 4 月 11 日,國家網路信函辦公室以促進生成式人工智慧技術健康發展和規範應用為由,發布了《生成式人工智慧服務管理方法(徵求意見稿)》(以下簡稱《管理辦法》)。據悉,《管理辦法》共計二十一條,其中「生成式人工智慧」包含以演算法、模型、規則產生文字、圖片、聲音、影片、程式碼等內容的技術。

《管理辦法》對人工智慧技術應用產生的資訊責任劃分作出約束,明確指出利用生成式人工智慧產品提供聊天和文字、圖像、聲音生成等服務的組織和個人,包括透過提供可程式介面等方式支援他人自行產生文字、圖像、聲音等,承擔該產品產生內容生產者的責任;涉及個人資訊的,承擔個人資訊處理者的法定責任,並履行個人資訊保護義務。

此外,對於人工智慧產品製造商也提出了要求,《管理辦法》提出產品推向市場前,應按照《具有輿論屬性或社會動員能力的互聯網資訊服務安全評估規定》向國家網信部門申報安全評估,並依照《網路資訊服務演算法推薦管理規定》履行演算法備案及變更、註銷備案手續。

社會層面談及類似ChatGPT 人工智慧產品時,對廠商訓練人工智產品所用到的數據比較關心,《管理辦法》中也著重提到這一點,明確指出對於用於生成式人工智慧產品的預訓練、優化訓練數據,應符合以下要求:

  • (一)符合《中華人民共和國網路安全法》等法律法規的要求;
  • #(二)不含侵害智慧財產權的內容;
  • (三)資料包含個人資料的,應當徵得個人資訊主體同意或符合法律、行政法規規定的其他情形;
  • (四)能夠確保資料的真實性、準確性、客觀性、多樣性;
  • (五)國家網信部門關於生成式人工智慧服務的其他監管要求。

最後,《管理辦法》強調對於運行中發現、用戶舉報的不符合本辦法要求的生成內容,除採取內容過濾等措施外,應在3 個月內透過模型優化訓練等方式防止再次生成。

目前,經歷大量訓練迭代後,類似ChatGPT 的人工智慧技術發展迅速,相反,各國現有法律體系對於類似ChatGPT 的人工智慧技術的監管顯然不夠完備,因此制定法規規範人工智慧技術的發展成為各國首要解決的問題。

結論

計算技術飛速發展,人工智慧技術革命的浪潮已不可避免,,後續勢必有部分「人工」被取代。此外,類似 ChatGPT 人工智慧技術的大量應用肯定會衍生出資料洩漏,網路駭客工具優化,規模詐騙,AI 虛構圖片等安全問題。

但上述這些因素都不能成為暫停人工智慧技術研發的藉口,人類不應該抱持恐懼情緒面對人工智慧的到來,要時時牢記「人」才是人工智慧技術發展的根本,相信未來透過不斷優化技術,制定法規,能最大程度降低「衍生性商品」所帶來的危害。

以上是GPT會涼嗎?巴菲特、馬斯克等大佬呼籲暫停的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:51cto.com。如有侵權,請聯絡admin@php.cn刪除