GPT-4超強進化，近萬人聯名封鎖！白宮緊急開會，ChatGPT概念股暴跌

GPT-5的威脅，已經黑雲壓頂。

GPT-4誕生後，AI可能對人類社會造成的顛覆性影響，早已讓多位業內大佬感到恐懼。

最近，似乎全世界都在圍剿ChatGPT。

前一陣由馬斯克、圖靈獎得主Bengio等大佬聯名發起的暫停高級AI研發的公開信，現在簽名已經上升到9000多人。

緊接著，美國非營利組織人工智慧與數位政策中心（CAIDP）也要求聯邦貿易委員會（FTC）調查OpenAI是否違反了消費者保護規則，並禁止其進一步發布GPT-4。

而義大利直接全國上下封鎖了ChatGPT，只給OpenAI 20天的調整適應期，拿不出合格的方案，就得交最高2000萬歐元的罰款。

封鎖ChatGPT狂潮席捲全球

有趣的是，自從義大利開了這個頭之後，其他一些國家也躍躍欲試，準備要對ChatGPT開刀。

法國和愛爾蘭的隱私監管機構，已經聯繫了他們的義大利同行，希望得到更多關於調查的詳細資料。

德國聯邦資料保護專員Ulrich Kelber表示：「從原則上講，德國也有可能採取類似的程序。」

##此外，歐盟也提出草案，計劃將ChatGPT視為高風險的AI系統進行監管。

美國也出手了

而就在今天，美國總統拜登也在白宮與科技顧問開了會，討論了AI對人類、社會和國家安全帶來的風險和機會。

根據路透社報道，在總統科學技術顧問委員會(PCAST​​) 會議中，拜登強調，「在我看來，科技公司有責任確保他們的產品在公開之前是安全的。」

而在被問及AI是否危險時，他說，「還有待觀察，有這種可能性。」

##拜登表示，強大科技在沒有保護措施的情況下會造成哪些危害，在社群媒體上已經很明顯了。

「因為缺乏保障措施，我們看到科技影響了人們的心理健康，讓他們對自我形象產生了自卑和絕望，這種影響在年輕人中尤為明顯。 」

他再次呼籲國會通過兩黨隱私立法，限制科技公司收集的個人數據，禁止針對青少年的廣告，並在產品開發中優先考慮健康和安全。

受此消息影響，在拜登召開這次會議之前，AI公司的股價都出現大幅下跌。

ChatGPT概念股C3.ai的股價持續走低，收跌26.34%報24.95美元，市值28億美元，創該股上市以來最大日內跌幅。

而此前，自從微軟宣布與OpenAI建立數十億美元的合作關係以來，C3.ai與AI領域的許多公司一樣，已成為華爾街近期最熱門的公司之一，今年以來C3.ai的股價已經上漲了超過130%。

蓋茲：暫停AI研發無法「解決挑戰」

當地時間4月3日，蓋茲接受路透的採訪時公開談論了千名專家簽署的公開信，

呼籲暫停人工智慧開發不會「解決挑戰」，最好是把注意力放在如何最好地利用人工智慧的發展上，很難理解在全球範圍內暫停AI研發將如何實現。

他繼續表示，我不認為要求某個特定群體暫停工作就能解決挑戰。顯然，這些東西有巨大的好處······我們需要做的是確定棘手的領域。

蓋茲是人工智慧的堅定支持者。

3月21日，也就是發起聯名公開信的前一天，蓋茲曾發表了一篇「人工智慧時代已經開始」的部落格文章。

其中提到了應該利用人工智慧來幫助減少世界上一些最嚴重的不平等現象。

他在部落格中盛讚人工智慧，「AI時代已經開啟，人工智慧革命重要程度不亞於手機和網路的誕生，這是其一生中唯二的革命性技術進步。」

目前為止，微軟已經向OpenAI投資了數十億美元。 OpenAI正在為微軟必應、Edge、Microsoft 365和其他產品建立AI技術。

在受訪時，蓋茲質疑暫停AI開發的可行性，想知道如何實施。

「任何暫停的細節都會很複雜，難以執行。我不太明白，他們說的哪些人可能停止，世界上每個國家是否都會同意停止，以及為什麼要停止，在這個領域會有很多不同的意見。」

GPT-4學會「自我反思」，表現大漲30%

但是，即使全世界都對超級AI如臨大敵，想趕緊懸崖勒馬，恐怕也為時已晚。

因為，如今的AI，已經學會自我進化了！

有證據顯示：GPT-4，正在改進自己！

前段時間，前Google大腦研究工程師Eric Jang發現令人瘋狂的一點：GPT-4能夠以合理的方式批評自己的成果。

與其為大型語言模型（LLM）尋找完美的提示（讓我們一步一步思考），不如讓LLM評估自己的輸出並立即糾正自己的錯誤。

甚至連特斯拉前AI總監，OpenAI研究科學家Andrej Karpathy大贊，這是一個很好的例子，說明我們還沒看到GPT -4的最大能力。

在Eric Jang給的例子中，曾經看過微軟研究員發推說GPT-4根本無法寫出「不押韻」的詩歌。

然而，當再去詢問GPT-4是否完成了任務。這時，它道歉後，生成了一個不押韻的詩！可以說是滿分。

这恰恰印证了GPT-4是有「反思」能力的。

最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。

论文地址：https://arxiv.org/abs/2303.11366

为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。

在这两项任务的成功率分别为97%和51%。

Reflexion智能体的整体架构

有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。

另外，论文指出，在测试模型编写代码的能力时，Reflexion GPT-4也显著优于常规的GPT-4。

这样看来，就像Eric Jang所说，

我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。

对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。

Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。

论文地址：https://arxiv.org/abs/2302.04761

按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。

比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。

论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。

同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。

論文網址：https://arxiv.org/abs/2303.17580

論文中，研究者提出的HuggingGPT利用ChatGPT作為控制器，連結HuggingFace社群中的各種AI模型，來完成多模態等各種複雜任務。

有網友表示，我強烈懷疑第一個通用人工智慧（AGI）的出現將比預期更早。它將依靠「膠水」AI，能夠智慧地將一系列狹義人工智慧和實用工具黏合在一起。

自動寫入程式碼

最近，一位開發者做了一個能讓GPT-4自動產生程式碼的專案— —Auto-GPT。

甚至可以執行程式碼。在後續改進中，Auto-GPT可以使用GPT-4編寫程式碼，並執行Python腳本。這使得它能夠遞歸調試、開發並自我改進...

#Auto-GPT讓人們更進一步了解GPT-4強大能力，甚至有網友做了一張梗圖：

Andrej Karpathy表示，在我看來，提示工程的下一個前沿領域是「AutoGPT 」。一個GPT呼叫就像是電腦上的一個指令。它們可以被串聯成程式中。使用提示來定義I/O設備和工具規格，定義認知循環，在上下文中分頁資料輸入和輸出，然後運行。

網友：奇點來了

有網友稱，這基本上就是奇點的定義。

一個能夠自我改進的AI，現在唯一需要的就是使其能夠修改模型的程式碼，並自主訓練（透過瀏覽網路並自行標記所有內容）。

甚至有的網友認為，科技的快速進步，讓我們已經到了無法回頭的地步。到2025年，這個世界將會發生翻天覆地的變化，無論是好或壞。

從錯誤中學習，是智力的基礎。

如此看來，GPT-4打敗自己，想要成為超級AI。

#

而根據某大佬的最新消息，OpenAI非常清楚，最近他們AI產品的快速迭代引起了極度強烈的反響，而他們也歡迎公眾的監督。

其負責人表示，目前risk per token還沒到臨界點，所以GPT的濫用還造不成太大的傷害。而AI對齊的路線圖，即將在幾個月內發布。

#

以上是GPT-4超強進化，近萬人聯名封鎖！白宮緊急開會，ChatGPT概念股暴跌的詳細內容。更多資訊請關注PHP中文網其他相關文章！