"ChatGPT遭學校和大廠封鎖引起社交恐慌"

12月，ChatGPT大紅大紫之際，就有許多學者和研究人員發出警告：ChatGPT很可能「殺死」大學論文。最近，紐約市教育局就正式對ChatGPT下了封殺令。

無獨有偶，在許多網路大廠，ChatGPT也遭到了封鎖。很多已經習慣向ChatGPT諮詢代碼問題的碼農們，原地爆哭……

大廠封殺ChatGPT，碼農哭了

近日，一位碼農在網路上發文稱，在自己所在的大廠，辦公室wifi禁用了ChatGPT。這直接把他崩潰了。

部落客表示，自己一位初級軟體工程師，而在團隊中，前輩們總是很忙，沒有時間給他解釋問題。

每當他在工作中卡住時，ChatGPT都是他的救星。

但昨天，當他在辦公室坐下時，突然發現沒法訪問ChatGPT了！他瞬間破防。

在他的貼文下，熱心網友紛紛獻計。

例如，買一個便宜的VPS和網域名稱並設定一個反向代理到ChatGPT官網；在瀏覽器中啟用DoH和ECH；使用一個線上代理；或在手機上通過電子郵件將輸出結果發送給自己等等。

當然，有網友對公司的這個操作表示贊同：「你司禁用ChatGPT是很有道理的，好好想想，如果你解決公司問題的程式碼可以輕易地被競爭對手取得，會產生什麼後果吧。」

「不要向ChatGPT，或是從ChatGPT上複製貼上程式碼。在法律上，公司或客戶的程式碼並不屬於你。而且你也沒有ChatGPT上程式碼的版權。如果你這麼做，會讓你面臨訴訟，被解僱。」

的確，已經有大廠向員工發送電子郵件稱：「ChatGPT不是不能用，但是如果你往裡面上傳代碼，你就會面臨被解僱的風險，因為我們的代碼非常敏感。」

不過，也有網友給了札心回覆：「如果一個初級開發者在沒有ChatGPT的情況下，就無法完成工作，那麼他對公司來說，真的是可有可無。」

紐約頒布禁令，師生全都禁用

就在1月3日，擁有全美最大公立學校系統的紐約市，正式頒布了「ChatGPT禁令」。

也就是說，不管是老師還是學生，都無法在紐約市公立學校的網路和裝置上使用ChatGPT。

最近，洛杉磯和巴爾的摩的學區也加入了這個行列。

紐約市教育局發言人Jenna Lyle表示，雖然ChatGPT可以提供快速和簡單的問題答案，但它不能培養學生批判性思考和解決問題的能力，而這些對於學術和終身成功至關重要。

當然，如果學校的目的是研究ChatGPT背後的技術，還是可以申請訪問的。

目前，ChatGPT將對論文作弊的風險產生什麼影響還有待觀察，因為學生仍然可以在校外訪問自己的設備和網路。

而喬治亞州的科布縣的態度，不僅沒那麼強硬，甚至還對採用ChatGPT頗有興趣。

該學區的發言人表示，「在高素質的科布縣教師手中，ChatGPT可以成為補充學生對學術內容理解的寶貴工具，並可以幫助學生髮展批判性思考能力。」

對此，在紐約精英高中Brooklyn Tech任教的Adam Stevens也認為，禁用ChatGPT反而會帶來負面的影響。

畢竟在15、20年前，當學生可以「在網路上找到答案」時，這些人也是這麼針對Google的。

Stevens認為，培養學生批判性寫作技能的最佳方法是「邀請他們探索值得了解的事情」，並遠離基於嚴格的評分標準的公式化寫作教學。

「當然，如果你更重視學期末的分數，那麼ChatGPT確實是一個威脅。」

同樣，俄勒岡州桑迪市府的一名高中英文老師也有類似的看法。

Shields老師有25年教齡，她認為，其實大可不必「談ChatGPT色變」，這款AI完全可以用來幫助學生產生想法、組織思路，甚至撰寫整篇論文。

在她看來，教師應該接受，AI是學生可以使用的一種工具，就像每個老師都教學生如何使用搜尋引擎一樣。

許多學生苦於無話可說可寫，此時教師可以使用ChatGPT向學生展示如何產生提示，來刺激他們的寫作。

Shields老師曾經讓ChatGPT以7年級生、10年級生和大學生的風格寫同一個主題的文章，每個級別之間的句法差異程度令人震驚。因而，完全可以使用這種AI產生的回饋，來向學生展示如何改進他們的寫作。

ICML發文澄清：主要為防止抄襲，不影響潤飾文章

前兩天，國際機器學習會議ICML 2023突然宣布：禁止使用大規模語言模型（如ChatGPT）產生論文的內容，除非這些文本是實驗分析的一部分。

要求一經提出，便引發了眾多研究人員的不滿：拼字檢查和文字預測基於的就是語言模型，為啥不讓我們用？

對此，圖靈獎得主Yann LeCun評論道：「大型語言模型不能用，意思是換成中型和小型語言模型就行咯？」

隨後還不忘陰陽一句：「明年的ICML道德準則應該變成：研究者必須徒手完成各種計算，不能藉助電腦；各類圖形必須用筆和紙手繪；從今天起，ICML的官方語言變為瑞典語（瑞典：？）。」

由於引發的討論太過激烈，ICML不得不單獨發一則長文來解釋這個規定。概括來說，有三個要點：

• 政策禁止完全由LLM「產生」的文本，但這並影響作者使用LLM來編輯或潤飾自己寫的文本。
• 政策主要是防止使用LLM可能會出現的潛在問題，例如抄襲。
• 目前，保單僅適用於ICML2023。隨著我們對LLM及其對科學出版的影響有了更深入的了解，這項政策可能會在未來的會議中改變。

公告連結：https://icml.cc/Conferences/2023/llm-policy

#

大規模語言模型，爭議叢生

在過去的幾年裡，大規模語言模型（LLM）的發展非常迅速。最近，這項進展不僅沒有放緩，甚至更快了。

正如大家所看到的，過去幾個月發布的LLM，如OpenAI的ChatGPT，已經能夠產生難以與人類相區分的文本片段。毫無疑問，這是自然語言處理和生成方面令人興奮的進展。

但這種快速的進展往往伴隨著意想不到的後果以及無法解答的問題。例如，由模型產生的文字和圖像是新穎的，還是現有工作的衍生性商品？

此外，文字片段、圖像以及其他由這些模型產生的內容，又應該歸誰所有：是生成模型的用戶，還是訓練模型的開發者，抑或是製作訓練數據的內容創作者？

可以肯定的是，隨著大規模生成模型被更廣泛地應用，這些問題都將隨著時間的推移而得到解答，但現在還不行。尤其是距離ChatGPT的發表才過了不到2個月（2022年11月底）。

而對ICML來說，他們並沒有足夠的時間來觀察和研究ChatGPT將對論文審查和發表過程，產生何種影響。

考慮到針對這項新技術所採用的策略，會直接關係到研究人員的職業生涯。因此ICML表示，自己只能更加謹慎，甚至會有些保守。

時有錯漏，但碼農依然愛不釋手

其實，雖然ChatGPT經常因為「愚蠢」而被嘲，但自它誕生一個多月來，很多碼農的工作習慣，確實被它改變了。

在12月初，ChatGPT亮相後，碼農們發現可以用它產生程式碼，立刻沸騰了。

ChatGPT不僅可以回答任何領域的問題，而且產生的答案，有很大的機率非常精確和詳細。

例如，當你問到「How to iterate over an keys and values array in Javascript」時，它產生了很完美的答案。

錦上添花的是，ChatGPT還能透過一個支持性的例子和解釋，告訴你這個JavaScript中常見問題的最佳解決方案：

甚至，還可以用它來給程式碼糾錯。

不過隨後，碼農們馬上發現，ChatGPT產生的程式碼，其實有不少問題。

ChatGPT會「犯蠢」，背後原因其實很簡單──AI的輸出，是機率性的。 ChatGPT沒有任何標記了對錯的內部記錄，它其實是一個統計模型，這個模型中，是在不同上下文中的語言組合。

而上下文的基礎，就是GPT-3訓練所用的整體資料集，來自ChatGPT的RLHF訓練的額外上下文，prompt和之前的對話，以及很快就會有的回饋.

ChatGPT的答案，本質上就是從構成GPT-3的網路資料語料庫中收集的機率結果。在10秒內，ChatGPT做出了結果的最佳猜測，這個猜測很可能是正確的。

當然，也有錯誤的機率。

這就是為什麼，網友用ChatGPT產生的程式碼在Stack Overflow上瘋狂灌水、錯誤答案滿天飛時，後者連夜發布了官方封鎖令。

雖然ChatGPT寫程式碼的能力被很多人詬病，但其實，用還是可以用的。

其實，ChatGPT最適合的定位，應該是編碼輔助工具。在ChatGPT的發布者OpenAI看來，ChatGPT的重要用途之一，正是幫助程式設計師檢查程式碼。

對開發者而言，它就是日益豐富的工具板中的一個工具。而且，就像任何自學模型一樣，ChatGPT也會隨著時間的推移，不斷學習，不斷自我修正和改進。

很多時候，與其在Stack OverFlow上為相對簡單的問題（如何在Flutter中觸發HookConsumerWidget的重建）等待幾天，不如直接向ChatGPT提問。

因為在ChatGPT上，開發者們有很大機率，得到一個可以用來解決問題的起點－

#

以上是"ChatGPT遭學校和大廠封鎖引起社交恐慌"的詳細內容。更多資訊請關注PHP中文網其他相關文章！