躥紅的生成式AI，是否為企業應用做好準備了？

短短幾個月前，OpenAI發布了ChatGPT，並瞬間引爆全球。如今，其活躍用戶已經超過1億，憑藉的就是產生與人類相似且語法準確的回應內容。同類技術甚至可以根據輸入的描述生成藝術品和程式碼，效果同樣不錯。

如果初步得到的回應無法令人滿意，你還可以持續跟AI互動，例如提出額外的問題或透過補充和澄清調整圖片或程式碼內容，讓結果更符合你的預期。整個過程不需要勞煩領域專家、藝術家或程式設計師，說話就能實現。

但生成式AI也有自己的問題，例如用於訓練底層AI模型的資料來源可能存在爭議、訓練資料應如何流通、缺乏對來源資料的使用權限、模型中存在偏見，還有更重要的一點——回應內容的準確性，特別是「一本正經的胡說八道」。

但這種種問題，完全沒有阻止軟體公司嘗試生成式AI。企業看到了背後蘊藏的巨大商業潛力和用戶熱情，當然不想落後。

Salesforce、Forethought和Thoughtspot最近都在公佈自己的生成式AI測試方案。

Salesforce跨自家平台推出生成式AI，Forethought希望打造新的聊天機器人，THoughtspot希望利用AI改善資料查詢。每家公司都在基礎技術之上添加了一些演算法微調元素，以反映自身平台上的獨特需求。

微軟則宣布，針對Azure企業用戶的OpenAI Service現在以託管服務的形式全面開放。

整個2023年，相信會有更多企業加入戰團。但我們前面提到的限制仍然真實存在，所以新的問題來了：無論表面上看起來有多酷，無論開發商如何強調仍處於早期開發階段，生成式AI真的做好準備為企業服務了嗎？

從限制說起

企業客戶正努力將AI引入商業目的，但其中仍存在太多未知數。

目前，生成式AI的底層模型仍在使用網路資料進行訓練，並沒有充分滿足各種授權要求。無論是網站、書籍或文章文本，這種廣泛採集訓練素材的作法對每個人都將造成切身影響，對以商業目的創建內容的公司影響尤甚。

Salesforce公司創辦人Marc Benioff在先前接受採訪時表示，這確實是個明顯缺陷，但也沒有妨礙Salesforce上擊發布Einstein GPT。

這位CEO當時強調：「我們都感受到了ChatGPT令人興奮的能力，但也能看到它的局限性。它其實就是最終'剽竊者'，它所學習的東西都是從別人那扒來的。所以它的邊界，也就是它所能爬取的內容的邊界。」

更重要的是，其中很多內容根本就不靠譜，或者至少包含一定錯誤。 OpenAI在其技術限制清單中也公開承認了這一點，寫道：「ChatGPT有時會給出看似合理，但並不正確甚至錯到荒謬的答案。而且這個問題很難解決…」

Forethought公司CEO 兼共同創辦人Deon Nicholas認為，生成式AI面臨的最大問題就是錯誤答案。 「ChatGPT仍然擺脫不了『幻覺』，對吧？問它一個關於特定業務的問題，如果它不知道答案，那就只會編造出一些看似合理、但實際上完全錯誤的東西。」

此外，ChatGPT用於訓練的資訊截止於2021年，這對希望創建新業務的公司來說也是一個問題。

還有偏見問題，需要由多元化團隊認真關注模型和訓練數據，才有可能真正實現緩解。上週，微軟客戶體驗產品行銷主管Neha Bajwa在訪談中也談到了AI偏見問題的重要性。

「在微軟，我們稱之為『負責任AI'，也就是透過對偏見和包容性的關注保證資料中不存在偏見，使AI具備合理的道德觀點和負責任特性。必須請注意，數據會放大偏見。」

解決之道

但這些限制並非不可克服。最近，已經有許多生成式AI工具開發人員開始採用OpenAI的基礎模型，並將其轉化成自己的技術以解決其中某些問題。雖未徹底消除，但這方面努力必將成為下一階段的工作重點。

O’Reilly Media創辦人、董事長兼CEO Tim O’Reilly將ChatGPT視為真正的第三波網路浪潮，但表示可能還需要做一些微調才能滿足內容所有者的商業需求。

OpenAI CEO Sam Altman已經與O’Reilly接洽，希望能使用O’Reilly圖書目錄取得知識訓練語料庫。但O’Reilly表示反對，因為這種方式目前還缺乏合理的作者補償機制。

O'Reilly表示：「我說過，除非你們找到…某種付款方式，因為這些內容是擁有明確主體的，人們也願意為此付費。」他建議建立一套系統，確保用戶在付費之後才能存取這類專業內容。

「支付的款項將交給來源內容的所有人。也許我們會為此建立起商業模式，讓人們可以存取這些更權威的內容。」

這樣做的一大優勢，在於拓寬生成式AI的功能廣度，包括文字、藝術和程式碼。 Nicholas認為，如果未來的模式能夠根據工作流程產生編碼，或自動建立或調整執行方式，必將成為科技應用企業的強大助力。

「我要補充一點，大家可能還沒意識到。像GPT-3這樣的生成式模型可以產生程式碼，當然也可以用來產生即時工作流程，而且效果相當不錯。所以它代表的不只是個能像人一樣跟我們對話和思考的AI模型，更將成為許多工作中的重要依托－包括產生Python程式碼，也包括產生自動化工作流程。」

數位體驗和數位化策略顧問公司Acquia CTO Dries Buytaert曾一手創立起開源Drupal內容管理系統。在最近的部落格文章中，介紹了生成式AI在內容管理和日常業務中的應用前景。

在最近的訪談中，Buytaert將AI技術的發展與雲端運算做了比較。透過開放對運算資源的低門檻訪問，雲端運算已經從根本上重塑了企業運算的面貌。

「OpenAI所建構的不只是產品，更是AI工具的大眾化趨勢。它讓許多沒有機器學習和AI博士學位的人們也能快速建構起實用性成果，這樣的賦能效果令人驚嘆。」

Buytaert建議，企業至少應該展示一下自己的開發流程，還有AI模型是如何得出答案的。 「他們必須拿出誠意，這樣才能消除關於AI模型吞噬網路流量和種種消極影響的爭議。比如說，在提出問題並給出答案之後，我們應該知道AI為什麼信任自己的來源，包括返回相應連結。 」

這只是個開始，搜尋引擎新創公司You.com已經開始在其聊天搜尋引擎中開放相關功能。

##雖然偏見的解決難度更高，但微軟的Bajwa表示，在各方的共同努力下這也並非不可實現。 「監管和督導是必須存在的。技術能起的作用只是一部分，最終還得在組織結構、流程和治理上下功夫，這也是生成式AI技術的起效位置。企業必須就具體使用方式設定相應的參數、建議和流程。」

只有合理解決這些問題，企業才能真正放心大膽地運用生成式AI。儘管前景廣闊，但絕不能對其放任自流。雖然短期應用能快速見效，但一切優點的背後都蘊藏隱憂。考慮到科技本身尚不成熟，生成式AI最好能在人類的陪伴和照顧下一路「健康成長」。

以上是躥紅的生成式AI，是否為企業應用做好準備了？的詳細內容。更多資訊請關注PHP中文網其他相關文章！