網友評論:xAI 團隊的開發速度太快了!簡直讓人驚嘆!
距離馬斯克的xAI 公佈Grok 才過去一天,剛剛,xAI 又公佈了另一款AI 產品,一個可用於prompt 工程和可解釋性研究的整合開發環境:PromptIDE。 接連不斷的新品發布,也讓網友紛紛感嘆:「xAI 團隊的開發速度簡直是瘋了!」xAI 在官方部落格中這樣介紹:PromptIDE 是一個用於prompt 工程和可解釋性研究的整合開發環境。它透過 SDK 加速 prompt 工程,而該 SDK 可以完成複雜的 prompt 技術,還能進行結果分析,可視化網路輸出等。 值得注意的是,xAI 在 Grok 的開發中大量的使用了該技術。 #借助 PromptIDE,工程師和研究人員可以透明的存取 Grok-1 模型(為 Grok 提供支援的模型)。這個 IDE 可以幫助使用者快速探索我們大模型 (LLM) 的功能。 IDE 的核心是一個 Python 程式碼編輯器,它與新的 SDK 結合,可以實現複雜的 prompt 技術。在 IDE 中執行 prompt 時,使用者會看到一些比較有用的分析,例如採樣機率、聚合注意力遮罩等。
#該IDE 會自動儲存所有的prompt 並具有內建版本控制,也允許用戶比較不同prompt 技術的輸出。最後,使用者可以上傳 CSV 文件等小文件,並使用 SDK 中的單一 Python 函數讀取它們。結合 SDK 的並發特性,即使是稍大的檔案也能快速處理。
#PromptIDE 的核心是程式碼編輯器Python SDK ,其中SDK 提供了一種新的程式設計範式,可以實現複雜的prompting 技術。 如上圖所示,使用者可以使用 prompt () 函數手動將 token 新增至上下文中,也可以使用 sample () 函數根據上下文產生 token。 此外,多個 web worker 可以同時運行,這意味著使用者可以並行執行多個 prompt。 使用者也可以使用相同程式中的多個上下文來實作複雜的 prompting 技術。如果函數使用 @prompt_fn 裝飾器進行註釋,則它將在自己的新上下文中執行,該函數可以獨立於其父上下文執行一些操作。這種程式設計範式支援具有任意巢狀子上下文的遞歸和迭代 prompts。 並發性:SDK 使用 Python 協程來並發處理多個帶有 @prompt_fn 註解的 Python 函數,從而加快時間進程,尤其是在處理 CSV 檔案時。 使用者輸入:Prompt 可以透過 user_input () 函數進行互動。 user_input () 函數傳回使用者輸入的字串,然後可以透過 prompt () 函數將其新增至上下文。使用這些API,只需四行程式碼即可實現聊天機器人:檔案:開發人員可以將較小的檔案上傳到PromptIDE(每個檔案最多5 MiB ,總共最多50 MiB),並在prompt 中使用他們上傳的檔案。 read_file () 函數以位元組數組形式傳回任何已上傳的檔案。這些與上面提到的並發特性結合起來,可以實現對 prompt 進行批次處理。分析:在執行 prompt 時,使用者會看到詳細的 token 分析,以幫助他們更好地理解模型的輸出。 當使用者使用 user_input () 函數時,視窗中會顯示一個文字框,使用者可以在其中輸入回應。下面的螢幕截圖顯示了執行上面列出的聊天機器人程式碼片段的結果。 最後,當不需要將 token 視覺化時,也可以以 markdown 方式呈現上下文,以提高易讀性。 參考連結:https://x.ai/prompt-ide/以上是馬斯克第二款AI產品PromptIDE公佈,Grok的開發離不開它的詳細內容。更多資訊請關注PHP中文網其他相關文章!