首頁 > 文章 > 系統教程 > 我在 Windows 中執行自訂 GPT 聊天機器人：原因及操作方法如下

我在 Windows 中執行自訂 GPT 聊天機器人：原因及操作方法如下

WBOY原創: 2024-06-19 11:18:47920瀏覽

在您自己的電腦上執行 GPT/AI 聊天機器人比在網路上存取聊天機器人有很多優點。我們將向您展示為什麼您可能想要這樣做，以及在 Windows 上設定的最簡單方法。

為什麼您想要自己的本地人工智慧聊天機器人？

雖然像ChatGPT 這樣的線上人工智慧聊天機器人佔據主導地位，並且可以存取大量訓練資料和最新信息，但出於多種原因，您可能希望在Windows 計算機上運行自己的本地聊天機器人。

在本地運行您自己的人工智慧工具是免費的，並且不受線上工具的限制：沒有審查制度，您可以加載任何機器學習模型，自訂它們的回應和行為，並提供任何提示，所有不受限制（且完全隱私）。這也是了解現代大語言模型 (LLM) AI 工具在幕後如何運作的好方法，特別是如果您想進入 AI 或科技行業。

您可以找到幾乎任何事物的模型，從虛構的角色互動、程式設計、常識，以及更通用的線上模型可能無法涵蓋的許多其他用例。

如何在Windows 上託管您自己的本機GPT 聊天機器人

本教學將使用text- Generation-web-ui-docker，這是一個用於大型語言模型的開源接口，可簡化安裝和部署使用法學碩士。

text- Generation-web-ui-docker 使用Docker 捆綁text- Generation-web-ui 項目，透過將所有內容儲存在本機AI 工具中，無需安裝和管理本機AI 工具通常需要的所有複雜依賴項與您的系統分開的容器。運行本機聊天機器人唯一需要的是一台支援使用 Windows Linux 子系統 (WSL) 運行 Docker 的 Windows PC。您還需要一個相當新的 GPU，最好是 NVIDIA 的 GPU，以獲得最大的相容性。

第 1 步：安裝 Docker 和 Windows 終端應用程式

Docker 容器與虛擬機器類似，都包含整個運行系統，但它們更加輕量級，非常適合分發應用程式以及他們的所有要求都集中在一個易於安裝的捆綁包中。若要在 Docker 中執行 text- Generation-web-ui-docker，請在 Windows 系統上下載並安裝 Docker。

Docker 可以透過以下兩種方式之一在 Windows 上運行：WSL 或 Hyper-V 模式。建議大多數使用者使用 WSL，因此您可能需要在安裝 Docker 之前啟用它。

也建議安裝 Windows 終端應用程序，因為它為 WSL、PowerShell 和 Windows 命令列提供了方便的介面。

步驟 2：下載文字產生 Web UI GitHub 儲存庫

若要下載 text- Generation-web-ui-docker，請造訪其 GitHub 頁面。您可以透過點擊綠色「程式碼」按鈕，然後從下拉式選單中按一下「下載 Zip」來下載包含所需所有檔案的「.zip」檔案。

下面的螢幕截圖顯示了在 GitHub 頁面上的位置。

I Run a Custom GPT Chatbot in Windows: Here’s Why and How to Do It

Brad Morton / How-To Geek

將下載的 ZIP 檔案解壓縮到自己的資料夾中，然後開啟包含解壓縮檔案的資料夾。不必太擔心此資料夾的內容：它是 AI 聊天機器人的所有移動部件，但 Docker 會為您做好一切設定。

步驟 3：啟動文字產生 Web UI

在啟動 text- Generation-web-ui-docker 之前，您需要確保它已針對您的 PC 硬體進行設定。編輯檔案 docker-compose.yml 以指定與您的硬體相符的變體：default-nvidia 或 default-cpu（如果您沒有相容的 GPU）。

Brad Morton / How-To Geek

然後，仍然在包含下載和解壓縮檔案的資料夾中，右鍵單擊空白區域，然後按一下「在終端機中開啟」以在新視窗中開啟該目錄PowerShell 視窗。

Brad Morton / How-To Geek

在終端機視窗中輸入以下 Docker 指令之前，請確保 Docker Desktop 正在執行：

docker compose up -d

# 此指令將請執行下列操作：＃＃＃

執行 docker compose，管理 Docker 應用程式的程式
使用 up 指令啟動容器
在背景執行容器（稱為分離模式，由下列方式指定） -d ) Brad Morton / How-To Geek
如果您之前沒有運行過此命令並且需要下載（拉取）應用程序，您可能需要去泡杯茶，因為這可能需要一段時間。命令成功運行後，您將看到 text- Generation-web-ui-docker Docker 容器已建立並啟動。
Brad Morton / How-To Geek
正在運行的容器也會出現在 Docker Desktop 中，您可以在其中停止、啟動和管理它。
Brad Morton / How-To Geek
步驟 4：從 OpenAI 安裝 GPT-2 模型

在 Docker 中啟動並執行 text- Generation-web-ui-docker 後，您可以透過在瀏覽器網址列中輸入位址http://localhost:7860 來存取它。本機是您的電腦用於存取本身運行的服務的位址，每個服務都分配有一個唯一的連接埠號碼（在本例中為 7860）。您可以透過在 Docker 桌面中開啟正在執行的 Docker 容器來查看在本機上可用的連接埠。

這是比您在網路上使用 ChatGPT 時所獲得的 GPT 版本舊的版本。因此，它不會像您期望的那樣聰明或直觀，但它是可自訂的和私密的。

導覽至 Web 介面中的「模型」選項卡，然後在「下載模型或 LoRA」方塊中輸入 openai-community/gpt2，然後按一下「下載」按鈕。這可能需要幾分鐘。
Brad Morton / How-To Geek
點擊左上角的刷新圖標，然後從相鄰的模型下拉選單中選擇新下載的 openai-community/gpt2。最後，點擊“加載”按鈕，並等待幾分鐘，直到看到成功訊息。
Brad Morton / How-To Geek
此模型開箱即用，不需要任何註冊。當您進入人工智慧領域並想要嘗試不同的模型和人工智慧工具時，您可以在 HuggingFace 上找到更多資訊。

步驟 5：開始使用您的自訂 GPT AI 聊天機器人

這與您習慣在線使用的 AI 聊天機器人不太一樣，它們已經設置為通用用途，涵蓋很多情況。在與模型互動之前，您需要告訴模型如何表現，否則它的輸出會有點......精神錯亂。
Brad Morton / How-To Geek
Hoo boy，雖然它得到了正確的答案，但這個人工智慧聊天機器人需要一些微調。您可以進行很多調整，一開始可能會有點笨拙，但透過練習和經驗，您可以建立一個特定於您自己的使用情況的聊天機器人，並將您的資料100% 保留在您自己的電腦上，這很棒適用於商業和其他機密用例。若要了解如何設定和訓練本地 GPT 聊天機器人，請查看 HuggingFace 上的 text- Generation-web-ui 文件和 OpenAI GP2 文件。
如果您想在 Windows PC 上使用 AI 生成圖像，您可以使用 Fooocus 來獲得更簡單、更直接的結果。