使用 MimirLLM 建立去中心化 AI 聊天機器人：逐步教程

與 MimirLLM 一起探索去中心化聊天機器人前景

本教學將指導您使用 MimirLLM（用於 AI 語言模型的點對點通訊庫）建立去中心化聊天機器人。 您將建立一個系統，其中節點透過去中心化網路託管大型語言模型 (LLM) 並與之互動。

主要學習目標：

• 在節點和客戶端模式下設定 MimirLLM。
• 利用/mimirllm/1.0.0協定進行同儕發現和LLM通訊。
• 整合 OpenAI 或 Ollama 等自訂模型。

先決條件：

• Node.js v22.13.0 (LTS) 或更高版本（從nodejs.org 下載）。
• 可選：Ollama 或 OpenAI API 金鑰（用於 OpenAI 或 Ollama 模型整合）。

---

第 1 步：儲存庫複製與相依性安裝

複製 MimirLLM 儲存庫並安裝其相依性：

git clone https://github.com/your-repo/mimirllm.git
cd mimirllm
npm install

這將安裝 libp2p（用於點對點通訊）和 openai（用於 OpenAI 模型互動）。

第 2 步：設定 LLM 託管節點

配置一個節點來託管 LLM 並使其在網路上可發現。

建立節點腳本 (node.ts)：

import { createLibp2p } from './createNode';
import libp2pConfig from '../../shared/libp2p';
import { MimirP2PClient } from '../../shared/mimir';

createLibp2p(libp2pConfig).then(async (node) => {
    console.log('Node listening on:');
    node.getMultiaddrs().forEach((ma) => console.log(ma.toString()));

    const mimir = new MimirP2PClient(node, {
        mode: "node",
        openaiConfig: {
            baseUrl: process.env.OLLAMA_ENDPOINT || "https://api.openai.com/v1",
            apiKey: process.env.OPENAI_API_KEY || null
        }
    });
    await mimir.start();
}).catch((e) => {
    console.error(e);
});

運行節點：

tsx node.ts

節點將開始監聽並公佈其託管的 LLM。 輸出將顯示其監聽位址（例如，/ip4/127.0.0.1/tcp/12345/p2p/QmPeerId）。

第 3 步：建構 LLM 互動客戶端

建立一個客戶端來發現託管的 LLM 並與之互動。

建立客戶端腳本 (client.ts)：

import { createLibp2p } from "libp2p";
import libp2pConfig from "../../shared/libp2p";
import { MimirP2PClient } from "../../shared/mimir";
import { createInterface } from "readline";
import { streamToConsole } from "../utils/stream";

// ... (rest of the client.ts code remains the same)

運行客戶端：

tsx client.ts

客戶端提示訊息、發現節點、發送訊息並串流回應。

第 4 步：協定概述

MimirLLM 使用：

• 發現協定 (/mimirllm/1.0.0/identify)： 用於對等發現和初始通訊。客戶查詢LLM；節點以其託管模型回應。
• LLM互動協定（/mimirllm/1.0.0）：用於訊息交換。客戶端發送訊息；節點將它們轉發給 LLM 並流迴回應。

第 5 步：LLM 客製化

MimirLLM 支援 OpenAI 和 Ollama。 配置 MimirP2PClient 以使用您首選的 LLM。 對於 Ollama，將 baseUrl 設定為您的端點；對於 OpenAI，請提供您的 API 金鑰。

第 6 步：未來的增強

未來潛在的改進包括強大的發現機制、用於激勵節點參與的區塊鏈整合以及對其他法學碩士的支持。

---

MimirLLM 賦能去中心化人工智慧。 探索其功能，為其開發做出貢獻，並分享您的去中心化人工智慧應用程式。 快樂編碼！ ？

以上是使用 MimirLLM 建立去中心化 AI 聊天機器人：逐步教程的詳細內容。更多資訊請關注PHP中文網其他相關文章！