使用 Cohere command-r 和 Streamlit 建立具有上下文檢索功能的聊天機器人

項目概述

Chatish 是一款創新的 Streamlit 網路應用程序，它展示了使用大型語言模型（特別是 Cohere 的 Command R 模型）進行上下文檢索的強大功能。該專案展示了現代人工智慧如何透過智慧的、上下文感知的對話來改變文檔互動方式。

架構元件

該應用程式圍繞著四個主要的 Python 模組構建：

1. app.py: 主應用程式入口點
2. chat_manager.py: 管理聊天互動
3. cohere_client.py: 處理 AI 互動
4. file_handler.py: 處理上傳的文件

應用架構圖

<code>graph TD
    A[用户界面 - Streamlit] --> B[文件上传]
    A --> C[聊天输入]
    B --> D[文件处理器]
    C --> E[聊天管理器]
    D --> F[Cohere 客户端]
    E --> F
    F --> G[AI 响应生成]
    G --> A</code>

關鍵實作細節

文件處理策略

FileHandler 類別展示了一種靈活的文檔處理方法：

<code class="language-python">def process_file(self, uploaded_file):
    if uploaded_file.type == "application/pdf":
        return self.extract_text_from_pdf(uploaded_file)
    else:
        # 可扩展以支持未来的文件类型
        return uploaded_file.read().decode()</code>

智慧提示工程

CohereClient 建構上下文感知提示：

<code class="language-python">def build_prompt(self, user_input, context=None):
    context_str = f"{context}\n\n" if context else ""
    return (
        f"{context_str}"
        f"问题：{user_input}\n"
        f"除非被告知要详细说明，否则请直接给出答案，并使用可用的指标和历史数据。"
    )</code>

對話管理

聊天管理包含智慧的歷史追蹤：

<code class="language-python">def chat(self, user_input, context=None):
    # 保持对话历史记录
    self.conversation_history.append({"role": "user", "content": user_input})

    # 限制历史记录以防止上下文溢出
    if len(self.conversation_history) > 10:
        self.conversation_history = self.conversation_history[-10:]</code>

已解決的技術挑戰

1. 上下文檢索: 動態地整合上傳文件的上下文
2. 會話持久性: 保持會話狀態
3. 串流回應: 實現即時的 AI 回應產生

技術堆疊

• Web 框架: Streamlit
• AI 整合: Cohere Command R
• 文件處理: PyPDF2
• 語言: Python 3.9

效能注意事項

• 令牌限制: 可透過 max_tokens 參數配置
• 溫度控制: 透過溫度調整反應的創意
• 模型彈性: 可輕鬆在設定中切換模型

未來路線圖

1. 增強的錯誤處理
2. 支援其他文件類型
3. 高階上下文分塊
4. 情感分析整合

部署注意事項

要求

<code>cohere==5.13.11
streamlit==1.41.1
PyPDF2==3.0.1</code>

快速啟動

<code class="language-bash"># 创建虚拟环境
python3 -m venv chatish_env

# 激活环境
source chatish_env/bin/activate

# 安装依赖项
pip install -r requirements.txt

# 运行应用程序
streamlit run app.py</code>

安全與倫理考量

• API 金鑰保護
• 對 AI 幻覺的明確使用者警告
• 透明的上下文管理

結論

Chatish 代表了上下文 AI 互動的實用實現，它將先進的語言模型與用戶友好的文檔分析橋接起來。

關鍵要點

• 模組化、可擴充的架構
• 智慧的上下文整合
• 簡化的使用者體驗

探索、實驗、延伸！

GitHub 倉庫

以上是使用 Cohere command-r 和 Streamlit 建立具有上下文檢索功能的聊天機器人的詳細內容。更多資訊請關注PHP中文網其他相關文章！