在边缘设备上的自托管破布应用程序

在Raspberry Pi上部署强大的AI文档处理器：逐步指南

本文详细介绍了将Raspberry Pi转换为智能文档处理的强大工具的过程，利用了高级AI的功能。我们将介绍能够处理文档摄入和提问（QNA）任务的系统的设置，软件安装和开发。即使是小型设备也可以通过正确的方法获得令人印象深刻的结果。

学习目标：

• 配置覆盆子PI以进行无头操作。
• 安装和管理依赖性，例如Ollama。
• 开发一个用于加载和处理PDF文档的系统。
• 构建一个检索功能的一代（RAG）管道，以回答查询。
• 测试应用程序功能。
• 使用FastApi部署应用程序，并使用Reflex创建用户界面。

（本文是数据科学博客马拉松的一部分。）

目录：

• 介绍
• Raspberry Pi设置
• 应用程序开发
  • 步骤1：环境配置
  • 步骤2：创建config.py
  • 步骤3：摄入课程
  • 步骤4： PDFLoader类
  • 步骤5：QNA管道
  • 步骤6：查询抹布链
• 结论
• 常见问题

Raspberry Pi设置：

首先设置Raspberry Pi的操作系统。对于此示例，我们将使用Ubuntu Server 24.04，但是其他分布是可能的。您需要一张microSD卡（至少16GB）。

闪烁SD卡：

1. 下载并安装Raspberry Pi Imager。
2. 选择您的SD卡，然后选择Ubuntu Server 24.04作为操作系统。
3. 通过SSH配置无头操作，提供用户名和密码。添加启动时自动网络连接的Wi-Fi凭据。
4. 在“服务”选项卡中启用SSH。
5. 将图像写入SD卡。

启动后，使用其IP地址通过SSH连接到Raspberry Pi（使用FING这样的工具找到它）：

 ssh [username]@[ip地址]

更新软件包：

更新您的系统软件包：

 sudo apt更新
sudo apt升级

安装Ollama：

 curl -fssl https://ollama.com/install.sh | sh

（如果遇到错误，请首先安装卷曲： sudo apt install curl ）

下载必要的模型：

 Ollama拉phi3
Ollama拉动提名 - 文本

应用程序开发：

现在，让我们构建抹布应用程序。

步骤1：环境设置：

创建虚拟环境并安装所需的Python软件包（在原始文章中列出）。

步骤2：创建config.py ：

创建一个config.py文件，其中以下内容：

 lanking_model_name =“ phi3”
embeddings_model_name =“ nomic-embed-text”
Ollama_url =“ http：// localhost：11434”

（步骤3-6详细介绍了摄入类，PDFLoader，QNA管道和抹布链查询，在原始文章中提供了太广泛的内容，无法在此处复制。请参阅“代码”片段的原始内容。）

结论：

本指南展示了为功能性抹布应用设置Raspberry Pi。接下来的步骤将涉及将应用程序与FastApi包装并使用Reflex构建用户界面。

关键要点：

• 覆盖物PI配置，用于抹布应用。
• 依赖管理（Ollama）。
• PDF文档摄入和处理。
• RAG管道实现。
• 应用程序测试和部署准备。

常见问题：

（原始文章中的常见问题解答也太广泛了，无法在此处复制。请参阅原始内容以获取答案。）

（注意：图像URL保持不变。）

以上是在边缘设备上的自托管破布应用程序的详细内容。更多信息请关注PHP中文网其他相关文章！