エッジデバイスでのセルフホスティングラグアプリケーション

RaspberryPiに強力なAIドキュメントプロセッサの展開：ステップバイステップガイド

この記事では、Raspberry Piをインテリジェントなドキュメント処理のための堅牢なツールに変換し、高度なAIの力を活用するプロセスについて詳しく説明しています。セットアップ、ソフトウェアのインストール、およびドキュメントの摂取と質問回答（QNA）タスクを処理できるシステムの開発について説明します。小さなデバイスでさえ、適切なアプローチで印象的な結果を達成できます。

学習目標：

• ヘッドレス操作のためにRaspberry Piを構成します。
• Ollamaなどの依存関係をインストールして管理します。
• PDFドキュメントをロードおよび処理するためのシステムを開発します。
• クエリに答えるために、検索された生成（RAG）パイプラインを構築します。
• アプリケーション機能をテストします。
• FastAPIを使用してアプリケーションを展開し、Reflexを使用してユーザーインターフェイスを作成します。

（この記事はデータサイエンスブログソンの一部です。）

目次：

• 導入
• Raspberry Piセットアップ
• アプリケーション開発
  • ステップ1：環境構成
  • ステップ2： config.pyの作成
  • ステップ3：摂取クラス
  • ステップ4： PDFLoaderクラス
  • ステップ5：QNAパイプライン
  • ステップ6：RAGチェーンの照会
• 結論
• よくある質問

Raspberry Piセットアップ：

Raspberry Piのオペレーティングシステムをセットアップすることから始めます。この例にはUbuntu Server 24.04を使用しますが、他の分布が可能です。 microSDカード（少なくとも16GB）が必要です。

SDカードのフラッシュ：

1. Raspberry Pi Imagerをダウンロードしてインストールします。
2. SDカードを選択し、オペレーティングシステムとしてUbuntu Server 24.04を選択します。
3. SSHを介してヘッドレス操作を構成し、ユーザー名とパスワードを提供します。ブートで自動ネットワーク接続にWi-Fi資格情報を追加します。
4. [サービス]タブでSSHを有効にします。
5. 画像をSDカードに書き込みます。

起動後、IPアドレスを使用してSSHを介してRaspberry Piに接続します（Fingなどのツールを使用して見つける）：

 ssh [username]@[IPアドレス]

パッケージの更新：

システムパッケージを更新します：

 sudo aptアップデート
sudo aptアップグレード

オラマをインストール：

 curl -fssl https://ollama.com/install.sh | sh

（エラーが発生した場合は、最初にカールをインストールします： sudo apt install curl ）

必要なモデルをダウンロード：

 Ollama Pull Phi3
Ollama Pull nomic-embed-text

アプリケーション開発：

それでは、RAGアプリケーションを構築しましょう。

ステップ1：環境のセットアップ：

仮想環境を作成し、必要なPythonパッケージをインストールします（元の記事にリストされています）。

ステップ2： config.pyの作成：

次のようにconfig.pyファイルを作成します。

 Language_model_name = "phi3"
embeddings_model_name = "nomic-embed-text"
ollama_url = "http：// localhost：11434"

（摂取クラス、PDFLoader、QNAパイプライン、およびRAGチェーンクエリの詳細の詳細なステップは、元の記事で提供されており、ここでは複製するには広すぎます。コードスニペットについては、オリジナルを参照してください。）

結論：

このガイドでは、機能的なRAGアプリケーション用のRaspberry PIのセットアップを示しています。次のステップでは、アプリケーションをFastAPIでラップし、Reflexを使用してユーザーインターフェイスを構築することが含まれます。

重要なテイクアウト：

• RAGアプリケーション用のRaspberry PI構成。
• 依存関係管理（オラマ）。
• PDFドキュメントの摂取と処理。
• RAGパイプラインの実装。
• アプリケーションテストと展開の準備。

よくある質問：

（元の記事のFAQもここでは再現できないほど広すぎます。回答については、オリジナルを参照してください。）

（注：画像URLは変更されていません。）

以上がエッジデバイスでのセルフホスティングラグアプリケーションの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。