搜尋
首頁web前端js教程使用 LlamaIndex.ts 和 Azure OpenAI 建立 RAG 應用程式:入門!

隨著人工智慧繼續塑造我們的工作方式以及與技術互動的方式,許多企業正在尋找在智慧應用程式中利用自己的數據的方法。如果你使用過 ChatGPT 或 Azure OpenAI 等工具,那麼你已經熟悉生成式 AI 如何改善流程並增強使用者體驗。然而,為了真正自訂和相關的回應,您的應用程式需要合併您的專有數據。

這就是檢索增強生成 (RAG) 的用武之地,它提供了一種結構化方法來將資料檢索與人工智慧驅動的回應整合在一起。借助 LlamaIndex 等框架,您可以輕鬆地將這種功能建置到您的解決方案中,從而釋放業務資料的全部潛力。

Building a RAG app with LlamaIndex.ts and Azure OpenAI: Getting started!

想要快速運行並探索該應用程式?點這裡。

什麼是 RAG - 檢索增強生成?

檢索增強生成 (RAG) 是一種神經網路框架,它透過包含檢索組件來存取相關資訊並整合您自己的資料來增強 AI 文字生成。它由兩個主要部分組成:

  • 檢索器:密集檢索器模型(例如,基於 BERT),用於搜尋大型文件語料庫以查找與給定查詢相關的相關段落或資訊。
  • 產生器:序列到序列模型(例如,基於 BART 或 T5),它將查詢和檢索到的文字作為輸入,並產生連貫的、上下文豐富的回應。

檢索器找到相關文檔,生成器使用它們來創建更準確、更豐富的回應。這種組合使 RAG 模型能夠有效地利用外部知識,並提高生成文本的品質和相關性。

LlamaIndex 如何實現 RAG?

要使用 LlamaIndex 實作 RAG 系統,請遵循以下一般步驟:

資料攝取:

  • 使用 SimpleDirectoryReader 等文件載入器將文件載入到 LlamaIndex.ts 中,這有助於從 PDF、API 或 SQL 資料庫等各種來源匯入資料。
  • 使用 SentenceSplitter 將大文件分解為更小的、可管理的區塊。

索引建立:

  • 使用 VectorStoreIndex 建立這些文件區塊的向量索引,從而允許基於嵌入進行高效的相似性搜尋。
  • 對於複雜的資料集,可以選擇使用遞歸檢索技術來管理分層結構化資料並根據使用者查詢檢索相關部分。

查詢引擎設定:

  • 使用asQueryEngine將向量索引轉換為查詢引擎,並使用similarityTopK等參數來定義應檢索多少個頂級文件。
  • 對於更高級的設置,創建一個多代理系統,其中每個代理負責特定文檔,並且頂級代理協調整個檢索過程。

檢索與產生:

  • 透過定義一個目標函數來實現 RAG 管道,該函數根據使用者查詢檢索相關文件區塊。
  • 使用 RetrieverQueryEngine 執行實際的檢索和查詢處理,以及可選的後處理步驟,例如使用 CohereRerank 等工具對檢索到的文件重新排名。

作為一個實際範例,我們提供了一個範例應用程式來示範使用 Azure OpenAI 的完整 RAG 實作。

實用 RAG 範例應用程式

我們現在將專注於使用 LlamaIndex.ts(LlamaIndex 的 TypeScipt 實作)和 Azure OpenAI 建置 RAG 應用程序,並將其部署為 Azure 容器應用程式上的無伺服器 Web 應用程式。

運行範例的要求

  • Azure Developer CLI (azd):一個命令列工具,可輕鬆部署整個應用程序,包括後端、前端和資料庫。
  • Azure 帳戶:您需要一個 Azure 帳戶來部署應用程式。取得一個帶有一些點數的免費 Azure 帳戶即可開始使用。

您將在 GitHub 上找到入門專案。我們建議您分叉此模板,以便您可以在需要時自由編輯它:

Building a RAG app with LlamaIndex.ts and Azure OpenAI: Getting started!

高層架構

入門專案應用程式基於以下架構建構:

  • Azure OpenAI: The AI provider that processes the user's queries.
  • LlamaIndex.ts: The framework that helps ingest, transform, and vectorize content (PDFs) and create a search index.
  • Azure Container Apps: The container environment where the serverless application is hosted.
  • Azure Managed Identity: Ensures top-notch security and eliminates the need for handling credentials and API keys.

Building a RAG app with LlamaIndex.ts and Azure OpenAI: Getting started!

For more details on what resources are deployed, check the infra folder available in all our samples.

Example User Workflows

The sample application contains logic for two workflows:

  1. Data Ingestion: Data is fetched, vectorized, and search indexes are created. If you want to add more files like PDFs or Word files, this is where you should add them.

      npm run generate
    
  2. Serving Prompt Requests: The app receives user prompts, sends them to Azure OpenAI, and augments these prompts using the vector index as a retriever.

Running the Sample

Before running the sample, ensure you have provisioned the necessary Azure resources.

To run the GitHub template in GitHub Codespace, simply click
Building a RAG app with LlamaIndex.ts and Azure OpenAI: Getting started!

In your Codespaces instance, sign into your Azure account, from your terminal:

azd auth login

Provision, package, and deploy the sample application to Azure using a single command:

azd up

To run and try the application locally, install the npm dependencies and run the app:

npm install
npm run dev

The app will run on port 3000 in your Codespaces instance or at http://localhost:3000 in your browser.

Conclusion

This guide demonstrated how to build a serverless RAG (Retrieval-Augmented Generation) application using LlamaIndex.ts and Azure OpenAI, deployed on Microsoft Azure. By following this guide, you can leverage Azure's infrastructure and LlamaIndex's capabilities to create powerful AI applications that provide contextually enriched responses based on your data.

We’re excited to see what you build with this getting started application. Feel free to fork it and like the GitHub repository to receive the latest updates and features.

以上是使用 LlamaIndex.ts 和 Azure OpenAI 建立 RAG 應用程式:入門!的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
在JavaScript中替換字符串字符在JavaScript中替換字符串字符Mar 11, 2025 am 12:07 AM

JavaScript字符串替換方法詳解及常見問題解答 本文將探討兩種在JavaScript中替換字符串字符的方法:在JavaScript代碼內部替換和在網頁HTML內部替換。 在JavaScript代碼內部替換字符串 最直接的方法是使用replace()方法: str = str.replace("find","replace"); 該方法僅替換第一個匹配項。要替換所有匹配項,需使用正則表達式並添加全局標誌g: str = str.replace(/fi

jQuery檢查日期是否有效jQuery檢查日期是否有效Mar 01, 2025 am 08:51 AM

簡單JavaScript函數用於檢查日期是否有效。 function isValidDate(s) { var bits = s.split('/'); var d = new Date(bits[2] '/' bits[1] '/' bits[0]); return !!(d && (d.getMonth() 1) == bits[1] && d.getDate() == Number(bits[0])); } //測試 var

jQuery獲取元素填充/保證金jQuery獲取元素填充/保證金Mar 01, 2025 am 08:53 AM

本文探討如何使用 jQuery 獲取和設置 DOM 元素的內邊距和外邊距值,特別是元素外邊距和內邊距的具體位置。雖然可以使用 CSS 設置元素的內邊距和外邊距,但獲取準確的值可能會比較棘手。 // 設定 $("div.header").css("margin","10px"); $("div.header").css("padding","10px"); 你可能會認為這段代碼很

10個jQuery手風琴選項卡10個jQuery手風琴選項卡Mar 01, 2025 am 01:34 AM

本文探討了十個特殊的jQuery選項卡和手風琴。 選項卡和手風琴之間的關鍵區別在於其內容面板的顯示和隱藏方式。讓我們深入研究這十個示例。 相關文章:10個jQuery選項卡插件

10值得檢查jQuery插件10值得檢查jQuery插件Mar 01, 2025 am 01:29 AM

發現十個傑出的jQuery插件,以提升您的網站的活力和視覺吸引力!這個精選的收藏品提供了不同的功能,從圖像動畫到交互式畫廊。讓我們探索這些強大的工具:相關文章:1

HTTP與節點和HTTP-Console調試HTTP與節點和HTTP-Console調試Mar 01, 2025 am 01:37 AM

HTTP-Console是一個節點模塊,可為您提供用於執行HTTP命令的命令行接口。不管您是否針對Web服務器,Web Serv

自定義Google搜索API設置教程自定義Google搜索API設置教程Mar 04, 2025 am 01:06 AM

本教程向您展示瞭如何將自定義的Google搜索API集成到您的博客或網站中,提供了比標準WordPress主題搜索功能更精緻的搜索體驗。 令人驚訝的是簡單!您將能夠將搜索限制為Y

jQuery添加捲軸到DivjQuery添加捲軸到DivMar 01, 2025 am 01:30 AM

當div內容超出容器元素區域時,以下jQuery代碼片段可用於添加滾動條。 (無演示,請直接複製到Firebug中) //D = document //W = window //$ = jQuery var contentArea = $(this), wintop = contentArea.scrollTop(), docheight = $(D).height(), winheight = $(W).height(), divheight = $('#c

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
2 週前By尊渡假赌尊渡假赌尊渡假赌
倉庫:如何復興隊友
4 週前By尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒險:如何獲得巨型種子
3 週前By尊渡假赌尊渡假赌尊渡假赌

熱工具

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

禪工作室 13.0.1

禪工作室 13.0.1

強大的PHP整合開發環境

SAP NetWeaver Server Adapter for Eclipse

SAP NetWeaver Server Adapter for Eclipse

將Eclipse與SAP NetWeaver應用伺服器整合。

mPDF

mPDF

mPDF是一個PHP庫,可以從UTF-8編碼的HTML產生PDF檔案。原作者Ian Back編寫mPDF以從他的網站上「即時」輸出PDF文件,並處理不同的語言。與原始腳本如HTML2FPDF相比,它的速度較慢,並且在使用Unicode字體時產生的檔案較大,但支援CSS樣式等,並進行了大量增強。支援幾乎所有語言,包括RTL(阿拉伯語和希伯來語)和CJK(中日韓)。支援嵌套的區塊級元素(如P、DIV),

Atom編輯器mac版下載

Atom編輯器mac版下載

最受歡迎的的開源編輯器