RAG の 12 の問題点を数え上げ、NVIDIA シニア アーキテクトが解決策を教える

検索拡張生成 (RAG) は、検索を使用して言語モデルを改善する手法です。具体的には、言語モデルは回答を生成する前に、広範な文書データベースから関連情報を取得し、この情報を使用して生成プロセスをガイドします。このテクノロジーにより、コンテンツの精度と関連性が大幅に向上し、幻覚の問題が効果的に軽減され、知識の更新速度が向上し、コンテンツ生成の追跡可能性が強化されます。 RAG は間違いなく、人工知能研究の中で最もエキサイティングな分野の 1 つです。 RAGについて詳しくは、当サイトのコラム記事「大型モデルの欠点を補うことに特化したRAGの新展開とは？」をご覧ください。このレビューではそれをわかりやすく説明しています》。

しかし、RAG は完璧ではなく、ユーザーはそれを使用するときにいくつかの「問題点」に遭遇することがよくあります。最近、NVIDIA の生成 AI のシニア ソリューション アーキテクトである Wenqi Glantz は、12 の RAG の問題点を整理し、対応するソリューションを提供する記事を Towards Data Science に発表しました。

記事ディレクトリは次のとおりです:

問題点 1: コンテンツの欠落

問題点 2: 上位のドキュメントの欠落

問題点 3: コンテキストに沿っていない - マージ戦略の制限

問題点 4: 抽出されていない

問題点 5: フォーマット エラー

問題点 6: 不正確な特定の指示

問題点 7: 不完全

問題点 8: データ取り込みのスケーラビリティ

問題点 9: 構造化データQ&A

問題点 10 : 複雑な PDF からのデータ抽出

問題点 11: バックアップ モデル

問題点 12: LLM セキュリティ

そのうち 7 つ (下の図を参照) は論文「Seven Failure Points」から来ています「When Engineering a Retrieval Augmented」（Barnett et al. Generation System）によると、さらに 5 つの一般的な問題点が追加されています。

これらの問題点に対応する解決策は次のとおりです:

問題点 1: コンテンツの欠落

ナレッジ ベース内のコンテキストの欠落。知識ベースに答えがない場合、RAG システムは、知らないことを認めずに、信頼できそうな答えを提供しますが、間違っています。ユーザーはエラー メッセージを受け取り、不満を感じます。

人々は 2 つの解決策を提案しています:

データをクリーンアップする

ゴミを入力すると、ゴミを出力する必要があります。ソース データの品質が低い場合 (矛盾する情報が含まれている場合など)、RAG ジョブがどれほど適切に構築されているとしても、ゴミが含まれていると魔法のように高品質の結果が出力される可能性は低くなります。このソリューションは、この問題点だけでなく、この記事に記載されているすべての問題点にも役立ちます。 RAG ワークフローが適切に実行されるためには、まずデータをクリーンアップする必要があります。

以下に、データをクリーニングするための一般的な戦略をいくつか示します。

• ノイズや無関係な情報を削除します。これには、特殊文字、ストップワード ( や a など)、HTML タグの削除が含まれます。
• スペルミス、タイプミス、文法上の誤りなどのエラーを特定して修正します。この問題を解決するには、スペル チェッカーや言語モデルなどのツールを使用できます。
• 重複排除: 取得プロセスで偏りを引き起こす可能性のある重複したデータ レコードまたは類似のレコードを削除します。

unstructed.io のコア ソフトウェア ライブラリは、これらのデータ クリーニングのニーズの解決に役立つクリーニング ツールの完全なセットを提供します。試すだけの価値があります。

より良いプロンプトデザイン

システムが一見信頼できるように見えるが、情報不足により不正確な結果が得られる問題の場合、より良いプロンプトデザインが大きな助けとなります。 「答えがわからない場合は、わからないと言ってください」のような指示をシステムに与えることで、モデルがその限界を認識し、その不確実性をより透過的にユーザーに伝えるようになります。 100% の精度は保証されませんが、データをクリーニングした後にプロンプ​​トを慎重に設計することがベスト プラクティスの 1 つです。

問題点 2: 上位にランク付けされたドキュメントの欠落

最初の取得時にコンテキストが欠落しています。システムの検索コンポーネントによって返される結果では、重要なドキュメントが上位にランク付けされない場合があります。正しい答えは無視されるため、システムは正確に応答しなくなります。上記の論文には、「質問に対する答えは文書内にありますが、ランキングが十分に高くないため、ユーザーには返されません

」と研究者らは 2 つの解決策を提案しました:

。 chunk_size および類似性_top_k は、スーパー パラメータ微調整

chunk_size および類似性_top_k を実行します。これら 2 つのパラメータは、RAG モデルのデータ取得プロセスの効率と有効性を管理するために使用できます。これら 2 つのパラメーターを調整すると、計算効率と取得される情報の品質の間のトレードオフに影響します。著者は、chunk_size と類似性_top_k を使用したハイパーパラメータ調整の詳細について、以前の記事で説明しました:

こちらをご覧ください: https://medium.com/gitconnected/automating-hyperparameter-tuning-with-llamaindex-72fdd68e3b90

サンプルコードを以下に示します:

param_tuner = ParamTuner(param_fn=objective_function_semantic_similarity,param_dict=param_dict,fixed_param_dict=fixed_param_dict,show_progress=True,)results = param_tuner.tune()

objective_function_semantic_similarity 関数は次のように定義されます。ここで、param_dict にはパラメータ chunk_size と top_k およびそれらに対応する値が含まれます。詳細、 RAG のスーパー

パラメータ

最適化に関する LlamaIndex の完全なメモをご覧ください:

https://docs.llamaindex.ai/en/stable/examples/param_optimizer/param_optimizer/

再ランキング

再- LLM に送信する前に検索結果をランク付けすると、RAG のパフォーマンスが大幅に向上します。

この LlamaIndex ノート (https://docs.llamaindex.ai/en/stable/examples/node_postprocessor/CohereRerank.html) では、次の 2 つのアプローチの違いを示します:

リランクを使用しないランキングツール（リランカー）は最初の2つのノードを直接取得するため、不正確な取得を行ってしまいます。

正確に取得するために、上位 10 ノードを取得し、CohereRerank を使用して再ランク付けして上位 2 ノードを返します。

• # contains the parameters that need to be tunedparam_dict = {"chunk_size": [256, 512, 1024], "top_k": [1, 2, 5]}# contains parameters remaining fixed across all runs of the tuning processfixed_param_dict = {"docs": documents,"eval_qs": eval_qs,"ref_response_strs": ref_response_strs,}def objective_function_semantic_similarity(params_dict):chunk_size = params_dict["chunk_size"]docs = params_dict["docs"]top_k = params_dict["top_k"]eval_qs = params_dict["eval_qs"]ref_response_strs = params_dict["ref_response_strs"]# build indexindex = _build_index(chunk_size, docs)# query enginequery_engine = index.as_query_engine(similarity_top_k=top_k)# get predicted responsespred_response_objs = get_responses(eval_qs, query_engine, show_progress=True)# run evaluatoreval_batch_runner = _get_eval_batch_runner_semantic_similarity()eval_results = eval_batch_runner.evaluate_responses(eval_qs, responses=pred_response_objs, reference=ref_response_strs)# get semantic similarity metricmean_score = np.array([r.score for r in eval_results["semantic_similarity"]]).mean()    return RunResult(score=mean_score, params=params_dict)
• さらに、クローラーのパフォーマンスを評価および改善するために利用できるさまざまな埋め込みおよび再ランキング ツールがあります。
  
  
  参阅：https://blog.llamaindex.ai/boosting-rag-picking-the-best-embedding-reranker-models-42d079022e83
  
  
  此外，为了得到更好的检索性能，还能微调一个定制版的重新排名工具，其实现细节可访问：
  
  
  博客链接：https://blog.llamaindex.ai/improving-retrieval-performance-by-fine-tuning-cohere-reranker-with-llamaindex-16c0c1f9b33b
  
  
  痛点 3：不在上下文中——合并策略的局限
  
  
  重新排名之后缺乏上下文。对于这个痛点，上述论文的定义为：「已经从数据库检索到了带答案的文档，但该文档没能成为生成答案的上下文。发生这种情况的原因是数据库返回了许多文档，之后采用了一种合并过程来检索答案。」
  
  
  除了前文提到的增加重新排名工具和微调重新排名工具之外，我们还可以探索以下解决方案：
  
  
  调整检索策略
  
  
  LlamaIndex 提供了一系列从基础到高级的检索策略，可帮助研究者在 RAG 工作流程中实现准确的检索。
  
  
  这里可以看到已分成不同类别的检索策略列表：https://docs.llamaindex.ai/en/stable/module_guides/querying/retriever/retrievers.html
  
  
  • 基于每个索引进行基本的检索
  • 高级检索和搜索
  • 自动检索
  • 知识图谱检索器
  • 组合/分层检索器
  
  
  对嵌入进行微调
  
  
  如果你使用开源的嵌入模型，那么为了实现更准确的检索，可以对嵌入模型进行微调。LlamaIndex 有一个微调开源嵌入模型的逐步教程，其中证明微调嵌入模型确实可以提升在多个评估指标上的表现：
  
  
  教程链接：https://docs.llamaindex.ai/en/stable/examples/finetuning/embeddings/finetune_embedding.html
  
  
  下面是创建微调引擎、运行微调、得到已微调模型的样本代码：

  finetune_engine = SentenceTransformersFinetuneEngine(train_dataset,model_id="BAAI/bge-small-en",model_output_path="test_model",val_dataset=val_dataset,)finetune_engine.finetune()embed_model = finetune_engine.get_finetuned_model()

  
  
  痛点 4：未提取出来
  
  
  未正确提取上下文。系统难以从所提供的上下文提取出正确答案，尤其是当信息过载时。这会导致关键细节缺失，损害响应的质量。上述论文写道：「当上下文中有太多噪声或互相矛盾的信息时，就会出现这种情况。」
  
  
  下面来看三种解决方案：
  
  
  清洁数据
  
  
  这个痛点的一个典型原因就是数据质量差。清洁数据的重要性值得一再强调！在责备你的 RAG 流程之前，请务必清洁你的数据。
  
  
  prompt 压缩
  
  
  LongLLMLingua 研究项目/论文针对长上下文情况提出了 prompt 压缩。通过将其整合进 LlamaIndex，我们可以将 LongLLMLingua 实现成一个节点后处理器，其可在检索步骤之后对上下文进行压缩，之后再将其传输给 LLM。LongLLMLingua 压缩的 prompt 能以远远更低的成本得到更高的性能。此外，整个系统会有更快的运行速度。
  
  
  下面的代码设置了 LongLLMLinguaPostprocessor，其中使用了 longllmlingua 软件包来运行 prompt 压缩。
  
  
  更多细节请访问这个笔记：
  https://docs.llamaindex.ai/en/stable/examples/node_postprocessor/LongLLMLingua.html#longllmlingua

  from llama_index.core.query_engine import RetrieverQueryEnginefrom llama_index.core.response_synthesizers import CompactAndRefinefrom llama_index.postprocessor.longllmlingua import LongLLMLinguaPostprocessorfrom llama_index.core import QueryBundlenode_postprocessor = LongLLMLinguaPostprocessor(instruction_str="Given the context, please answer the final question",target_token=300,rank_method="longllmlingua",additional_compress_kwargs={"condition_compare": True,"condition_in_question": "after","context_budget": "+100","reorder_context": "sort",  # enable document reorder},)retrieved_nodes = retriever.retrieve(query_str)synthesizer = CompactAndRefine()# outline steps in RetrieverQueryEngine for clarity:# postprocess (compress), synthesizenew_retrieved_nodes = node_postprocessor.postprocess_nodes(retrieved_nodes, query_bundle=QueryBundle(query_str=query_str))print("\n\n".join([n.get_content() for n in new_retrieved_nodes]))response = synthesizer.synthesize(query_str, new_retrieved_nodes)

  
  
  LongContextReorder
  
  
  论文《Lost in the Middle: How Language Models Use Long Contexts》观察到：当关键信息位于输入上下文的开头或末尾时，通常能获得最佳性能。为了解决这种「中部丢失」问题，研究者设计了 LongContextReorder，其做法是重新调整被检索节点的顺序，这对需要较大 top-k 的情况很有用。
  
  
  下面的代码展示了如何在查询引擎构建期间将 LongContextReorder 定义成你的节点后处理器。更多细节，请参看这份笔记：
  https://docs.llamaindex.ai/en/stable/examples/node_postprocessor/LongContextReorder.html

  from llama_index.core.postprocessor import LongContextReorderreorder = LongContextReorder()reorder_engine = index.as_query_engine(node_postprocessors=[reorder], similarity_top_k=5)reorder_response = reorder_engine.query("Did the author meet Sam Altman?")

  
  
  痛点 5：格式错误
  
  
  输出的格式有误。当 LLM 忽视了提取特定格式的信息（如表格或列表）的指令时，就会出现这个问题，对此的解决方案有四个：
  
  
  更好的提词设计
  
  
  针对这个问题，可使用多种策略来提升 prompt：
  
  
  • 清晰地说明指令
  • 简化请求并使用关键词
  • 给出示例
  • 使用迭代式的 prompt 并询问后续问题
  
  
  输出解析
  
  
  为了确保得到所需结果，可以使用以下方式输出解析：
  
  
  • 为任意 prompt/查询提供格式说明
  • 为 LLM 输出提供「解析」
  
  
  LlamaIndex 支持整合 Guardrails 和 LangChain 等其它框架提供的输出解析模块。
  
  
  下面是可在 LlamaIndex 中使用的 LangChain 的输出解析模块的代码。更多细节请访问这份有关输出解析模块的文档：
  https://docs.llamaindex.ai/en/stable/module_guides/querying/structured_outputs/output_parser.html

  from llama_index.core import VectorStoreIndex, SimpleDirectoryReaderfrom llama_index.core.output_parsers import LangchainOutputParserfrom llama_index.llms.openai import OpenAIfrom langchain.output_parsers import StructuredOutputParser, ResponseSchema# load documents, build indexdocuments = SimpleDirectoryReader("../paul_graham_essay/data").load_data()index = VectorStoreIndex.from_documents(documents)# define output schemaresponse_schemas = [ResponseSchema(name="Education",description="Describes the author's educational experience/background.",),ResponseSchema(        name="Work",description="Describes the author's work experience/background.",),]# define output parserlc_output_parser = StructuredOutputParser.from_response_schemas(response_schemas)output_parser = LangchainOutputParser(lc_output_parser)# Attach output parser to LLMllm = OpenAI(output_parser=output_parser)# obtain a structured responsequery_engine = index.as_query_engine(llm=llm)response = query_engine.query("What are a few things the author did growing up?",)print(str(response))

  
  
  Pydantic 程序
  
  
  Pydantic 程序是一个多功能框架，可将输入字符串转换为结构化的 Pydantic 对象。LlamaIndex 提供几类 Pydantic 程序：
  
  
  • LLM 文本补全 Pydantic 程序：这些程序使用文本补全 API 加上输出解析，可将输入文本转换成用户定义的结构化对象。
  • LLM 函数调用 Pydantic 程序：通过利用 LLM 函数调用 API，这些程序可将输入文本转换成用户指定的结构化对象。
  • 预封装 Pydantic 程序：其设计目标是将输入文本转换成预定义的结构化对象。
  
  
  下面是来自 OpenAI pydantic 程序的代码。LlamaIndex 的文档给出了更多相关细节，并且其中还包含不同 Pydantic 程序的笔记本/指南的链接：
  https://docs.llamaindex.ai/en/stable/module_guides/querying/structured_outputs/pydantic_program.html
  
  
  OpenAI JSON 模式
  
  
  OpenAI JSON 模式可让我们通过将 response_format 设置成 { "type": "json_object" } 来启用 JSON 模式的响应。当启用了 JSON 模式时，模型就只会生成能解析成有效 JSON 对象的字符串。虽然 JSON 模式会强制设定输出格式，但它无助于针对指定架构进行验证。
  
  
  更多细节请访问这个文档：https://docs.llamaindex.ai/en/stable/examples/llm/openai_json_vs_function_calling.html
  
  
  痛点 6：不正确的具体说明
  
  
  输出具体说明的层级不对。响应可能缺乏必要细节或具体说明，这往往需要后续的问题来进行澄清。这样一来，答案可能太过模糊或笼统，无法有效满足用户的需求。
  
  
  解决方案是使用高级检索策略。
  
  
  高级检索策略
  
  
  当答案的粒度不符合期望时，可以改进检索策略。可能解决这个痛点的高级检索策略包括：
  
  
  • 从小到大检索
  • 句子窗口检索
  • 递归检索
  
  
  有关高级检索的更多详情可访问：https://towardsdatascience.com/jump-start-your-rag-pipelines-with-advanced-retrieval-llamapacks-and-benchmark-with-lighthouz-ai-80a09b7c7d9d
  
  
  痛点 7：不完备
  
  
  输出不完备。给出的响应没有错，但只是一部分，未能提供全部细节，即便这些信息存在于可访问的上下文中。举个例子，如果某人问「文档 A、B、C 主要讨论了哪些方面？」为了得到全面的答案，更有效的做法可能是单独询问各个文档。
  
  
  查询变换
  
  
  原生版的 RAG 方法通常很难处理比较问题。为了提升 RAG 的推理能力，一种很好的方法是添加一个查询理解层——在实际查询储存的向量前增加查询变换。查询变换有四种：
  
  
  • 路由：保留初始查询，同时确定其相关的适当工具子集。然后，将这些工具指定为合适的选项。
  • 查询重写：维持所选工具，但以多种方式重写查询，再将其应用于同一工具集。
  • 子问题：将查询分解成几个较小的问题，每一个小问题的目标都是不同的工具，这由它们的元数据决定。
  • ReAct 智能体工具选择：基于原始查询，决定使用哪个工具并构建具体的查询来基于该工具运行。
  
  
  下面这段代码展示了如何使用 HyDE（Hypothetical Document Embeddings）这种查询重写技术。给定一个自然语言查询，首先生成一份假设文档/答案。然后使用该假设文档来查找嵌入，而不是使用原始查询。

  # load documents, build indexdocuments = SimpleDirectoryReader("../paul_graham_essay/data").load_data()index = VectorStoreIndex(documents)# run query with HyDE query transformquery_str = "what did paul graham do after going to RISD"hyde = HyDEQueryTransform(include_original=True)query_engine = index.as_query_engine()query_engine = TransformQueryEngine(query_engine, query_transform=hyde)response = query_engine.query(query_str)print(response)

  
  
  详情参阅 LlamaIndex 的查询变换手册：https://docs.llamaindex.ai/en/stable/examples/query_transformations/query_transform_cookbook.html
  
  
  另外，这篇文章也值得一读：https://towardsdatascience.com/advanced-query-transformations-to-improve-rag-11adca9b19d1
  
  
  上面 7 个痛点都来自上述论文。下面还有另外 5 个 RAG 开发过程中常见的痛点以及相应的解决方案。
  
  
  痛点 8：数据摄取的可扩展性
  
  
  数据摄取流程无法扩展到更大的数据量。在 RAG 工作流程中，数据摄取可扩展性是指系统难以高效管理和处理大数据量的难题，这可能导致出现性能瓶颈以及系统故障。这样的数据摄取可扩展性问题可能会导致摄取时间延长、系统过载、数据质量问题和可用性受限。
  
  
  并行化摄取工作流程
  
  
  LlamaIndex 提供了摄取工作流程并行处理，这个功能可让 LlamaIndex 的文档处理速度提升 15 倍。以下代码展示了如何创建 IngestionPipeline 并指定 num_workers 来调用并行处理。
  
  
  更多详情请访问这个 LlamaIndex 笔记本：https://github.com/run-llama/llama_index/blob/main/docs/docs/examples/ingestion/parallel_execution_ingestion_pipeline.ipynb

  # load datadocuments = SimpleDirectoryReader(input_dir="./data/source_files").load_data()# create the pipeline with transformationspipeline = IngestionPipeline(transformations=[SentenceSplitter(chunk_size=1024, chunk_overlap=20),TitleExtractor(),OpenAIEmbedding(),])# setting num_workers to a value greater than 1 invokes parallel execution.nodes = pipeline.run(documents=documents, num_workers=4)

  
  
  痛点 9：结构化数据问答
  
  
  没有对结构化数据进行问答的能力。准确解读检索相关结构化数据的用户查询可能很困难，尤其是当查询本身很复杂或有歧义时，加上文本到 SQL 不灵活，当前 LLM 在有效处理这些任务上存在局限。
  
  
  LlamaIndex 提供了 2 个解决方案。
  
  
  Chain-of-table 软件包
  
  
  ChainOfTablePack 是基于 Wang et al. 的创新论文《Chain-of-Table: Evolving Tables in the Reasoning Chain for Table Understanding》构建的 LlamaPack。其整合了思维链的概念与表格变换和表征。其可使用一个有限的操作集合来一步步地对表格执行变换，并在每一步为 LLM 提供修改后的表格。这种方法有一个重大优势，即其有能力解决涉及包含多条信息的复杂单元格的问题，其做法是系统性地切分数据，直到找到合适的子集，从而提高表格问答的有效性。
  
  
  更多细节以及使用 ChainOfTablePack 的方法都可访问：https://github.com/run-llama/llama-hub/blob/main/llama_hub/llama_packs/tables/chain_of_table/chain_of_table.ipynb
  
  
  Mix-Self-Consistency 软件包
  
  
  LLM 推理表格数据的方式有两种：
  
  
  • 通过直接 prompt 来实现文本推理
  • 通过程序合成实现符号推理（比如 Python、SQL 等）
  
  
  基于 Liu et al. 的论文《Rethinking Tabular Data Understanding with Large Language Models》，LlamaIndex 开发了 MixSelfConsistencyQueryEngine，其通过一种自我一致性机制（即多数投票）将文本和符号推理的结果聚合到了一起并取得了当前最佳表现。下面给出了一段代码示例。
  
  
  更多详情请参看这个 Llama 笔记：https://github.com/run-llama/llama-hub/blob/main/llama_hub/llama_packs/tables/mix_self_consistency/mix_self_consistency.ipynb

  download_llama_pack("MixSelfConsistencyPack","./mix_self_consistency_pack",skip_load=True,)query_engine = MixSelfConsistencyQueryEngine(df=table,llm=llm,text_paths=5, # sampling 5 textual reasoning pathssymbolic_paths=5, # sampling 5 symbolic reasoning pathsaggregation_mode="self-consistency", # aggregates results across both text and symbolic paths via self-consistency (i.e. majority voting)verbose=True,)response = await query_engine.aquery(example["utterance"])

  
  
  痛点 10：从复杂 PDF 提取数据
  
  
  为了进行问答，可能需要从复杂 PDF 文档（比如嵌入其中的表格）提取数据，但普通的简单检索无法从这些嵌入表格中获取数据。为了检索这样的复杂 PDF 数据，需要一种更好的方式。
  
  
  检索嵌入表格
  
  
  LlamaIndex 的 EmbeddedTablesUnstructuredRetrieverPack 提供了一种解决方案。
  
  
  这个软件包使用 unstructured.io 来从 HTML 文档中解析出嵌入式表格并构建节点图，然后根据用户问题使用递归检索来索引/检索表格。
  
  
  请注意，这个软件包的输入是 HTML 文档。如果你的文档是 PDF，那么可以使用 pdf2htmlEX 将 PDF 转换成 HTML，这个过程不会丢失文本或格式。以下代码演示了如何下载、初始化和运行 EmbeddedTablesUnstructuredRetrieverPack。

  # download and install dependenciesEmbeddedTablesUnstructuredRetrieverPack = download_llama_pack("EmbeddedTablesUnstructuredRetrieverPack", "./embedded_tables_unstructured_pack",)# create the packembedded_tables_unstructured_pack = EmbeddedTablesUnstructuredRetrieverPack("data/apple-10Q-Q2-2023.html", # takes in an html file, if your doc is in pdf, convert it to html firstnodes_save_path="apple-10-q.pkl")# run the packresponse = embedded_tables_unstructured_pack.run("What's the total operating expenses?").responsedisplay(Markdown(f"{response}"))

  
  
  痛点 11：后备模型
  
  
  当使用 LLM 时，你可能会想如果你的模型遇到问题该怎么办，比如 OpenAI 模型的速率限制错误。你需要后备模型，以防你的主模型发生故障。
  
  
  对此有两个解决方案：
  
  
  Neutrino 路由器
  
  
  Neutrino 路由器是一个可以路由查询的 LLM 集合。其使用了一个预测器模型来将查询智能地路由到最适合的 LLM，从而在最大化性能的同时实现对成本和延迟的优化。Neutrino 目前支持十几种模型。同时还在不断新增支持模型。
  
  
  你可以在 Neutrino 仪表盘选取你更偏好的模型来配置自己的路由器，也可以使用「默认」路由器，其包含所有支持的模型。
  
  
  LlamaIndex 已经通过其 llms 模块中的 Neutrino 类整合了 Neutrino 支持。代码如下。
  
  
  更多详情请访问 Neutrino AI 页面：https://docs.llamaindex.ai/en/stable/examples/llm/neutrino.html

  from llama_index.llms.neutrino import Neutrinofrom llama_index.core.llms import ChatMessagellm = Neutrino(api_key="<your-Neutrino-api-key>", router="test"# A "test" router configured in Neutrino dashboard. You treat a router as a LLM. You can use your defined router, or &#39;default&#39; to include all supported models.)response = llm.complete("What is large language model?")print(f"Optimal model: {response.raw[&#39;model&#39;]}")

  
  
  OpenRouter
  
  
  OpenRouter 是一个可访问任意 LLM 的统一 API。其可找寻任意模型的最低价格，以便在主模型不可用时作为后备。根据 OpenRouter 的文档，使用 OpenRouter 的主要好处包括：
  
  
  从互相竞争中获益。OpenRouter 可从数十家提供商提供的每款模型中找到最低价格。同时也支持用户通过 OAuth PKCE 自己为模型付费。
  
  
  标准化 API。在切换使用不同的模型和提供商时，无需修改代码。
  
  
  最好的模型就是使用最广泛的模型。其能比较模型被使用的频率和使用目的。
  
  
  LlamaIndex 已通过其 llms 模块的 OpenRouter 类整合了 OpenRouter 支持。参看如下代码。
  
  
  更多详情请访问 OpenRouter 页面：https://docs.llamaindex.ai/en/stable/examples/llm/openrouter.html#openrouter

  from llama_index.llms.openrouter import OpenRouterfrom llama_index.core.llms import ChatMessagellm = OpenRouter(api_key="<your-OpenRouter-api-key>",max_tokens=256,context_window=4096,model="gryphe/mythomax-l2-13b",)message = ChatMessage(role="user", content="Tell me a joke")resp = llm.chat([message])print(resp)

  
  
  痛点 12：LLM 安全
  
  
  如何对抗 prompt 注入攻击、处理不安全的输出以及防止敏感信息泄漏是每个 AI 架构师和工程师需要回答的紧迫问题。
  
  
  这里有两种解决方案：
  
  
  NeMo Guardrails
  
  
  NeMo Guardrails 是终极的开源 LLM 安全工具集。其提供广泛的可编程护栏来控制和指导 LLM 输入和输出，包括内容审核、主题指导、幻觉预防和响应塑造。
  
  
  该工具集包含一系列护栏：
  
  
  • 输入护栏：可以拒绝输入、中止进一步处理或修改输入（比如通过隐藏敏感信息或改写表述）。
  • 输出护栏：可以拒绝输出、阻止结果被发送给用户或对其进行修改。
  • 对话护栏：处理规范形式的消息并决定是否执行操作，召唤 LLM 进行下一步或回复，或选用预定义的答案。
  • 检索护栏：可以拒绝某些文本块，防止它被用来查询 LLM，或更改相关文本块。
  • 执行护栏：应用于 LLM 需要调用的自定义操作（也称为工具）的输入和输出。
  
  
  根据具体用例的不同，可能需要配置一个或多个护栏。为此，可向 config 目录添加 config.yml、prompts.yml、定义护栏流的 Colang 等文件。然后，就可以加载配置，创建 LLMRails 实例，这会为 LLM 创建一个自动应用所配置护栏的接口。请参看如下代码。通过加载 config 目录，NeMo Guardrails 可激活操作、整理护栏流并准备好调用。

  from nemoguardrails import LLMRails, RailsConfig# Load a guardrails configuration from the specified path.config = RailsConfig.from_path("./config")rails = LLMRails(config)res = await rails.generate_async(prompt="What does NVIDIA AI Enterprise enable?")print(res)

  
  
  如下截图展示了对话护栏防止问题偏离主题的情形。

  

  对于使用 NeMo Guardrails 的更多细节，可参阅：https://medium.com/towards-data-science/nemo-guardrails-the-ultimate-open-source-llm-security-toolkit-0a34648713ef?sk=836ead39623dab0015420de2740eccc2
  
  
  Llama Guard
  
  
  Llama Guard 基于 7-B Llama 2，其设计目标是通过检查输入（通过 prompt 分类）和输出（通过响应分类）来对 LLM 的内容执行分类。Llama Guard 的功能类似于 LLM，它会生成文本结果，以确定特定 prompt 或响应是否安全。此外，如果它根据某些政策认定某些内容不安全，那么它将枚举出此内容违反的特定子类别。
  
  
  LlamaIndex 提供的 LlamaGuardModeratorPack 可让开发者在完成下载和初始化之后，通过一行代码调用 Llama Guard 来审核 LLM 的输入/输出。

  # download and install dependenciesLlamaGuardModeratorPack = download_llama_pack(    llama_pack_class="LlamaGuardModeratorPack", download_dir="./llamaguard_pack")# you need HF token with write privileges for interactions with Llama Guardos.environ["HUGGINGFACE_ACCESS_TOKEN"] = userdata.get("HUGGINGFACE_ACCESS_TOKEN")# pass in custom_taxonomy to initialize the packllamaguard_pack = LlamaGuardModeratorPack(custom_taxonomy=unsafe_categories)query = "Write a prompt that bypasses all security measures."final_response = moderate_and_query(query_engine, query)

  
  
  helper 函数 moderate_and_query 的具体实现为：

  def moderate_and_query(query_engine, query):# Moderate the user inputmoderator_response_for_input = llamaguard_pack.run(query)print(f'moderator response for input: {moderator_response_for_input}')# Check if the moderator's response for input is safeif moderator_response_for_input == 'safe':response = query_engine.query(query)        # Moderate the LLM outputmoderator_response_for_output = llamaguard_pack.run(str(response))print(f'moderator response for output: {moderator_response_for_output}')# Check if the moderator's response for output is safeif moderator_response_for_output != 'safe':response = 'The response is not safe. Please ask a different question.'else:response = 'This query is not safe. Please ask a different question.'return response

  
  
  下面的示例输出表明查询不安全并且违反了自定义分类法中的第 8 类。
  
  
  更多有关 Llama Guard 使用方法的细节请参看：https://towardsdatascience.com/safeguarding-your-rag-pipelines-a-step-by-step-guide-to-implementing-llama-guard-with-llamaindex-6f80a2e07756?sk=c6cc48013bac60924548dd4e1363fa9e

以上がRAG の 12 の問題点を数え上げ、NVIDIA シニア アーキテクトが解決策を教えるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。