应使用sentence embedding（句向量）而非word embedding构建智能问答系统，因后者仅表征单个词，无法捕捉句子级语义；现代rag依赖高质量中文句向量模型（如bge、qwen3-embedding）实现问题与文档块的跨粒度语义对齐。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜
用 Word Embedding 构建智能问答系统，这个说法其实存在概念偏差——Word Embedding（词向量）本身已基本被弃用，现代 RAG 系统依赖的是 Sentence Embedding（句向量）或 Document Embedding（文档块向量）。真正起作用的不是单个词的向量，而是对整句话、段落甚至语义完整块的向量化表示。下面直接讲清楚怎么做、为什么这么选、关键在哪。
为什么不用 Word Embedding 做 RAG？
- Word Embedding（如 Word2Vec、GloVe）只表征单个词，无法捕捉上下文、长距离依赖和句子级语义；
- 用户提问是完整句子（如“合同里违约金怎么计算？”），检索必须匹配语义相近的句子片段，而非关键词堆叠；
- RAG 的检索阶段要求“问题 → 文档块”的跨粒度语义对齐，这必须靠 Sentence Embedding 模型（如 BGE、text2vec、Qwen3-Embedding）完成。
所以准确说：要用高质量中文 Sentence Embedding 模型，而不是 Word Embedding。
如何选对 Embedding 模型？
选模型不是看参数量，而是看三点：中文适配性、领域泛化力、向量区分度。
推荐优先尝试以下本地可部署、免 API、开箱即用的模型：
-
BAAI/bge-large-zh-v1.5：当前中文 RAG 场景综合表现最优，对政策、技术、医疗等文本鲁棒性强； -
maidalun1020/bce-embedding-base_v1：轻量、快、适合边缘设备； -
Qwen3-Embedding（2026 年新发布）：阿里系最新，与 Qwen3 大模型同源，协同效果好，尤其适合中长文本和多轮追问。
✅ 小技巧：同一份知识库，换一个 Embedding 模型，召回准确率可能差 20% 以上。建议在小样本上先跑对比测试（比如用 5 个典型问题测 top-3 检索结果是否相关）。
文档分块 + 向量化才是核心动作
Embedding 模型只是“翻译器”，真正决定效果上限的是输入给它的文本块质量。常见错误是直接把整篇 Word 文档喂进去，结果：
- 向量失焦（一页含标题、正文、页脚、表格，语义混杂）；
- 检索时匹配到“合同”却漏掉“违约金条款”所在段落。
正确做法是：
- 使用语义感知分块器（如
langchain.text_splitter.RecursiveCharacterTextSplitter）； - 设置合理 chunk_size（建议 300–600 字符），chunk_overlap（50–100 字符），确保段落不被硬切；
- 对 Word（.docx）文件，先用
unstructured[docx]提取纯文本，再清洗页眉页脚、编号、空行； - 每个块单独过 Embedding 模型 → 得到一个向量 → 存入向量数据库（Chroma / Milvus / Qdrant）。
检索阶段不能只靠向量相似度
纯向量检索（如 cosine similarity）容易召回“字面相关但语义无关”的块（例如问“如何退订会员”，检出“会员权益说明”而非“退订流程”）。必须叠加：
-
重排序（Rerank）：用 Cross-Encoder 模型（如
bge-reranker-large）对 top-20 初筛结果做精排，提升前3名命中率； - 元数据过滤：给每个块打标签（如文档类型=合同、章节=违约责任、日期=2025-03），查询时加 filter 条件；
- 混合检索：结合关键词（BM25）+ 向量，避免 Embedding 对数字、专有名词敏感度低的问题。
生成阶段要“带引用”地回答
LLM 不是万能翻译机。必须把检索出的 3–5 个高相关块 + 用户问题拼成 prompt，明确指令：
你是一个严谨的合同助理。请仅根据以下【参考资料】回答问题，不得编造、不得推测。若资料未提及，请回答“未找到依据”。 【参考资料】 1. [合同第5.2条] 违约金为未履行部分金额的10%…… 2. [补充协议2025] 双方同意将违约金上限调整至5万元…… 【问题】 客户未支付尾款，违约金怎么算？
这样生成的回答天然可追溯、抗幻觉，也方便前端展示“来源：XX合同第5.2条”。
不复杂但容易忽略
