用腾讯混元开发文档问答应用需先将PDF/MD/Word/PPT文档向量化存入腾讯云向量数据库,再调用混元API实现语义检索与答案生成,全程无需公网暴露知识库、不依赖模型训练。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

用腾讯混元大模型开发文档问答应用,需先将本地文档向量化存入腾讯云向量数据库,再调用混元API完成语义检索与答案生成,整个流程不依赖公网暴露知识库、无需训练模型、支持PDF/MD/Word/PPT四种格式。
准备向量数据库实例与客户端环境
登录腾讯云控制台→进入「向量数据库」服务→点击「购买实例」→选择地域(如广州)、规格(推荐SA3.2XLARGE16)、网络类型选「内网」→完成支付。
在同地域CVM中执行:pip3 install tcvectordb 安装SDK;若用本地机器访问,必须在实例白名单中添加你的公网IP并开启外网访问功能,否则连接会直接超时。
下载 document_search_demo_20241114.zip 并上传至CVM,解压后进入目录执行 pip3 install -r requirements.txt。这一步会同时安装混元SDK(tencentcloud-sdk-python)和向量库依赖,缺一不可。
上传文档并构建向量索引
方法一:使用demo脚本批量导入
将待问答的文档(如demo_file1.pdf、demo_file2.md)放入当前目录下的 docs/ 文件夹→运行 python3 ingest.py→脚本自动解析文本→分块→调用混元Embedding接口生成向量→写入向量库指定collection。
方法二:手动控制分块逻辑
打开 ingest.py,找到 chunk_size=512 这一行——【若文档含大量表格或代码段,必须将该值调小至256】,否则表格会被硬切导致语义断裂,后续检索无法召回关键信息。
方法三:跳过脚本,直连API导入
编写Python代码,用 tcvectordb.Collection.upsert() 逐条插入向量化后的数据;每条记录需包含 id、vector、text 和 source 字段;注意 vector 必须是混元Embedding模型输出的1024维浮点数组,不能用其他模型生成的向量混用。
配置混元大模型服务并启动问答服务
第一步:获取混元API密钥
访问 腾讯云混元控制台 → API密钥管理 → 创建新密钥 → 复制 SecretId 与 SecretKey。
第二步:填写配置文件
编辑 conf/config.ini,在 [model] 区块下填入:secret_id = AKIDxxxsecret_key = xxxaddress = api.hunyuan.cloud.tencent.commodel = hunyuan-pro(生产环境首选,响应快、推理稳)。
第三步:启动服务
执行 python3 app.py 启动Flask服务,默认监听 0.0.0.0:5000;此时访问 http://[CVM内网IP]:5000 即可打开Web问答界面。
第四步:验证首条问答
在输入框中输入「向量数据库如何开通外网?」→点击提交→后台自动执行:向量检索(查出最相关的3个文档片段)→拼接为上下文→调用混元 /v1/chat/completions 接口生成自然语言答案→返回带来源标注的响应。











