千问AI API怎么开启流式输出?

雨丽大大_3075

雨丽大大_3075

2026-08-06

843人浏览

原创

要实现千问ai回复的打字机效果,必须开启流式输出:api调用需设stream:true,后端按sse协议返回data:xxx\n\n格式数据,前端用eventsource或fetch+readablestream接收并逐字符渲染。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

千问ai api怎么开启流式输出?

你想让千问AI的回复像打字机一样逐字出现,而不是等十几秒后突然弹出整段文字,就必须开启流式输出功能。这需要前后端协同配置,缺一不可,且任意一环设置错误都会导致流式失效,变成传统“卡顿式”响应。

确认API接口支持stream参数

调用千问API时,必须显式传入 【stream: true】 字段,否则服务端默认按非流式模式处理,即使你前端用EventSource监听也收不到分块数据。

使用 DashScope SDK 时,在 Generation.call() 中添加 stream=True 参数;若直接调用 REST API,则需在 JSON 请求体中加入 "stream": true 字段。

注意:不是所有模型都支持流式。qwen-turbo、qwen-plus、qwen-max 均支持,但 qwen-14b-chat 等部分开源模型镜像可能不支持,调用前请查阅对应模型文档。

后端返回必须符合SSE协议格式

方法一:使用 Spring Boot + SseEmitter

控制器方法需标注 produces = MediaType.TEXT_EVENT_STREAM_VALUE,并返回 SseEmitter 对象;每次调用 emitter.send(SseEmitter.event().data(chunk)) 推送文本块;最后必须调用 emitter.complete() 关闭连接,否则浏览器会一直等待。

方法二:使用 Python FastAPI + StreamingResponse

定义生成器函数,每 yield 一个字符串片段(如 yield f"data: {text}\n\n"),并设置 response_media_type="text/event-stream";关键点是每段数据末尾必须有 【两个连续换行符 \n\n】,否则前端 EventSource 无法正确解析事件边界。

方法三:Node.js 代理层手动构造

Unified LLM Gateway - One API for 70+ AI models. Route to GPT, Claude, Gemini, Qwen, Deepseek, Grok and more
Unified LLM Gateway - One API for 70+ AI models. Route to GPT, Claude, Gemini, Qwen, Deepseek, Grok and more

统一LLM网关 - 一个API对接70+AI模型,使用单一API密钥即可调用GPT、Claude、Gemini、Qwen、Deepseek、Grok等主流模型。

下载

设置 res.writeHead(200, { 'Content-Type': 'text/event-stream', 'Cache-Control': 'no-cache', 'Connection': 'keep-alive' }); 向客户端 write 数据时,严格按 data:xxx\n\n 格式输出;务必调用 res.flush() 强制推送,否则数据会滞留在缓冲区。

前端接收与渲染流式数据

第一步:选择通信方式

若后端端点只支持 GET 且无需认证头,用原生 EventSource 最简单:const es = new EventSource('/api/stream');

第二步:处理跨域与认证

如果需要携带 Authorization 或 Cookie,EventSource 无法满足——它不支持自定义 headers。此时必须改用 fetch + ReadableStream:发起 POST 请求时带上 headers,再通过 response.body.getReader() 读取流。

第三步:逐块解码与清理

服务端推送的 data:hello\n\n 需要去掉 data: 前缀和末尾 \n\n;用 TextDecoder.decode(chunk.value, {stream: true}) 解码 UTF-8;遇到空行或重复 data: 字段要跳过,否则会导致 DOM 插入乱码。

第四步:实现打字机效果

不要直接把整块文本 append 到页面——那样就失去流式意义。应将每个 chunk 拆成单字符或按中文标点切分,用 requestAnimationFrame 控制插入节奏,避免阻塞渲染线程。

大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
NumPy广播机制数学运算与统计分析
NumPy广播机制数学运算与统计分析

本专题整理 NumPy 广播机制、数组数学运算与统计分析相关教程,覆盖广播规则、维度对齐、矩阵与数组加减除法、向量化计算、均值方差、分位数、中位数、直方图和 unique 频次统计等场景,帮助读者掌握 ndarray 高效计算与统计处理方法。

2026.09.21

0

17

NumPy数组创建索引切片与数据选择
NumPy数组创建索引切片与数据选择

本专题整理 NumPy 数组创建、索引、切片与数据选择相关教程,覆盖 np.array、zeros/ones、多维数组形状、基础切片、花式索引、布尔索引、条件筛选、视图与副本等常用场景,帮助读者系统掌握 ndarray 数据构造与高效提取方法。

2026.09.21

0

12

Aionclaw智能助手介绍
Aionclaw智能助手介绍

本专题汇总了AionClaw(AI龙虾助手)的功能介绍与在线使用入口。AionClaw是杭州趣猿人工智能有限公司推出的桌面级AI智能体,能直接在电脑上读写文件、运行脚本、操作浏览器,自动交付Word、PPT、Excel等成品。

2026.09.20

20

13

AionClaw AI智能体与电脑自动化任务执行功能使用教程
AionClaw AI智能体与电脑自动化任务执行功能使用教程

AionClaw专题整理AI智能体与电脑自动化相关功能使用教程,涵盖安装部署、AI任务执行、Skills技能、文件处理、浏览器控制、电脑操作、持久记忆、聊天工具连接以及办公、编程和内容创作等功能,帮助用户快速掌握AionClaw的实际使用方法。

2026.09.20

0

15

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

2026.09.16

180

9

ai生成视频的工具免费版合集
ai生成视频的工具免费版合集

本专题汇总了当前免费AI生成视频工具的排行榜与推荐清单,涵盖seko、讯飞智作、AniShort及剧云、Lovart等多模型集成平台。同时整理了各工具的免费额度、输出时长、水印政策及适用场景差异,助您快速选择合适工具开启AI视频创作。

2026.09.16

100

10

Pandas时间序列分析与可视化报表
Pandas时间序列分析与可视化报表

本专题整理Pandas日期转换、时间索引、重采样、滚动窗口、时区处理、plot绘图、Styler表格样式和报表输出方法。

2026.09.16

80

23

Pandas数据筛选索引与清洗处理
Pandas数据筛选索引与清洗处理

本专题整理Pandas中的loc、iloc、条件筛选、query查询、缺失值处理、重复值删除、类型转换和字符串列清洗方法。

2026.09.16

60

25

Pandas数据读取导入与文件导出处理
Pandas数据读取导入与文件导出处理

本专题整理Pandas读取CSV、Excel、JSON、SQL、Parquet等文件的方法,以及to_csv、to_excel、to_sql和to_parquet等常用数据导出流程。

2026.09.16

40

27

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
通义千问基本用法
通义千问基本用法

共1课时 | 220人学习

通义千问的提示词工程
通义千问的提示词工程

共1课时 | 245人学习