火山引擎API怎么实现流式输出?

陌丽君_5382

陌丽君_5382

2026-08-06

710人浏览

原创

要实现实时逐字显示ai回复,后端必须支持流式输出:火山引擎需选用标注“支持流式响应”或含/stream路径的接口;fastapi可用streamingresponse封装异步流或手动构造sse格式;前端fetch需读取body.reader并逐帧解析json提取content追加显示。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 多模态理解力帮你轻松跨越从0到1的创作门槛☜☜☜

火山引擎api怎么实现流式输出?

要在前端页面上实时看到AI回复逐字出现,而不是等整段文字生成完才一次性显示,必须让后端API支持流式输出。火山引擎的多数大模型和语音类服务(如DeepSeek、豆包语音、双向TTS)原生提供流式能力,但需严格按协议封装响应,否则前端fetch拿不到分块数据。

确认服务是否支持流式

打开火山引擎控制台 → 进入对应服务(如「大模型推理」或「语音合成」)→ 查看API文档中是否明确标注“支持流式响应”或出现 【stream=true】 参数选项。若文档里只有 /v1/chat/completions 这类路径且无stream字段,说明该接入点不支持流式,需切换到标注了 bidirection 或 /stream 后缀的专用接口。

不支持流式的接入点强行加 stream=true 会导致400错误或静默失败,不会报错但前端收不到任何数据。

后端启用流式传输(以FastAPI为例)

方法一:使用StreamingResponse返回迭代器

在路由函数中,用async def定义接口,调用火山引擎SDK时传入 stream=True,再将返回的异步生成器包装为StreamingResponse:

from fastapi import Response
from fastapi.responses import StreamingResponse
import httpx

async def chat_stream():
 async with httpx.AsyncClient() as client:
  async with client.stream("POST", "https://ark.cn-beijing.volces.com/api/v4/chat/completions",
   headers={"Authorization": f"Bearer {VOLC_API_KEY}"},
   json={"model": "deepseek-chat", "messages": [...], "stream": True}) as resp:
   async for chunk in resp.aiter_bytes():
    yield chunk

方法二:手动构造SSE格式(兼容性更强)

火山引擎
火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

下载

若SDK不直接暴露流式迭代器,可手动解析火山引擎返回的每帧JSON,按Server-Sent Events标准拼接:

每条数据必须以 data: 开头,结尾双换行;遇到 [DONE] 时发送 event: close 并终止连接。

【关键】必须设置 response.headers["Content-Type"] = "text/event-stream; charset=utf-8",否则浏览器fetch会等待完整响应才触发ondata。

前端用fetch接收流式数据

第一步:发起fetch请求,指定method: 'POST',body携带含stream: true的JSON

第二步:获取response.body.getReader(),进入循环读取

第三步:对每次read()返回的value,用TextDecoder().decode()转成字符串,再用JSON.parse()提取content字段

注意:火山引擎流式响应中,每个chunk是独立JSON对象,不是JSON数组,不能一次性parse整个流。必须逐帧解码,否则会因JSON格式错误中断解析。

第四步:将提取出的文字追加到页面元素innerHTML末尾,实现打字机效果

大量免费API接口:立即使用
涵盖生活服务API、金融科技API、企业工商API、等相关的API接口服务。免费API接口可安全、合规地连接上下游,为数据API应用能力赋能!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
Vibeknow在线使用入口合集
Vibeknow在线使用入口合集

本专题汇总了Vibeknow在线创作视频的官方入口及网页版使用教程,涵盖PPT、PDF、Word等文档一键转讲解视频的核心操作,并整理了免费版水印规则与手机端浏览器访问指南,助你快速将知识内容视频化。

2026.09.21

0

20

NumPy随机数文件读写与dtype数据类型
NumPy随机数文件读写与dtype数据类型

本专题整理 NumPy 随机数、文件读写与 dtype 数据类型相关教程,覆盖 Generator/random、随机数种子、正态分布采样、npy/npz/CSV/TXT 保存读取、loadtxt/savetxt、memmap、大文件处理、astype 类型转换、结构化 dtype、整数溢出和精度丢失等场景。

2026.09.21

0

24

NumPy矩阵运算与线性代数计算
NumPy矩阵运算与线性代数计算

本专题整理 NumPy 矩阵运算与线性代数计算相关教程,覆盖矩阵乘法、dot 与 @ 运算符、逆矩阵、行列式、特征值与特征向量、SVD、线性方程组、欧氏距离、矩阵分解和大规模矩阵性能优化等内容,帮助读者掌握 np.linalg 与矩阵计算实战。

2026.09.21

0

20

NumPy广播机制数学运算与统计分析
NumPy广播机制数学运算与统计分析

本专题整理 NumPy 广播机制、数组数学运算与统计分析相关教程,覆盖广播规则、维度对齐、矩阵与数组加减除法、向量化计算、均值方差、分位数、中位数、直方图和 unique 频次统计等场景,帮助读者掌握 ndarray 高效计算与统计处理方法。

2026.09.21

0

17

NumPy数组创建索引切片与数据选择
NumPy数组创建索引切片与数据选择

本专题整理 NumPy 数组创建、索引、切片与数据选择相关教程,覆盖 np.array、zeros/ones、多维数组形状、基础切片、花式索引、布尔索引、条件筛选、视图与副本等常用场景,帮助读者系统掌握 ndarray 数据构造与高效提取方法。

2026.09.21

0

12

Aionclaw智能助手介绍
Aionclaw智能助手介绍

本专题汇总了AionClaw(AI龙虾助手)的功能介绍与在线使用入口。AionClaw是杭州趣猿人工智能有限公司推出的桌面级AI智能体,能直接在电脑上读写文件、运行脚本、操作浏览器,自动交付Word、PPT、Excel等成品。

2026.09.20

20

13

AionClaw AI智能体与电脑自动化任务执行功能使用教程
AionClaw AI智能体与电脑自动化任务执行功能使用教程

AionClaw专题整理AI智能体与电脑自动化相关功能使用教程,涵盖安装部署、AI任务执行、Skills技能、文件处理、浏览器控制、电脑操作、持久记忆、聊天工具连接以及办公、编程和内容创作等功能,帮助用户快速掌握AionClaw的实际使用方法。

2026.09.20

0

15

AI视频生成软件推荐
AI视频生成软件推荐

本专题汇总了当前主流的AI视频生成软件推荐与排行榜单,涵盖seko、AniShort、剧云、Lovart、LiblibAI及立刻mv等热门工具。同时整理了各软件在文生视频、图生视频、时长限制、画质表现及免费额度等方面的差异对比,助您快速选对适合创作需求的AI视频生成工具。

2026.09.16

200

9

ai生成视频的工具免费版合集
ai生成视频的工具免费版合集

本专题汇总了当前免费AI生成视频工具的排行榜与推荐清单,涵盖seko、讯飞智作、AniShort及剧云、Lovart等多模型集成平台。同时整理了各工具的免费额度、输出时长、水印政策及适用场景差异,助您快速选择合适工具开启AI视频创作。

2026.09.16

100

10

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
腾讯元宝使用手册
腾讯元宝使用手册

共0课时 | 0人学习

DeepSeek手册
DeepSeek手册

共0课时 | 0人学习

豆包AI手册
豆包AI手册

共0课时 | 0人学习