如何用Workerman开发类似于ChatGPT的打字机流式(SSE)前端输出?

心靈之曲

心靈之曲

2026-05-21

493人浏览

原创

workerman可通过httpserver实现sse流式响应,关键在于正确设置text/event-stream头、禁用输出缓冲、每条data:后跟双换行,并手动flush;不可用websocket或worker::onmessage处理。

如何用workerman开发类似于chatgpt的打字机流式(sse)前端输出?

Workerman 本身不内置 SSE 支持,但能轻松实现符合 SSE 协议的流式响应——关键不是“用 Workerman 做 ChatGPT”,而是用它稳定地、低延迟地把后端生成的文本 chunk 按 data: + event: + id: 格式逐块推给前端。SSE 在 Workerman 中是纯 HTTP 长连接控制问题,不是 WebSocket 也不是 SocketIO。

为什么不能直接用 Worker::onMessage 处理 SSE?

SSE 是 HTTP 协议行为,必须走 HttpServer,而非 WorkerWebsocketServer。常见错误是把 SSE 接口写在 WebSocket 回调里,结果前端收不到任何 text/event-stream 响应,只看到空白或 CORS 错误。

  • HttpServer 才能正确设置 Content-Type: text/event-stream 和禁用缓冲(ob_end_flush() + flush()
  • 必须手动禁用 output buffering:Workerman 默认启用 output_buffering,会导致 chunk 积压,前端卡住不动
  • 每个 data: 行末必须有双换行 \n\n,少一个就解析失败

如何在 HttpServer 中正确发送流式 chunk?

核心是保持连接不关闭、分段输出、及时刷新。以下是最简可用逻辑(PHP 8.0+,Workerman 4.1+):

面向设计的AXUI前端框架表单
面向设计的AXUI前端框架表单

面向设计的AXUI前端框架表单是一款包含表格、列表、弹窗等的AXUI前端框架表单下载。

下载
use Workerman\Worker;
use Workerman\Connection\TcpConnection;

$http_worker = new Worker('http://0.0.0.0:8080');
$http_worker->onMessage = function ($connection, $request) {
    // 必须设置 SSE 头,且禁止缓存
    $connection->header('Content-Type', 'text/event-stream; charset=utf-8');
    $connection->header('Cache-Control', 'no-cache');
    $connection->header('Connection', 'keep-alive');
    $connection->header('X-Accel-Buffering', 'no'); // Nginx 兼容

    // 禁用 PHP 输出缓冲(关键!)
    if (function_exists('ob_end_clean')) {
        @ob_end_clean();
    }

    // 发送初始空事件(可选,避免 Safari 首帧延迟)
    $connection->send("event: init\nid: 0\ndata: \n\n");

    // 模拟 LLM 流式生成(实际替换为你的模型调用)
    $chunks = ['Hello', ', ', 'world', '!', ' This is streamed.'];
    $id = 1;
    foreach ($chunks as $chunk) {
        // 每个 chunk 必须按 SSE 格式封装
        $msg = "id: {$id}\nevent: message\ndata: " . str_replace("\n", "\ndata: ", $chunk) . "\n\n";
        $connection->send($msg);
        $id++;

        // 强制刷新到客户端(否则可能积压在 TCP 缓冲区)
        $connection->flush();

        // 模拟生成延迟(真实场景中这里是你调用模型的耗时)
        usleep(300000); // 300ms
    }

    // 结束标记(可选)
    $connection->send("event: done\ndata: [DONE]\n\n");
    $connection->close(); // 主动关闭连接
};

前端用 EventSource 接收时要注意什么?

浏览器原生 EventSource 对格式极其敏感,稍错就静默失败。常见掉坑点:

  • 后端路径必须支持 GET(EventSource 只发 GET),且不能带复杂 query(某些代理会截断)
  • 如果后端返回非 200 OK(比如 502/504),EventSource 会自动重连,但不会报错——需监听 error 事件并检查 eventSource.readyState
  • data: 内容若含换行,必须拆成多行并每行加 data: 前缀(见上例中的 str_replace
  • 不要用 fetch + ReadableStream 替代 EventSource:Safari 对 fetch 流式响应的支持不稳定,EventSource 是唯一跨浏览器可靠的 SSE 方案

生产环境必须关掉的几个默认行为

Workerman 开箱即用的配置对 SSE 不友好,上线前务必确认:

  • Worker::$maxRequest 默认为 0(不限制),但 SSE 连接是长连接,建议设为 0(保持)或合理值(如 300),避免被误回收
  • Worker::$reusePort 设为 true 可提升并发吞吐,但需确认系统支持(Linux 3.9+)
  • Nginx 作为反向代理时,必须添加:proxy_buffering off;proxy_cache off;proxy_http_version 1.1;,否则 chunk 会被缓存住
  • 超时时间:Nginx 的 proxy_read_timeout 至少设为 300,Workerman 的 $connection->timeout 也要同步延长

真正难的不是发几行 data:,而是让每个 chunk 在 100ms 内从模型输出 → Workerman 缓冲 → TCP 发送 → 浏览器解析完成。中间任意一环缓冲未关、头未设对、代理未配妥,都会导致“看起来没流式”。先跑通最简示例,再一层层加模型、加 token 统计、加错误重试——别一上来就堆 stream=true 参数和 LLM::generate() 封装。

前端入门到VUE实战笔记:立即使用
在学习笔记中,你将探索 前端 的入门与实战技巧!

相关专题

更多
python是前端还是后端
python是前端还是后端

Python属于前端也属于后端,其灵活性和丰富的生态系统使得开发人员能够在不同的领域中灵活运用。本专题为大家提供python相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.11

1111

5

前端如何实现即时通讯
前端如何实现即时通讯

实现即时通讯的方法有WebSocket、Long Polling、Server-Sent Events、WebRTC等等。详细介绍:1、WebSocket,它可以在客户端和服务器之间建立持久连接,实现实时的双向通信,前端可以使用 WebSocket API来创建WebSocket连接,并通过发送和接收消息来实现即时通讯;2、Long Polling,是一种模拟实时通信的技术等等。

2023.10.09

2262

6

前端和后端的区别
前端和后端的区别

前端关注的是用户界面的设计和交互,而后端则注重数据处理和逻辑控制。想了解更多前端后端的相关内容,可以阅读本专题下面的文章。

2024.03.19

2132

13

php和前端的关联介绍
php和前端的关联介绍

php既可以作为前端语言,也可以作为后端语言。想了解更多php和前端的相关内容,可以阅读本专题下面的文章。

2024.03.22

2322

10

前端外包工作内容有哪些
前端外包工作内容有哪些

前端外包工作内容包括:1. 网站和应用程序开发;2. 用户界面和交互设计;3. 用户体验优化;4. 设计和视觉开发;5. 跨浏览器兼容性;6. 性能优化;7. 维护和更新;8. 项目管理和沟通。想了解更多前端的相关内容,可以阅读本专题下面的文章。

2024.05.22

336

5

php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2023.09.01

5528

6

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

3630

5

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.11

1808

5

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

2023.10.23

2294

4

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程