Java 中多线程怎么在日志收集客户端中实现双缓冲队列并发写入

星敏君_8339

星敏君_8339

2026-08-28

472人浏览

原创

双缓冲队列通过两个缓冲区交替切换、单写线程消费和内存可见性保障,解耦日志生产与落盘。java中可用atomicreference+arraylist简易实现,或高吞吐下选用disruptor环形缓冲区。

java 中多线程怎么在日志收集客户端中实现双缓冲队列并发写入

在日志收集客户端中,用双缓冲队列实现多线程并发写入,核心是解耦“日志生产”和“日志落盘”,避免线程竞争 I/O 或锁争用。Java 中不直接提供双缓冲队列,但可基于 ArrayBlockingQueue、LinkedBlockingQueue 或无锁结构(如 Disruptor)自行构建逻辑双缓冲,关键在于**两个缓冲区交替切换 + 单写线程消费 + 内存可见性保障**。

双缓冲的基本结构与角色分工

双缓冲不是两个队列同时写,而是:一个缓冲区(Buffer A)供多个业务线程**无锁/低锁写入**,另一个缓冲区(Buffer B)由**单个异步刷盘线程独占消费并清空**;当 A 满或定时触发时,原子交换 A 和 B 的引用,原 A 变成待刷盘,原 B 重置为新接收缓冲区。

  • 缓冲区通常用 ThreadLocal 配合环形数组(如 RingBuffer)或预分配 ArrayList 实现,避免频繁扩容和 GC
  • 交换操作必须是线程安全的,推荐用 AtomicReference 包装缓冲区引用
  • 缓冲区大小需权衡:太小导致频繁交换和上下文切换;太大增加延迟和内存占用(建议 4KB–64KB 日志条目容量)

用 AtomicReference + ArrayList 实现简易双缓冲

适合中小吞吐场景,代码清晰易维护:

public class DualBufferLogger {
    private final AtomicReference<list>> currentBuffer = new AtomicReference(new ArrayList());
    private final AtomicReference<list>> nextBuffer = new AtomicReference(new ArrayList());

    // 生产者:任意线程调用
    public void log(String msg) {
        List<logentry> buf = currentBuffer.get();
        buf.add(new LogEntry(System.currentTimeMillis(), msg));
        // 达到阈值,触发交换(非阻塞)
        if (buf.size() >= 1024) {
            swapBuffers();
        }
    }

    private void swapBuffers() {
        // 原 current 变成待消费,next 成为新 current
        List<logentry> toFlush = currentBuffer.getAndSet(nextBuffer.get());
        nextBuffer.set(toFlush); // 复用刚刷完的 list,清空它
        toFlush.clear(); // 注意:clear 不释放底层数组,避免重建
    }

    // 消费者:单独线程定期调用 flush()
    public void flush() {
        List<logentry> buf = currentBuffer.get();
        if (!buf.isEmpty()) {
            writeToFile(buf); // 批量写磁盘或发网络
            buf.clear();
        }
    }
}</logentry></logentry></logentry></list></list>

⚠️ 注意:clear() 后列表仍持有原数组引用,配合对象池可进一步减少 GC;若日志量极大,建议改用 ByteBuffer 或 Unsafe 直接操作堆外内存。

高吞吐场景:用 Disruptor 替代手动双缓冲

Log4j2 和 Kafka 客户端都用 Disruptor 实现高性能日志异步写入。它本质是带序号的环形缓冲区 + 无锁等待策略,天然支持多生产者单消费者模型:

  • 引入 disruptor-3.4.4.jar,定义 LogEvent 事件类
  • 创建 RingBuffer<logevent></logevent>(大小必须是 2 的幂),用 EventTranslator 批量发布日志
  • 绑定单个 BatchEventProcessor 消费,回调中批量序列化并写入文件或发送到 collector
  • 所有业务线程调用 ringBuffer.publishEvent(translator, logMsg) —— 无锁、无竞争、缓存友好

线程安全与可靠性补充要点

双缓冲本身不保证日志不丢失,需结合以下机制:

  • shutdown 优雅等待:JVM 关闭前调用 flush() 并等待消费线程处理完当前缓冲区
  • 异常兜底:消费线程捕获 I/O 异常后,应将失败日志降级写入本地临时文件,避免丢日志
  • 内存可见性:缓冲区交换必须用 AtomicReference 或 volatile 字段,禁止仅靠 synchronized 锁局部变量
  • 避免 String 拼接开销:日志参数建议延迟格式化(用 {} 占位符 + ParameterizedMessage),只在真正写入前才 toString

不复杂但容易忽略的是缓冲区生命周期管理——交换后旧缓冲不能被生产者继续写,也不能被消费者重复刷。用引用原子交换 + clear 复用 + 明确职责边界,就能在 Java 多线程下稳定支撑万级 QPS 日志采集。

Java免费学习笔记:立即使用
解锁 Java 大师之旅:从入门到精通的终极指南

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

java

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

2023.06.15

10517

6

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

2023.07.05

7642

9

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

2023.07.31

6672

8

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.01

1144

3

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

2023.08.02

928

3

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

1376

5

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

2023.08.02

2769

5

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

2023.08.03

20071

3

配置java环境变量
配置java环境变量

配置Java环境变量是为了让操作系统能够识别和使用Java的相关命令和功能。本专题为大家提供配置java环境变量相关文章,帮助大家解决问题。

2023.08.03

1235

8

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
dev.java 官方:Learn Java
dev.java 官方:Learn Java

共0课时 | 0人学习

Java JDBC数据库连接官方教程
Java JDBC数据库连接官方教程

共0课时 | 0人学习