c++如何实现文本文件内敏感词的DFA过滤算法【深度】

风杰酱_1106

风杰酱_1106

2026-04-11

161人浏览

原创

直接用std::string::find过滤敏感词时间复杂度高(o(n×m×k))、不支持重叠匹配、最长匹配优先及增量扫描;ac自动机通过dfa状态机+fail指针+bfs构建+utf-8正确处理,实现o(n)单次扫描与上下文回调。

c++如何实现文本文件内敏感词的dfa过滤算法【深度】

为什么不用 std::string::find 做敏感词过滤

直接循环调用 std::string::find 查每个词,时间复杂度是 O(n×m×k),n 是文本长度,m 是敏感词平均长度,k 是词表大小。10 万字文本 + 500 个敏感词,很容易卡在百毫秒以上,且无法支持「重叠匹配」(如“法轮”和“轮功”需同时命中)或「最长匹配优先」这类业务规则。
更关键的是:它不支持增量扫描——比如日志流、网络包分片到达时,你没法只传入一段新数据就继续上次状态。

DFA 状态机的核心结构怎么建(C++17 实现)

用 std::unordered_map<char size_t></char> 表示每个状态的转移边,配合 std::vector 存所有状态。终态额外标记是否为「输出节点」及对应敏感词索引(支持多词同路径结尾,如“苹果”和“苹果手机”):

struct DfaState {
    std::unordered_map<char size_t> next;
    std::vector<size_t> output; // 匹配到的词下标
    bool is_fail = false; // 是否为 fail 状态(用于构建 fail 指针)
};
std::vector<dfastate> states(1); // 状态 0 是 root
</dfastate></size_t></char>

插入词时逐字符走当前路径,不存在则新建状态;结尾处往 output push_back 词 ID。注意:中文需按 char 处理会出错——必须先转 UTF-8 字节流再建图,或改用 uint32_t + std::u32string(后者更稳但内存翻倍)。

如何正确构建 AC 自动机的 fail 指针

AC 自动机本质是带 fail 边的 DFA,否则遇到失配就只能回退重试,失去线性性能。构建时用 BFS(不是 DFS),从 root 出发:

  • root 的所有子节点的 fail 指向 root
  • 对每个节点 u,遍历其子节点 v(对应字符 c):若 u 的 fail 节点存在边 c 指向 w,则 v 的 fail 指向 w;否则继续跳 fail 直到 root 或找到该边
  • 合并 output:v->output.insert(end, v->fail->output.begin(), v->fail->output.end()) —— 这步不能漏,否则短词匹配不到

常见坑:fail 指针构建后没做 output 合并;BFS 队列里忘了 push 新建的子节点;用递归模拟 BFS 导致栈溢出(词表大时状态数轻松过万)。

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

单次扫描如何做到 O(n) 且支持上下文回调

扫描时维护当前状态 ID,每读一个字节(UTF-8 下可能需预解析成 codepoint)就跳转:

size_t state = 0;
for (size_t i = 0; i second : 0;
<pre class="brush:php;toolbar:false;">for (size_t idx : states[state].output) {
    callback(idx, i - utf8_len(cp), i); // 传入词ID、起始/结束字节偏移
}

}

注意三点:
– utf8_decode 必须返回合法 codepoint,非法字节序列要统一映射为 U+FFFD 或跳过,否则状态机崩;
– fail 回退必须用 while(不是 if),因为 fail 链可能多层;
– 回调函数里不要做耗时操作(如 IO、正则),否则拖慢整个扫描;如需替换,建议只记录 offset+length,批量后处理。

真正难的不是建图,而是把 UTF-8 边界、fail 合并、增量恢复(断点续扫)、内存局部性(std::vector 连续分配比指针树快 3 倍)这几件事全压进一个稳定接口里——多数人栽在 UTF-8 和 fail 合并上,而不是算法本身。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
string转int
string转int

在编程中,我们经常会遇到需要将字符串(str)转换为整数(int)的情况。这可能是因为我们需要对字符串进行数值计算,或者需要将用户输入的字符串转换为整数进行处理。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

2023.08.02

6499

3

while的用法
while的用法

while的用法是“while 条件: 代码块”,条件是一个表达式,当条件为真时,执行代码块,然后再次判断条件是否为真,如果为真则继续执行代码块,直到条件为假为止。本专题为大家提供while相关的文章、下载、课程内容,供大家免费下载体验。

2023.09.25

354

5

C++ 智能指针与现代内存管理
C++ 智能指针与现代内存管理

深入讲解 C++ 现代内存管理的核心工具——智能指针,涵盖 unique_ptr 独占所有权语义、shared_ptr 引用计数机制与循环引用问题、weak_ptr 弱引用的应用场景、make_unique/make_shared 工厂函数的性能优势、自定义删除器的编写、RAII 资源管理思想的实践,以及从裸指针迁移到智能指针的重构策略,帮助开发者编写安全无泄漏的现代 C++ 代码。

2026.04.23

359

31

硬盘接口类型介绍
硬盘接口类型介绍

硬盘接口类型有IDE、SATA、SCSI、Fibre Channel、USB、eSATA、mSATA、PCIe等等。详细介绍:1、IDE接口是一种并行接口,主要用于连接硬盘和光驱等设备,它主要有两种类型:ATA和ATAPI,IDE接口已经逐渐被SATA接口;2、SATA接口是一种串行接口,相较于IDE接口,它具有更高的传输速度、更低的功耗和更小的体积;3、SCSI接口等等。

2023.10.19

3168

3

PHP接口编写教程
PHP接口编写教程

本专题整合了PHP接口编写教程,阅读专题下面的文章了解更多详细内容。

2025.10.17

4969

12

php8.4实现接口限流的教程
php8.4实现接口限流的教程

PHP8.4本身不内置限流功能,需借助Redis(令牌桶)或Swoole(漏桶)实现;文件锁因I/O瓶颈、无跨机共享、秒级精度等缺陷不适用高并发场景。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2025.12.29

3789

9

java接口相关教程
java接口相关教程

本专题整合了java接口相关内容,阅读专题下面的文章了解更多详细内容。

2026.01.19

466

15

堆和栈的区别
堆和栈的区别

堆和栈的区别:1、内存分配方式不同;2、大小不同;3、数据访问方式不同;4、数据的生命周期。本专题为大家提供堆和栈的区别的相关的文章、下载、课程内容,供大家免费下载体验。

2023.07.18

5947

5

堆和栈区别
堆和栈区别

堆(Heap)和栈(Stack)是计算机中两种常见的内存分配机制。它们在内存管理的方式、分配方式以及使用场景上有很大的区别。本文将详细介绍堆和栈的特点、区别以及各自的使用场景。php中文网给大家带来了相关的教程以及文章欢迎大家前来学习阅读。

2023.08.10

2528

6

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习