C++实现海量数据去重Bitmap算法及其空间开销优化与查找提升逻辑【源码】

夏枫吖_4097

夏枫吖_4097

2026-05-29

604人浏览

原创

bitmap算法可将十亿级整数去重压缩至125mb以内并支持o(1)查重:1. 按范围计算字节数(如[0,10⁹)需125mb);2. 封装bitmap类,用uint64_t数组+位运算实现set/get;3. 通过分段、roaring bitmap、热区优化节省空间;4. 利用cache对齐、popcnt指令和l1缓存提升性能。

c++实现海量数据去重bitmap算法及其空间开销优化与查找提升逻辑【源码】

用C++处理十亿级整数去重时,内存爆满、哈希表太慢、排序+双指针无法流式处理——此时必须用Bitmap算法把10⁹个int压缩进125MB以内,并支持O(1)查重。

Bitmap基础实现:用bit位代替bool数组

第一步:计算所需字节数。32位有符号整数范围是[-2147483648, 2147483647],共2³²个值,但实际常用非负整数场景只需覆盖[0, N),N取最大可能值;若已知数据全在[0, 1000000000),则申请ceil(1000000000/8) = 125000000字节(约119.2MB)。

第二步:封装Bitmap类,用vector存储,下标i对应第i个bit;设bit位置为index,则byte索引为index / 8,位偏移为index % 8。

第三步:set操作写入bit:data[index / 8] |= (1U 【index必须是非负整数且小于capacity,越界访问不检查】。

空间开销优化:动态分段+稀疏位图压缩

方法一:按数据分布切分成多个子Bitmap。例如将[0, 10⁹)划为1000段,每段10⁶范围,只对实际出现过数据的段分配内存;用unordered_map>管理,key为段起始编号(如段i覆盖[i×10⁶, (i+1)×10⁶))。

方法二:对空段完全跳过,对稀疏段改用roaring bitmap逻辑——内部用container(16位整数数组)替代原始bit数组,当container内数值个数

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载

方法三:若数据集中在某几个区间(如日志时间戳集中在最近7天),可先做预扫描统计热区,仅对热区启用高精度Bitmap,冷区用布隆过滤器粗筛+外部磁盘归并去重。这一步节省空间最显著,但需额外I/O调度逻辑。

查找性能提升:并行位操作+缓存友好布局

① 将Bitmap内存按64字节对齐(_aligned_malloc或posix_memalign),确保每次cache line加载能覆盖8个连续uint64_t;

② 把uint8_t数组改为uint64_t数组,一次处理64个bit:set操作用mask = UINT64_C(1)

③ 查找时用popcnt指令加速:if (__builtin_popcountll(word) == 0) continue; 跳过全零word,避免逐bit扫描;

④ 对高频查询场景,在Bitmap外层加一级L1缓存哈希表,缓存最近10000次get结果(key=index, value=bool),命中直接返回,避免访存——但【该缓存需配合LRU淘汰,否则内存泄漏】。

完整可运行源码(含main测试)

#include
​#include
​#include
​#include
​#include
​using namespace std;
​class Bitmap {
​private:
​ vector data;
​ size_t capacity_bits;
​public:
​ explicit Bitmap(size_t n) : capacity_bits(n), data((n + 63) / 64, 0) {}
​ void set(size_t index) {
​ assert(index ​ size_t word_idx = index / 64;
​ uint64_t bit_mask = UINT64_C(1) ​ data[word_idx] |= bit_mask;
​ }
​ bool get(size_t index) const {
​ assert(index ​ size_t word_idx = index / 64;
​ uint64_t bit_mask = UINT64_C(1) ​ return (data[word_idx] & bit_mask) != 0;
​ }
​};
​int main() {
​ const size_t N = 100000000ULL;
​ Bitmap bm(N);
​ for (size_t i = 0; i ​ auto start = chrono::steady_clock::now();
​ size_t count = 0;
​ for (size_t i = 0; i ​ auto end = chrono::steady_clock::now();
​ cout (end - start).count() ​ return 0;
​}

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2248

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1019

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

427

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

327

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

406

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

580

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1409

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1217

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习