c++如何过滤文本文件中的非法字符_isprint函数与流过滤【实战】

轻强同学_5830

轻强同学_5830

2026-04-04

398人浏览

原创

_isprint不能安全用于utf-8文本过滤,因其仅识别ascii可打印字符(0x20–0x7e),会将utf-8多字节序列的中间字节误判为控制符而删除,导致乱码。

c++如何过滤文本文件中的非法字符_isprint函数与流过滤【实战】

直接说结论:_isprint 不能安全用于 UTF-8 文本过滤,它只认单字节 ASCII 可打印字符(0x20–0x7E),遇到 UTF-8 多字节序列会把中间字节误判为控制符而删掉,导致乱码。真要过滤非法字符,得先明确“非法”定义——是剔除非 ASCII?还是保留 Unicode 字母/数字/标点?或是仅允许特定编码范围?

为什么 _isprint 在文件流中容易出错

Windows 下的 _isprint(或标准 isprint)本质是查一张 256 字节的静态表,对每个 unsigned char 做查表判断。它完全不理解 UTF-8 编码结构:

  • UTF-8 中汉字如 “你” 编码为 0xE4 0xBD 0xA0,三个字节各自落在 0x80–0xFF 区间,_isprint 查表返回 false,全被当“非法”干掉
  • 哪怕只是过滤掉 \0 或 \x01–\x08 这类真正危险的控制字符,用 _isprint 也会误杀 0x80–0x9F 等合法 UTF-8 续字节
  • 跨平台时更糟:Linux 的 isprint 默认 locale 是 C,行为同 _isprint;若 locale 设为 en_US.UTF-8,则依赖 wcwidth 等机制,但 std::istream 读出的仍是 char,无法直接喂给宽字符函数

安全过滤的两种务实做法

按实际需求选:如果只要“非控制、非空格、非删除”的基础可显示性,且确定输入是纯 ASCII 或 Latin-1,可用 std::isprint + static_cast<unsigned char></unsigned>;否则必须按 UTF-8 解码后判断。

  • 场景一:只处理 ASCII 日志/配置文件(无中文、无 emoji)
    逐字节读取,跳过 !std::isprint(static_cast<unsigned char>(c)) && !std::isspace(static_cast<unsigned char>(c))</unsigned></unsigned> 的字符(注意:保留空格、换行等空白符)
  • 场景二:需支持 UTF-8 文本(如用户输入、网页内容)
    用轻量 UTF-8 解码器(如 utf8cpp)逐字符解码:utf8::next(p, end) 返回 char32_t,再用 std::iswprint(c32) 判断;避免自己手写 UTF-8 解码逻辑——边界条件极难覆盖全
  • 别碰 std::locale + std::use_facet<:ctype>></:ctype>:它在多数编译器实现中对 UTF-8 支持不可靠,且性能差,实测易崩溃

流式过滤的代码骨架(ASCII 安全版)

下面是最小可行示例,用 std::ifstream 读取、std::ofstream 写入,不缓存整文件,适合大文件:

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
#include <fstream>
#include <cctype>

void filter_ascii_printable(const std::string& in_path, const std::string& out_path) {
    std::ifstream fin(in_path, std::ios::binary);
    std::ofstream fout(out_path, std::ios::binary);
    char c;
    while (fin.get(c)) {
        unsigned char uc = static_cast<unsigned char>(c);
        // 保留空格、制表、换行、回车,只过滤真正不可见控制符
        if (std::isprint(uc) || std::isspace(uc)) {
            fout.put(c);
        }
        // 其他字节(如 \0, \x01–\x08, \x0B–\x0C, \x0E–\x1F)被跳过
    }
}
</unsigned></cctype></fstream>

关键点:std::ios::binary 防止 Windows 下 \r\n 被自动转换;static_cast<unsigned char></unsigned> 避免 char 为 signed 时传入负值导致 isprint 行为未定义。

最容易被忽略的坑

很多人以为“过滤非法字符=留可打印+删控制符”,但实际业务中常漏掉三类东西:

  • \r 和 \n 是否算“非法”?日志分析可能需要保留换行,而数据库导入可能要求单行字符串——得看下游系统
  • BOM(0xEF 0xBB 0xBF)在 UTF-8 文件开头:它本身不是控制符,但某些解析器会报错;是否过滤要显式判断前三个字节
  • 零宽字符(如 U+200B 零宽空格)在 std::iswprint 下返回 true,但实际会导致文本渲染异常或 SQL 注入绕过——这类需白名单式过滤,而非依赖 isprint

没有银弹。先定义清楚“非法”到底指什么,再选工具;别让 _isprint 成为 UTF-8 文本的隐形破坏者。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

c++速学教程(入门到精通)
c++速学教程(入门到精通)

c++怎么学习?c++怎么入门?c++在哪学?c++怎么学才快?不用担心,这里为大家提供了c++速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
数据分析工具有哪些
数据分析工具有哪些

数据分析工具有Excel、SQL、Python、R、Tableau、Power BI、SAS、SPSS和MATLAB等。详细介绍:1、Excel,具有强大的计算和数据处理功能;2、SQL,可以进行数据查询、过滤、排序、聚合等操作;3、Python,拥有丰富的数据分析库;4、R,拥有丰富的统计分析库和图形库;5、Tableau,提供了直观易用的用户界面等等。

2023.10.12

4363

8

SQL中distinct的用法
SQL中distinct的用法

SQL中distinct的语法是“SELECT DISTINCT column1, column2,...,FROM table_name;”。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2023.10.27

911

4

SQL中months_between使用方法
SQL中months_between使用方法

在SQL中,MONTHS_BETWEEN 是一个常见的函数,用于计算两个日期之间的月份差。想了解更多SQL的相关内容,可以阅读本专题下面的文章。

2024.02.23

1129

5

SQL出现5120错误解决方法
SQL出现5120错误解决方法

SQL Server错误5120是由于没有足够的权限来访问或操作指定的数据库或文件引起的。想了解更多sql错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

6281

10

sql procedure语法错误解决方法
sql procedure语法错误解决方法

sql procedure语法错误解决办法:1、仔细检查错误消息;2、检查语法规则;3、检查括号和引号;4、检查变量和参数;5、检查关键字和函数;6、逐步调试;7、参考文档和示例。想了解更多语法错误的相关内容,可以阅读本专题下面的文章。

2024.03.06

3103

4

oracle数据库运行sql方法
oracle数据库运行sql方法

运行sql步骤包括:打开sql plus工具并连接到数据库。在提示符下输入sql语句。按enter键运行该语句。查看结果,错误消息或退出sql plus。想了解更多oracle数据库的相关内容,可以阅读本专题下面的文章。

2024.04.07

6260

11

sql中where的含义
sql中where的含义

sql中where子句用于从表中过滤数据,它基于指定条件选择特定的行。想了解更多where的相关内容,可以阅读本专题下面的文章。

2024.04.29

8481

6

sql中删除表的语句是什么
sql中删除表的语句是什么

sql中用于删除表的语句是drop table。语法为drop table table_name;该语句将永久删除指定表的表和数据。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1150

5

sql中删除一列的命令是什么
sql中删除一列的命令是什么

在sql中,使用alter table语句可以删除一列,语法为:alter table table_name drop column column_name。想了解更多sql的相关内容,可以阅读本专题下面的文章。

2024.04.29

1012

5

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
C++ Core Guidelines
C++ Core Guidelines

共0课时 | 0人学习

C++ Reference
C++ Reference

共0课时 | 0人学习

C++ 官方标准说明
C++ 官方标准说明

共0课时 | 0人学习