C++如何实现字符串的各种编码转换

梦磊吖_6172

梦磊吖_6172

2026-05-30

783人浏览

原创

windows用multibytetowidechar/widechartomultibyte(codepage=936/cp_utf8),linux/macos用iconv(编码名严格匹配),std::codecvt和std::wstring_convert已弃用,应避免使用。

c++如何实现字符串的各种编码转换

Windows平台用MultiByteToWideChar和WideCharToMultiByte做GBK/UTF-8互转

Windows API 提供的这两个函数是本地化编码转换最稳妥的选择,绕过C++标准库的模糊抽象,直接对接系统代码页。关键不是“能不能转”,而是选对CodePage参数:CP_UTF8对应UTF-8,936对应GBK(简体中文),CP_ACP则读取当前系统ANSI代码页(通常是GBK)。

常见错误是传错缓冲区长度:输入字符串长度按字节计,但WideCharToMultiByte的cchWideChar参数要传宽字符数(即wstr.length()),而MultiByteToWideChar的cbMultiByte要传多字节字符串字节数(不是strlen,得用mbstowcs(nullptr, str.c_str(), 0)预估或直接传-1含结尾\0)。另外,目标缓冲区必须预留足够空间,UTF-8转宽字符时单个汉字最多占3字节→2宽字符,GBK转UTF-8时单个汉字2字节→3字节,别硬算固定倍数。

示例:GBK字符串转UTF-8

std::string gbk_to_utf8(const std::string& gbk) {
    int wlen = MultiByteToWideChar(936, 0, gbk.c_str(), -1, nullptr, 0);
    std::vector<wchar_t> wbuf(wlen);
    MultiByteToWideChar(936, 0, gbk.c_str(), -1, wbuf.data(), wlen);

    int ulen = WideCharToMultiByte(CP_UTF8, 0, wbuf.data(), -1, nullptr, 0, nullptr, nullptr);
    std::vector<char> ubuf(ulen);
    WideCharToMultiByte(CP_UTF8, 0, wbuf.data(), -1, ubuf.data(), ulen, nullptr, nullptr);
    return std::string(ubuf.data());
}</char></wchar_t>

Linux/macOS用iconv处理UTF-8/GB18030/ISO-8859-1等任意编码

iconv是POSIX标准接口,支持系统已安装的所有编码(iconv -l可查),比Windows API更通用,但需手动管理句柄和内存。核心陷阱在于:源/目标编码名必须严格匹配iconv -l输出(如"GB18030"不能写成"GBK","UTF-8"末尾不能带横杠),且iconv()会修改输入指针,循环调用前必须重置。

实际使用中,iconv_open()失败常因编码名拼错或系统未装对应glibc locale包;iconv()返回(size_t)-1不一定是错误——也可能是输出缓冲区满,此时需检查errno == E2BIG并扩容再试。别忽略iconv_close(),否则句柄泄漏。

要点:

C++14
C++14

C++14 对 C++11 的修正与增强版本,适合旧系统维护和较老工具链兼容。

下载
  • 用iconv_t cd = iconv_open("UTF-8", "GB18030")初始化,注意参数顺序是to, from
  • 输入缓冲区指针&inptr和长度&inbytesleft必须传地址,函数内部会更新它们
  • 输出缓冲区每次填满后,把已转换部分移出缓冲区头,避免重复转换
  • 转换完成后调用iconv(cd, nullptr, nullptr, &outptr, &outbytesleft)冲刷残留状态(如UTF-8 BOM)

跨平台项目慎用std::codecvt,C++17已弃用

别被旧教程误导:std::codecvt_utf8等模板在GCC 7+、Clang 5+中默认禁用,MSVC虽保留但行为不一致(如对非法UTF-8序列处理方式不同)。它要求facet绑定到std::locale,而locale构造本身可能抛异常,且无法指定错误处理策略(遇到乱码直接std::runtime_error)。真实项目里,这玩意儿上线就踩坑。

替代方案只有两个:Windows走API,其他平台走iconv;或者引入轻量库如utf8cpp(仅头文件,专注UTF-8与UTF-16互转)或icu4c(功能全但体积大)。如果只是处理用户输入的文件名或HTTP header,优先用系统原生接口——它们经过数十年打磨,比标准库模拟层可靠得多。

UTF-8和UTF-16互转时,std::wstring_convert已彻底移除

C++11引入的std::wstring_convert在C++17被标记为废弃,C++20直接删除。现在连MSVC最新版编译都会报错。试图用它转UTF-8/UTF-16,结果只能是编译失败或链接时报undefined reference。

正确做法分场景:

  • Windows下:继续用MultiByteToWideChar(CP_UTF8, ...)和WideCharToMultiByte(CP_UTF8, ...)
  • Linux/macOS:用iconv,编码名填"UTF-8"和"UTF-16LE"(注意字节序,Windows默认LE,Linux常用BE需显式写"UTF-16BE")
  • 纯内存操作且确定无BOM:手写简单循环,UTF-8解码靠查首字节高比特位判断字节数,UTF-16编码按代理对拆分,但务必校验非法码点(如0xD800–0xDFFF单独出现)

真正麻烦的是混合环境——比如Windows程序读取Linux生成的UTF-8文件,又得写回GBK。这时必须明确每个环节的编码契约,不能依赖“自动检测”。文件开头的BOM只对UTF-16/UTF-32有效,UTF-8的BOM(EF BB BF)是可选且常被忽略的,别把它当银弹。

C++免费学习笔记(深入):立即使用
在学习笔记中,你将探索 C++ 的入门与实战技巧!

相关文章

PHP速学视频免费教程(入门到精通)
PHP速学视频免费教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载

相关标签:

c++

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
c++和c语言的区别有哪些
c++和c语言的区别有哪些

c++和c语言的区别:1、面向对象编程(OOP)支持不同;2、新增特性不同;3、标准库不同;4、编译方式不同;5、命名空间不同等等。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.14

2248

9

c++和python学习顺序推荐
c++和python学习顺序推荐

一般建议先学习C++,再学习Python,因为这样可以逐步从较为底层的编程语言向更高级的语言过渡。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

1019

6

python和c++学习性价比分析
python和c++学习性价比分析

Python易于学习,广泛应用于Web开发、数据科学和人工智能等领域,但性能较低。C语言性能高,适用于对性能要求较高的场景,如游戏开发和系统编程,但学习曲线陡峭,错误处理复杂。想了解更多python的相关内容,可以阅读本专题下面的文章。

2024.03.14

427

5

c语言和c++一样吗
c语言和c++一样吗

c语言和c++是两种不同的编程语言,虽然有相似之处,但存在显著差异。c语言专注于过程式编程和系统级开发,以简洁、高效著称。c++作为c语言的超集,引入了面向对象编程,增强了代码组织和管理能力,但学习曲线也更陡峭。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

327

5

c语言和c++先学哪个好
c语言和c++先学哪个好

初学者选择学习c语言还是c++语言,需要根据个人学习目标、背景以及编程兴趣和预期应用方向来决定。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

406

5

c语言和c++的区别和联系
c语言和c++的区别和联系

c语言和c++是计算机科学领域应用广泛的编程语言。虽然它们有着相似的基础,但它们在语言类型、语法功能和内存管理方面存在着显著差异。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

2024.03.14

580

5

c++软件中文更改教程
c++软件中文更改教程

对于 ide,可通过打开设置,找到语言设置,选择中文,并保存更改。对于非 ide 应用程序,可查找设置或选项,选择语言设置,更改为中文,并保存更改。想了解更多c++的相关内容,可以阅读本专题下面的文章。

2024.03.21

1409

9

python和java和c++学习性价比分析
python和java和c++学习性价比分析

Python以其易学性、丰富的库和活跃的社区而著称,适合数据科学、人工智能和Web开发。Java以其跨平台性、企业级应用开发和Android应用开发而闻名。C++以其底层控制能力、高效性能和游戏开发而著称。选择哪种语言取决于个人兴趣、职业方向和特定需求。想了解更多python和java和c++的相关内容,可以阅读本专题下面的文章。

2024.03.22

1217

7

c++和c语言学习顺序推荐
c++和c语言学习顺序推荐

对于初学者,建议先学习C语言,掌握编程基础后再转入C++,便于理解面向对象编程概念。有编程经验者可直接学习C++,快速接触高级编程技术。想了解更多c++和c语言的相关内容,可以阅读本专题下面的文章。

2024.03.25

1325

9

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
LLVM Programmer’s Manual
LLVM Programmer’s Manual

共0课时 | 0人学习

Fitten Code官方手册
Fitten Code官方手册

共0课时 | 0人学习

CodeGeex使用手册
CodeGeex使用手册

共0课时 | 0人学习