How Fast Is the Go 1.5 GC with Terabytes of RAM?
背景:
Java 面临着 GC 中断时间过长的瓶颈,无法有效利用 TB 级内存。随着 Go GC 的优化,人们不禁好奇它是否能在 TB 级内存环境下实现足够短的 GC 中断时间。
问题:
- Go 1.5 GC 是否已经准备好应对 TB 级内存?
- 是否有相关的基准测试?
- 是否可以使用一款带有 GC 的语言来管理如此庞大的内存?
答案:
要点:
- 目前,单个 Go 进程无法使用 TB 级内存。Linux 上的最大限制为 512 GB,而实际测试中最高记录仅为 240 GB。
- 在当前的后台 GC 模式下,GC 工作负载往往比 GC 中断时间更为关键。
- GC 工作负载可以用 指针数量 * 分配速率 / 剩余内存 来表示。在使用大量内存的应用中,只有指针数量较少或分配较少的应用才能保持较低的 GC 工作负载。
详细内容:
Go 堆具有 512 GB 的限制,已实际测试的最大堆大小为 240 GB。
Go 1.5 GC 旨在减少 GC 中断时间,而不是减少 GC 工作。代码在 GC 扫描堆栈和全局变量中的指针时会被中断。
根据 GopherCon 2015 演讲中的图表,1.5 GC 在拥有约 18GB 堆的 GC 基准测试中具有较短的中断时间,如图所示:
[图表:GC 中断时间与堆大小关系,显示了 1.5 版本的改进]
在实际应用中,一些原本 GC 中断时间为 300ms 的进程报告下降至 4ms 和 20ms,另一个应用报告 95th 百分位数 GC 时间从 279ms 降低至 10ms。
Go 1.6 进一步优化,将部分工作置于后台。结果是,即使堆大小超过 200GB,测试中的最大中断时间仍然为 20ms,如下图所示:
[图表:1.6 GC 时间随堆大小变化,在 180GB 附近达到 20ms]
在 1.6 版本中,堆大小约为 8GB、每分钟分配约 150M 的应用,其中断时间从 20ms 降低至 3-4ms。
Twitch 使用 Go 来运行聊天服务,他们报告说在 1.7 版本中,暂停时间已减少到 1ms,而同时运行大量协程。
1.8 将堆栈扫描移出停止世界阶段,将大多数中断时间控制在 1ms 以内,即使是在大堆内存情况下。早期测试结果表明情况良好。有时,应用程序中仍然存在使协程难以中断的代码模式,从而有效延长了所有其他线程的中断时间,但总体来说,GC 的后台工作通常比 GC 中断时间更为重要。
一般性观察:
- GC 的收集频率取决于内存使用速度。
- 每个 GC 收集完成的工作量部分取决于正在使用的指针数量。(包括切片、接口值、字符串等中的指针)
换句话说,即使应用会访问大量内存,如果指针数量较少(例如,它处理相对较少的 []byte 缓冲区),并且分配速率很低(例如,因为在最容易溢出内存的场景中应用了 sync.Pool 来重用内存),则 GC 问题可能会不存在。
因此,如果您考虑使用包含数百 GB 堆的大型计算机,并且其本质上不适合 GC,我建议您考虑以下选项:
- 使用 C 或类似语言编写
- 将大量数据移出对象图,例如将其管理为嵌入式数据库(如 Bolt),放入外部数据库服务中,或者如果您需要更多缓存功能而不是数据库,可以使用类似 groupcache 或 memcache 的缓存工具。
- 运行使用较小堆的进程集,而不是一个大型进程。
- 精心设计原型、测试和优化,以避免内存问题。
以上是Go 1.5 的垃圾收集器准备好进行 TB 级内存管理了吗?的详细内容。更多信息请关注PHP中文网其他相关文章!

golangisidealforperformance-Critical-clitageAppations and ConcurrentPrompromming,而毛皮刺激性,快速播种和可及性。1)forhigh-porformanceneeds,pelectgolangduetoitsefefsefefseffifeficefsefeflicefsiveficefsiveandconcurrencyfeatures.2)fordataa-fordataa-fordata-fordata-driventriventriventriventriventrivendissp pynonnononesp

Golang通过goroutine和channel实现高效并发:1.goroutine是轻量级线程,使用go关键字启动;2.channel用于goroutine间安全通信,避免竞态条件;3.使用示例展示了基本和高级用法;4.常见错误包括死锁和数据竞争,可用gorun-race检测;5.性能优化建议减少channel使用,合理设置goroutine数量,使用sync.Pool管理内存。

Golang更适合系统编程和高并发应用,Python更适合数据科学和快速开发。1)Golang由Google开发,静态类型,强调简洁性和高效性,适合高并发场景。2)Python由GuidovanRossum创造,动态类型,语法简洁,应用广泛,适合初学者和数据处理。

Golang在性能和可扩展性方面优于Python。1)Golang的编译型特性和高效并发模型使其在高并发场景下表现出色。2)Python作为解释型语言,执行速度较慢,但通过工具如Cython可优化性能。

Go语言在并发编程、性能、学习曲线等方面有独特优势:1.并发编程通过goroutine和channel实现,轻量高效。2.编译速度快,运行性能接近C语言。3.语法简洁,学习曲线平缓,生态系统丰富。

Golang和Python的主要区别在于并发模型、类型系统、性能和执行速度。1.Golang使用CSP模型,适用于高并发任务;Python依赖多线程和GIL,适合I/O密集型任务。2.Golang是静态类型,Python是动态类型。3.Golang编译型语言执行速度快,Python解释型语言开发速度快。

Golang通常比C 慢,但Golang在并发编程和开发效率上更具优势:1)Golang的垃圾回收和并发模型使其在高并发场景下表现出色;2)C 通过手动内存管理和硬件优化获得更高性能,但开发复杂度较高。

Golang在云计算和DevOps中的应用广泛,其优势在于简单性、高效性和并发编程能力。1)在云计算中,Golang通过goroutine和channel机制高效处理并发请求。2)在DevOps中,Golang的快速编译和跨平台特性使其成为自动化工具的首选。


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

SecLists
SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

WebStorm Mac版
好用的JavaScript开发工具

ZendStudio 13.5.1 Mac
功能强大的PHP集成开发环境

安全考试浏览器
Safe Exam Browser是一个安全的浏览器环境,用于安全地进行在线考试。该软件将任何计算机变成一个安全的工作站。它控制对任何实用工具的访问,并防止学生使用未经授权的资源。

MinGW - 适用于 Windows 的极简 GNU
这个项目正在迁移到osdn.net/projects/mingw的过程中,你可以继续在那里关注我们。MinGW:GNU编译器集合(GCC)的本地Windows移植版本,可自由分发的导入库和用于构建本地Windows应用程序的头文件;包括对MSVC运行时的扩展,以支持C99功能。MinGW的所有软件都可以在64位Windows平台上运行。