搜索
首页web前端js教程Encore.ts — 比 NestJS 和 Fastify 更快的冷启动

几个月前,我们发布了 Encore.ts — TypeScript 的开源后端框架。

由于已经有很多框架,我们想分享我们做出的一些异常设计决策以及它们如何带来卓越的性能数据。

我们最近发布的性能基准显示,Encore.ts 的请求吞吐量是 Express.js 的 9 倍,是 Fastify 的 2 倍。

今天,我们将继续我们的性能之旅,深入研究 Encore.ts 如何实现令人难以置信的快速冷启动启动时间

性能基准

这次我们对 Encore.ts、Fastify、NestJS 和 Express 进行了基准测试,以了解每个框架在冷启动时的表现。

基准测试程序注册了 10 个 API 端点,每个端点都有一个简单的模式,并设置模式验证。
对于模式验证,我们尽可能使用 Zod。
就 Fastify 而言,我们使用 Ajv 作为官方支持的模式验证库。

我们测量了从 JavaScript 代码开始执行到服务器准备好接受传入请求的时间。
对于每个基准测试,我们选取​​五次运行中的最佳结果。

废话不多说了,让我们深入研究一下数字吧!

Encore.ts 冷启动比 NestJS 和 Fastify 快 17 倍

Encore.ts —  Faster cold starts than NestJS & Fastify

(查看 GitHub 上的基准代码。)

如您所见,Encore.ts 实现了惊人的快速冷启动时间,比 Express 快 5 倍以上,比 NestJS 快 17 倍以上。

这怎么可能?通过我们的测试,我们确定了性能的两个主要来源,都与 Encore.ts 的底层工作方式有关。

但在我们开始之前,我们先来谈谈冷启动到底是什么,以及它们为什么重要。

什么是冷启动?

在无服务器环境中,冷启动是指底层平台首先需要启动服务器的新实例以服务传入请求。 (它也可以指第一次启动服务器的新实例来处理请求,例如在部署之后。)

由于请求实际上处于搁置状态,直到进程启动并准备好处理请求为止,因此减少冷启动时间会对应用程序的长尾延迟产生很大影响。

这对于拥有多个无服务器功能的分布式系统尤其重要,因为在处理请求时,您更有可能在系统的某些部分遇到冷启动。

冷启动的剖析

冷启动期间发生的具体情况在一定程度上取决于您要部署到的平台(Kubernetes、Lambda、Cloud Run 等)。
但总的来说,这个过程看起来像这样:

  1. 平台下载无服务器功能的代码/容器镜像
  2. 平台启动容器/无服务器函数/容器的新实例
  3. 容器/函数初始化自身(导入 JavaScript 模块, 运行初始化代码等)

完成这些初始化步骤后,冷启动完成,无服务器函数开始处理传入请求。

前两个步骤很大程度上是我们无法控制的(除了确保代码/容器的大小得到优化),所以让我们将注意力集中在第三步上。

事实上,让我们进一步分解第三步,假设我们正在运行 Node.js:

  1. 节点进程启动并开始初始化V8 JavaScript引擎
  2. 入口点文件被解析、加载并开始执行应用程序代码
  3. 当 JavaScript 代码执行 import 和 require 语句时,更多的文件被加载、解析和执行。 (对于具有大量依赖项的应用程序,请重复多次。)

最后,在加载所有依赖项并执行所有初始化代码后,容器/无服务器函数已准备好处理传入请求。

优化冷启动

上面的细分为我们提供了明确的优化目标,Encore.ts 大力优化了它控制的所有步骤。

优化1:Rust运行时

Encore.ts 在 Rust 中实现并作为本机模块加载到 Node.JS 中。这对于冷启动有几个好处:

需要解析和执行的 JavaScript 更少。由于 JavaScript 是一种解释性语言,因此所有 JavaScript 代码都需要从磁盘读取、解析和执行。 Encore.ts 作为预编译的原生模块,加载速度极快,不需要 JavaScript 引擎(V8)解析或执行。

零 NPM 依赖。由于 Encore.ts 使用 Rust 实现其所有功能,因此它没有任何 NPM 依赖项,这进一步减少了冷启动期间需要执行的 JavaScript 数量。

预编译和优化。 JavaScript 严重依赖于即时编译 (JIT),其中重复执行的代码会被 JavaScript 引擎优化。这对于解释型语言来说很有意义,但这也意味着第一次运行一段代码时执行速度会相当慢,这会显着影响冷启动。由于 Encore.ts 是用 Rust 实现的,因此它是预编译的,并针对其运行的平台进行了大量优化,这意味着它从第一次执行起就很快。

优化2:高效的Docker镜像

Encore.ts 默认情况下构建缩小的 Docker 映像,仅包含转译的 JavaScript 和运行应用程序所需的依赖项。这减少了包的大小,从而减少了下载和启动容器所需的时间。

此外,一些计算平台还添加了对流式 Docker 镜像的支持,这意味着该平台可以在下载整个镜像之前启动容器。 Encore.ts 对此有内置支持,并自动优先考虑图像中需要减少冷启动的部分。

总结

通过将 Rust 运行时与优化的 Docker 镜像相结合,Encore.ts 能够实现显着的冷启动时间,这会对应用程序的长尾延迟产生很大影响。

如果性能对您的项目很重要,尝试 Encore.ts 可能是个好主意。

而且它都是开源的,因此您可以查看代码并在 GitHub 上做出贡献。

或者尝试一下,让我们知道您的想法!

以上是Encore.ts — 比 NestJS 和 Fastify 更快的冷启动的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
Python和JavaScript的未来:趋势和预测Python和JavaScript的未来:趋势和预测Apr 27, 2025 am 12:21 AM

Python和JavaScript的未来趋势包括:1.Python将巩固在科学计算和AI领域的地位,2.JavaScript将推动Web技术发展,3.跨平台开发将成为热门,4.性能优化将是重点。两者都将继续在各自领域扩展应用场景,并在性能上有更多突破。

Python vs. JavaScript:开发环境和工具Python vs. JavaScript:开发环境和工具Apr 26, 2025 am 12:09 AM

Python和JavaScript在开发环境上的选择都很重要。1)Python的开发环境包括PyCharm、JupyterNotebook和Anaconda,适合数据科学和快速原型开发。2)JavaScript的开发环境包括Node.js、VSCode和Webpack,适用于前端和后端开发。根据项目需求选择合适的工具可以提高开发效率和项目成功率。

JavaScript是用C编写的吗?检查证据JavaScript是用C编写的吗?检查证据Apr 25, 2025 am 12:15 AM

是的,JavaScript的引擎核心是用C语言编写的。1)C语言提供了高效性能和底层控制,适合JavaScript引擎的开发。2)以V8引擎为例,其核心用C 编写,结合了C的效率和面向对象特性。3)JavaScript引擎的工作原理包括解析、编译和执行,C语言在这些过程中发挥关键作用。

JavaScript的角色:使网络交互和动态JavaScript的角色:使网络交互和动态Apr 24, 2025 am 12:12 AM

JavaScript是现代网站的核心,因为它增强了网页的交互性和动态性。1)它允许在不刷新页面的情况下改变内容,2)通过DOMAPI操作网页,3)支持复杂的交互效果如动画和拖放,4)优化性能和最佳实践提高用户体验。

C和JavaScript:连接解释C和JavaScript:连接解释Apr 23, 2025 am 12:07 AM

C 和JavaScript通过WebAssembly实现互操作性。1)C 代码编译成WebAssembly模块,引入到JavaScript环境中,增强计算能力。2)在游戏开发中,C 处理物理引擎和图形渲染,JavaScript负责游戏逻辑和用户界面。

从网站到应用程序:JavaScript的不同应用从网站到应用程序:JavaScript的不同应用Apr 22, 2025 am 12:02 AM

JavaScript在网站、移动应用、桌面应用和服务器端编程中均有广泛应用。1)在网站开发中,JavaScript与HTML、CSS一起操作DOM,实现动态效果,并支持如jQuery、React等框架。2)通过ReactNative和Ionic,JavaScript用于开发跨平台移动应用。3)Electron框架使JavaScript能构建桌面应用。4)Node.js让JavaScript在服务器端运行,支持高并发请求。

Python vs. JavaScript:比较用例和应用程序Python vs. JavaScript:比较用例和应用程序Apr 21, 2025 am 12:01 AM

Python更适合数据科学和自动化,JavaScript更适合前端和全栈开发。1.Python在数据科学和机器学习中表现出色,使用NumPy、Pandas等库进行数据处理和建模。2.Python在自动化和脚本编写方面简洁高效。3.JavaScript在前端开发中不可或缺,用于构建动态网页和单页面应用。4.JavaScript通过Node.js在后端开发中发挥作用,支持全栈开发。

C/C在JavaScript口译员和编译器中的作用C/C在JavaScript口译员和编译器中的作用Apr 20, 2025 am 12:01 AM

C和C 在JavaScript引擎中扮演了至关重要的角色,主要用于实现解释器和JIT编译器。 1)C 用于解析JavaScript源码并生成抽象语法树。 2)C 负责生成和执行字节码。 3)C 实现JIT编译器,在运行时优化和编译热点代码,显着提高JavaScript的执行效率。

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

SublimeText3 英文版

SublimeText3 英文版

推荐:为Win版本,支持代码提示!

SecLists

SecLists

SecLists是最终安全测试人员的伙伴。它是一个包含各种类型列表的集合,这些列表在安全评估过程中经常使用,都在一个地方。SecLists通过方便地提供安全测试人员可能需要的所有列表,帮助提高安全测试的效率和生产力。列表类型包括用户名、密码、URL、模糊测试有效载荷、敏感数据模式、Web shell等等。测试人员只需将此存储库拉到新的测试机上,他就可以访问到所需的每种类型的列表。

Dreamweaver Mac版

Dreamweaver Mac版

视觉化网页开发工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

PhpStorm Mac 版本

PhpStorm Mac 版本

最新(2018.2.1 )专业的PHP集成开发工具