几个月前,我们发布了 Encore.ts — TypeScript 的开源后端框架。
由于已经有很多框架,我们想分享我们做出的一些异常设计决策以及它们如何带来卓越的性能数据。
我们最近发布的性能基准显示,Encore.ts 的请求吞吐量是 Express.js 的 9 倍,是 Fastify 的 2 倍。
今天,我们将继续我们的性能之旅,深入研究 Encore.ts 如何实现令人难以置信的快速冷启动启动时间。
性能基准
这次我们对 Encore.ts、Fastify、NestJS 和 Express 进行了基准测试,以了解每个框架在冷启动时的表现。
基准测试程序注册了 10 个 API 端点,每个端点都有一个简单的模式,并设置模式验证。
对于模式验证,我们尽可能使用 Zod。
就 Fastify 而言,我们使用 Ajv 作为官方支持的模式验证库。
我们测量了从 JavaScript 代码开始执行到服务器准备好接受传入请求的时间。
对于每个基准测试,我们选取五次运行中的最佳结果。
废话不多说了,让我们深入研究一下数字吧!
Encore.ts 冷启动比 NestJS 和 Fastify 快 17 倍
(查看 GitHub 上的基准代码。)
如您所见,Encore.ts 实现了惊人的快速冷启动时间,比 Express 快 5 倍以上,比 NestJS 快 17 倍以上。
这怎么可能?通过我们的测试,我们确定了性能的两个主要来源,都与 Encore.ts 的底层工作方式有关。
但在我们开始之前,我们先来谈谈冷启动到底是什么,以及它们为什么重要。
什么是冷启动?
在无服务器环境中,冷启动是指底层平台首先需要启动服务器的新实例以服务传入请求。 (它也可以指第一次启动服务器的新实例来处理请求,例如在部署之后。)
由于请求实际上处于搁置状态,直到进程启动并准备好处理请求为止,因此减少冷启动时间会对应用程序的长尾延迟产生很大影响。
这对于拥有多个无服务器功能的分布式系统尤其重要,因为在处理请求时,您更有可能在系统的某些部分遇到冷启动。
冷启动的剖析
冷启动期间发生的具体情况在一定程度上取决于您要部署到的平台(Kubernetes、Lambda、Cloud Run 等)。
但总的来说,这个过程看起来像这样:
- 平台下载无服务器功能的代码/容器镜像
- 平台启动容器/无服务器函数/容器的新实例
- 容器/函数初始化自身(导入 JavaScript 模块, 运行初始化代码等)
完成这些初始化步骤后,冷启动完成,无服务器函数开始处理传入请求。
前两个步骤很大程度上是我们无法控制的(除了确保代码/容器的大小得到优化),所以让我们将注意力集中在第三步上。
事实上,让我们进一步分解第三步,假设我们正在运行 Node.js:
- 节点进程启动并开始初始化V8 JavaScript引擎
- 入口点文件被解析、加载并开始执行应用程序代码
- 当 JavaScript 代码执行 import 和 require 语句时,更多的文件被加载、解析和执行。 (对于具有大量依赖项的应用程序,请重复多次。)
最后,在加载所有依赖项并执行所有初始化代码后,容器/无服务器函数已准备好处理传入请求。
优化冷启动
上面的细分为我们提供了明确的优化目标,Encore.ts 大力优化了它控制的所有步骤。
优化1:Rust运行时
Encore.ts 在 Rust 中实现并作为本机模块加载到 Node.JS 中。这对于冷启动有几个好处:
需要解析和执行的 JavaScript 更少。由于 JavaScript 是一种解释性语言,因此所有 JavaScript 代码都需要从磁盘读取、解析和执行。 Encore.ts 作为预编译的原生模块,加载速度极快,不需要 JavaScript 引擎(V8)解析或执行。
零 NPM 依赖。由于 Encore.ts 使用 Rust 实现其所有功能,因此它没有任何 NPM 依赖项,这进一步减少了冷启动期间需要执行的 JavaScript 数量。
预编译和优化。 JavaScript 严重依赖于即时编译 (JIT),其中重复执行的代码会被 JavaScript 引擎优化。这对于解释型语言来说很有意义,但这也意味着第一次运行一段代码时执行速度会相当慢,这会显着影响冷启动。由于 Encore.ts 是用 Rust 实现的,因此它是预编译的,并针对其运行的平台进行了大量优化,这意味着它从第一次执行起就很快。
优化2:高效的Docker镜像
Encore.ts 默认情况下构建缩小的 Docker 映像,仅包含转译的 JavaScript 和运行应用程序所需的依赖项。这减少了包的大小,从而减少了下载和启动容器所需的时间。
此外,一些计算平台还添加了对流式 Docker 镜像的支持,这意味着该平台可以在下载整个镜像之前启动容器。 Encore.ts 对此有内置支持,并自动优先考虑图像中需要减少冷启动的部分。
总结
通过将 Rust 运行时与优化的 Docker 镜像相结合,Encore.ts 能够实现显着的冷启动时间,这会对应用程序的长尾延迟产生很大影响。
如果性能对您的项目很重要,尝试 Encore.ts 可能是个好主意。
而且它都是开源的,因此您可以查看代码并在 GitHub 上做出贡献。
或者尝试一下,让我们知道您的想法!
以上是Encore.ts — 比 NestJS 和 Fastify 更快的冷启动的详细内容。更多信息请关注PHP中文网其他相关文章!

JavaScript字符串替换方法详解及常见问题解答 本文将探讨两种在JavaScript中替换字符串字符的方法:在JavaScript代码内部替换和在网页HTML内部替换。 在JavaScript代码内部替换字符串 最直接的方法是使用replace()方法: str = str.replace("find","replace"); 该方法仅替换第一个匹配项。要替换所有匹配项,需使用正则表达式并添加全局标志g: str = str.replace(/fi

简单JavaScript函数用于检查日期是否有效。 function isValidDate(s) { var bits = s.split('/'); var d = new Date(bits[2] '/' bits[1] '/' bits[0]); return !!(d && (d.getMonth() 1) == bits[1] && d.getDate() == Number(bits[0])); } //测试 var

本文探讨如何使用 jQuery 获取和设置 DOM 元素的内边距和外边距值,特别是元素外边距和内边距的具体位置。虽然可以使用 CSS 设置元素的内边距和外边距,但获取准确的值可能会比较棘手。 // 设置 $("div.header").css("margin","10px"); $("div.header").css("padding","10px"); 你可能会认为这段代码很

本文探讨了十个特殊的jQuery选项卡和手风琴。 选项卡和手风琴之间的关键区别在于其内容面板的显示和隐藏方式。让我们深入研究这十个示例。 相关文章:10个jQuery选项卡插件

发现十个杰出的jQuery插件,以提升您的网站的活力和视觉吸引力!这个精选的收藏品提供了不同的功能,从图像动画到交互式画廊。让我们探索这些强大的工具: 相关文章: 1

HTTP-Console是一个节点模块,可为您提供用于执行HTTP命令的命令行接口。不管您是否针对Web服务器,Web Serv

本教程向您展示了如何将自定义的Google搜索API集成到您的博客或网站中,提供了比标准WordPress主题搜索功能更精致的搜索体验。 令人惊讶的是简单!您将能够将搜索限制为Y

当div内容超出容器元素区域时,以下jQuery代码片段可用于添加滚动条。 (无演示,请直接复制到Firebug中) //D = document //W = window //$ = jQuery var contentArea = $(this), wintop = contentArea.scrollTop(), docheight = $(D).height(), winheight = $(W).height(), divheight = $('#c


热AI工具

Undresser.AI Undress
人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover
用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool
免费脱衣服图片

Clothoff.io
AI脱衣机

AI Hentai Generator
免费生成ai无尽的。

热门文章

热工具

禅工作室 13.0.1
功能强大的PHP集成开发环境

SublimeText3汉化版
中文版,非常好用

SublimeText3 Linux新版
SublimeText3 Linux最新版

记事本++7.3.1
好用且免费的代码编辑器

Dreamweaver CS6
视觉化网页开发工具