Parlons de la façon d'implémenter un pool de processus léger et un pool de threads à l'aide de Node

I. 前言

本文论点主要面向 Node.js 开发语言

>> Show Me Code，目前代码正在 dev 分支，已完成单元测试，尚待测试所有场景。

>> 建议通读 Node.js 官方文档 -【不要阻塞事件循环】

Node.js 即服务端 Javascript，得益于宿主环境的不同，它拥有比在浏览器上更多的能力。比如：完整的文件系统访问权限、网络协议、套接字编程、进程和线程操作、C++ 插件源码级的支持、Buffer 二进制、Crypto 加密套件的天然支持。【相关教程推荐：nodejs视频教程】

Node.js 的是一门单线程的语言，它基于 V8 引擎开发，v8 在设计之初是在浏览器端对 JavaScript 语言的解析运行引擎，其最大的特点是单线程，这样的设计避免了一些多线程状态同步问题，使得其更轻量化易上手。

一、名词定义

1. 进程

学术上说，进程是一个具有一定独立功能的程序在一个数据集上的一次动态执行的过程，是操作系统进行资源分配和调度的一个独立单位，是应用程序运行的载体。我们这里将进程比喻为工厂的车间，它代表 CPU 所能处理的单个任务。任一时刻，CPU 总是运行一个进程，其他进程处于非运行状态。

进程具有以下特性：

• 进程是拥有资源的基本单位，资源分配给进程，同一进程的所有线程共享该进程的所有资源；
• 进程之间可以并发执行；
• 在创建或撤消进程时，系统都要为之分配和回收资源，与线程相比系统开销较大；
• 一个进程可以有多个线程，但至少有一个线程；

2. 线程

在早期的操作系统中并没有线程的概念，进程是能拥有资源和独立运行的最小单位，也是程序执行的最小单位。任务调度采用的是时间片轮转的抢占式调度方式，而进程是任务调度的最小单位，每个进程有各自独立的一块内存，使得各个进程之间内存地址相互隔离。

后来，随着计算机的发展，对 CPU 的要求越来越高，进程之间的切换开销较大，已经无法满足越来越复杂的程序的要求了。于是就发明了线程，线程是程序执行中一个单一的顺序控制流程，是程序执行流的最小单元。这里把线程比喻一个车间的工人，即一个车间可以允许由多个工人协同完成一个任务，即一个进程中可能包含多个线程。

线程具有以下特性：

• 线程作为调度和分配的基本单位；
• 多个线程之间也可并发执行；
• 线程是真正用来执行程序的，执行计算的；
• 线程不拥有系统资源，但可以访问隶属于进程的资源，一个线程只能属于一个进程；

Node.js 的多进程有助于充分利用 CPU 等资源，Node.js 的多线程提升了单进程上任务的并行处理能力。

在 Node.js 中，每个 worker 线程都有他自己的 V8 实例和事件循环机制 (Event Loop)。但是，和进程不同，workers 之间是可以共享内存的。

二、Node.js 异步机制

1. Node.js 内部线程池、异步机制以及宏任务优先级划分

Node.js 的单线程是指程序的主要执行线程是单线程，这个主线程同时也负责事件循环。而其实语言内部也会创建线程池来处理主线程程序的 网络 IO / 文件 IO / 定时器 等调用产生的异步任务。一个例子就是定时器 Timer 的实现：在 Node.js 中使用定时器时，Node.js 会开启一个定时器线程进行计时，计时结束时，定时器回调函数会被放入位于主线程的宏任务队列。当事件循环系统执行完主线程同步代码和当前阶段的所有微任务时，该回调任务最后再被取出执行。所以 Node.js 的定时器其实是不准确的，只能保证在预计时间时我们的回调任务被放入队列等待执行，而不是直接被执行。

Le mécanisme multi-threading combiné au système de boucle d'événements de Node.js permet aux développeurs d'utiliser des mécanismes asynchrones dans un seul thread, y compris des minuteries, des E/S et des requêtes réseau. Cependant, afin d'obtenir un serveur très réactif et performant, la boucle d'événements de Node.js priorise davantage les tâches de macro.

Node.js Hiérarchisation entre les tâches de macro : Minuteurs > En attente > Sondage > Fermer.

• Rappel des minuteries : en ce qui concerne le temps, plus l'exécution est précoce, plus elle sera précise, elle a donc la plus haute priorité et est facile à comprendre.
• Rappel en attente : rappel lors de la gestion du réseau, des E/S et d'autres exceptions. Certains systèmes Unix attendront que les erreurs soient signalées, elles doivent donc être traitées.
• Poll Callback : traite les données IO et les connexions réseau. C'est ce que le serveur gère principalement.
• Check Callback : Le rappel pour l'exécution de setImmediate. La caractéristique est qu'il peut être rappelé juste après l'exécution de l'IO.
• Close Callback : un rappel pour la fermeture des ressources. Une exécution retardée ne l'affectera pas et a la priorité la plus basse.

Optimisation Node.js et division entre microtâches : process.nextTick >

2. Calendrier d'exécution des macro-tâches et des micro-tâches dans Node.js

Avant le nœud 11, la boucle d'événements de Node.js n'était pas comme le navigateur qui exécute une macro-tâche à la fois, puis exécute toutes les micro-tâches. . Après avoir exécuté un certain nombre de macrotâches de minuterie, exécutez toutes les microtâches, puis exécutez un certain nombre de macrotâches en attente, puis exécutez toutes les microtâches. Il en va de même pour les macrotâches d'interrogation, de vérification et de fermeture restantes. Après le nœud 11, il a été modifié pour que chaque macro-tâche exécute toutes les micro-tâches.

Les tâches macro de Node.js ont également des priorités. Si la boucle d'événements de Node.js exécute toutes les tâches macro de la priorité actuelle avant d'exécuter la tâche macro de la priorité suivante, alors cela entraînera l'apparition de "faim". État. S'il y a trop de macrotâches dans une certaine étape, l'étape suivante ne sera jamais exécutée. Par conséquent, chaque type de macrotâches dispose d'un mécanisme pour limiter le nombre d'exécutions, et le reste sera transmis à la boucle d'événements suivante pour une exécution continue. .

La performance finale est la suivante : c'est-à-dire exécuter un certain nombre de tâches de macro de minuterie, exécuter toutes les micro-tâches entre chaque tâche de macro, puis exécuter un certain nombre de tâches de macro de rappel en attente et exécuter toutes les micro-tâches entre chaque tâche de macro.

3. Multi-processus de Node.js

1. Utilisez la méthode child_process pour créer manuellement un processus

Le programme Node.js offre la possibilité de générer des processus enfants via le module child_process fourni. la création de plusieurs processus enfants. Méthode :

• spawn Créez un nouveau processus, et les résultats d'exécution sont renvoyés sous la forme d'un flux. Les données de résultat ne peuvent être obtenues que via des événements, ce qui est difficile à utiliser.

const spawn = require('child_process').spawn;
const ls = spawn('ls', ['-lh', '/usr']);

ls.stdout.on('data', (data) => {
  console.log(`stdout: ${data}`);
});

ls.stderr.on('data', (data) => {
  console.log(`stderr: ${data}`);
});

ls.on('close', (code) => {
  console.log(`child process exited with code ${code}`);
});

• execFile Créez un nouveau processus et exécutez un fichier exécutable en fonction du nom de fichier derrière celui-ci. Vous pouvez apporter des options et renvoyer le résultat de l'appel sous la forme d'un rappel. Vous pouvez obtenir des données complètes, ce qui est un. beaucoup plus pratique.

execFile('/path/to/node', ['--version'], function(error, stdout, stderr){
    if(error){
        throw error;
    }
    console.log(stdout);
});

• exec Crée un nouveau processus, qui peut exécuter directement des commandes shell, simplifiant l'exécution des commandes shell, et les résultats d'exécution sont renvoyés sous forme de rappels.

exec('ls -al', function(error, stdout, stderr){
    if(error) {
        console.error('error:' + error);
        return;
    }
    console.log('stdout:' + stdout);
    console.log('stderr:' + typeof stderr);
});

• fork Créez un nouveau processus et exécutez le programme de nœud. Le processus a une instance V8 complète. Après la création, la communication IPC du processus principal vers le processus enfant est automatiquement activée, ce qui consomme le plus de ressources.

var child = child_process.fork('./anotherSilentChild.js', {
    silent: true
});

child.stdout.setEncoding('utf8');
child.stdout.on('data', function(data){
    console.log(data);
});

Parmi eux, spawn est la base de toutes les méthodes, et la couche inférieure de exec appelle execFile.

2. Utilisez la méthode cluster pour créer semi-automatiquement un processus

Ce qui suit est un exemple simple d'utilisation du module Cluster pour créer un cluster de services http. Dans l'exemple, le même fichier d'exécution Js est utilisé lors de la création d'un cluster. cluster.isPrimary est utilisé dans le fichier pour déterminer si l'environnement d'exécution actuel est dans le processus principal ou dans un processus enfant. est le processus principal, le fichier d'exécution actuel est utilisé pour créer une instance enfant, s'il s'agit d'un processus enfant, il entrera dans le flux de traitement métier du processus enfant. Le module Cluster 模块创建一个 http 服务集群的简单示例。示例中创建 Cluster 时使用同一个 Js 执行文件，在文件内使用 cluster.isPrimary 判断当前执行环境是在主进程还是子进程，如果是主进程则使用当前执行文件创建子进程实例，如果时子进程则进入子进程的业务处理流程。

/*
  简单示例：使用同一个 JS 执行文件创建子进程集群 Cluster
*/
const cluster = require('node:cluster');
const http = require('node:http');
const numCPUs = require('node:os').cpus().length;
const process = require('node:process');

if (cluster.isPrimary) {
  console.log(`Primary ${process.pid} is running`);
  // Fork workers.
  for (let i = 0; i  {
    console.log(`worker ${worker.process.pid} died`);
  });
} else {
  // Workers can share any TCP connection
  http.createServer((req, res) => {
    res.writeHead(200);
    res.end('hello world\n');
  }).listen(8000);
  console.log(`Worker ${process.pid} started`);
}

Cluster 模块允许设立一个主进程和若干个子进程，使用 child_process.fork() 在内部隐式创建子进程，由主进程监控和协调子进程的运行。

子进程之间采用进程间通信交换消息，Cluster 模块内置一个负载均衡器，采用 Round-robin 算法（轮流执行）协调各个子进程之间的负载。运行时，所有新建立的连接都由主进程完成，然后主进程再把 TCP 连接分配给指定的子进程。

使用集群创建的子进程可以使用同一个端口，Node.js 内部对 http/net

$: npm install -g pm2

Cluster permet de mettre en place un processus principal et plusieurs sous-processus. Utilisez child_process.fork() pour créer implicitement des sous-processus en interne, ainsi que le processus principal. surveille et coordonne les sous-processus. 🎜🎜La communication inter-processus est utilisée pour échanger des messages entre les sous-processus. Le module Cluster dispose d'un équilibreur de charge intégré et utilise l'algorithme Round-robin (exécution à tour de rôle) pour coordonner la charge entre les sous-processus. Lors de l'exécution, toutes les connexions nouvellement établies sont complétées par le processus principal, puis le processus principal attribue la connexion TCP au processus enfant spécifié. 🎜🎜Les sous-processus créés à l'aide du cluster peuvent utiliser le même port. Node.js dispose d'un support spécial pour le module intégré http/net. Le processus principal Node.js est responsable de l'écoute du port cible et, après avoir reçu la demande, distribue la demande à un processus enfant conformément à la politique d'équilibrage de charge. 🎜

3. 使用基于 Cluster 封装的 PM2 工具全自动创建进程

PM2 是常用的 node 进程管理工具，它可以提供 node.js 应用管理能力，如自动重载、性能监控、负载均衡等。

其主要用于 独立应用 的进程化管理，在 Node.js 单机服务部署方面比较适合。可以用于生产环境下启动同个应用的多个实例提高 CPU 利用率、抗风险、热加载等能力。

由于是外部库，需要使用 npm 包管理器安装：

$: npm install -g pm2

pm2 支持直接运行 server.js 启动项目，如下：

$: pm2 start server.js

即可启动 Node.js 应用，成功后会看到打印的信息：

┌──────────┬────┬─────────┬──────┬───────┬────────┬─────────┬────────┬─────┬───────────┬───────┬──────────┐
│ App name │ id │ version │ mode │ pid   │ status │ restart │ uptime │ cpu │ mem       │ user  │ watching │
├──────────┼────┼─────────┼──────┼───────┼────────┼─────────┼────────┼─────┼───────────┼───────┼──────────┤
│ server   │ 0  │ 1.0.0   │ fork │ 24776 │ online │ 9       │ 19m    │ 0%  │ 35.4 MB   │ 23101 │ disabled │
└──────────┴────┴─────────┴──────┴───────┴────────┴─────────┴────────┴─────┴───────────┴───────┴──────────┘

pm2 也支持配置文件启动，通过配置文件 ecosystem.config.js 可以定制 pm2 的各项参数：

module.exports = {
  apps : [{
    name: 'API', // 应用名
    script: 'app.js', // 启动脚本
    args: 'one two', // 命令行参数
    instances: 1, // 启动实例数量
    autorestart: true, // 自动重启
    watch: false, // 文件更改监听器
    max_memory_restart: '1G', // 最大内存使用亮
    env: { // development 默认环境变量
      // pm2 start ecosystem.config.js --watch --env development
      NODE_ENV: 'development'
    },
    env_production: { // production 自定义环境变量
      NODE_ENV: 'production'
    }
  }],

  deploy : {
    production : {
      user : 'node',
      host : '212.83.163.1',
      ref  : 'origin/master',
      repo : 'git@github.com:repo.git',
      path : '/var/www/production',
      'post-deploy' : 'npm install && pm2 reload ecosystem.config.js --env production'
    }
  }
};

pm2 logs 日志功能也十分强大：

$: pm2 logs

II. Node.js 中进程池和线程池的适用场景

一般我们使用计算机执行的任务包含以下几种类型的任务：

• 计算密集型任务：任务包含大量计算，CPU 占用率高。

  const matrix = {};
  for (let i = 0; i 

• IO 密集型任务：任务包含频繁的、持续的网络 IO 和磁盘 IO 的调用。

  const {copyFileSync, constants} = require('fs');
  copyFileSync('big-file.zip', 'destination.zip');

• 混合型任务：既有计算也有 IO。

一、进程池的适用场景

使用进程池的最大意义在于充分利用多核 CPU 资源，同时减少子进程创建和销毁的资源消耗。

进程是操作系统分配资源的基本单位，使用多进程架构能够更多的获取 CPU 时间、内存等资源。为了应对 CPU-Sensitive 场景，以及充分发挥 CPU 多核性能，Node 提供了 child_process 模块用于创建子进程。

子进程的创建和销毁需要较大的资源成本，因此池化子进程的创建和销毁过程，利用进程池来管理所有子进程。

除了这一点，Node.js 中子进程也是唯一的执行二进制文件的方式，Node.js 可通过流 (stdin/stdout/stderr) 或 IPC 和子进程通信。

通过 Stream 通信

const {spawn} = require('child_process');
const ls = spawn('ls', ['-lh', '/usr']);

ls.stdout.on('data', (data) => {
  console.log(`stdout: ${data}`);
});

ls.stderr.on('data', (data) => {
  console.error(`stderr: ${data}`);
});

ls.on('close', (code) => {
  console.log(`child process exited with code ${code}`);
});

通过 IPC 通信

const cp = require('child_process');
const n = cp.fork(`${__dirname}/sub.js`);

n.on('message', (m) => {
  console.log('PARENT got message:', m);
});

n.send({hello: 'world'});

二、线程池的适用场景

使用线程池的最大意义在于多任务并行，为主线程降压，同时减少线程创建和销毁的资源消耗。单个 CPU 密集性的计算任务使用线程执行并不会更快，甚至线程的创建、销毁、上下文切换、线程通信、数据序列化等操作还会额外增加资源消耗。

但是如果一个计算机程序中有很多同一类型的阻塞任务需要执行，那么将他们交给线程池可以成倍的减少任务总的执行时间，因为在同一时刻多个线程在并行进行计算。如果多个任务只使用主线程执行，那么最终消耗的时间是线性叠加的，同时主线程阻塞之后也会影响其它任务的处理。

特别是对 Node.js 这种单主线程的语言来讲，主线程如果消耗了过多的时间来执行这些耗时任务，那么对整个 Node.js 单个进程实例的性能影响将是致命的。这些占用着 CPU 时间的操作将导致其它任务获取的 CPU 时间不足或 CPU 响应不够及时，被影响的任务将进入 “饥饿” 状态。

因此 Node.js 启动后主线程应尽量承担调度的角色，批量重型 CPU 占用任务的执行应交由额外的工作线程处理，主线程最后拿到工作线程的执行结果再返回给任务调用方。另一方面由于 IO 操作 Node.js 内部作了优化和支持，因此 IO 操作应该直接交给主线程，主线程再使用内部线程池处理。

Node.js 的异步能不能解决过多占用 CPU 任务的执行问题？

答案是：不能，过多的异步 CPU 占用任务会阻塞事件循环。

Node.js 的异步在 网络 IO / 磁盘 IO 处理上很有用，宏任务微任务系统 + 内部线程调用能分担主进程的执行压力。但是如果单独将 CPU 占用任务放入宏任务队列或微任务队列，对任务的执行速度提升没有任何帮助，只是一种任务调度方式的优化而已。

我们只是延迟了任务的执行或是将巨大任务分散成多个再分批执行，但是任务最终还是要在主线程被执行。如果这类任务过多，那么任务分片和延迟的效果将完全消失，一个任务可以，那十个一百个呢？量变将会引起质变。

以下是 Node.js 官方博客中的原文：

“如果你需要做更复杂的任务，拆分可能也不是一个好选项。这是因为拆分之后任务仍然在事件循环线程中执行，并且你无法利用机器的多核硬件能力。 请记住，事件循环线程只负责协调客户端的请求，而不是独自执行完所有任务。 对一个复杂的任务，最好把它从事件循环线程转移到工作线程池上。”

• 场景：间歇性让主进程 瘫痪

每一秒钟，主线程有一半时间被占用

// this task costs 100ms
function doHeavyTask() { ...}

setInterval(() => {
  doHeavyTask(); // 100ms
  doHeavyTask(); // 200ms
  doHeavyTask(); // 300ms
  doHeavyTask(); // 400ms
  doHeavyTask(); // 500ms
}, 1e3);

• 场景：高频性让主进程 半瘫痪

每 200ms，主线程有一半时间被占用

// this task costs 100ms
function doHeavyTask() { ...}

setInterval(() => {
  doHeavyTask();
}, 1e3);

setInterval(() => {
  doHeavyTask();
}, 1.2e3);

setInterval(() => {
  doHeavyTask();
}, 1.4e3);

setInterval(() => {
  doHeavyTask();
}, 1.6e3);

setInterval(() => {
  doHeavyTask();
}, 1.8e3);

以下是官方博客的原文摘录：

“因此，你应该保证永远不要阻塞事件轮询线程。换句话说，每个 JavaScript 回调应该快速完成。这些当然对于 await，Promise.then 也同样适用。”

III. 进程池

进程池是对进程的创建、执行任务、销毁等流程进行管控的一个应用或是一套程序逻辑。之所以称之为池是因为其内部包含多个进程实例，进程实例随时都在进程池内进行着状态流转，多个创建的实例可以被重复利用，而不是每次执行完一系列任务后就被销毁。因此，进程池的部分存在目的是为了减少进程创建的资源消耗。

此外进程池最重要的一个作用就是负责将任务分发给各个进程执行，各个进程的任务执行优先级取决于进程池上的负载均衡运算，由算法决定应该将当前任务派发给哪个进程，以达到最高的 CPU 和内存利用率。常见的负载均衡算法有：

• POLLING - 轮询：子进程轮流处理请求
• WEIGHTS - 权重：子进程根据设置的权重来处理请求
• RANDOM - 随机：子进程随机处理请求
• SPECIFY - 指定：子进程根据指定的进程 id 处理请求
• WEIGHTS_POLLING - 权重轮询：权重轮询策略与轮询策略类似，但是权重轮询策略会根据权重来计算子进程的轮询次数，从而稳定每个子进程的平均处理请求数量。
• WEIGHTS_RANDOM - 权重随机：权重随机策略与随机策略类似，但是权重随机策略会根据权重来计算子进程的随机次数，从而稳定每个子进程的平均处理请求数量。
• MINIMUM_CONNECTION - 最小连接数：选择子进程上具有最小连接活动数量的子进程处理请求。
• WEIGHTS_MINIMUM_CONNECTION - 权重最小连接数：权重最小连接数策略与最小连接数策略类似，不过各个子进程被选中的概率由连接数和权重共同决定。

一、要点

「 对单一任务的控制不重要，对单个进程宏观的资源占用更需关注 」

二、流程设计

进程池架构图参考之前的进程管理工具开发相关 文章，本文只需关注进程池部分。

1. 关键流程

• 进程池创建进程时会初始化进程实例内的 ProcessHost 事务对象，进程实例向事务对象注册多种任务监听器。
• 用户向进程池发起单个任务调用请求，可传入进程绑定的 ID 和指定的任务名。
• 判断用户是否传入 ID 参数指定使用某个进程执行任务，如果未指定 ID：
  • 进程池判断当前进程池进程数量是否已超过最大值，如果未超过则创建新进程，用此进程处理当前任务，并将进程放入进程池。
  • 如果进程池进程数量已达最大值，则根据负载均衡算法选择一个进程处理当前任务。
• 指定 ID 时：
  • 通过用户传入的 ID 参数找到对应进程，将任务分发给此进程执行。
  • 如果未找到 ID 所对应的进程，则向用户抛出异常。
• 任务由进程池派发给目标进程后，ProcessHost 事务对象会根据该任务的任务名触发子进程内的监听器。
• 子进程内的监听器函数可执行同步任务和异步任务，异步任务返回 Promise 对象，同步任务返回值。
• ProcessHost 事务对象的监听器函数执行完毕后，会将任务结果返回给进程池，进程池再将结果通过异步回调函数返回给用户。
• 用户也可向进程池所有子进程发起个任务调用请求，最终将会通过 Promise 的返回所有子进程的任务执行结果。

2. 名词解释

• ProcessHost 事务中心：运行在子进程中，用于事件触发以及和主进程通信。开发者在子进程执行文件中向其注册多个具有特定任务名的任务事件，主进程会向某个子进程发送任务请求，并由事务中心调用指定的事件监听器处理请求。
• LoadBalancer 负载均衡器：用于选择一个进程处理任务，可根据不同的负载均衡算法实现不同的选择策略。
• LifeCycle: 设计之初用于管控子进程的智能启停，某个进程在长时间未被使用时进入休眠状态，当有新任务到来时再唤醒进程。目前还有些难点需要解决，比如进程的唤醒和休眠不好实现，进程的使用情况不好统计，该功能暂时不可用。

三、进程池使用方式

更多示例见：进程池 mocha 单元测试

1. 创建进程池

main.js

const { ChildProcessPool, LoadBalancer } = require('electron-re');

const processPool = new ChildProcessPool({
  path: path.join(__dirname, 'child_process/child.js'),
  max: 4,
  strategy: LoadBalancer.ALGORITHM.POLLING,
);

child.js

const { ProcessHost } = require('electron-re');

ProcessHost
  .registry('test1', (params) => {
    console.log('test1');
    return 1 + 1;
  })
  .registry('test2', (params) => {
    console.log('test2');
    return new Promise((resolve) => resolve(true));
  });

2. 向一个子进程发送任务请求

processPool.send('test1', { value: "test1"}).then((result) => {
  console.log(result);
});

3. 向所有子进程发送任务请求

processPool.sendToAll('test1', { value: "test1"}).then((results) => {
  console.log(results);
});

四、进程池实际使用场景

1. Electron 网页代理工具中多进程的应用

1）基本代理原理：

2）单进程下客户端执行原理：

• 通过用户预先保存的服务器配置信息，使用 node.js 子进程来启动 ss-local 可执行文件建立和 ss 服务器的连接来代理用户本地电脑的流量，每个子进程占用一个 socket 端口。
• 其它支持 socks5 代理的 proxy 工具比如：浏览器上的 SwitchOmega 插件会和这个端口的 tcp 服务建立连接，将 tcp 流量加密后通过代理服务器转发给我们需要访问的目标服务器。

3）多进程下客户端执行原理：

以上描述的是客户端连接单个节点的工作模式，节点订阅组中的负载均衡模式需要同时启动多个子进程，每个子进程启动 ss-local 执行文件占用一个本地端口并连接到远端一个服务器节点。

每个子进程启动时选择的端口是会变化的，因为某些端口可能已经被系统占用，程序需要先选择未被使用的端口。并且浏览器 proxy 工具也不可能同时连接到我们本地启动的子进程上的多个 ss-local 服务上。因此需要一个占用固定端口的中间节点接收 proxy 工具发出的连接请求，然后按照某种分发规则将 tcp 流量转发到各个子进程的 ss-local 服务的端口上。

2. Téléchargement segmenté de fichiers multi-processus Client Electron

J'ai déjà créé un client qui prend en charge le téléchargement segmenté multi-fichiers du protocole SMB. La gestion des tâches de téléchargement, les opérations d'E/S, etc. du côté de Node.js ont tous été. implémenté en utilisant plusieurs versions de processus, mais je l'ai fait moi-même (échappé) dans la branche expérimentale de gitlab.

IV. Thread Pool

Afin de réduire la surcharge du système liée aux calculs de tâches gourmandes en CPU, Node.js a introduit une nouvelle fonctionnalité : le thread de travail worker_threads, qui a été publié pour la première fois dans v10.5.0. Apparaît comme une fonctionnalité expérimentale. Plusieurs threads peuvent être créés au sein du processus via worker_threads. Le thread principal et les threads de travail communiquent à l'aide de parentPort, et les threads de travail peuvent communiquer directement via MessageChannel. En tant que fonctionnalité importante permettant aux développeurs d'utiliser les threads, worker_threads peut être utilisé normalement dans l'environnement de production dans la version stable de v12.11.0. v10.5.0 作为实验性功能出现。通过 worker_threads 可以在进程内创建多个线程，主线程与 worker 线程使用 parentPort 通信，worker 线程之间可通过 MessageChannel 直接通信。worker_threads 做为开发者使用线程的重要特性，在 v12.11.0 稳定版已经能正常在生产环境使用了。

但是线程的创建需要额外的 CPU 和内存资源，如果要多次使用一个线程的话，应该将其保存起来，当该线程完全不使用时需要及时关闭以减少内存占用。想象我们在需要使用线程时直接创建，使用完后立刻销毁，可能线程自身的创建和销毁成本已经超过了使用线程本身节省下的资源成本。Node.js 内部虽然有使用线程池，但是对于开发者而言是完全透明不可见的，因此封装一个能够维护线程生命周期的线程池工具的重要性就体现了。

为了强化多异步任务的调度，线程池除了提供维护线程的能力，也提供维护任务队列的能力。当发送请求给线程池让其执行一个异步任务时，如果线程池内没有空闲线程，那该任务就会被直接丢弃了，显然这不是想要的效果。

因此可以考虑为线程池添加一个任务队列的调度逻辑：当线程池没有空闲线程时，将该任务放入待执行任务队列 (FIFO)，线程池在某个时机取出任务交由某个空闲线程执行，执行完成后触发异步回调函数，将执行结果返回给请求调用方。但是线程池的任务队列内的任务数量应该考虑限制到一个特殊值，防止线程池负载过大影响 Node.js 应用整体运行性能。

一、要点

「 对单一任务的控制重要，对单个线程的资源占用无需关注 」

二、详细设计

任务流转过程

• 调用者可通过 StaticPool/StaticExcutor/DynamicPool/DynamicExcutor

  Cependant, la création de threads nécessite des ressources CPU et mémoire supplémentaires. Si un thread doit être utilisé plusieurs fois, il doit être enregistré. Lorsque le thread n'est pas utilisé du tout, il doit être fermé à temps pour réduire l'utilisation de la mémoire. . Imaginez que nous créons un thread directement lorsque nous devons l'utiliser et que nous le détruisons immédiatement après utilisation. Peut-être que le coût de création et de destruction du thread lui-même a dépassé le coût des ressources économisées en utilisant le thread lui-même. Bien que Node.js utilise un pool de threads en interne, il est complètement transparent et invisible pour les développeurs. Par conséquent, l'importance d'encapsuler un outil de pool de threads capable de maintenir le cycle de vie des threads se reflète.
• Afin d'améliorer la planification de plusieurs tâches asynchrones, le pool de threads offre non seulement la possibilité de gérer les threads, mais offre également la possibilité de maintenir les files d'attente de tâches. Lors de l'envoi d'une requête au pool de threads pour effectuer une tâche asynchrone, s'il n'y a pas de threads inactifs dans le pool de threads, la tâche sera directement ignorée. Ce n'est évidemment pas l'effet souhaité.
  Vous pouvez donc envisager d'ajouter une logique de planification de file d'attente de tâches au pool de threads : lorsque le pool de threads n'a pas de threads inactifs, placez la tâche dans la file d'attente des tâches à exécuter (FIFO), et le pool de threads supprimera le tâche à un certain moment et la remettre à un thread inactif. Le thread s'exécute. Une fois l'exécution terminée, la fonction de rappel asynchrone est déclenchée et le résultat de l'exécution est renvoyé à l'appelant de la requête. Cependant, le nombre de tâches dans la file d'attente des tâches du pool de threads doit être limité à une valeur spéciale pour éviter qu'une charge excessive sur le pool de threads n'affecte les performances globales de l'application Node.js.
• 1. Points clés
  「 Le contrôle d'une seule tâche est important, Il n'est pas nécessaire de prêter attention à l'utilisation des ressources des threads"
• 2. Conception détaillée
  
• Processus de flux de tâches
• L'appelant peut transmettre le StaticPool/StaticExcutor/DynamicPool/ Instance DynamicExcutor vers le thread Le pool répartit les tâches (les termes clés sont expliqués ci-dessous). La plus grande différence entre les différentes instances est la capacité dynamique des paramètres.

• Les tâches sont générées en interne par le pool de threads. Après génération, la tâche est utilisée comme support de transfert principal, d'une part, elle porte les paramètres de calcul de la tâche transmis par l'utilisateur, et d'autre part, elle. enregistre les changements d'état au cours du processus de transfert de tâche, tels que : l'état de la tâche, l'heure de début, l'heure de fin, l'ID de la tâche, le nombre de tentatives de tâche, si la tâche prend en charge les tentatives, le type de tâche, etc.

• Une fois la tâche générée, déterminez d'abord si le nombre de threads dans le pool de threads actuel a atteint la limite supérieure, s'il n'a pas atteint la limite supérieure, créez un nouveau thread et placez-le dans la zone de stockage des threads. puis utilisez ce thread pour exécuter directement la tâche en cours.
  🎜🎜Si le nombre de threads dans le pool de threads dépasse la limite, déterminez s'il existe des threads inactifs qui n'ont pas exécuté de tâches. Après avoir obtenu les threads inactifs, utilisez ce thread pour exécuter directement la tâche en cours. 🎜🎜🎜🎜S'il n'y a pas de thread inactif, il sera jugé si la file d'attente des tâches en attente actuelle est pleine. Si la file d'attente des tâches est pleine, une erreur sera générée, permettant à l'appelant de sentir que la tâche n'a pas été exécutée avec succès. . 🎜🎜🎜🎜Si la file d'attente des tâches n'est pas pleine, placez la tâche dans la file d'attente des tâches et attendez que le système de cycle de tâches la retire et l'exécute. 🎜🎜🎜🎜Une fois la tâche exécutée dans les trois cas des étapes 4/5/6 ci-dessus, il est jugé si la tâche est exécutée avec succès. En cas de réussite, la fonction de rappel réussie est déclenchée et le statut de promesse est rempli. En cas d'échec, déterminez si la nouvelle tentative est prise en charge. Si la nouvelle tentative est prise en charge, la tâche sera réessayée + 1, puis replacée à la fin de la file d'attente des tâches. Si la tâche ne prend pas en charge les nouvelles tentatives, elle échouera directement et déclenchera la fonction de rappel asynchrone ayant échoué, et l'état de la promesse sera rejeté. 🎜🎜🎜🎜Pendant tout le cycle de vie du pool de threads, il existe un système de cycle de tâches, qui obtient les tâches de la tête de la file d'attente des tâches à une certaine fréquence périodique, obtient les threads inactifs de la zone de stockage des threads, puis utilise ce thread pour exécuter des tâches. Ce processus est également conforme à la section 7 Description des étapes. 🎜

• 任务循环系统除了取任务执行，如果线程池设置了任务超时时间的话，也会判断正在执行中的任务是否超时，超时后会终止该线程的所有运行中的代码。

模块说明

• StaticPool
  • 定义：静态线程池，可使用固定的 execFunction/execString/execFile 执行参数来启动工作线程，执行参数在进程池创建后不能更改。
  • 进程池创建之后除了执行参数不可变外，其它参数比如：任务超时时间、任务重试次数、线程池任务轮询间隔时间、最大任务数、最大线程数、是否懒创建线程等都可以通过 API 随时更改。
• StaticExcutor
  • 定义：静态线程池的执行器实例，继承所属线程池的固定执行参数 execFunction/execString/execFile 且不可更改。
  • 执行器实例创建之后除了执行参数不可变外，其它参数比如：任务超时时间、任务重试次数、transferList 等都可以通过 API 随时更改。
  • 静态线程池的各个执行器实例的参数设置互不影响，参数默认继承于所属线程池，参数在执行器上更改后具有比所属线程池同名参数更高的优先级。
• DynamicPool
  • 定义：动态线程池，无需使用 execFunction/execString/execFile 执行参数即可创建线程池。执行参数在调用 exec() 方法时动态传入，因此执行参数可能不固定。
  • 线程池创建之后执行参数默认为 null，其它参数比如：任务超时时间、任务重试次数、transferList 等都可以通过 API 随时更改。
• DynamicExcutor
  • 定义：动态线程池的执行器实例，继承所属线程池的其它参数，执行参数为 null。
  • 执行器实例创建之后，其它参数比如：任务超时时间、任务重试次数、transferList 等都可以通过 API 随时更改。
  • 动态线程池的各个执行器实例的参数设置互不影响，参数默认继承于所属线程池，参数在执行器上更改后具有比所属线程池同名参数更高的优先级。
  • 动态执行器实例在执行任务之前需要先设置执行参数 execFunction/execString/execFile，执行参数可以随时改变。
• ThreadGenerator
  • 定义：线程创建的工厂方法，会进行参数校验。
• Thread
  • 定义：线程实例，内部简单封装了 worker_threads API。
• TaskGenerator
  • 定义：任务创建的工厂方法，会进行参数校验。
• Task
  • 定义：单个任务，记录了任务执行状态、任务开始结束时间、任务重试次数、任务携带参数等。
• TaskQueue
  • 定义：任务队列，在数组中存放任务，以先入先出方式 (FIFO) 向线程池提供任务，使用 Map 来存储 taskId 和 task 之间的映射关系。
• Task Loop
  • 任务循环，每个循环的默认时间间隔为 2S，每次循环中会处理超时任务、将新任务派发给空闲线程等。

三、线程池使用方式

更多示例见：线程池 mocha 单元测试

1. 创建静态线程池

main.js

const { StaticThreadPool } = require(`electron-re`);
const threadPool = new StaticThreadPool({
  execPath: path.join(__dirname, './worker_threads/worker.js'),
  lazyLoad: true, // 懒加载
  maxThreads: 24, // 最大线程数
  maxTasks: 48, // 最大任务数
  taskRetry: 1, // 任务重试次数
  taskLoopTime: 1e3, // 任务轮询时间
});
const executor = threadPool.createExecutor();

worker.js

const fibonaccis = (n) => {
  if (n  {
  return fibonaccis(value);
}

2. 使用静态线程池发送任务请求

threadPool.exec(15).then((res) => {
  console.log(+res.data === 610)
});

executor
  .setTaskRetry(2) // 不影响 pool 的全局设置
  .setTaskTimeout(2e3) // 不影响 pool 的全局设置
  .exec(15).then((res) => {
    console.log(+res.data === 610)
  });

3. 动态线程池和动态执行器

const { DynamicThreadPool } = require(`electron-re`);
const threadPool = new DynamicThreadPool({
  maxThreads: 24, // 最大线程数
  maxTasks: 48, // 最大任务数
  taskRetry: 1, // 任务重试次数
});
const executor = threadPool.createExecutor({
  execFunction: (value) => { return 'dynamic:' + value; },
});

threadPool.exec('test', {
  execString: `module.exports = (value) => { return 'dynamic:' + value; };`,
});
executor.exec('test');
executor
  .setExecPath('/path/to/exec-file.js')
  .exec('test');

四、线程池实际使用场景

暂未在项目中实际使用，可考虑在前端图片像素处理、音视频转码处理等 CPU 密集性任务中进行实践。

这里有篇文章写了 web_worker 的一些应用场景，web_worker 和 worker_threads 是类似的，宿主环境不同，一些权限和能力的不同而已。

V. Ending

Le project initial est un ensemble d'outils pour le développement d'applications Electron qui fournit des fonctions telles que BrowserService / ChildProcessPool / Interface utilisateur de surveillance de processus simple / communication inter-processus, et l'ajout des pools de threads En fait, cela n'était pas prévu au début, et le pool de threads lui-même est indépendant et ne s'appuie pas sur d'autres fonctions du module dans electronic-re. Il devrait être indépendant à l'avenir. BrowserService / ChildProcessPool / 简易进程监控 UI / 进程间通信 等功能，线程池的加入其实是当初没有计划的，而且线程池本身是独立的，不依赖 electron-re 中其它模块功能，之后应该会被独立出去。

进程池和线程池的实现方案上还需完善。

比如进程池未支持子进程空闲时自动退出以解除资源占用，当时做了另一版监听 ProcessHost 的任务执行情况来让子进程空闲时休眠，想通过此方式节省资源占用。不过由于没有 node.js API 级别的支持以分辨子进程空闲的情况，并且子进程的休眠 / 唤醒功能比较鸡肋 (有尝试通过向子进程发送 SIGSTOP/SIGCONT 信号实现)，最终这个特性被废除了。

后面可以考虑支持 CPU/Memory 的负载均衡算法，目前已经通过项目中的 ProcessManager 模块来实现资源占用情况采集了。

线程池方面相对的可用度还是较高，提供了 pool/excutor 两个层级的调用管理，支持链式调用，在一些需要提升数据传输性能的场景支持 transferList

La mise en œuvre du pool de processus et du pool de threads doit être améliorée.

Par exemple, le pool de processus ne prend pas en charge la sortie automatique du processus enfant lorsqu'il est inactif pour soulager l'occupation des ressources. À cette époque, une autre version a été créée pour surveiller l'état d'exécution des tâches de ProcessHost afin de laisser le processus enfant dormir lorsque. c'est inactif. Je voulais ainsi économiser l'occupation des ressources. Cependant, comme il n'existe pas de support au niveau de l'API node.js pour identifier l'état d'inactivité du processus enfant et que la fonction veille/réveil du processus enfant est relativement inutile (il existe des tentatives pour y parvenir en envoyant SIGSTOP /SIGCONT signale au processus enfant), cette fonctionnalité a finalement été obsolète.

Nous pouvons envisager de prendre en charge l'algorithme d'équilibrage de charge CPU/mémoire à l'avenir, la collecte de l'utilisation des ressources a été implémentée via le module ProcessManager dans le projet. 🎜🎜La disponibilité relative du pool de threads est encore relativement élevée. Il fournit deux niveaux de gestion des appels pool/excutor, prend en charge les appels en chaîne et prend en charge dans certains scénarios où les performances de transmission des données doivent être réduites. être améliorée. La méthode transferList évite le clonage des données. Par rapport à d'autres solutions open source de pool de threads de nœuds, elle se concentre sur le renforcement de la fonction de file d'attente des tâches et prend en charge des fonctions telles que la nouvelle tentative de tâche et l'expiration du délai d'attente des tâches. 🎜🎜Pour plus de connaissances sur les nœuds, veuillez visiter : 🎜tutoriel Nodejs🎜 ! 🎜

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!