ホームページ  >  記事  >  Java  >  Javaで単一マシンの電流制限を実装する方法

Javaで単一マシンの電流制限を実装する方法

WBOY
WBOY転載
2023-04-25 23:04:141659ブラウズ

レート制限を使用する場合:

たとえば、アプリケーションの QPS が 1000 を超えないことを希望する場合、RateLimiter はレートを 1000 に設定した後、毎回 1000 個のトークンをバケットにスローします。 RateLimiter 多くの場合、一部の物理リソースまたは論理リソースへのアクセス レートを制限するために使用されます。

はじめに:

スタンドアロン バージョンの現在の制限については、Google のオープン ソース Guava プロジェクトを使用できます。このプロジェクトは、Google が Java プロジェクトで使用する、コレクション (コレクション) とキャッシュ (キャッシュ)、並行プログラミング ライブラリ (同時実行)、共通の注釈 (共通の注釈)、文字列操作、および I/O 操作における多くの非常に実用的な関数。

このプロジェクトには、トークン バケット アルゴリズムに基づいて実装された電流制限機能も含まれています。

2 つの電流制限戦略を提供します。

● スムーズ バースト電流制限 (SmoothBursty)
● スムーズな予熱電流制限 (SmoothWarmingUp) の実装。

Javaで単一マシンの電流制限を実装する方法

依存関係:

<dependency>
  <groupId>com.google.guava</groupId>
  <artifactId>guava</artifactId>
  <version>29.0-jre</version>
</dependency>

メソッドの説明:

Javaで単一マシンの電流制限を実装する方法

シミュレーション シナリオ (例):

シナリオ 1:

特定のインターフェイスへのアクセス数が 1 秒あたり 10 回を超えないようにする場合

package org.xhs.test;

import org.apache.curator.shaded.com.google.common.util.concurrent.RateLimiter;

import java.util.ArrayList;
import java.util.List;
import java.util.Map;
import java.util.concurrent.*;


/**
 * @Author: hu.chen
 * @Description:
 **/
public class Test {

    /**
     * 存储接口名和令牌生成器的对应关系
     */
   private static Map<String, RateLimiter> interfaces = new ConcurrentHashMap<>();
   
    /**
     * 线程池
     */
    private static ExecutorService threadPool = new ThreadPoolExecutor(10,15,3,TimeUnit.SECONDS,new ArrayBlockingQueue<>(100));

    public static void main(String[] args) throws InterruptedException {

        List<UserRequest> tasks = new ArrayList<UserRequest>();
        // 准备工作,先初始化 10个线程(用户),这10个用户同时访问一个接口
        for (int i = 1; i <= 12; i++) {
            String ip = "127.0.0." + i;
            String userName="chenhu_"+i;
            String interfaceName="user/find_";
            tasks.add(new UserRequest(ip,userName,interfaceName));
        }


        // 先初始化好令牌生成器
        for (UserRequest request : tasks) {
            // 根据接口名限流
            RateLimiter rateLimiter = interfaces.get(request.getInterfaceName());

            if(rateLimiter==null){
                // 创建一个令牌生成器,每秒产生10个令牌
                synchronized (interfaces) {
                    if(rateLimiter==null) {
                        rateLimiter = RateLimiter.create(10);
                        // 将这个令牌生成器和具体的接口进行绑定
                        interfaces.put(request.getInterfaceName(),rateLimiter);
                    }
                }
            }
        }

        // 休眠一秒,让令牌生成器先生成令牌
        Thread.sleep(1000);

        for (UserRequest request : tasks) {
            // 根据接口名限流
            RateLimiter rateLimiter = interfaces.get(request.getInterfaceName());


            // 获取令牌桶中一个令牌,如果获取不到,则等待 timeout 时间,如果还获取不到,则返回false,反之则返回true
            // timeout设置为0,表示不等待
            if(rateLimiter.tryAcquire(1,0,TimeUnit.SECONDS)){

                // 得到令牌,处理请求
                threadPool.execute(()->{
                    System.err.println("接口:"+request.getInterfaceName()+" 访问还未达到上限,"+request.getUserName()+"可以访问");
                });
            }else {
                // 已经等待了10秒还获取不到令牌,进行其他业务处理
                System.err.println("当前时间访问失败,"+request.getUserName()+"无法获取令牌");
            }
        }
    }

    private static class UserRequest {
        /**
         * 请求用户ip
         */
        private String ip;

        /**
         * 用户名
         */
        private String userName;

        /**
         * 请求的接口名
         */
        private String interfaceName;
        public UserRequest(String ip, String userName, String interfaceName) {
            this.ip = ip;
            this.userName = userName;
            this.interfaceName = interfaceName;
        }
        public String getIp() {return ip;}

        public String getUserName() { return userName;}
        public String getInterfaceName() {return interfaceName;}
    }
}

シナリオ 2 :

特定のユーザーまたは IP へのアクセスが 1 秒あたり 10 回を超えないようにする場合

package org.xhs.test;

import org.apache.curator.shaded.com.google.common.util.concurrent.RateLimiter;

import java.util.ArrayList;
import java.util.List;
import java.util.Map;
import java.util.concurrent.*;


/**
 * @Author: hu.chen
 * @Description:
 **/
public class Test {

    /**
     * 存储用户名和令牌生成器的对应关系
     */
   private static Map<String, RateLimiter> interfaces = new ConcurrentHashMap<>();

    /**
     * 线程池
     */
    private static ExecutorService threadPool = new ThreadPoolExecutor(10,15,3,TimeUnit.SECONDS,new ArrayBlockingQueue<>(100));

    public static void main(String[] args) throws InterruptedException {

        List<UserRequest> tasks = new ArrayList<UserRequest>();
        // 准备工作,先初始化 10个线程(用户),这10个用户同时访问一个接口
        for (int i = 1; i <= 12; i++) {
            String ip = "127.0.0." + i;
            String userName="chenhu_";
            String interfaceName="user/find_"+i;
            tasks.add(new UserRequest(ip,userName,interfaceName));
        }


        // 先初始化好令牌生成器
        for (UserRequest request : tasks) {
            // 根据接口名限流
            RateLimiter rateLimiter = interfaces.get(request.getUserName());

            if(rateLimiter==null){
                // 创建一个令牌生成器,每秒产生5个令牌
                synchronized (interfaces) {
                    if(rateLimiter==null) {
                        rateLimiter = RateLimiter.create(10);
                        // 将这个令牌生成器和具体的接口进行绑定
                        interfaces.put(request.getUserName(),rateLimiter);
                    }
                }
            }
        }

        // 休眠一秒,让令牌生成器先生成令牌
        Thread.sleep(1000);

        for (UserRequest request : tasks) {
            // 根据接口名限流
            RateLimiter rateLimiter = interfaces.get(request.getUserName());


            // 获取令牌桶中一个令牌,如果获取不到,则等待 timeout 时间,如果还获取不到,则返回false,反之则返回true
            // timeout设置为0,表示不等待
            if(rateLimiter.tryAcquire(1,0,TimeUnit.SECONDS)){

                // 得到令牌,处理请求
                threadPool.execute(()->{
                    System.err.println("用户:"+request.getUserName()+" 当前时间访问次数还未达到上限,可以访问");
                });
            }else {
                // 已经等待了10秒还获取不到令牌,进行其他业务处理
                System.err.println("当前时间访问失败,"+request.getUserName()+"无法获取令牌");
            }
        }
    }

    private static class UserRequest {
        /**
         * 请求用户ip
         */
        private String ip;

        /**
         * 用户名
         */
        private String userName;

        /**
         * 请求的接口名
         */
        private String interfaceName;
        public UserRequest(String ip, String userName, String interfaceName) {
            this.ip = ip;
            this.userName = userName;
            this.interfaceName = interfaceName;
        }
        public String getIp() {return ip;}

        public String getUserName() { return userName;}
        public String getInterfaceName() {return interfaceName;}
    }
}

以上がJavaで単一マシンの電流制限を実装する方法の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事はyisu.comで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。