Golang を使用してリクエスト電流制限を実装する方法

最新のネットワーク アプリケーションの使用が増加するにつれて、多くのユーザー要求がサーバーに殺到し始め、いくつかの問題が発生します。サーバーのパフォーマンスには限界があり、すべてのリクエストを処理できるという保証はありませんが、同時に大量のリクエストが届くとサービスが不安定になる可能性があります。この際、リクエストレートの制限は避けられない選択肢となっておりますが、以下ではGolangを使ってリクエスト電流制限を実現する方法を紹介します。

電流制限とは

電流制限とは、アプリケーション、システム、またはサービスが一定期間内に耐えることができるリクエストまたはデータ トラフィックの最大数を制限することを指します。電流制限は、ネットワーク攻撃を軽減し、帯域幅の乱用やリソースの乱用を防ぐのに役立ちます。通常、この制限を「フロー制御」と呼びます。これにより、さまざまなタイプやソースのリクエストに優先順位を付け、さまざまなタイプやソースのリクエストをさまざまな割合で処理できます。

リクエスト電流制限の実装

タイム ウィンドウに基づくウィンドウ電流制限アルゴリズム

最も単純で直接的なアルゴリズムは、タイム ウィンドウに基づく電流制限アルゴリズムです。最近の期間に送信されたリクエストの合計数がしきい値を超えているかどうかを確認します。アプリケーションの特性に応じて時間ウィンドウの長さを調整して、最適なパフォーマンスと最小限の誤警報率を実現できます。

API への 1 秒あたりの最大アクセス数を制限する必要があるとします。Golang の time パッケージを使用してトラフィックをカウントし、バッファ チャネルを使用してリクエスト キューを実装できます。コードは次のとおりです。

type ApiLimiter struct {
    rate       float64 // 时间窗口内最大请求数
    capacity   int // 请求队列最大长度，即最多能有多少请求同时被处理
    requestNum int // 时间窗口内已处理请求总数
    queue      chan int // 缓冲通道，用于实现请求队列
}

func NewApiLimiter(rate float64, capacity int) *ApiLimiter {
    return &ApiLimiter{
        rate:       rate,
        capacity:   capacity,
        requestNum: 0,
        queue:      make(chan int, capacity),
    }
}
func (al *ApiLimiter) Request() bool {
    now := time.Now().UnixNano()
    maxRequestNum := int(float64(now)/float64(time.Second)*al.rate) + 1 // 统计最近一秒内应该处理的请求数量
    if maxRequestNum <= al.requestNum { // 超过最大请求数，返回false
        return false
    }
    al.queue <- 1 // 将请求压入队列
    al.requestNum += 1
    return true
}

この例では、Golang の chan を使用してリクエスト キューを実装し、時間パッケージを使用して時間枠内のリクエストの数を計算します。リクエストがサーバーに到達した後、リクエストをキューに入れ、リクエスト量と最大リクエスト数を比較し、最大リクエスト数を超えた場合は false を返します。

リーキー バケット アルゴリズム

リーキー バケット アルゴリズムは、もう 1 つの有名な電流制限アルゴリズムであり、リーキー バケットには常に一定数のリクエストが保持されます。新しいリクエストが到着したら、まずリーキーバケットに残っているリクエスト数が最大リクエスト量に達しているかどうかを確認し、達している場合は新しいリクエストを拒否し、そうでない場合は新しいリクエストをバケットに入れてバケット内のリクエスト数を減らします。一つ。 。

リーキー バケット アルゴリズムは、Golang のコルーチンとタイマーを利用して実装できます。タイマーを使用して、時間の経過とともにリクエストがゆっくりと流出するリークバケットを表すことができます。コードは次のとおりです。

type LeakyBucket struct {
    rate       float64 // 漏桶每秒处理的请求量（R）
    capacity   int     // 漏桶的大小（B）
    water      int     // 漏桶中当前的水量（当前等待处理的请求个数）
    lastLeaky  int64   // 上一次请求漏出的时间，纳秒
    leakyTimer *time.Timer // 漏桶接下来漏水需要等待的时间
    reject     chan int // 被拒绝的请求通道
}

func NewLeakyBucket(rate float64, capacity int) *LeakyBucket {
    bucket := &LeakyBucket{
        rate:     rate,
        capacity: capacity,
        water:    0,
        reject:   make(chan int, 1000),
    }
    bucket.leakyTimer = time.NewTimer(time.Second / time.Duration(rate))
    return bucket
}

func (lb *LeakyBucket) Request() chan int {
    select {
    case <-lb.leakyTimer.C:
        if lb.water > 0 {
            lb.water -= 1
            lb.leakyTimer.Reset(time.Second / time.Duration(lb.rate))
               return nil // 请求被允许
        }
        lb.leakyTimer.Reset(time.Second / time.Duration(lb.rate))
        return lb.reject // 请求被拒绝
    default:
        if lb.water >= lb.capacity {
            return lb.reject // 请求被拒绝
        } else {
            lb.water += 1 // 请求被允许
            return nil
        }
    }
}

この例では、Golang のタイマーを使用してリーキー バケットの流出速度を実現し、chan を使用してリクエストのバッファリングを実現します。まず、漏れのあるバケット内のリクエスト (水) の残りの数を定期的にチェックするタイマーを作成しました。リクエストが通過する前に、まず処理できる最大容量に達しているかどうかを確認します。達している場合は拒否を返します。そうでない場合は、漏れのあるバケツに入れて、水の量に1を加えてください。

さらなる考察

この記事では、ウィンドウベースの電流制限アルゴリズムとリーキーバケットアルゴリズムという 2 つの一般的なリクエスト電流制限アルゴリズムを紹介します。ただし、リクエストの重要性に基づくフロー制御やキュー データ構造と組み合わせたフロー制御など、これらのアルゴリズムには他にも多くのバリエーションがあります。 Golang 自体は優れた同時実行性とコルーチン モデルを備えており、リクエスト スロットリングを実装するための最良のツールの 1 つとなっています。

将来的には、人工知能、ビッグデータ、その他のテクノロジーの徹底的な開発に伴い、アプリケーションの動作をサポートするためのより優れた電流制限アルゴリズムが必要になります。それでは、さらに考える前に、この絶え間なく変化し進化する分野を一緒に探索し、研究してみましょう。

以上がGolang を使用してリクエスト電流制限を実装する方法の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。