Guava Limiter——限流器的簡單易用

本文將從多個維度對Guava Limiter進行詳細闡述，介紹其定義、使用方法、工作原理和案例應用等方面，並給出完整的代碼示例，希望能夠幫助讀者更好地了解和使用該庫。

一、定義

Guava Limiter是Google Guava庫中提供的限流工具，可以用於限制某個動作的頻率，防止服務被過度請求而宕機。它提供了兩種限流算法：基於令牌桶(Token Bucket)和基於漏桶(Leaky Bucket)。使用者可以根據自身需求選擇適合的算法，靈活控制服務的請求。

二、使用方法

在使用Guava Limiter之前需要添加Guava庫。可通過Maven或Gradle的方式添加：

<dependency>
    <groupId>com.google.guava</groupId>
    <artifactId>guava</artifactId>
    <version>29.0-jre</version>
</dependency>

使用Token Bucket算法：

// 創建一個每秒放3個令牌的令牌桶
RateLimiter limiter = RateLimiter.create(3.0);

// 嘗試請求，如果超過了每秒3個的速率，將被阻塞等待處理
limiter.acquire();

使用Leaky Bucket算法：

// 創建一個每秒最多處理2個請求的漏桶
SmoothBursty burstyLimiter = SmoothBursty.create(2, Duration.ofSeconds(1));

// 嘗試請求，如果超過了每秒2個的速率，將被阻塞等待處理
burstyLimiter.acquire();

三、工作原理

1、令牌桶算法

定義：令牌桶算法限流的基本思路是在服務啟動時初始化一個令牌桶，然後請求到來時從令牌桶中獲取令牌，令牌桶為空時就拒絕請求。令牌桶每隔一段時間或者每接受一次請求就會自動添加一定數量的令牌，如果添加後令牌桶仍然滿了，那麼多餘的令牌將被丟棄。

Guava Limiter提供了兩種方式實現令牌桶算法：

• RateLimiter：基於平滑突發(SmoothBursty)的令牌桶算法
• SmoothWarmingUp：基於平滑預熱(SmoothWarmingUp)的令牌桶算法

對於RateLimiter來說，其內部實現了一個基於令牌桶算法的循環隊列，可以根據配置的速率每隔一定時間添加令牌到令牌桶中，並在新請求到來時從令牌桶中獲取令牌。如果令牌桶為空，則會阻塞請求直到能夠獲取到令牌。RateLimiter提供了兩個靜態方法create和createWithCapacity，可以用於創建Speed和PermitsPerSecond，Speed是基於平均速率的速度，而PermitPerSecond是精確速度。下面是一個示例：

// 創建一個每秒放3個令牌的令牌桶
RateLimiter limiter = RateLimiter.create(3.0);

// 嘗試請求，如果超過了每秒3個的速率，將被阻塞等待處理
limiter.acquire();

對於SmoothWarmingUp來說，其內部實現了一個令牌桶算法，但是在初始階段會以一定的速率增加令牌，達到限流速率時再以固定速率添加令牌。具體使用方法和RateLimiter類似，不在贅述。

2、漏桶算法

定義：漏桶算法將服務請求看作水流，提供一個漏桶緩存水流，並以固定的速度將水流釋放到服務中。如果漏桶沒有足夠的空間緩存請求，則會直接拒絕請求。漏桶的大小代表了服務請求的並發上限，因此需要根據服務的處理能力來設置合適的大小。

Guava Limiter實現的基於漏桶算法的限流工具是SmoothBursty。其內部同樣實現了一個漏桶緩存請求，同時還會記錄每次請求的到達時間、請求大小、服務處理時間等信息以確定漏桶中當前緩存的請求是否達到了啟動拒絕機制的閾值。如下面是一個示例：

// 創建一個每秒最多處理2個請求的漏桶
SmoothBursty burstyLimiter = SmoothBursty.create(2, Duration.ofSeconds(1));

// 嘗試請求，如果超過了每秒2個的速率，將被阻塞等待處理
burstyLimiter.acquire();

四、案例應用

Guava Limiter可以應用於多種場景的限流，例如：

• Web接口限流：對同時訪問的請求進行限制，避免服務超負荷而導致響應變慢或宕機。
• 高性能API限流：對高並發、處理速度快的API進行限流，防止對底層服務產生過大的負載，導致崩潰。
• 消息隊列限流：對消費者進行限流，防止峰值流量過大而導致消費方處理不了請求的情況。

下面是一個Web接口限流的示例代碼：

@RestController
public class LimiterController {
    // 創建一個每秒最多處理10個請求的漏桶
    private SmoothBursty rateLimiter = SmoothBursty.create(10, Duration.ofSeconds(1));

    @GetMapping("/api/limiter")
    public String limiter() {
        if (!rateLimiter.tryAcquire()) {
            return "請求過於頻繁，請稍後再試";
        }
        // TODO 處理業務邏輯
        return "請求成功";
    }
}

五、總結

Guava Limiter是一個簡單易用、高可用的限流工具，並且提供了基於令牌桶和漏桶兩種算法的實現，可以根據需求選擇適合的算法。使用Guava Limiter可以有效避免服務過載、崩潰等情況的發生，提高系統的穩定性和可用性。希望本文的介紹和示例代碼能夠對讀者有所幫助。