唯一計數是網站系統中十分常見的一個功能特性,例如網站需要統計每天造訪的人數 unique visitor (也就是 UV)。計數問題很常見,但解決起來可能十分複雜:一是需要計數的量可能很大,比如大型的站點每天有數百萬的人訪問,數據量相當大;二是通常還希望擴展計數的維度,例如除了需要每天的UV,還想知道每週或每月的UV,這樣導致計算十分複雜。
在關聯式資料庫儲存的系統裡,實作唯一計數的方法就是 select count(distinct
Redis 解決這類計數問題得心應手,相比關係資料庫速度更快,消耗資源更少,甚至提供了 3 種不同的方法。
1.基於set
Redis 的set 用於保存唯一的資料集合,透過它可以快速判斷某一個元素是否存在於集合中,也可以快速計算某一個集合的元素個數,另外和可以合併集合到一個新的集合。涉及的命令如下:
SISMEMBER key member # 判断 member 是否存在 SADD key member # 往集合中加入 member SCARD key # 获取集合元素个数
基於set 的方法簡單有效,計數精確,適用面廣,易於理解,它的缺點是消耗資源比較大(當然比起關係資料庫是少很多的),如果元素個數很大(例如上億的計數),消耗記憶體很恐怖。
2.基於 bit
Redis 的 bit 可以用來實現比 set 記憶體高度壓縮的計數,它透過一個 bit 1 或 0 來儲存某個元素是否存在資訊。例如網站唯一訪客計數,可以把 user_id 作為 bit 的偏移量 offset,設定為 1 表示有訪問,使用 1 MB的空間就可以存放 800 多萬用戶的一天訪問計數情況。涉及的命令如下:
SETBIT key offset value # 设置位信息 GETBIT key offset # 获取位信息 BITCOUNT key [start end] # 计数 BITOP operation destkey key [key ...] # 位图合并
基於bit 的方法比起set 空間消耗小得多,但是它要求元素能否簡單映射為位元偏移,適用面窄了不少,另外它消耗的空間取決於最大偏移量,和計數值無關,如果最大偏移量很大,消耗記憶體也相當可觀。
3.基於HyperLogLog
實現超大數據量精確的唯一計數都是比較困難的,但是如果只是近似的話,計算科學裡有很多高效的算法,其中HyperLogLog Counting 就是其中非常著名的算法,它可以僅僅使用12 k左右的內存,實現上億的唯一計數,而且誤差控制在百分之一左右。涉及的命令如下:
PFADD key element [element ...] # 加入元素 PFCOUNT key [key ...] # 计数
這種計數方法真的很神奇,我也沒有徹底弄清楚,有興趣可以深入研究相關文章。
redis 提供的這三種唯一計數方式各有優劣,可以充分滿足不同情況下的計數要求。
更多Redis實現唯一計數的3種方法分享相關文章請關注PHP中文網!