搜尋
首頁資料庫Redisredis的分區實現

redis的分區實現

Apr 15, 2020 am 09:13 AM
redis

分割區是分割資料到多個Redis實例的處理過程,因此每個實例只保存key的一個子集。本文就來為大家介紹一下redis實作分區的方法。

redis的分區實現

我們為什麼要分割區?分區的動機是什麼?通常來說,Redis分區的好處大致有以下兩個面向:

1、效能的提升,單機Redis的網路I/O能力和運算資源是有限的,將請求分散到多台機器,充分利用多台機器的運算能力可網路頻寬,有助於提高Redis整體的服務能力。

2、儲存的橫向擴展,即使Redis的服務能力能夠滿足應用需求,但是隨著儲存資料的增加,單一機器受限於機器本身的儲存容量,將資料分散到多台機器上儲存使得Redis服務可以橫向擴展。

總的來說,分區使得我們本來受限於單一電腦硬體資源的問題不再是問題,儲存不夠?運算資源不夠?頻寬不夠?我們都可以透過增加機器來解決這些問題。

Redis分區基礎

實際應用程式中有很多分區的具體策略,舉個例子,假設我們已經有了一組四個Redis實例分別為R0、 R1、R2、R3,另外我們有一批代表使用者的鍵,如:user:1,user:2,…等等,其中「user:」後面的數字代表的是使用者的ID,我們要做的事情是把這些鍵分散儲存在這四個不同的Redis實例上。

怎麼做呢?最簡單的一種方式是範圍分區(range partitioning),下面我們來看看基於範圍分區怎麼做。

範圍分區

所謂範圍分區,就是將一個範圍內的key都對應到同一個Redis實例中,加入資料集還是上面提到的使用者數據,具體做法如下:

我們可以將使用者ID從0到10000的使用者資料對應到R0實例,而將使用者ID從10001到20000的物件對應到R1實例,依序類別推。

這種方法雖然簡單,但是在實際應用中是很有效的,不過還是有問題:

1、我們需要一張表,這張表用來存儲使用者ID範圍到Redis實例的映射關係,例如使用者ID0-10000的是映射到R0實例…。

2、我們不僅需要對這張表進行維護,而且對於每種對象類型我們都需要一個這樣的表,比如我們當前存儲的是用戶信息,如果存儲的是訂單信息,我們就需要再建一張映射關係表。

3、如果我們想要儲存的資料的key並不能按照範圍劃分怎麼辦,例如我們的key是一組uuid,這個時候就不好用範圍分區了。

哈希分區

哈希分區跟範圍分區相比一個明顯的優點是哈希分區適合任何形式的key,而不像範圍分區一樣需要key的形式為object_name:,而且分區方法也很簡單,一個公式就可以表達:

id=hash(key)%N

其中id代表Redis實例的編號,公式描述的是先根據key和一個hash函數(如crc32函數)計算出一個數值型的值。接著上面的例子,我們的第一個要處理的key是user:1,hash(user:1)的結果是93024922。

然後哈希結果進行取模,取模的目的是計算出一個介於0到3之間的值,因此這個值才可以被映射到我們的一個Redis實例上面。例如93024922%4結果是2,我們就會知道foobar將要存放在R2上面。

不同的分區實作

分區可以在redis軟體堆疊的不同部分實現,我們來看看下面幾種:

#客戶端實作

客戶端實作即key在redis客戶端就決定了要被儲存在那台Redis實例中,見下圖:

redis的分區實現

代理實作

代理實作即客戶端將請求發送到代理伺服器,代理伺服器實作了Redis協議,因此代理伺服器可以代理客戶端和Redis伺服器通訊。代理伺服器透過設定的分區schema來將客戶端的請求轉送到正確的Redis實例中,同時將回饋訊息傳回給客戶端。

代理實作Redis分區示意圖如下:

redis的分區實現

#查詢路由

查詢路由是Redis Cluster實作的一種Redis分區方式:

redis的分區實現

查詢路由的過程中,我們可以將查詢請求隨機的傳送到任一個Redis實例,這個Redis實例負責將請求轉送至正確的Redis實例中。 Redis叢集實作了一個透過和客戶端協作的hybrid來做查詢路由。

Redis分割區的缺點

儘管Redis分區到現在為止,so far so good,但是Redis分區有一些致命的缺點,這導致一些Redis功能在分區的環境下並不能很好地工作,我們來看看:

1、多鍵操作是不被支援的,例如我們將要批次操作的鍵被映射到了不同的Redis實例中。

2、多鍵的Redis事務是不被支援的。

3、分區的最小粒度是鍵,因此我們不能將關聯到一個鍵的很大的資料集對應到不同的實例。

4、當應用分區的時候,資料的處理是非常複雜的,例如我們需要處理多個rdb/aof文件,將分佈在不同實例的文件聚集到一起備份。

5、新增和刪除機器是很複雜的,例如Redis叢集支援幾乎運行時透明的因為增加或減少機器而需要做的rebalancing,然而像客戶端和代理分區這種方式是不支持這種功能的。

持久性儲存用還是快取

儘管資料分區對Redis來說無論是資料持久化儲存還是緩存,在概念上都是一樣的,然而對於數據持久化儲存還是有一個很大的限制。

當我們使用Redis作為持久化儲存的時候,每一個key必須一直被映射到同一個Redis實例。而當Redis被當做快取使用的時候,對於這個key,如果一個實例不能用了,這個key還可以被映射到其他的實例中。

Consistent hashing實作通常使得當一個key被映射到的實例不能用的時候將這個key映射到其他實例成為可能。類似,如果增加了一台機器,一部分的key將會被映射到這台新的機器上,我們需要了解的兩點如下:

1、如果Redis被用來當做緩存,且要求容易增加或刪除機器,使用consistent hashing是非常簡單的。

2、如果Redis被用來當做(持久)存儲,一個固定的key到實例的映射是需要的,因此我們不能夠再靈活的添加或刪除機器。否則,我們需要在增加或刪除機器的時候系統能夠rebalace,而當前Redis Cluster已經支援。

Pre-Sharding

透過上面的介紹,我們知道Redis分區應用起來是有問題的,除非我們只是使用Redis當做緩存,否則對於增加機器或刪除機器是非常麻煩的。

然而,通常我們Redis容量變動在實際應用中是非常常見的,例如今天我需要10台Redis機器,明天可能就需要50台機器了。

鑑於Redis是很輕量級的服務(每個實例只佔用1M),對於上面的問題一種簡單的解決方法是:

我們可以開啟多個Redis實例,儘管是一台實體機器,我們在剛開始的時候也可以開啟多個實例。我們可以從中選擇一些實例,例如32或64個實例來作為我們的工作集群。當一台實體機器儲存不夠的時候,我們可以將一般的實例移到我們的第二台實體機上,依序類別對,我們可以確保叢集中Redis的實例數不變,又可以達到擴充機器的目的。

怎麼移動Redis實例呢?當需要將Redis實例移到獨立的機器上的時候,我們可以透過下面步驟實現:

1、在新的實體機上啟動一個新的Redis實例。

2、將新的實體機當作要移動的那台的slave機器。

3、停止客戶端。

4、更新將要被移動的那Redis實例的IP位址。

5、傳送SLAVEOF ON ONE指令給slave機器。

6、使用新的IP啟動Redis客戶端。

7、關閉不再使用的那個Redis實例。

更多redis知識請關注redis入門教學欄位。

以上是redis的分區實現的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文轉載於:OSCHINA。如有侵權,請聯絡admin@php.cn刪除
為什麼要使用redis?利益和優勢為什麼要使用redis?利益和優勢Apr 14, 2025 am 12:07 AM

Redis是一個強大的數據庫解決方案,因為它提供了極速性能、豐富的數據結構、高可用性和擴展性、持久化能力以及廣泛的生態系統支持。 1)極速性能:Redis的數據存儲在內存中,讀寫速度極快,適合高並發和低延遲應用。 2)豐富的數據結構:支持多種數據類型,如列表、集合等,適用於多種場景。 3)高可用性和擴展性:支持主從復制和集群模式,實現高可用性和水平擴展。 4)持久化和數據安全:通過RDB和AOF兩種方式實現數據持久化,確保數據的完整性和可靠性。 5)廣泛的生態系統和社區支持:擁有龐大的生態系統和活躍社區,

了解NOSQL:Redis的關鍵特徵了解NOSQL:Redis的關鍵特徵Apr 13, 2025 am 12:17 AM

Redis的關鍵特性包括速度、靈活性和豐富的數據結構支持。 1)速度:Redis作為內存數據庫,讀寫操作幾乎瞬時,適用於緩存和會話管理。 2)靈活性:支持多種數據結構,如字符串、列表、集合等,適用於復雜數據處理。 3)數據結構支持:提供字符串、列表、集合、哈希表等,適合不同業務需求。

REDIS:確定其主要功能REDIS:確定其主要功能Apr 12, 2025 am 12:01 AM

Redis的核心功能是高性能的內存數據存儲和處理系統。 1)高速數據訪問:Redis將數據存儲在內存中,提供微秒級別的讀寫速度。 2)豐富的數據結構:支持字符串、列表、集合等,適應多種應用場景。 3)持久化:通過RDB和AOF方式將數據持久化到磁盤。 4)發布訂閱:可用於消息隊列或實時通信系統。

REDIS:流行數據結構指南REDIS:流行數據結構指南Apr 11, 2025 am 12:04 AM

Redis支持多種數據結構,具體包括:1.字符串(String),適合存儲單一值數據;2.列表(List),適用於隊列和棧;3.集合(Set),用於存儲不重複數據;4.有序集合(SortedSet),適用於排行榜和優先級隊列;5.哈希表(Hash),適合存儲對像或結構化數據。

redis計數器怎麼實現redis計數器怎麼實現Apr 10, 2025 pm 10:21 PM

Redis計數器是一種使用Redis鍵值對存儲來實現計數操作的機制,包含以下步驟:創建計數器鍵、增加計數、減少計數、重置計數和獲取計數。 Redis計數器的優勢包括速度快、高並發、持久性和簡單易用。它可用於用戶訪問計數、實時指標跟踪、遊戲分數和排名以及訂單處理計數等場景。

redis命令行怎麼用redis命令行怎麼用Apr 10, 2025 pm 10:18 PM

使用 Redis 命令行工具 (redis-cli) 可通過以下步驟管理和操作 Redis:連接到服務器,指定地址和端口。使用命令名稱和參數向服務器發送命令。使用 HELP 命令查看特定命令的幫助信息。使用 QUIT 命令退出命令行工具。

redis集群模式怎麼搭建redis集群模式怎麼搭建Apr 10, 2025 pm 10:15 PM

Redis集群模式通過分片將Redis實例部署到多個服務器,提高可擴展性和可用性。搭建步驟如下:創建奇數個Redis實例,端口不同;創建3個sentinel實例,監控Redis實例並進行故障轉移;配置sentinel配置文件,添加監控Redis實例信息和故障轉移設置;配置Redis實例配置文件,啟用集群模式並指定集群信息文件路徑;創建nodes.conf文件,包含各Redis實例的信息;啟動集群,執行create命令創建集群並指定副本數量;登錄集群執行CLUSTER INFO命令驗證集群狀態;使

redis怎麼讀取隊列redis怎麼讀取隊列Apr 10, 2025 pm 10:12 PM

要從 Redis 讀取隊列,需要獲取隊列名稱、使用 LPOP 命令讀取元素,並處理空隊列。具體步驟如下:獲取隊列名稱:以 "queue:" 前綴命名,如 "queue:my-queue"。使用 LPOP 命令:從隊列頭部彈出元素並返回其值,如 LPOP queue:my-queue。處理空隊列:如果隊列為空,LPOP 返回 nil,可先檢查隊列是否存在再讀取元素。

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
3 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
3 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
3 週前By尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解鎖Myrise中的所有內容
4 週前By尊渡假赌尊渡假赌尊渡假赌

熱工具

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

MantisBT

MantisBT

Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

DVWA

DVWA

Damn Vulnerable Web App (DVWA) 是一個PHP/MySQL的Web應用程序,非常容易受到攻擊。它的主要目標是成為安全專業人員在合法環境中測試自己的技能和工具的輔助工具,幫助Web開發人員更好地理解保護網路應用程式的過程,並幫助教師/學生在課堂環境中教授/學習Web應用程式安全性。 DVWA的目標是透過簡單直接的介面練習一些最常見的Web漏洞,難度各不相同。請注意,該軟體中

MinGW - Minimalist GNU for Windows

MinGW - Minimalist GNU for Windows

這個專案正在遷移到osdn.net/projects/mingw的過程中,你可以繼續在那裡關注我們。 MinGW:GNU編譯器集合(GCC)的本機Windows移植版本,可自由分發的導入函式庫和用於建置本機Windows應用程式的頭檔;包括對MSVC執行時間的擴展,以支援C99功能。 MinGW的所有軟體都可以在64位元Windows平台上運作。

SecLists

SecLists

SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。