解析秒殺搶購思路以及高併發下資料安全
- 怪我咯原創
- 2017-04-05 11:18:421412瀏覽
我們通常衡量一個Web系統的吞吐率的指標是QPS（Query Per Second，每秒處理請求數），解決每秒數萬次的高並發場景，這個指標非常關鍵。舉個例子，我們假設處理一個業務請求平均回應時間為100ms，同時，系統內有20台Apache的Web伺服器，設定MaxClients為500個（表示Apache的最大連線數目）。
那麼，我們的Web系統的理論峰值QPS為（理想化的計算方式）：
20*500/0.1 = 100000 （10萬QPS）
咦？我們的系統似乎很強大，1秒鐘可以處理完10萬的請求，5w/s的秒殺似乎是「紙老虎」哈。實際情況，當然沒有這麼理想。在高並發的實際場景下，機器都處於高負載的狀態，在這個時候平均反應時間會被大大增加。
就Web伺服器而言，Apache開啟了越多的連線進程，CPU需要處理的上下文切換也越多，額外增加了CPU的消耗，然後就直接導致平均回應時間增加。因此上述MaxClient的數目，要根據CPU、記憶體等硬體因素綜合考慮，絕對不是越多越好。可以透過Apache自帶的abench來測試一下，取一個適合的值。然後，我們選擇記憶體操作層級的儲存的Redis，在高並發的狀態下，儲存的回應時間至關重要。網路頻寬雖然也是一個因素，不過，這種請求封包一般比較小，一般很少成為請求的瓶頸。負載平衡成為系統瓶頸的情況比較少，在這裡不做討論哈。
那麼問題來了，假設我們的系統，在5w/s的高並發狀態下，平均回應時間從100ms變為250ms（實際情況，甚至更多）：
20 *500/0.25 = 40000 （4萬QPS）
於是，我們的系統剩下了4w的QPS，面對5w每秒的請求，中間相差了1w。
舉個例子，高速路口，1秒鐘來5部車，每秒通過5部車，高速路口運作正常。突然，這個路口1秒鐘只能通過4部車，車流量仍依舊，結果必定出現大塞車。 （5條車道忽然變成4條車道的感覺）
同理，某一個秒內，20*500個可用連接進程都在滿載工作中，卻仍然有1萬個新來請求，沒有連線進程可用，系統陷入到異常狀態也是預期之內。
其實在正常的非高並發的業務場景中，也有類似的情況出現，某個業務請求介面出現問題，回應時間極慢，將整個Web請求回應時間拉得很長，逐漸將Web伺服器的可用連線數佔滿，其他正常的業務請求，無連線進程可用。
更可怕的問題是，是使用者的行為特點，系統越是不可用，使用者的點擊越頻繁，惡性循環最終導致「雪崩」（其中一台Web機器掛了，導致流量分散到其他正常運作的機器上，再導致正常的機器也掛，然後惡性循環），將整個Web系統拖垮。
3. 重啟與過載保護
如果系統發生“雪崩”，貿然重啟服務，是無法解決問題的。最常見的現像是，啟動起來後，立刻掛掉。這個時候，最好在入口層將流量拒絕，然後再重新啟動。如果是redis/memcache這種服務也掛了，重啟的時候需要注意“預熱”，並且很可能需要比較長的時間。
秒殺和搶購的場景，流量往往是超乎我們系統的準備和想像的。這時候，過載保護是必要的。如果偵測到系統滿載狀態，拒絕請求也是一種保護措施。在前端設定過濾是最簡單的方式，但是，這種做法是被使用者「千夫所指」的行為。更合適一點的是，將過載保護設置在CGI入口層，快速將客戶的直接請求返回
高並發下的資料安全性
我們知道在多線程寫入同一個文件的時候，會存有「線程安全」的問題（多個執行緒同時運行同一段程式碼，如果每次運行結果和單執行緒運行的結果是一樣的，結果和預期相同，就是執行緒安全的）。如果是MySQL資料庫，可以使用它自帶的鎖定機制很好的解決問題，但是，在大規模並發的場景中，是不建議使用MySQL的。秒殺和搶購的場景中，還有另一個問題，就是“超發”，如果在這方面控制不慎，會產生發送過多的情況。我們也曾經聽說過，某些電商搞搶購活動，買家成功拍攝後，商家卻不承認訂單有效，拒絕出貨。這裡的問題，也許不一定是商家姦詐，而是系統技術層面有超發風險所導致的。
1. 超發的原因
假設某個搶購場景中，我們總共只有100個商品，在最後一刻，我們已經消耗了99個商品，只剩最後一個。這時候，系統發來多個並發請求，這批請求讀取到的商品餘裕都是99個，然後都通過了這一個餘量判斷，最終導致超發。 （同文章前面說的場景）
在上面的這個圖中，就導致了並髮用戶B也“搶購成功”，多讓一個人獲得了商品。這種場景，在高並發的情況下非常容易出現。
最佳化方案1：將庫存欄位number欄位設為unsigned，當庫存為0時，因為欄位無法為負數，將會傳回false
<?php
//优化方案1：将库存字段number字段设为unsigned，当库存为0时，因为字段不能为负数，将会返回false
include('./mysql.php');
$username = 'wang'.rand(0,1000);
//生成唯一订单
function build_order_no(){
return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8);
}
//记录日志
function insertLog($event,$type=0,$username){
global $conn;
$sql="insert into ih_log(event,type,usernma)
values('$event','$type','$username')";
return mysqli_query($conn,$sql);
}
function insertOrder($order_sn,$user_id,$goods_id,$sku_id,$price,$username,$number)
{
global $conn;
$sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price,username,number)
values('$order_sn','$user_id','$goods_id','$sku_id','$price','$username','$number')";
return mysqli_query($conn,$sql);
}
//模拟下单操作
//库存是否大于0
$sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id' ";
$rs=mysqli_query($conn,$sql);
$row = $rs->fetch_assoc();
if($row['number']>0){//高并发下会导致超卖
if($row['number']<$number){
return insertLog('库存不够',3,$username);
}
$order_sn=build_order_no();
//库存减少
$sql="update ih_store set number=number-{$number} where sku_id='$sku_id' and number>0";
$store_rs=mysqli_query($conn,$sql);
if($store_rs){
//生成订单
insertOrder($order_sn,$user_id,$goods_id,$sku_id,$price,$username,$number);
insertLog('库存减少成功',1,$username);
}else{
insertLog('库存减少失败',2,$username);
}
}else{
insertLog('库存不够',3,$username);
}
?>2. 悲觀鎖定思路
解決線程安全的思路很多，可以從「悲觀鎖」的方向開始討論。
悲觀鎖，也就是在修改資料的時候，採用鎖定狀態，排除外部請求的修改。遇到加鎖的狀態，就必須等待。
雖然上述的方案的確解決了線程安全的問題，但是，別忘記，我們的場景是「高並發」。也就是說，會很多這樣的修改請求，每個請求都需要等待“鎖”，某些線程可能永遠沒有機會搶到這個“鎖”，這種請求就會死在那裡。同時，這種請求會很多，瞬間增加系統的平均回應時間，結果是可用連線數被耗盡，系統陷入異常。
最佳化方案2：使用MySQL的事務，鎖定操作的行
<?php
//优化方案2：使用MySQL的事务，锁住操作的行
include('./mysql.php');
//生成唯一订单号
function build_order_no(){
return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8);
}
//记录日志
function insertLog($event,$type=0){
global $conn;
$sql="insert into ih_log(event,type)
values('$event','$type')";
mysqli_query($conn,$sql);
}
//模拟下单操作
//库存是否大于0
mysqli_query($conn,"BEGIN"); //开始事务
$sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id' FOR UPDATE";//此时这条记录被锁住,其它事务必须等待此次事务提交后才能执行
$rs=mysqli_query($conn,$sql);
$row=$rs->fetch_assoc();
if($row['number']>0){
//生成订单
$order_sn=build_order_no();
$sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price)
values('$order_sn','$user_id','$goods_id','$sku_id','$price')";
$order_rs=mysqli_query($conn,$sql);
//库存减少
$sql="update ih_store set number=number-{$number} where sku_id='$sku_id'";
$store_rs=mysqli_query($conn,$sql);
if($store_rs){
echo '库存减少成功';
insertLog('库存减少成功');
mysqli_query($conn,"COMMIT");//事务提交即解锁
}else{
echo '库存减少失败';
insertLog('库存减少失败');
}
}else{
echo '库存不够';
insertLog('库存不够');
mysqli_query($conn,"ROLLBACK");
}
?>3. FIFO佇列思路
那好，那我們稍微修改一下上面的場景，我們直接將請求放入佇列中的，採用FIFO（First Input First Output，先進先出），這樣的話，我們就不會導致某些請求永遠取得不到鎖。看到這裡，是不是有點強行把多線程變成單線程的感覺哈。
然後，我們現在解決了鎖定的問題，全部要求採用「先進先出」的佇列方式來處理。那麼新的問題來了，高並發的場景下，因為請求很多，很可能一瞬間將隊列內存“撐爆”，然後系統又陷入到了異常狀態。或者設計一個極大的記憶體佇列，也是一種方案，但是，系統處理完一個佇列內請求的速度根本無法和瘋狂湧入佇列中的數目相比。也就是說，佇列內的請求會越累積越多，最終Web系統平均回應時候還是會大幅下降，系統還是陷入異常。
4. 檔案鎖的想法
對於日IP不高或說並發數不是很大的應用，一般不用考慮這些！用一般的文件操作方法完全沒有問題。但如果並發高，在我們對文件進行讀寫操作時，很有可能多個進程對進一文件進行操作，如果這時不對文件的訪問進行相應的獨佔，就容易造成數據丟失
優化方案4：使用非阻塞的文件排他鎖
<?php
//优化方案4：使用非阻塞的文件排他锁
include ('./mysql.php');
//生成唯一订单号
function build_order_no(){
return date('ymd').substr(implode(NULL, array_map('ord', str_split(substr(uniqid(), 7, 13), 1))), 0, 8);
}
//记录日志
function insertLog($event,$type=0){
global $conn;
$sql="insert into ih_log(event,type)
values('$event','$type')";
mysqli_query($conn,$sql);
}
$fp = fopen("lock.txt", "w+");
if(!flock($fp,LOCK_EX | LOCK_NB)){
echo "系统繁忙，请稍后再试";
return;
}
//下单
$sql="select number from ih_store where goods_id='$goods_id' and sku_id='$sku_id'";
$rs = mysqli_query($conn,$sql);
$row = $rs->fetch_assoc();
if($row['number']>0){//库存是否大于0
//模拟下单操作
$order_sn=build_order_no();
$sql="insert into ih_order(order_sn,user_id,goods_id,sku_id,price)
values('$order_sn','$user_id','$goods_id','$sku_id','$price')";
$order_rs = mysqli_query($conn,$sql);
//库存减少
$sql="update ih_store set number=number-{$number} where sku_id='$sku_id'";
$store_rs = mysqli_query($conn,$sql);
if($store_rs){
echo '库存减少成功';
insertLog('库存减少成功');
flock($fp,LOCK_UN);//释放锁
}else{
echo '库存减少失败';
insertLog('库存减少失败');
}
}else{
echo '库存不够';
insertLog('库存不够');
}
fclose($fp);
?>5. 樂觀鎖定思路
這時候，我們就可以討論一下「樂觀鎖」的想法了。樂觀鎖，是相對於「悲觀鎖」採用更為寬鬆的加鎖機制，大都是採用帶版本號（Version）更新。實作就是，這個資料所有請求都有資格去修改，但會得到一個該資料的版本號，只有版本號符合的才能更新成功，其他的回傳搶購失敗。這樣的話，我們就不需要考慮佇列的問題，不過，它會增加CPU的運算開銷。但是，綜合來說，這是一個比較好的解決方案。
有許多軟體和服務都「樂觀鎖定」功能的支持，例如Redis中的watch就是其中之一。透過這個實現，我們保證了資料的安全。
最佳化方案5：Redis中的watch
<?php
$redis = new redis();
$result = $redis->connect('127.0.0.1', 6379);
echo $mywatchkey = $redis->get("mywatchkey");
/*
//插入抢购数据
if($mywatchkey>0)
{
$redis->watch("mywatchkey");
//启动一个新的事务。
$redis->multi();
$redis->set("mywatchkey",$mywatchkey-1);
$result = $redis->exec();
if($result) {
$redis->hSet("watchkeylist","user_".mt_rand(1,99999),time());
$watchkeylist = $redis->hGetAll("watchkeylist");
echo "抢购成功！<br/>";
$re = $mywatchkey - 1;
echo "剩余数量：".$re."<br/>";
echo "用户列表：<pre class="brush:php;toolbar:false">";
print_r($watchkeylist);
}else{
echo "手气不好，再抢购！";exit;
}
}else{
// $redis->hSet("watchkeylist","user_".mt_rand(1,99999),"12");
// $watchkeylist = $redis->hGetAll("watchkeylist");
echo "fail！<br/>";
echo ".no result<br/>";
echo "用户列表：<pre class="brush:php;toolbar:false">";
// var_dump($watchkeylist);
}*/
$rob_total = 100; //抢购数量
if($mywatchkey<=$rob_total){
$redis->watch("mywatchkey");
$redis->multi(); //在当前连接上启动一个新的事务。
//插入抢购数据
$redis->set("mywatchkey",$mywatchkey+1);
$rob_result = $redis->exec();
if($rob_result){
$redis->hSet("watchkeylist","user_".mt_rand(1, 9999),$mywatchkey);
$mywatchlist = $redis->hGetAll("watchkeylist");
echo "抢购成功！<br/>";
echo "剩余数量：".($rob_total-$mywatchkey-1)."<br/>";
echo "用户列表：<pre class="brush:php;toolbar:false">";
var_dump($mywatchlist);
}else{
$redis->hSet("watchkeylist","user_".mt_rand(1, 9999),'meiqiangdao');
echo "手气不好，再抢购！";exit;
}
}
?>以上是解析秒殺搶購思路以及高併發下資料安全的詳細內容。更多資訊請關注PHP中文網其他相關文章！