首頁  >  文章  >  後端開發  >  怎麼實現從資料查詢資料的時候判斷如果資料大於N條分次查詢 遞迴嗎?

怎麼實現從資料查詢資料的時候判斷如果資料大於N條分次查詢 遞迴嗎?

WBOY
WBOY原創
2016-12-05 13:44:071365瀏覽

例如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或其他問題 我想每次取10000 三次取完 這只是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝! ! !
還有就是如果查倆張表的資料 合併在一起 還有辦法排序嗎根據某個欄位?

回覆內容:

例如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或其他問題 我想每次取10000 三次取完 這只是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝! ! !
還有就是如果查倆張表的資料 合併在一起 還有辦法排序嗎根據某個欄位?

謝邀,對於資料量較大的結果集,我目前一般會採用以下兩種方式處理。採用這兩種方式處理的目的是:一是減少資料集取得時頻寬資源的佔用,二是減少程式對結果集處理時記憶體的使用。

  1. 分塊,就是題主的思路

<code>$sql = 'SELECT xxx FROM table WHERE xxx LIMIT limit :limit offset :offset';
$limit = 10000;
$offset = 0;
do{
    $stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_FWDONLY));
    $stmt->execute(array(':limit' => $limit, ':offset' => $offset));
    $data = $stmt->fetchAll();
    // 处理逻辑
    $offset += $limit;
}while(count($data));</code>
  1. 遊標,按行讀取回傳

<code>$sql = 'SELECT xxx FROM table WHERE xxx';
$stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_SCROLL));
$stmt->execute();
$row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_LAST);
do {
    // 处理逻辑 $row
} while ($row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_PRIOR));</code>

個人建議當你要找後面的分塊的時候,用where條件而不是直接limit 100000 , 100000
二者區別舉例如下:

<code>//这个是第一种,取第20w开始的10w条数据
select * from table limit 100000 , 100000 order by id
//这是第二种取法
select * from table where id > 100000 limit 100000 order by id
因为mysql用limit越往后,排序之后取后面的越慢</code>

直接透過sql語句就能搞定呀,不需要後台處理;可以排序呀,根據你指定欄位order by就行了

連表查詢
例如:SELECT a.* from tableA as a, tableB as b where a.id = b.id order by a.id desc limit 0,10000";

你可以先select count(1) from table where 條件。看看總共有多少數據。大於N條的時候,
你再select * from table limit m,n 分頁查詢
2張表的話就
select * from table1 union all select * form table2 order by 某個欄位。注意查詢的列數量要一樣。最好類型也是一樣

假設表id均勻分佈的情況下,可以利用ID的區間來分段查詢資料

<code class="php">//每次计划读取的数据条数
$max_per_size = 10000;
//找到符合条件的最小ID和最大ID
$sql = "SELECT min(id),max(id) AS max_id AS num FROM `table` WHERE xx='xx'";
$stmt = $pdo->prepare($sql);
$stmt->execute();
$res = $stmt->fetch(PDO::FETCH_ASSOC);
//符合条件的最大ID
$max_id = $res['max_id'];
//符合条件的最小ID
$min_id = $res['min_id'];
$times = ceil(($max_id - $min_id + 1) / $max_per_size);
//第一次的ID区间
$current_min_id = $min_id;
$current_max_id = $min_id + $max_per_page;
for($i = 0; $i<$times; $i++) {
    //生成SQL语句
    $sql = "SELECT * FROM `table` WHERE xx='xx' AND (id>= {$current_min_id} AND id <= {$current_max_id})";
    //得到数据之后的操作
    //.........
    //重新计算下一次的ID区间
    $current_min_id = $current_max_id + 1;
    $current_max_id = $current_max_id + $max_per_page;
    if ($current_max_id > $max_id) {
        $current_max_id = $max_id;
    }
}</code>
陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn