例如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或其他問題 我想每次取10000 三次取完 這只是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝! ! !
還有就是如果查倆張表的資料 合併在一起 還有辦法排序嗎根據某個欄位?
例如資料庫有300000條資料 現在根據條件查詢符合的有30000條資料 一次取太多了可能慢或其他問題 我想每次取10000 三次取完 這只是個例子 應該怎麼實現啊?用遞迴嗎?
告知下 謝謝! ! !
還有就是如果查倆張表的資料 合併在一起 還有辦法排序嗎根據某個欄位?
謝邀,對於資料量較大的結果集,我目前一般會採用以下兩種方式處理。採用這兩種方式處理的目的是:一是減少資料集取得時頻寬資源的佔用,二是減少程式對結果集處理時記憶體的使用。
分塊,就是題主的思路
<code>$sql = 'SELECT xxx FROM table WHERE xxx LIMIT limit :limit offset :offset'; $limit = 10000; $offset = 0; do{ $stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_FWDONLY)); $stmt->execute(array(':limit' => $limit, ':offset' => $offset)); $data = $stmt->fetchAll(); // 处理逻辑 $offset += $limit; }while(count($data));</code>
遊標,按行讀取回傳
<code>$sql = 'SELECT xxx FROM table WHERE xxx'; $stmt = $dbh->prepare($sql, array(PDO::ATTR_CURSOR => PDO::CURSOR_SCROLL)); $stmt->execute(); $row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_LAST); do { // 处理逻辑 $row } while ($row = $stmt->fetch(PDO::FETCH_NUM, PDO::FETCH_ORI_PRIOR));</code>
個人建議當你要找後面的分塊的時候,用where
條件而不是直接limit 100000 , 100000
:
二者區別舉例如下:
<code>//这个是第一种,取第20w开始的10w条数据 select * from table limit 100000 , 100000 order by id //这是第二种取法 select * from table where id > 100000 limit 100000 order by id 因为mysql用limit越往后,排序之后取后面的越慢</code>
直接透過sql語句就能搞定呀,不需要後台處理;可以排序呀,根據你指定欄位order by
就行了
連表查詢
例如:SELECT a.* from tableA as a, tableB as b where a.id = b.id order by a.id desc limit 0,10000";
你可以先select count(1) from table where 條件。看看總共有多少數據。大於N條的時候,
你再select * from table limit m,n
分頁查詢
2張表的話就select * from table1 union all select * form table2 order by 某個欄位
。注意查詢的列數量要一樣。最好類型也是一樣
假設表id均勻分佈的情況下,可以利用ID的區間來分段查詢資料
<code class="php">//每次计划读取的数据条数 $max_per_size = 10000; //找到符合条件的最小ID和最大ID $sql = "SELECT min(id),max(id) AS max_id AS num FROM `table` WHERE xx='xx'"; $stmt = $pdo->prepare($sql); $stmt->execute(); $res = $stmt->fetch(PDO::FETCH_ASSOC); //符合条件的最大ID $max_id = $res['max_id']; //符合条件的最小ID $min_id = $res['min_id']; $times = ceil(($max_id - $min_id + 1) / $max_per_size); //第一次的ID区间 $current_min_id = $min_id; $current_max_id = $min_id + $max_per_page; for($i = 0; $i<$times; $i++) { //生成SQL语句 $sql = "SELECT * FROM `table` WHERE xx='xx' AND (id>= {$current_min_id} AND id <= {$current_max_id})"; //得到数据之后的操作 //......... //重新计算下一次的ID区间 $current_min_id = $current_max_id + 1; $current_max_id = $current_max_id + $max_per_page; if ($current_max_id > $max_id) { $current_max_id = $max_id; } }</code>