首頁 >後端開發 >php教程 >PHP讀取大檔案的幾個方法

PHP讀取大檔案的幾個方法

墨辰丷
墨辰丷原創
2018-05-31 10:14:471420瀏覽

本篇文章主要介紹了幾種基於PHP讀取大檔案的方法,主要有3種方法。有興趣的朋友可以參考一下。

讀取大檔案一直是一個頭痛的問題,我們像使用php開發讀取小檔案可以直接使用各種函數實現,但一到大文章就會發現常用的方法是無法正常使用或時間太長太卡了,下面我們就一起來看看關於php讀取大檔案問題解決方法,希望例子能幫助到各位。

場景:PHP讀取超大文件,例如1G的日誌文件,我這裡使用的是400M的access.log文件

1、使用file直接讀取

<?php
$starttime=microtime_float();
 
ini_set(&#39;memory_limit&#39;, &#39;-1&#39;);
$file = &#39;testfile.txt&#39;;
 
$data = file($file);
$line = $data[count($data) - 1000];
$endtime=microtime_float();
 
echo count($data),"<br/>";
echo $endtime-$starttime;
 
function microtime_float(){
 list($usec, $sec) = explode(" ", microtime());
 return ((float)$usec + (float)$sec);
}
?>

運行結果:10127784 行   共使用了,7.8764359951s

我的電腦是3G內存,此方法不是推薦使用,因為需要把檔案全部載入記憶體

2、使用linux指令  tail

#
<?php
 
$starttime=microtime_float();
 
$file = &#39;testfile.txt&#39;;
$file = escapeshellarg($file); // 对命令行参数进行安全转义
$line = `tail -n 100 $file`;
 
echo $line,"<br/>";
 
$endtime=microtime_float();
echo $endtime-$starttime;
 
function microtime_float(){
 list($usec, $sec) = explode(" ", microtime());
 return ((float)$usec + (float)$sec);
}
 
//end

在運行結果:只使用了幾毫秒、輕鬆搞定、這種方法不能在windows下使用

3、使用fseek函數

這種方式是最為普遍的方式,它不需要將文件的內容全部讀入內容,因為PHP是C寫的,所以實現的時候也類似C讀取文件,透過指標的移動,所以效率是相當有效率的。在使用fseek對檔案進行操作時,也有多種不同的方法,效率可能也是略有差別的,

#下面是常用的幾種方法

##方法一:使用fopen開啟檔案(從檔案指標資源句柄)


<?php
$starttime=microtime_float();
 
$file = &#39;testfile.txt&#39;;
$fp = fopen($file, "r+");
 
$line = 100;
$pos = -2;
$t =$data="";
 
while ($line > 0)
{
 while ($t != "\n") //换行符
 {
 fseek($fp, $pos, SEEK_END);//移动指针
 $t = fgetc($fp);//获取一个字符
 $pos--;//向前偏移
 }
 
 $t = "";
 $data = fgets($fp);//获取当前行的数据
 $line--;
}
fclose($fp);
echo $data,"<br/>";
$endtime=microtime_float();
 
echo $endtime-$starttime;
 
function microtime_float(){
 list($usec, $sec) = explode(" ", microtime());
 return ((float)$usec + (float)$sec);
}
?>

執行結果:0.338493108749

方法二:一塊一塊的讀取

<?php
$starttime=microtime_float();
 
$file = &#39;testfile.txt&#39;;
$fp = fopen($file, "r");
$num = 10;
$chunk = 4096;//4K的块
$fs = sprintf("%u", filesize($file));
$readData=&#39;&#39;;
$max = (intval($fs) == PHP_INT_MAX) ? PHP_INT_MAX : $fs;
 
for($len = 0; $len < $max; $len += $chunk){
 
 $seekSize = ($max - $len > $chunk) ? $chunk : $max - $len;
 fseek($fp, ($len + $seekSize) * -1, SEEK_END);
 $readData = fread($fp, $seekSize) . $readData;
 
if (substr_count($readData, "\n") >= $num + 1) {
 
 $ns=substr_count($readData, "\n")-$num+2;
 preg_match(&#39;/(.*?\n){&#39;.$ns.&#39;}/&#39;,$readData,$match);
 $data = $match[1];
 break;
}
}
fclose($fp);
echo $data,"<br/>";
 
 
$endtime=microtime_float();
 
echo $endtime-$starttime;
 
function microtime_float(){
 list($usec, $sec) = explode(" ", microtime());
 return ((float)$usec + (float)$sec);
}
?>

運行時間:0.00199198722839


使用fgets函數,一行一行讀取

#

<?php
$file = fopen("testfile.txt","r");
 while(!feof($file))
 {
   echo fgets($file);
 }
 fclose($file);

spl函式庫函數

<?php
try{
  foreach( new SplFileObject(&#39;testfile.txt&#39;) as $line)
  echo $line.&#39;<br />&#39;;
}catch (Exception $e){
  echo $e->getMessage();
}

另外網路上有很多按照區塊讀取檔案的,有興趣的讀者可以試試,我試了沒成功,好像必須含有換行符「\n」才可以。

以上就是本文的全部內容,希望對大家的學習有所幫助。


相關推薦:

PHP 中TP5 Request 請求物件的方法

PHP中TP5 上傳檔案的方法

php實作二維關聯陣列轉換成字串的方法

##

以上是PHP讀取大檔案的幾個方法的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn