最近做大批量資料匯出和資料匯入的時候,經常會遇到PHP記憶體溢出的問題,在解決了問題之後,總結了一些經驗,整理成文章記錄下。
優化點
#優化SQL語句,避免慢查詢,合理的建立索引,查詢指定的字段, sql優化這塊在此就不展開了。
查詢的結果集為大物件時轉數組處理,框架中一般有方法可以轉,如Laravel中有toArray(),Yii2中有asArray()。
對於大數組進行資料切割處理,PHP函數有array_chunk()、array_slice()。
對於大型的字串和對象,使用參考傳遞&。
用過的變數及時unset。
導出的檔案格式由excel改為csv
ini_set('memory_limit',''),設定程式可以使用的記憶體(不建議這樣做)。
思考
#記憶體管理
PHP的記憶體是什麼怎麼管理的呢?在學C語言時,開發者是需要手動管理記憶體。在PHP中,Zend引擎提供為了處理請求相關資料提供了一個特殊的記憶體管理器。請求相關資料是只需要服務單一請求,最遲會在請求結束時釋放資料。
上圖是來自官網的描述截圖
#防止記憶體洩漏並儘可能快地釋放所有記憶體是記憶體管理的重要組成部分。因為安全原因,Zend引擎會釋放所有上面提到的API鎖定分配的記憶體。
垃圾回收機制
簡單說下:
PHP5.3之前,採用引用計數的方式管理。 PHP中的變數存在zval的變數容器中,變數被引用的時,引用計數 1,變數引用計數為0時,PHP會在記憶體中銷毀這個變數。但是在引用計數循環引用時,引用計數就不會消減為0,導致記憶體洩漏。
PHP5.3之後做了優化,並不是每次引用計數減少都進入回收週期,只有根緩衝區滿額後才開始進行垃圾回收,這樣可以解決循環引用的問題,也可以將總記憶體洩漏保持在一個閾值之下。
程式碼
由於使用phpexcel時常會遇到記憶體溢出,下面分享一段產生csv檔案的程式碼:
<?php namespace api\service; class ExportService { public static $outPutFile = ''; /** * 导出文件 * @param string $fileName * @param $data * @param array $formFields * @return mixed */ public static function exportData($fileName = '', $data, $formFields = []) { $fileArr = []; $tmpPath = \Yii::$app->params['excelSavePath']; foreach (array_chunk($data, 10000) as $key => $value) { self::$outPutFile = ''; $subject = !empty($fileName) ? $fileName : 'data_'; $subject .= date('YmdHis'); if (empty($value) || empty($formFields)) { continue; } self::$outPutFile = $tmpPath . $subject . $key . '.csv'; if (!file_exists(self::$outPutFile)) { touch(self::$outPutFile); } $index = array_keys($formFields); $header = array_values($formFields); self::outPut($header); foreach ($value as $k => $v) { $tmpData = []; foreach ($index as $item) { $tmpData[] = isset($v[$item]) ? $v[$item] : ''; } self::outPut($tmpData); } $fileArr[] = self::$outPutFile; } $zipFile = $tmpPath . $fileName . date('YmdHi') . '.zip'; $zipRes = self::zipFile($fileArr, $zipFile); return $zipRes; } /** * 向文件写入数据 * @param array $data */ public static function outPut($data = []) { if (is_array($data) && !empty($data)) { $data = implode(',', $data); file_put_contents(self::$outPutFile, iconv("UTF-8", "GB2312//IGNORE", $data) . PHP_EOL, FILE_APPEND); } } /** * 压缩文件 * @param $sourceFile * @param $distFile * @return mixed */ public static function zipFile($sourceFile, $distFile) { $zip = new \ZipArchive(); if ($zip->open($distFile, \ZipArchive::CREATE) !== true) { return $sourceFile; } $zip->open($distFile, \ZipArchive::CREATE); foreach ($sourceFile as $file) { $fileContent = file_get_contents($file); $file = iconv('utf-8', 'GBK', basename($file)); $zip->addFromString($file, $fileContent); } $zip->close(); return $distFile; } /** * 下载文件 * @param $filePath * @param $fileName */ public static function download($filePath, $fileName) { if (!file_exists($filePath . $fileName)) { header('HTTP/1.1 404 NOT FOUND'); } else { //以只读和二进制模式打开文件 $file = fopen($filePath . $fileName, "rb"); //告诉浏览器这是一个文件流格式的文件 Header("Content-type: application/octet-stream"); //请求范围的度量单位 Header("Accept-Ranges: bytes"); //Content-Length是指定包含于请求或响应中数据的字节长度 Header("Accept-Length: " . filesize($filePath . $fileName)); //用来告诉浏览器,文件是可以当做附件被下载,下载后的文件名称为$file_name该变量的值 Header("Content-Disposition: attachment; filename=" . $fileName); //读取文件内容并直接输出到浏览器 echo fread($file, filesize($filePath . $fileName)); fclose($file); exit(); } } }
呼叫出程式碼
$fileName = "库存导入模板"; $stockRes = []; // 导出的数据 $formFields = [ 'store_id' => '门店ID', 'storeName' => '门店名称', 'sku' => 'SKU编码', 'name' => 'SKU名称', 'stock' => '库存', 'reason' => '原因' ]; $fileRes = ExportService::exportData($fileName, $stockRes, $formFields); $tmpPath = \Yii::$app->params['excelSavePath']; // 文件路径 $fileName = str_replace($tmpPath, '', $fileRes); // 下载文件 ExportService::download($tmpPath, $fileName);
推薦學習:PHP影片教學
#以上是談關於PHP記憶體溢出的思考的詳細內容。更多資訊請關注PHP中文網其他相關文章!