首頁  >  文章  >  php框架  >  關於使用 Lazy Collections 來提高 Laravel Excel 讀取的效能詳解(輕鬆支援百萬資料)

關於使用 Lazy Collections 來提高 Laravel Excel 讀取的效能詳解(輕鬆支援百萬資料)

藏色散人
藏色散人轉載
2020-03-21 08:56:493034瀏覽

在 Laravel 6 中新增了一個新類型的集合: Lazy Collections。如果需要處理非常大的資料集(數千或數百萬行)而不會遇到記憶體限制,那麼它們是非常棒的。

推薦:laravel教學

我最近的任務是在工作中的一個專案中重構 Excel 匯出。問題是,由於資料集太大,Laravel 無法處理,匯出無法再建立。資料庫查詢回傳了大約 300,000 個結果!應用程式產生超時或一直記憶體不足。

一種天真的方法是增加超時時間或記憶體限制,並希望下次出現問題時,另一個人會處理這個問題。但這不是我的工作方式。我不喜歡創可貼。我喜歡具體的、長期的解決方案。

Laravel Excel 擴充包已經相當靈活。透過在使用 FromQuery-concerns 時使用“chunks”,它在減少資料庫負載方面做得很好。然而,我們的導出仍然很難處理大數據集。

我和我的同事討論過,我們是否應該完全重寫這個特性:將匯出推送到佇列中,並在匯出結束時向用戶發送通知。然而,這個功能在這個應用程式中只是一個很小的東西。對我們來說,僅僅為了一個簡單的導出而增加如此多的開銷是沒有意義的。

那天晚些時候,我有一個小小的“我發現了”的時刻,因為我記得 Laravel 中有 LazyCollections 這個東東。

我重新編寫了導出:它現在使用 FromCollection-concern,而不是 FromQuery。我必須對 collection() 方法進行的惟一更改是將查詢建構器鏈末尾的 get() 方法替換為 cursor()。

以下是我們匯出功能的簡化版本。 Request 物件透過建構函數傳遞,因此我們可以根據使用者在 UI 中選擇的內容對查詢進行調整。

<?php 
namespace App\Exports;
use App\User;
use Maatwebsite\Excel\Concerns\Exportable;
use Maatwebsite\Excel\Concerns\FromCollection;
use Illuminate\Http\Request;
class UsersExport implements FromCollection
{
    use Exportable;
    protected Request $request;
    public function __construct(Request $request)
    {
        $this->request = $request;
    }
    public function collection()
    {
        return User::query()
            ->when($this->request->get(&#39;include_subscribed&#39;), function ($q) {
                return $q->where(&#39;is_subscribed&#39;, true);
            })
            ->cursor(); // ← 重要的一点
    }
}

我相信你在你的專案中遇到了記憶體問題。你增加了記憶體限制,希望問題已經解決了 (我自己已經做過無數次了)。

如果是在 Laravel 專案中,我希望,我可以讓你重新查看程式碼並使用 LazyCollections 重寫。

修復這個問題非常有趣,所以我做了一個小小的基準測試:我們的匯出現在可以輕鬆地匯出數百萬行,而不會遇到記憶體限制。太酷了!

以上是關於使用 Lazy Collections 來提高 Laravel Excel 讀取的效能詳解(輕鬆支援百萬資料)的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文轉載於:learnku.com。如有侵權,請聯絡admin@php.cn刪除