搜尋
首頁後端開發Python教學#|自動提取 PDF 資料:構建

概述

我寫了一個 Python 腳本,將 PDF 資料擷取業務邏輯轉換為工作程式碼。

該腳本在71 頁 涵蓋 10 個月期間(2024 年 1 月至 10 月)的託管人聲明 PDF 中進行了測試。處理 PDF 大約需要 4 秒 才能完成 - 比手動處理快得多。

# | Automate PDF data extraction: Build

據我所知,輸出看起來正確且程式碼沒有遇到任何錯誤。

三個 CSV 輸出的快照如下圖所示。請注意,敏感資料已顯示為灰色。

快照1:持股

# | Automate PDF data extraction: Build

快照2:基金持股

# | Automate PDF data extraction: Build

快照3:現金持有

# | Automate PDF data extraction: Build

此工作流程顯示了我產生 CSV 檔案所採取的主要步驟。

# | Automate PDF data extraction: Build

現在,我將更詳細地闡述我如何將業務邏輯轉換為 Python 程式碼。

第1步:閱讀PDF文檔

我使用了 pdfplumber 的 open() 函數。

# Open the PDF file
with pdfplumber.open(file_path) as pdf:

file_path 是一個宣告的變量,它告訴 pdfplumber 要開啟哪個檔案。

步驟2.0:從每個頁面擷取並篩選表格

extract_tables() 函數完成從每個頁面提取所有表格的艱苦工作。

雖然我不太熟悉底層邏輯,但我認為這個功能做得相當不錯。例如,下面的兩個快照顯示了提取的表格與原始表格(來自 PDF)

快照 A:VS Code 終端機的輸出

# | Automate PDF data extraction: Build

快照 B:PDF 中的表格

# | Automate PDF data extraction: Build

然後我需要為每個表格添加唯一的標籤,以便稍後我可以從特定表中「挑選」資料。

理想的選擇是使用每個表的標題。然而,確定標題座標超出了我的能力。

作為解決方法,我透過連接前三列的標題來標識每個表。例如,快照 B 中的 Stock Holdings 表標記為 Stocks/ETFsnNameExchangeQuantity。

⚠️這種方法有一個嚴重的缺點 - 前三個標頭名稱不能使所有表都足夠唯一。幸運的是,這只會影響不相關的表。

步驟2.1:提取、過濾和轉換非表格文本

我需要的具體值 - 帳號和對帳單日期 - 是每個 PDF 第 1 頁中的子字串。

例如「帳號M1234567」包含帳號「M1234567」。

# | Automate PDF data extraction: Build

我使用了 Python 的 re 函式庫並讓 ChatGPT 推薦了合適的正規表示式(「regex」)。正規表示式將每個字串分為兩組,所需資料位於第二組中。

帳單日期和帳號字串的正規表示式

# Open the PDF file
with pdfplumber.open(file_path) as pdf:

接下來我將報表日期轉換為「yyyymmdd」格式。這使得查詢和排序資料變得更加容易。

regex_date=r'Statement for \b([A-Za-z]{3}-\d{4})\b'
regex_acc_no=r'Account Number ([A-Za-z]\d{7})'

match_date 是在找到與正規表示式相符的字串時宣告的變數。

步驟 3:建立表格數據

硬碼 - 擷取相關資料點 - 此時已基本完成。

接下來,我使用 pandas 的 DataFrame() 函數根據 第 2 步第 3 步 中的輸出建立表格資料。我還使用此功能刪除不必要的列和行。

最終結果可以輕鬆寫入 CSV 或儲存在資料庫中。

步驟 4:將資料寫入 CSV 文件

我使用 Python 的 write_to_csv() 函數將每個資料幀寫入 CSV 檔案。

 if match_date:
    # Convert string to a mmm-yyyy date
    date_obj=datetime.strptime(match_date.group(1),"%b-%Y")
    # Get last day of the month
    last_day=calendar.monthrange(date_obj.year,date_obj.month[1]
    # Replace day with last day of month
    last_day_of_month=date_obj.replace(day=last_day)
    statement_date=last_day_of_month.strftime("%Y%m%d")

df_cash_selected 是 Cash Holdings 資料框,而 file_cash_holdings 是 Cash Holdings CSV 的檔案名稱。

➡️一旦掌握了一些資料庫知識,我就會將資料寫入合適的資料庫。

下一步

工作腳本現已到位,可從託管人聲明 PDF 中提取表格和文字資料。

在繼續之前,我將執行一些測試來查看腳本是否按預期工作。

--結束

以上是#|自動提取 PDF 資料:構建的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
Python中的合併列表:選擇正確的方法Python中的合併列表:選擇正確的方法May 14, 2025 am 12:11 AM

Tomergelistsinpython,YouCanusethe操作員,estextMethod,ListComprehension,Oritertools

如何在Python 3中加入兩個列表?如何在Python 3中加入兩個列表?May 14, 2025 am 12:09 AM

在Python3中,可以通過多種方法連接兩個列表:1)使用 運算符,適用於小列表,但對大列表效率低;2)使用extend方法,適用於大列表,內存效率高,但會修改原列表;3)使用*運算符,適用於合併多個列表,不修改原列表;4)使用itertools.chain,適用於大數據集,內存效率高。

Python串聯列表字符串Python串聯列表字符串May 14, 2025 am 12:08 AM

使用join()方法是Python中從列表連接字符串最有效的方法。 1)使用join()方法高效且易讀。 2)循環使用 運算符對大列表效率低。 3)列表推導式與join()結合適用於需要轉換的場景。 4)reduce()方法適用於其他類型歸約,但對字符串連接效率低。完整句子結束。

Python執行,那是什麼?Python執行,那是什麼?May 14, 2025 am 12:06 AM

pythonexecutionistheprocessoftransformingpypythoncodeintoExecutablestructions.1)InternterPreterReadSthecode,ConvertingTingitIntObyTecode,whepythonvirtualmachine(pvm)theglobalinterpreterpreterpreterpreterlock(gil)the thepythonvirtualmachine(pvm)

Python:關鍵功能是什麼Python:關鍵功能是什麼May 14, 2025 am 12:02 AM

Python的關鍵特性包括:1.語法簡潔易懂,適合初學者;2.動態類型系統,提高開發速度;3.豐富的標準庫,支持多種任務;4.強大的社區和生態系統,提供廣泛支持;5.解釋性,適合腳本和快速原型開發;6.多範式支持,適用於各種編程風格。

Python:編譯器還是解釋器?Python:編譯器還是解釋器?May 13, 2025 am 12:10 AM

Python是解釋型語言,但也包含編譯過程。 1)Python代碼先編譯成字節碼。 2)字節碼由Python虛擬機解釋執行。 3)這種混合機制使Python既靈活又高效,但執行速度不如完全編譯型語言。

python用於循環與循環時:何時使用哪個?python用於循環與循環時:何時使用哪個?May 13, 2025 am 12:07 AM

UseeAforloopWheniteratingOveraseQuenceOrforAspecificnumberoftimes; useAwhiLeLoopWhenconTinuingUntilAcIntiment.forloopsareIdealForkNownsences,而WhileLeleLeleLeleLeleLoopSituationSituationsItuationsItuationSuationSituationswithUndEtermentersitations。

Python循環:最常見的錯誤Python循環:最常見的錯誤May 13, 2025 am 12:07 AM

pythonloopscanleadtoerrorslikeinfiniteloops,modifyingListsDuringteritation,逐個偏置,零indexingissues,andnestedloopineflinefficiencies

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

Video Face Swap

Video Face Swap

使用我們完全免費的人工智慧換臉工具,輕鬆在任何影片中換臉!

熱門文章

熱工具

EditPlus 中文破解版

EditPlus 中文破解版

體積小,語法高亮,不支援程式碼提示功能

SublimeText3 英文版

SublimeText3 英文版

推薦:為Win版本,支援程式碼提示!

MantisBT

MantisBT

Mantis是一個易於部署的基於Web的缺陷追蹤工具,用於幫助產品缺陷追蹤。它需要PHP、MySQL和一個Web伺服器。請查看我們的演示和託管服務。

SublimeText3 Linux新版

SublimeText3 Linux新版

SublimeText3 Linux最新版

SecLists

SecLists

SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。