首頁  >  文章  >  後端開發  >  python使用最有效的方法刪除大檔案中的某一行的實例

python使用最有效的方法刪除大檔案中的某一行的實例

黄舟
黄舟原創
2017-08-20 10:49:222675瀏覽

下面小編就為大家帶來一篇python 刪除大文件中的某一行(最有效率的方法)。小編覺得蠻不錯的,現在就分享給大家,也給大家做個參考。一起跟著小編過來看看吧

用python 處理一個文字時,想要刪除其中中某一行,常規的思路是先把文件讀入內存,在記憶體中修改後再寫入源文件。

但如果要處理一個很大的文本,例如GB級別的文本時,這種方法不僅需要佔用很大內存,而且一次性讀入內存時耗費時間,還有可能導致內存溢出。

所以,需要用另一個想法去處理。

我們可以使用 open() 方法把需要修改的文件打開為兩個文件,然後逐行讀入內存,找到需要刪除的行時,用後面的行逐一覆蓋。實作方式見以下程式碼。


with open('file.txt', 'r') as old_file:
  with open('file.txt', 'r+') as new_file:

    current_line = 0

    # 定位到需要删除的行
    while current_line < (del_line - 1):
      old_file.readline()
      current_line += 1

    # 当前光标在被删除行的行首,记录该位置
    seek_point = old_file.tell()

    # 设置光标位置
    new_file.seek(seek_point, 0)

    # 读需要删除的行,光标移到下一行行首
    old_file.readline()
    
    # 被删除行的下一行读给 next_line
    next_line = old_file.readline()

    # 连续覆盖剩余行,后面所有行上移一行
    while next_line:
      new_file.write(next_line)
      next_line = old_file.readline()

    # 写完最后一行后截断文件,因为删除操作,文件整体少了一行,原文件最后一行需要去掉
    new_file.truncate()

以上是python使用最有效的方法刪除大檔案中的某一行的實例的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn