Python을 사용하여 대용량 파일을 역순으로 효율적으로 읽으려면 어떻게 해야 합니까?

Python에서 파일을 역순으로 읽기

대용량 파일로 작업 중이고 마지막 내용부터 읽어야 하는 경우 첫 번째 줄로 넘어가면 Python의 내장 함수가 적합하지 않을 수 있습니다. 이 작업을 해결하기 위한 효율적인 솔루션은 다음과 같습니다.

역행 판독기 생성기

다음 코드는 파일의 행을 역방향으로 생성하는 생성기 함수 reverse_readline을 정의합니다. 주문하다. 버퍼 기반 접근 방식을 사용하여 성능을 최적화하고 대용량 파일을 효과적으로 처리합니다.

import os

def reverse_readline(filename, buf_size=8192):
    """A generator that returns the lines of a file in reverse order"""
    with open(filename, 'rb') as fh:
        segment = None
        offset = 0
        fh.seek(0, os.SEEK_END)
        file_size = remaining_size = fh.tell()
        while remaining_size > 0:
            offset = min(file_size, offset + buf_size)
            fh.seek(file_size - offset)
            buffer = fh.read(min(remaining_size, buf_size))
            # remove file's last "\n" if it exists, only for the first buffer
            if remaining_size == file_size and buffer[-1] == ord('\n'):
                buffer = buffer[:-1]
            remaining_size -= buf_size
            lines = buffer.split('\n'.encode())
            # append last chunk's segment to this chunk's last line
            if segment is not None:
                lines[-1] += segment
            segment = lines[0]
            lines = lines[1:]
            # yield lines in this chunk except the segment
            for line in reversed(lines):
                # only decode on a parsed line, to avoid utf-8 decode error
                yield line.decode()
        # Don't yield None if the file was empty
        if segment is not None:
            yield segment.decode()

사용법:

이 생성기를 사용하려면 간단히 반복하면 됩니다. for 루프에서:

for line in reverse_readline('myfile.txt'):
    print(line)

이렇게 하면 파일의 줄이 역순으로 인쇄됩니다.

위 내용은 Python을 사용하여 대용량 파일을 역순으로 효율적으로 읽으려면 어떻게 해야 합니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!