首页 >后端开发 >Python教程 >为什么从 Ruby 脚本读取时,带有 readline() 的 subprocess.Popen 会挂起,如何解决这个问题?

为什么从 Ruby 脚本读取时,带有 readline() 的 subprocess.Popen 会挂起,如何解决这个问题?

Susan Sarandon
Susan Sarandon原创
2024-12-19 05:44:08358浏览

Why does `subprocess.Popen` with `readline()` hang when reading from a Ruby script, and how can this be fixed?

Python subprocess readlines() 挂起

问题:

使用 subprocess.Popen 读取 ruby​​ 脚本的输出时和 readline() 以流式传输方式, readline() 无限期地挂起并且永远不会返回。

背景:

目标是逐行流式传输 ruby​​ 文件的输出,在不缓冲整个输出的情况下打印它。

from subprocess import Popen, PIPE, STDOUT
import pty
import os

file_path = '/Users/luciano/Desktop/ruby_sleep.rb'

command = ' '.join(["ruby", file_path])

master, slave = pty.openpty()
proc = Popen(command, bufsize=0, shell=True, stdout=slave, stderr=slave, close_fds=True)     
stdout = os.fdopen(master, 'r', 0)

while proc.poll() is None:
    data = stdout.readline()
    if data != "":
        print(data)
    else:
        break

print("This is never reached!")

ruby_sleep.rb 脚本输出一条 2 秒的简单消息延迟:

puts "hello"

sleep 2

puts "goodbye!"

根本原因:

readline() 仍然挂起,因为 ruby​​ 脚本输出数据而没有终止行(即没有换行符)。这会导致 readline() 无限期地等待换行符来完成该行。

解决方案:

根据平台可用性,存在多种解决方案:

  • 对于Linux:

    使用标准库中的 pty 打开伪终端 (tty) 并在 ruby​​ 端启用行缓冲,确保每行以换行符终止。

    import os
    import pty
    from subprocess import Popen, STDOUT
    
    master_fd, slave_fd = pty.openpty()  # provide tty to enable
                                         # line-buffering on ruby's side
    proc = Popen(['ruby', 'ruby_sleep.rb'],
                 stdin=slave_fd, stdout=slave_fd, stderr=STDOUT, close_fds=True)
    os.close(slave_fd)
    try:
        while 1:
            try:
                data = os.read(master_fd, 512)
            except OSError as e:
                if e.errno != errno.EIO:
                    raise
                break # EIO means EOF on some systems
            else:
                if not data: # EOF
                    break
                print('got ' + repr(data))
    finally:
        os.close(master_fd)
        if proc.poll() is None:
            proc.kill()
        proc.wait()
    print("This is reached!")
  • 对于基于 Linux 的平台:

    使用标准库中的 pty 并选择监视主文件描述符的活动,确保以非阻塞方式读取数据。

    import os
    import pty
    import select
    from subprocess import Popen, STDOUT
    
    master_fd, slave_fd = pty.openpty()  # provide tty to enable
                                         # line-buffering on ruby's side
    proc = Popen(['ruby', 'ruby_sleep.rb'],
                 stdout=slave_fd, stderr=STDOUT, close_fds=True)
    
    timeout = .04 # seconds
    while 1:
        ready, _, _ = select.select([master_fd], [], [], timeout)
        if ready:
            data = os.read(master_fd, 512)
            if not data:
                break
            print("got " + repr(data))
        elif proc.poll() is not None: # select timeout
            assert not select.select([master_fd], [], [], 0)[0] # detect race condition
            break # proc exited
    os.close(slave_fd) # can't do it sooner: it leads to errno.EIO error
    os.close(master_fd)
    proc.wait()
    
    print("This is reached!")
  • 跨平台选项:

    使用 stdbuf 启用非交互模式下的行缓冲。

    from subprocess import Popen, PIPE, STDOUT
    
    proc = Popen(['stdbuf', '-oL', 'ruby', 'ruby_sleep.rb'],
                 bufsize=1, stdout=PIPE, stderr=STDOUT, close_fds=True)
    for line in iter(proc.stdout.readline, b''):
        print line,
    proc.stdout.close()
    proc.wait()

这些解决方案都在 ruby​​ 端启用行缓冲,确保每行以换行符终止,从而允许 readline() 运行正确。

以上是为什么从 Ruby 脚本读取时,带有 readline() 的 subprocess.Popen 会挂起,如何解决这个问题?的详细内容。更多信息请关注PHP中文网其他相关文章!

声明:
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn