マルチスレッド HTTP ダウンローダーの Python 実装の例

この記事では、Python を使用してマルチスレッド HTTP ダウンローダーを作成し、.exe 実行可能ファイルを生成する方法を紹介します。

環境:windows/Linux + Python2.7.x

シングルスレッド

マルチスレッドを紹介する前に、まずはシングルスレッドを紹介します。単一のスレッドを作成する方法は次のとおりです。

1. URL を解析します。

3. ファイルをダウンロードします。 。

以下はコードで説明します。

URLを解析

ユーザー入力URLによって解析します。解析されたパスが空の場合、割り当てられる値は「/」です。ポート番号が空の場合、割り当てられる値は「80」です。ダウンロードされたファイルのファイル名は、ユーザーの希望に応じて変更できます（「y」を入力します）。変更を示すには「other」を入力し、変更が必要ないことを示します)。 いくつかの解析関数を以下に示します:

#解析host和path
def analyHostAndPath(totalUrl):
  protocol,s1 = urllib.splittype(totalUrl)
  host, path = urllib.splithost(s1)
  if path == '':
    path = '/'
  return host, path

#解析port
def analysisPort(host):
  host, port = urllib.splitport(host)
  if port is None:
    return 80
  return port

#解析filename
def analysisFilename(path):
  filename = path.split('/')[-1]
  if '.' not in filename:
    return None
  return filename

Webサーバーに接続します

URLを解析して取得したホストとポートに基づいて、ソケットモジュールを使用してWebサーバーに接続します。 コードは次のとおりです。次のように:

import socket
from analysisUrl import port,host

ip = socket.gethostbyname(host)
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
s.connect((ip, port))

print "success connected webServer！！"

http リクエスト パッケージを構築する

URL を解析して取得したパス、ホスト、ポートに基づいて HTTP リクエスト パッケージを構築します。

from analysisUrl import path, host, port

packet = 'GET ' + path + ' HTTP/1.1\r\nHost: ' + host + '\r\n\r\n'　

ファイルをダウンロード

構築されたhttpリクエストパッケージに基づいてファイルをサーバーに送信し、応答メッセージヘッダーの「Content-Length」をキャプチャします。

def getLength(self):
    s.send(packet)
    print "send success!"
    buf = s.recv(1024)
    print buf
    p = re.compile(r'Content-Length: (\d*)')
    length = int(p.findall(buf)[0])
    return length, buf

ファイルをダウンロードし、ダウンロードにかかる時間を計算します。

def download(self):
    file = open(self.filename,'wb')
    length,buf = self.getLength()
    packetIndex = buf.index('\r\n\r\n')
    buf = buf[packetIndex+4:]
    file.write(buf)
    sum = len(buf)
    while 1:
      buf = s.recv(1024)
      file.write(buf)
      sum = sum + len(buf)
      if sum >= length:
        break
    print "Success!!"

if __name__ == "__main__":
  start = time.time()
  down = downloader()
  down.download()
  end = time.time()
  print "The time spent on this program is %f s"%(end - start)

マルチスレッド

応答メッセージのヘッダーの「Content-Length」フィールドをキャッチし、スレッド数と組み合わせて、ダウンロードをセグメント単位でロックします。シングルスレッドとは異なり、ここではすべてのコードが 1 つのファイルに統合されており、コード内ではより多くの Python 組み込みモジュールが使用されています。

「Content-Length」の取得:

def getLength(self):
    opener = urllib2.build_opener()
    req = opener.open(self.url)
    meta = req.info()
    length = int(meta.getheaders("Content-Length")[0])
    return length

取得したLengthに基づいて範囲を分割し、スレッド数と組み合わせます:

def get_range(self):
    ranges = []
    length = self.getLength()
    offset = int(int(length) / self.threadNum)
    for i in range(self.threadNum):
      if i == (self.threadNum - 1):
        ranges.append((i*offset,''))
      else:
        ranges.append((i*offset,(i+1)*offset))
    return ranges

コンテンツをコンテンツに書き込むときに、マルチスレッドのダウンロードを実現します。ファイルをスレッド Lock に渡し、lock.acquire()...lock.release() の代わりに lock を使用して、file.seek() を使用してファイルのオフセット アドレスを設定し、ファイルへの書き込みの精度を確保します。

def downloadThread(self,start,end):
    req = urllib2.Request(self.url)
    req.headers['Range'] = 'bytes=%s-%s' % (start, end)
    f = urllib2.urlopen(req)
    offset = start
    buffer = 1024
    while 1:
      block = f.read(buffer)
      if not block:
        break
      with lock:
        self.file.seek(offset)
        self.file.write(block)
        offset = offset + len(block)

  def download(self):
    filename = self.getFilename()
    self.file = open(filename, 'wb')
    thread_list = []
    n = 1
    for ran in self.get_range():
      start, end = ran
      print 'starting:%d thread '% n
      n += 1
      thread = threading.Thread(target=self.downloadThread,args=(start,end))
      thread.start()
      thread_list.append(thread)

    for i in thread_list:
      i.join()
    print 'Download %s Success!'%(self.file)
    self.file.close()

実行結果:

(*.py) ファイルを (*.exe) 実行可能ファイルに変換します

ツールを作成した後、ツールを持っていない人がそれを利用できるようにする方法Python がインストールされている場合、このツールを使用している人はどうなりますか?これには、.py ファイルを .exe ファイルに変換する必要があります。

ここではPythonのpy2exeモジュールを使用します 初めて使うので紹介します: py2exeはPythonスクリプトを単独で実行できる実行ファイル(*.exe)に変換するツールです。このようにして、Windows でこの実行可能プログラムを実行するために Python をインストールする必要はありません。

次に、multiThreadDownload.py と同じディレクトリに mysetup.py ファイルを作成し、次のように記述します:

from distutils.core import setup
import py2exe

setup(console=["multiThreadDownload.py"])

次に、コマンドを実行します: Python mysetup.py py2exe

dist フォルダーと multiTjhreadDownload.exe を生成します。ファイルはその中にあります。クリックして実行してください:

デモのダウンロードアドレス: HttpFileDownload_jb51.rar

以上がこの記事の全内容であり、皆さんの学習に役立つことを願っています。皆さんが PHP 中国語 Web サイトをサポートしてくれることを願っています。

マルチスレッド HTTP ダウンローダーの例の Python 実装に関連するその他の記事については、PHP 中国語 Web サイトに注目してください。