Python은 중국어 인코딩 크롤링 및 인코딩 판단을 처리합니다.

자체 크롤러를 개발하는 과정에서 일부 웹 페이지는 utf-8, 일부는 gb2312, 일부는 gbk입니다. 처리하지 않으면 수집된 데이터가 왜곡됩니다. 해결 방법은 html을 통합 처리하는 것입니다. utf-8 인코딩

버전 python2.7

#coding:utf-8
import chardet
#抓取网页html
line = "http://www.pythontab.com"
html_1 = urllib2.urlopen(line,timeout=120).read()
encoding_dict = chardet.detect(html_1)
print encoding
web_encoding = encoding_dict['encoding']
#处理，整个html就不会是乱码。
if web_encoding == 'utf-8' or web_encoding == 'UTF-8':
html = html_1
else :
html = html_1.decode('gbk','ignore').encode('utf-8')