python - pyspider遇到不能识别的url时报错

Question

大家好，我遇到一个很棘手的问题想请教大家是怎么解决的。

问题描述：

pyspider遇到不规则的html页面时，只要其实包含不能正常解析的url时就会报错,如页面http://www.jb51.net/os/windows/win2008/18272.html，其中就有<p>作者：<a href="http://www.locoy.com 字体：[<a href="javascript:turnbig()">增加</a> <a href="javascript:turnsmall()">减小</a>] 来源：互联网 时间：07-02 01:51:10<a href="#comments"> 我要评论</a></p>，这里页面的链接不能正常解析就会报Invalid IPv6 URL错误
如下图：

Answer 1

If you want to dig deeper, this is a bug in the lxml, pyquery, and urlparse standard libraries.

You can only catch it and then build the tree manually.