집 > 기사 > 백엔드 개발 > Beautiful Soup 모듈이 Python에서 객체를 생성하는 방법 소개

Beautiful Soup 모듈이 Python에서 객체를 생성하는 방법 소개

Y2J원래의: 2017-04-22 09:45:271788검색

이 글은 주로 Beautiful Soup 모듈을 사용하여 객체를 생성하는 관련 정보를 소개합니다. 글의 소개는 매우 자세하게 설명되어 있어 필요한 모든 사람이 참조할 수 있습니다.

설치

pip를 통해 Beautiful Soup 모듈을 설치합니다: pip install beautifulsoup4 .

PyCharm IDE를 사용하여 PyCharm의 환경 설정에서 프로젝트를 찾아 그 안에 있는 Beautiful Soup 모듈을 검색하여 설치할 수도 있습니다.

BeautifulSoup 개체 만들기

Beautiful Soup 모듈은 웹 페이지에서 데이터를 가져오는 데 널리 사용됩니다. Beautiful Soup 모듈을 사용하여 HTML/XML 문서에서 모든 데이터(예: 웹 페이지의 모든 링크 또는 태그 내의 콘텐츠)를 추출할 수 있습니다.

이를 위해 뷰티플수프는 다양한 객체와 메소드를 제공합니다. 모든 HTML/XML 문서는 다양한 Beautiful Soup 개체로 변환될 수 있으며, 이러한 개체는 서로 다른 속성과 메서드를 갖고 있으며, 우리는 그 개체에서 필요한 데이터를 추출할 수 있습니다.

Beautiful Soup에는 총 세 가지 개체가 있습니다.

BeautifulSoup
태그
NavigableString

BeautifulSoup 객체 생성

BeautifulSoup 객체 생성은 Beautiful Soup의 시작점입니다. 프로젝트.

BeautifulSoup은 컴퓨터의 파일이나 웹 페이지와 같은 문자열이나 파일 유사 객체를 전달할 수 있습니다.

문자열에서 BeautifulSoup 개체 만들기

생성자에 문자열을 전달하여 BeautifulSoup 개체를 만듭니다.

helloworld = &#39;<p>Hello World</p>&#39;
soup_string = BeautifulSoup(helloworld)
print soup_string 
<html><body><p>Hello World</p></body></html>

파일 유사 객체에서 BeautifulSoup 객체 생성

생성자에 파일 유사 객체를 전달하여 BeautifulSoup 객체를 생성합니다. 이는 온라인 웹페이지를 분석할 때 매우 유용합니다.

url = "http://www.glumes.com"
page = urllib2.urlopen(url)
soup = BeautifulSoup(page)
print soup

파일류 객체를 전달하는 것 외에도 로컬 파일 객체를 BeautifulSoup의 생성자에 전달하여 객체를 생성할 수도 있습니다.

with open(&#39;foo.html&#39;,&#39;r&#39;) as foo_file :
 soup_foo = BeautifulSoup(foo_file)
print soup_foo

XML 구문 분석을 위한 BeautifulSoup 객체 생성

Beautiful Soup 모듈은 XML 구문 분석에도 사용할 수 있습니다.

BeautifulSoup 객체를 생성할 때 BeautifulSoup 모듈은 HTML/XML 트리를 생성하기 위해 적절한 TreeBuilder 클래스를 선택합니다. 기본적으로 HTML TreeBuilder 개체가 선택되어 기본 HTML 구문 분석기를 사용하여 HTML 구조 트리를 생성합니다. 위 코드에서 BeautifulSoup 개체는 문자열을 HTML 트리 구조로 구문 분석하여 생성됩니다.

Beautiful Soup 모듈이 입력 콘텐츠를 XML 유형으로 구문 분석하도록 하려면 Beautiful Soup 생성자에 사용되는 기능 매개변수를 정확하게 지정해야 합니다. 기능 매개변수를 지정함으로써 뷰티플수프는 우리가 원하는 기능을 충족시키기 위해 가장 적합한 TreeBuilder 클래스를 선택할 것입니다.

기능 매개변수 이해하기

각 TreeBuilder는 사용하는 파서에 따라 다른 기능을 갖습니다. 따라서 입력 콘텐츠는 생성자에 전달된 기능 매개변수에 따라 다른 결과를 갖게 됩니다.
Beautiful Soup 모듈에서 현재 TreeBuilder가 사용하는 파서는 다음과 같습니다:

lxml
html5lib
html.parser

BeautifulSoup 생성자의 기능 매개변수는 문자열 목록 또는 문자열 값을 허용할 수 있습니다.

현재 각 TreeBuilder에서 지원하는 기능 매개변수와 파서는 다음 표와 같습니다.

Features	TreeBuilder	Parser
[‘lxml','html','fast','permissive']	LXMLTreeBuilder	lxml
[‘html','html5lib','permissive','strict','html5′]	HTML5TreeBuilder	html5lib
[‘html','strict','html.parser']	HTMLParserTreeBuilder	html.parser
[‘xml','lxml','permissive','fast']	LXMLTreeBuilderForXML	lxml

根据指定的 feature 参数，Beautiful Soup 将会选择最合适的 TreeBuilder 类。如果在指定对应的解析器时，出现如下的报错信息，可能就是需要安装对应的解析器了。

bs4.FeatureNotFound: Couldn&#39;t find a tree builder with the features you requested: html5lib. 
Do you need to install a parser library?

就 HTML 文档而言，选择 TreeBuilder 的顺序是基于解析器建立的优先级，就如上表格所示的优先级。首先是 lxml ，其次是 html5lib ，最后才是 html.parser 。例如，我们选择 html 字符串作为 feature 参数，那么如果 lxml 解析器可用，则 Beautiful Soup 模块将会选择 LXMLTreeBuilder 。如果 lxml 不可用，则会选择根据 html5lib 解析器选择 HTML5TreeBuilder 。如果在不可用，则会选择根据 html.parser 选择 HTMLParserTreeBuilder 了。

至于 XML ，由于 lxml 是唯一的解析器，所以 LXMLTreeBuilderForXML 总是会被选择的。

所以，为 XML 创建一个 Beautiful Soup 对象的代码如下：

helloworld = &#39;<p>Hello World</p>&#39;
soup_string = BeautifulSoup(helloworld,features="xml")
print soup_string

输入的结果也是 XML 形式的文件：

在创建 Beautiful Soup 对象时，更好的实践是指定解析器。这是因为，不同的解析器解析的结果内容大不相同，尤其是在我们的 HTML 文档内容非法时，结果更为明显。

当我们创建一个 BeautifulSoup 对象时，Tag 和 NavigableString 对象也就创建了。

创建 Tag 对象

我们可以从 BeautifulSoup 对象中得到 Tag 对象，也就是 HTML/XML 中的标签。

如下 HTML 代码所示：

#!/usr/bin/python
# -*- coding:utf-8 -*-
from bs4 import BeautifulSoup
html_atag = """
 <html>
 <body>
 <p>Test html a tag example</p>
 <a href="http://www.glumes.com&#39;>Home</a>
 <a href="http;//www.glumes.com/index.html&#39;>Blog</a>
 </body>
 <html>
 """
soup = BeautifulSoup(html_atag,&#39;html.parser&#39;)
atag = soup.a
print type(atag)
print atag

从结果中可以看到 atag 的类型是 c02efc57cb50b3571070ba99b5a8455a 。而 soup.a 的结果就是 HTML 文档中的第一个 3499910bf9dac5ae3c52d5ede7383485 标签。
HTML/XML 标签对象具有名称和属性。名称就是标签的名字，例如标签 3499910bf9dac5ae3c52d5ede7383485 的名称就是 a 。属性则是标签的 class 、id 、style 等。Tag 对象允许我们得到 HTML 标签的名称和属性。

Tag 对象的名称

通过 .name 方式得到 Tag 对象的名称。

tagname = atag.name
print tagname

同时也能够改变 Tag 对象的名称：

atag.name = &#39;p&#39;

这样就将上面 HTML 文档中的第一个 3499910bf9dac5ae3c52d5ede7383485 标签名称换成了 e388a4556c0f65e1904146cc1a846bee 标签了。

Tag 对象的属性

在 HTML 页面中，标签可能有不同的属性，例如 class 、id 、style 等。Tag 对象能够以字典的形式访问标签的属性。

atag = soup_atag.a
print atag

也能通过 .attrs 的方式访问到，这样会将所有的属性内容都打印出来：

print atag.attrs
{&#39;href&#39;: u&#39;http://www.glumes.com&#39;}

创建 NavigableString 对象

NavigableString 对象持有 HTML 或 XML 标签的文本内容。这是一个 Unicode 编码的字符串。

我们可以通过 .string 的方式得到标签的本文内容。

navi = atag.string
print type(navi)
print navi.string

小结

代码小结如下：

BeautifulSoup

soup = BeautifulSoup(String)
soup = BeautifulSoup(String,features=”xml”)

Tag

tag = soup.tag
tag.name
tag[‘attribute']

NavigableString

soup.tag.string

总结

위 내용은 Beautiful Soup 모듈이 Python에서 객체를 생성하는 방법 소개의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명：

이전 기사：Python에서 스케줄링을 위해 프레임워크 APScheduler를 사용하는 예에 대한 자세한 설명다음 기사：Python에서 스케줄링을 위해 프레임워크 APScheduler를 사용하는 예에 대한 자세한 설명