Python网页解析器使用实例详解
时间：2021-01-13 09:50:51|栏目：Python代码|点击： 次
python 网页解析器
1、常见的python网页解析工具有：re正则匹配、python自带的html.parser模块、第三方库BeautifulSoup(重点学习)以及lxm库。
2、常见网页解析器分类
（1）模糊匹配 ：re正则表达式即为字符串式的模糊匹配模式；
（2）结构化解析： BeatufiulSoup、html.parser与lxml，他们都以DOM树结构为标准，进行标签结构信息的提取。
3.DOM树解释：即文档对象模型（Document Object Model），其树形标签结构，请见下图。
所谓结构化解析，就是网页解析器它会将下载的整个HTML文档当成一个Doucment对象，然后在利用其上下结构的标签形式，对这个对象进行上下级的标签进行遍历和信息提取操作。
# 引入相关的包，urllib与bs4，是获取和解析网页最常用的库
from urllib.request import urlopen
from bs4 import BeautifulSoup
# 打开链接
html=urlopen("https://www.datalearner.com/website_navi")
# 通过urlopen获得网页对象，将其放入BeautifulSoup中，bsObj存放的目标网页的html文档
bsObj=BeautifulSoup(html.read())
print(bsObj)
# soup = BeautifulSoup(open(url,'r',encoding = 'utf-8'))
import requests
from bs4 import BeautifulSoup
headers={'User-Agent': 'Mozilla/5.0 (Windows NT 6.3; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/57.0.2987.110 Safari/537.36','referer':"www.mmjpg.com" }
all_url = 'http://www.mmjpg.com/'
#'User-Agent':请求方式
#'referer':从哪个链接跳转进来的
start_html = requests.get(all_url, headers=headers)
#all_url：起始的地址，也就是访问的第一个页面
#headers：请求头，告诉服务器是谁来了。
#requests.get：一个方法能获取all_url的页面内容并且返回内容。
Soup = BeautifulSoup(start_html.text, 'lxml')
#BeautifulSoup：解析页面
#lxml：解析器
#start_html.text：页面的内容
上一篇：一个基于flask的web应用诞生 用户注册功能开发（5）
栏 目：Python代码
下一篇：Python读取Json字典写入Excel表格的方法
本文标题：Python网页解析器使用实例详解
本文地址：http://www.codeinn.net/misctech/44473.html
