import requests
from lxml import etree
headers = {'user-agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36'}
def download(url):
reponse = requests.get(url,headers = headers)
reponse.encoding = 'gbk'
text = reponse.text
html = etree.HTML(text)
results = html.xpath('//*[@class=\'piclist longList\']//a[@href!=\'/article/\']//text()')
for line in results:
print(line)
duanzs = html.xpath('//*[@class=\'piclist longList\']//div[@class=\'f18 mb20\']//text()')
for linedata in duanzs:
print(linedata.strip())
print('*'*20)
download("https://www.neihan8.com/article/list_5_2.html")
python3使用xpath爬内涵吧段子
©著作权归作者所有,转载或内容合作请联系作者
- 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
- 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
- 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
推荐阅读更多精彩内容
- 这次主要是进行京东具体某个店铺手机评论内容的爬取。 本来是跟上一起写的,只是没有时间一块做总结,现在写上来是有点生...
- 最近学python,练练手爬一些简单的网站页面,这里选取了51job页面python的岗位有多少,主要是为了练习x...
- 我们爬取网页,重要的是前期的分析工作,比着教程写出来的爬虫与自己能独立写出来有着不小的距离,所以我们学习爬虫,更重...