纯净、安全、绿色的下载网站

首页|软件分类|下载排行|最新软件|IT学院

当前位置:首页IT学院IT技术

python爬虫中网页文本的格式化 python对网页文本的格式化实例方法

小妮浅浅   2021-10-12 我要评论
想了解python对网页文本的格式化实例方法的相关内容吗,小妮浅浅在本文为您仔细讲解python爬虫中网页文本的格式化的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:python,爬虫,文本格式化,下面大家一起来学习吧。

1、一个网页通常包含文本信息。对于不同的文本类型,我们可以选择合适的HTML语义元素进行标记。

2、em元素用于标记和强调部分内容,small元素用于注释和署名文本。

实例

<body>
    <h1>论语学而篇第一</h1>
    <p><small>
    <b>作者:</b><abbr title="名丘,字仲尼">孔子<sup><a href="#" rel="external nofollow" >1</a></sup></abbr>(<time>前551年9月28日-前479年4月11日</time>)
    </small></p>
    <h2>本篇引语</h2>
    <p>《学而》是《论语》第一篇的篇名。《论语》中各篇一般都是以第一章的前二三个字作为该篇的篇名。《学而》一篇包括16章,内容涉及诸多方面。其中重点是
     <strong>「吾日三省吾身」;「节用而爱人,使民以时」;「礼之用,和为贵」以及仁、孝、信等</strong>道德范畴。</p>
    <h2>原文</h2>
    <p>子曰:「<mark>学而时习之,不亦说乎?</mark>有朋自远方来,不亦乐乎?人不知,而不愠,不亦君子乎?」 </p>
  </body>

知识点扩展:

Python int与string之间的转化

string–>int

1、10进制string转化为int

int(‘12')

2、16进制string转化为int

int(‘12', 16)

int–>string

1、int转化为10进制string

str(18)

2、int转化为16进制string

hex(18)

2 . 由于链家网上面选中第二页的时候,只是在页面后面多了一个“d2”, 如: http://sh.lianjia.com/ershoufang/pudong/d2 , 所以要想爬取更多的网页只需要循环更新requests 的页面URL

3 . 增加了一个循环之后,可以打印所有的爬取结果

from lxml import etree
import requests
import string
url = 'http://sh.lianjia.com/ershoufang/'
region = 'pudong'
price = 'p23'
finalURL = url+region+price

def spider_room(finallyURL):
   r= requests.get(finallyURL)
   html = requests.get(finalURL).content.decode('utf-8')
   dom_tree = etree.HTML(html)
   # all the messages
   all_message = dom_tree.xpath("//ul[@class='js_fang_list']/li")
   for index in range(len(all_message)):
      print(all_message[index].xpath('string(.)').strip())
   return
for i in range(20):
   finallyURL = finalURL + '/d'+str(i)
   spider_room(finallyURL)

4 . 爬取了20页的内容,可是内容的结果输出的形式并没有改变


相关文章

猜您喜欢

  • Python 蚁群算法 Python 蚁群算法详解

    想了解Python 蚁群算法详解的相关内容吗,王荣胜在本文为您仔细讲解Python 蚁群算法的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:Python,算法,Python蚁群算法,下面大家一起来学习吧。..
  • Python实现PDF转换文本 Python实现PDF转换文本详解

    想了解Python实现PDF转换文本详解的相关内容吗,幸福清风在本文为您仔细讲解Python实现PDF转换文本的相关知识和一些Code实例,欢迎阅读和指正,我们先划重点:PythonPDF转换,Python转换文本,下面大家一起来学习吧。..

网友评论

Copyright 2020 www.Lqsoftware.cn 【乐趣软件】 版权所有 软件发布

声明:所有软件和文章来自软件开发商或者作者 如有异议 请与本站联系 点此查看联系方式