1.如何用Python做爬虫？
2.如何利用python写爬虫程序？
3.爬虫实战用python爬小红书任意话题笔记，爬虫爬虫以#杭州亚运会#为例
4.python爬虫--微博评论--一键获取所有评论

如何用Python做爬虫？

       åœ¨æˆ‘们日常上网浏览网页的时候，经常会看到一些好看的图片，我们就希望把这些图片保存下载，或者用户用来做桌面壁纸，或者用来做设计的素材。

       æˆ‘们最常规的做法就是通过鼠标右键，选择另存为。但有些图片鼠标右键的时候并没有另存为选项，还有办法就通过就是通过截图工具截取下来，但这样就降低图片的清晰度。好吧其实你很厉害的，右键查看页面源代码。

       æˆ‘们可以通过python æ¥å®žçŽ°è¿™æ ·ä¸€ä¸ªç®€å•çš„爬虫功能，把我们想要的代码爬取到本地。下面就看看如何使用python来实现这样一个功能。

       å…·ä½“步骤

       èŽ·å–整个页面数据首先我们可以先获取要下载图片的整个页面信息。

       getjpg.py

       #coding=utf-8import urllibdef getHtml(url):

       page = urllib.urlopen(url)

       html = page.read()    return html

       html = getHtml("blogs.com/fnng/archive////.html

       å‡å¦‚我们百度贴吧找到了几张漂亮的壁纸，通过到前段查看工具。找到了图片的地址，如：src=”/forum......jpg”pic_ext=”jpeg”

       ä¿®æ”¹ä»£ç å¦‚下：

       import reimport urllibdef getHtml(url):

       page = urllib.urlopen(url)

       html = page.read()    return htmldef getImg(html):

       reg = r'src="(.+?源码源码\.jpg)" pic_ext'

       imgre = re.compile(reg)

       imglist = re.findall(imgre,html)    return imglist      

       html = getHtml("/p/")print getImg(html)

       æˆ‘们又创建了getImg()函数，用于在获取的整个页面中筛选需要的图片连接。re模块主要包含了正则表达式：

       re.compile() å¯ä»¥æŠŠæ­£åˆ™è¡¨è¾¾å¼ç¼–译成一个正则表达式对象.

       re.findall() æ–¹æ³•è¯»å–html ä¸­åŒ…含 imgre（正则表达式）的数据。

       è¿è¡Œè„šæœ¬å°†å¾—到整个页面中包含图片的URL地址。

       3.将页面筛选的数据保存到本地

       æŠŠç­›é€‰çš„图片地址通过for循环遍历并保存到本地，代码如下：

       #coding=utf-8import urllibimport redef getHtml(url):

       page = urllib.urlopen(url)

       html = page.read()    return htmldef getImg(html):

       reg = r'src="(.+?\.jpg)" pic_ext'

       imgre = re.compile(reg)

       imglist = re.findall(imgre,html)

       x = 0    for imgurl in imglist:

       urllib.urlretrieve(imgurl,'%s.jpg' % x)

       x+=1html = getHtml("/p/")print getImg(html)

       è¿™é‡Œçš„核心是用到了urllib.urlretrieve()方法，直接将远程数据下载到本地。

       é€šè¿‡ä¸€ä¸ªfor循环对获取的图片连接进行遍历，为了使图片的文件名看上去更规范，对其进行重命名，命名规则通过x变量加1。保存的位置默认为程序的存放目录。

       ç¨‹åºè¿è¡Œå®Œæˆï¼Œå°†åœ¨ç›®å½•ä¸‹çœ‹åˆ°ä¸‹è½½åˆ°æœ¬åœ°çš„文件。

如何利用python写爬虫程序？

       åˆ©ç”¨python写爬虫程序的方法：

       1、先分析网站内容，红色部分即是网站文章内容div。

       2、随便打开一个div来看，可以看到，蓝色部分除了一个文章标题以外没有什么有用的信息，而注意红色部分我勾画出的地方，可以知道，它是指向文章的地址的超链接，那么爬虫只要捕捉到这个地址就可以了。

       3、接下来在一个问题就是翻页问题，可以看到，这和大多数网站不同，底部没有页数标签，而是查看更多。

       4、不过在查看源文件时有一个超链接，经测试它指向下一页，那么通过改变其最后的数值，就可以定位到相应的页数上。

       ä»£ç å¦‚下：

爬虫实战用python爬小红书任意话题笔记，以#杭州亚运会#为例

       在本文中，可复作者马哥python说分享了如何用Python爬取小红书上关于#杭州亚运会#话题的爬虫爬虫笔记。目标是源码源码获取7个核心字段，包括笔记标题、可复医院php源码ID、爬虫爬虫链接、源码源码作者昵称、可复ID、爬虫爬虫链接以及发布时间。源码源码他通过分析网页端接口，可复发现通过点击分享链接，爬虫爬虫查看开发者模式中的源码源码请求链接和参数，尤其是可复190源码网"has_more"标志，来实现翻页和判断爬取的终止条件。代码中涉及到请求头的设置、while循环的使用、游标的跟踪以及数据的保存，如转换时间戳、随机等待和解析关键字段。作者还提供了代码演示，linus git源码并将完整源码和结果数据分享在其微信公众号"老男孩的平凡之路"，订阅者回复"爬小红书话题"即可获取。

       以下是爬虫的核心代码逻辑（示例）：

       import requests

       headers = { ...}

       cursor = None

       while True:

        params = { 'cursor': cursor, ...} # 假设cursor参数在此处

        response = requests.get(url, headers=headers, params=params)

        data = response.json()

        if not data['has_more']:

        break

        process_data(data) # 处理并解析数据

        cursor = data['cursor']

        # 添加随机等待和时间戳处理逻辑

        time.sleep(random_wait)

       最后，爬虫运行完毕后，数据会保存为CSV格式。

python爬虫--微博评论--一键获取所有评论

       一键获取微博所有评论的方法

       首先，关注gzh获取源代码：文章地址：

       python爬虫--微博评论 (qq.com)

       效果预览如下：

       步骤：打开微博查看评论，oxygen xml源码确保点击“查看全部评论”，进入开发者模式，全局搜索评论关键字，下载评论文件。检查页面加载，发现随着滚动页面加载更多评论，此行为关键。菜瓜系统源码

       分析页面源代码，发现每个评论文件包含有ID、UID及max_id参数。ID和UID分别对应作者ID和文章ID，max_id参数控制评论加载。

       通过观察发现，前一个文件的max_id即为后一个文件的起始ID，以此类推。至此，已确定所有关键参数。

       接下来编写爬虫代码，分为两步：第一步，访问获取ID、UID；第二步，根据ID和UID访问评论文件，提取并保存评论。

       第一步实现，访问获取ID、UID，第二步实现，访问评论文件并提取评论至列表。使用for循环处理每个评论，最后将结果保存。

       封装函数，可输入不同文章链接ID以获取相应评论。

       完成代码后，实际运行以验证效果，关注gzh获取源代码及更多学习资源。

       源代码及文章地址：

       python爬虫--微博评论 (qq.com)