就要干,李斯丹妮,教师资格证考试时间

admin 2019-03-15 阅读:120

Python爬虫为什么受欢迎

如果你仔细学生不雅观察,就不难发现,懂爬虫就要干,李斯丹妮,教师资格证考试时间、学习爬虫的人越来越多,一方面,互联网可以获取的数据越来越多,另一方面,像 Python这样的编程语言提供越来强桑1号越多的优秀工具,让爬虫变得简单、容易上手。

利用爬虫我们可以获取大量的价值数据,从而获得感性认识中不能得到的信息,比如:

对于小白来说,爬虫可能是一件非常复杂、技术门槛很高的事情。比如有人认为学爬虫必须精通 Python,然后哼哧哼哧系统学习 Python 的每个知识点,很久之后发现仍然爬不了数据;有的人则认为先要掌握网页的知识,遂开始 HTMLCSS,结果入了前端的坑,瘁……

但掌握正确的方法,在短时间内做到能够爬取主流网站的数据,其实非常容易实现,但建议你从一开始就要有一个具体的目标。

在目标的驱动下,你的学习才会更加精准和高效。那些所有你认为必须的前置知识,都是可以在完成目标的过程中学到的。这里给你一条平滑的、零基础快速入门的学习路径。

一,学习 Python 包并实现基本的爬虫过程

大部分爬虫都是按“发送请求——获得页面——解析页面——抽取并储存内容”这样的流程来进行,这其实也是模拟了我们使用浏览器获取网页信息的过程。

Python中爬虫相关的包很多:urllib、requests、bs4、scrapy、py申必达spider 等,建议从requecliphuntersts+Xpath 开始,requests 负责连接网站,返回网页,Xpath 用鼓腹咝蝰于解析网页,便于抽取数据。

如果你用过 BeautifulSoup,会发现 Xpath 要省事不少,一层一层检查元素代码的工作,全都省略了。这样下来基本套路都差不多,一般的静态网站根本不在话下,豆瓣、糗事百科、腾讯新闻等基本上都可以上手了

当然如果你需要爬取异步加载的网站,可以学习浏览器抓包分析真实请求或者学习Selenium来实现自动化,这样,知乎、时光网、猫途鹰这些动态的网站也可以迎刃而解

二,了解非结构化数据的存储

爬回来的数据可以直接用文档形式存在本地,也可以存入数据库中。

开始数据量不大的时候,你可以直接通过 Python 的语法或 pandas好陈列胜过好导购 的方法将数据存为csv这样的文件

当然你可能发现爬回来的数据并不是干净的,可能会有缺失、错误等等,你还需要对数据进行清洗,可以学习 pandas 包的基本用法来做数据的预处理,得到更干净的数据。

三,学习 scrapy,搭建工程化的爬虫

掌握前面的技术一般量级的数据和代码基本没有问题了,但是在遇到非常复杂的情况,可能仍然会力不从心,这个时候,强大的 scrapy 框架就非常有用了。

scrapy 是一个功能非常强大的爬虫框架,它不仅能便捷地傲气雄风构建request,还有强大的 selector 能够方便地解析 response,然而它最让人惊喜的还是它超高的性能,让你可以将爬虫工程化、模块化。

学会 scrapy,你可以自己去搭建一些爬虫框架,你就基本具备爬虫工程师的思维了。

四.学习数据库基础,应对大规模数据存储

爬回来的数据量小的时候,你可以用文田鹤鸣档的形式来存储,一旦数据量大了,这就有点行不通了。所以掌握一种数据库是必须的,学习目前比较主流的 MongoDB 就OK。

MongoDB 可以方便你去存储一些非结构化的数据,比如各种评论的文本,图片的链接等等。你也可以利用PyMongo,更方便地在Python中操作MongoDB。

因为这里要用到的数据库知识其实非常简单,主要是数据如何入库、如何进行提取,在需要的时候再学习就行。

五.掌握各种技巧,应对特殊网站的反爬措施

当然,爬虫过程中也会经历一些绝望啊,比如被网站封IP、比如各种奇怪的验证码、userAgent访问限制、各种动态加载等等。

遇到这些反爬虫的手段,当然还需要一些高级的技巧来应对,常规的比如访问频率控制、使用代理IP池、抓包、验证码的OCR处理等等

往往网站在高效开发和反爬虫之间会偏向前者,这也为爬虫提供了空间,掌握这些应对反老铁腭爬虫的技巧,绝大部分的网站已经难不到你了

分布式爬虫,实现大规模并发采集

爬取基本数据已经不是问题了,你的瓶颈会集中到爬取海量数据的效率。这个时候,相信你会很自然地接触到一个很厉害的名字:分布式爬虫

分布式这个东西,听起来很恐怖,但其实就是利用多线程的原理让多个爬虫同时工作,需要你掌握 Scrapy + MongoDB + Redis 这三种工具

Scrapy 前面我们说过了,用于做基本的页面爬取,MongoDB 用于存储爬取的数据,Redis 则用来存储要爬取的网页队列,也就是任务队列。

所以有些东速8bgm西看起来很吓人,但其实分解开来,也不过如此。当你能够写分布式的爬虫的时候,那么你可以去尝试打造一些基本的爬虫架构了,实现一些更加自动化的数据获取。

你看,这一条学习路径下来,你已然可以成为老司机了,非常的顺畅。所以在一开始的时候,尽量不要系统地去啃一些东西,找一个实际的项目(开始可以从豆瓣、小猪这种简单的入手),直接开始就好

因为爬虫这种技术,既不需要你系统地精通一门语言,也不需要多么高深的数据库技术,高效的姿势就是从实际的项目中去学习这些零散的知识点,你能保证每次学到的都是最需要的那部分。

当然唯一麻烦的是,在具体的问题中,如何找到具体需要的那部分学习资源、如何筛选和甄别,是很多初学者面临的一个大问题。

关于类的知识点里面,有一块是关于多重继承,跟其他主流语言一样,Python也支持多重继承,多重继承虽然有一些好处,但是坑很多,我们今天就来聊一聊Python多重继承里面的坑.

先来看一下语法,Python多重继承的语法很简单:

class subClass(Base1,Base2)

这相当于你创建了一个subClass的类,让它同时继承Base1,Base2,一旦你在subClass的实例上有任何隐式动作,Python会回到类的层级结构中去检查Base1,Base2,而且必须要用固定的次序去检查,为了搞定这一点Python用了一个MRO去搜索

要点:

  • 多重继承的初始化顺序
  • 菱形多重继承的初始化顺序
  • 迷一样的MRO
  • 经典类和新式类的MRO区别

1坑1-多重继承内的初始化顺序

先看一个简单的例子,有一个子类subClass,继承3个父类BaseClass,TimesTwo,PlusFive.看看这样的结构内的类的初始化顺序是怎么样的

>>

Init BaseClass

value is :1

Init TimesTwo

value is :2

Init PlusFive

value is :7

7

那么我们把子类里面多重继承的父类的顺序换一下:继承3个父类BaseClass,PlusFive,TimesTwo.

>>

Init BaseClass

value is :1

Init TimesTwo

value is :2

Init PlusFive

value is :7

7

我们发现虽然我们多重继承的顺序是BaseClass,PlusFive,TimesTwo,但是实际运行的结果:却还是是BaseClass,TimesTwo,PlusFive,奇怪为啥会这样呢,我们接着往下看~~

2坑2.菱形多重继承中初始化问题

当一个子类继德古拉元年2预告片承2个父类,而2个父类又变种食人鳄都继承一个基类,构成了一个菱形.

>>王烈麟

Init BaseClass

value is :1

Init TimesTwo

value is :2

Init BaseClass

value is :1

Init PlusFive

value is :6

6

正确的结果我们是想1*污故事2+5=7,但是实际是6,为啥呢

因为菱形继承的问题,在调用第二个超类的构造器PlusFive.__init__()的时候, 它会再度去调用BaseClass.__init__(),从而导致self.value重新变成1.

那么用内置函数super()是不是可以解决这个问题

>>

Init BaseClass

value is :1

Init PlusFive

value is :6

Init TimesTwo

value is :12

12

super()确实可以保证菱形顶部的公共基类的__init__迪斯菲丽()方法只会运行一次,但是运行的结果好像不是我们期望的.我们期望的是1*2+5=7,但是实际运行却是(1+5)*2=12了,奇怪为啥会这样呢

3迷一样的MRO

  • 上面两个问题的根源都跟MRO有关,MRO(Method Resolution Order)也叫方法解析顺序,主要用于在多重继承时判断调的属性的路径(来自于哪个类)
  • 那么我们现在来看一下上面的例子,终极封神之战魔刑天到底是怎么个搜素的呢~~
  • 我们引入Python内置模块pprint(这个Python的一个打印数据结构的模块)

  • 我们调用SubClass的时候,它会调用TimesTwo.__init__(),而TimesTwo.__init__()又会调用PlusFive.__init__(),PlusFive.__init__()再去调BaseClass.__init__(),到达菱形体系的顶部
  • 注意xp1024最新合集关键的地方来了,所有的初始化方法会按照跟那些__init__()相反的顺序来运行.

也就是如下的初始化顺序:

1)BaseClass__init__()整骨专家会把value设为1

2)PlusFive.__init__()会把value加5,然后value变成6

3)TimesTwo.__init__()会把value乘以2,然后value变成12

4经典类和新式类的MRO区别

  • 因为Python的类中有两种:一种经典类,一种新式类(什么你不知道什么叫新式类,看我历史文章:Python的类,复杂吗
  • 在经典类中MRO搜索采用简单的从左到右的深度优先顺序,而新式类是广度优先,不信我给你举个例子

#先看经典类

>>

I can show the information of A

return value of B

当用经典类实现的时候,我们发现调用的A类中的show()方法和B类的getValue()方法

#再看新式类

>>

I can show the information of C

return value of B

变成新式类的时候,结果变成了调用C类的show()方法和B类的getValue()方法.

差别的根源就是上面时候的经典类和新式类采用的MRO差异.

结论:

  • 不惜一切代价地避免多重继承,它带来的麻烦比能解决的问题都多。如果你非要用,那你得准备好专研类的层次结构,以及花时间去找各种东西的来龙去脉吧
  • 只有在代码之间有清楚的关联,可以通过一个单独的共性联系起来的时候使用继承,或者你受现有代码所限非用不可的话,那也用吧
  • 或者秦梦瑶和范军是啥关系可以试试组合,组合则是利用模块和别的类中的函数调用实现了相同的目的

最后,想学习Python的小伙伴们!

请关注+私信回复:“学习”就可以拿到一份我为大家准备的Python学习资料!

pytyhon学习资料

python学习资料