实战:异步爬取之初识异步

一、为什么要用异步?

许多之前没有听说过异步地朋友可能看到标题地第一反应就是:什么是异步?为什么要用异步?

我们先来讲讲为什么要用异步,对于爬虫来说,在能够爬取到数据地前提下当然是越快越好,显然传统地同步代码不能满足我们对速度地需求。

这时候我们想到了多线程,虽然多线程能够提高速度,但是单论效率来说多线程是不如同步代码的,因为还要花费资源来管理线程

而且多线程还有资源竞争的问题,这就不得不使用资源锁来保证同一时间只有一个线程访问,而这使得多线程的速度更加慢,这也是为什么在上一篇我们使用十个线程却只达到 9倍速度的原因。

而异步却没有这些问题,异步虽然被称作异步,但本质上异步代码都是同步的,它们都运行在一个线程里,这样就不需要考虑线程管理和资源竞争的问题了。

并且异步的速度非常快,为什么是非常快而不是很快?因为异步真的太快了。

不说废话,我们拿数据说事:

正常情况下我们请求一个页面大概是 0.3到 0.8秒左右(带宽 100m)

也就是说如果我们请求同一个页面 100次的话,最少也得花费 30秒

如果换成异步呢?

使用异步如果只请求一个页面的话,和同步差不多,也是在 0.3到 0.8之间

但是如果请求同一个页面 100次的话,只需要要 3秒左右

国外有人做过测试:

请求次数 花费时间
100 3.48s
1000 7s
10k 23s
100k 53s
1000k 9 min 3s

(数据来源:Making 1 million requests with python-aiohttp)

从表中的数据可以看出来异步的最大速度可以达到 100k每分钟,可以说是非常快了。

在我的的测试中,最快达到了 2k每分钟,与上面的数据相差较大(难道是我的打开方式不对?)。

不过不管怎样,我们能够确定异步很快。

对于一些异步的基本概念不了解的朋友可以去看这篇文章: 深入理解 Python 异步编程(上)

下面我们以一个简单的例子来了解一下异步的使用

二、异步的简单使用

在开始之前,大家要牢记异步是单线程的,所以代码中不能有非异步的 I/O 操作。

像 requests、文件写入等 耗时的 I/O操作都不能直接使用。

不过这些库都有对应的异步版本,比如 requests就可以使用 aiohttp代替。

下面我们来看一个简单的例子,来感受一下异步的速度:

首先我们使用 requests库来请求百度首页一次:

import time
import requests


def getBaiduPage():
    url = 'https://www.baidu.com/'
    headers = {
        'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.84 Safari/537.36'
    }

    r = requests.get(url, headers=headers)

    print(r.status_code)


start = time.time()

getBaiduPage()

end = time.time()

print(f'用时{end - start} s')

输出:

200
用时0.5322993278503418 s

我们再试试请求 10次:

start = time.time()

for i in range(10):
    getBaiduPage()
    
end = time.time()

print(f'用时{end - start} s')

输出:

200
...
200
用时3.976729393005371 s

我们再来看看异步:

请求一次:

import time

import asyncio
import aiohttp


async def getBaiduPageAsync():
    url = 'https://www.baidu.com/'
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.84 Safari/537.36'
    }
    async with aiohttp.ClientSession() as session:
        async with session.get(url, headers=headers) as response:
            print(response.status)


start = time.time()


loop = asyncio.get_event_loop()

loop.run_until_complete(asyncio.ensure_future(getBaiduPageAsync()))


end = time.time()

print(f'用时{end - start} s')

输出:

200
用时0.599806547164917 s

用异步请求 10次:

start = time.time()

loop = asyncio.get_event_loop()

tasks = []
for i in range(10):
    tasks.append(asyncio.ensure_future(getBaiduPageAsync()))

loop.run_until_complete(asyncio.wait(tasks))

end = time.time()

print(f'用时{end - start} s')

输出:

200
...
200
用时0.512629508972168 s

我们列个表格来看看,requests和 aiohttp之间的区别:

请求一次 请求十次
requests 0.5322993278503418 s 3.976729393005371 s
aiohttp 0.599806547164917 s 0.512629508972168 s

通过表格我们不难发现,在请求一次的时候 requests和 aiohttp相差不大,但是在请求十次的时候 requests和 aiohttp相差巨大,甚至 aiohttp请求十次所用的时间和请求一次的时间相当。

其实这还不能体现出异步真正的速度,让我们来看看使用异步请求 100次:


start = time.time()

loop = asyncio.get_event_loop()

tasks = []
for i in range(100):
    tasks.append(asyncio.ensure_future(getBaiduPageAsync()))

loop.run_until_complete(asyncio.wait(tasks))

end = time.time()

print(f'用时{end - start} s')

输出:

200
...
200
用时1.6467080116271973 s

好像异步请求的页面越多速度越快(⊙o⊙)。

别想多了ε=ε=ε=( ̄ ̄),其实异步的速度是有个上限的,从我们的第一个表格来看,这个上限是 100k每分钟。

这里只写了一个简单的示例来测试异步请求的速度,关于异步的详细使用我们留到下一篇。

想了解为什么异步如此快,可以阅读: 深入理解 Python 异步编程(上)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,519评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,842评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,544评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,742评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,646评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,027评论 1 275
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,513评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,169评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,324评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,268评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,299评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,996评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,591评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,667评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,911评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,288评论 2 345
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,871评论 2 341

推荐阅读更多精彩内容