aiohttp 异步http请求-1.快速入门 get 请求示例
前言
在 python 的众多 http 请求库中,大家最熟悉的就是 requests 库了,requests 库上手非常容易,适合入门学习。
如果平常工作中对发请求不追求效率和并发的情况下,requests 完全可以满足大部分需求。但是想发大量的请求,比如几万个请求的时候,可能需要等待几个小时,requests 库就不能满足需求了。
初学者建议先学习requests 库,熟练掌握requests 库才能更好的学习 aiohttp 异步框架。
同步与异步
requests只能发送同步请求,aiohttp只能发送异步请求。
所谓的同步请求,是指在单进程单线程的代码中,发起一次请求后,在收到返回结果之前,不能发起下一次请求。
所谓异步请求,是指在单进程单线程的代码中,发起一次请求后,在等待网站返回结果的时间里,可以继续发送更多请求。
在前面一篇中有讲到python asyncio 异步 I/O - 实现并发http请求(asyncio + aiohttp)
如果使用requests 库,发10个请求访问我的博客,那么这10个请求是串行的。
import requests import time url = https://www.cnblogs.com/yoyoketang/ start_time = time.time() for i in range(10): r = requests.get(url) print(r) print('总耗时:', time.time()-start_time)
我们想实现并发请求需用到 异步http 库 aiohttp。
环境准备
首先,确保 aiohttp 已安装,为了更好的学习 aiohttp 的功能,建议大家使用python3.7+
版本, 我用的是python3.8
版本
pip install aiohttp==3.8.1
或者在 pycharm 中安装
简单get 请求实现
首先导入 aiohttp 模块和 asyncio
import aiohttp import asyncio
现在,让我们尝试获取一个网页。例如让我们查询 http://httpbin.org/get
:
import aiohttp import asyncio async def main(): async with aiohttp.ClientSession() as session: async with session.get('http://httpbin.org/get') as resp: print(resp.status) print(await resp.text()) # asyncio.run(main()) # 会报错,改成下面2句 loop = asyncio.get_event_loop() loop.run_until_complete(main())
运行结果
200 { args: {}, headers: { Accept: */*, Accept-Encoding: gzip, deflate, Host: httpbin.org, User-Agent: Python/3.8 aiohttp/3.8.1, X-Amzn-Trace-Id: Root=1-625ed4ea-5f44f6163dc3521845687df1 }, origin: 183.193.27.228, url: http://httpbin.org/get }
上面代码解释:
- aiohttp.ClientSession() 是创建客户端session会话对象
- resp 是返回的response对象
- session.get 发get请求
- resp.status 获取返回对象状态码
- resp.text() 返回文本对象
前面是get请求示例,发一个 post 请求示例如下
session.post('http://httpbin.org/post', data=b'data')
其他 HTTP 方法也可用:
session.put('http://httpbin.org/put', data=b'data') session.delete('http://httpbin.org/delete') session.head('http://httpbin.org/get') session.options('http://httpbin.org/get') session.patch('http://httpbin.org/patch', data=b'data')
为了使对同一个站点的多个请求更简单,可以使用构造函数的参数base_url ,例如请求不同的端点 http://httpbin.org
可以使用以下代码:
import aiohttp import asyncio async def main(): async with aiohttp.ClientSession('http://httpbin.org') as session: async with session.get('/get') as resp1: print(resp1.status) async with session.post('/post', data=b'data') as resp2: print(resp2.status) async with session.put('/put', data=b'data') as resp3: print(resp3.status) # asyncio.run(main()) # 会报错,改成下面2句 loop = asyncio.get_event_loop() loop.run_until_complete(main())
笔记
不要为每个请求创建会话。尽可能在每个应用程序中使用一个会话执行所有的请求。
更复杂的情况可能需要每个站点一个会话,例如一个用于 Github,另一个用于 Facebook API。无论如何,为每个请求创建一个会话是一个非常糟糕的主意。
会话内部包含一个连接池。连接重用和保持活动(默认情况下都打开)可以提高整体性能。
会话上下文管理器的使用不是强制性的,但在这种情况下应该调用方法,例如:await session.close()
session = aiohttp.ClientSession() async with session.get('...'): # ... await session.close()
在 URL 中传递参数
当url中带请求参数时,如http://httpbin.org/get?key1=value1&key2=value2
,在url中问号后面的参数可以单独拿出来用键值对保存,使用 params关键字参数将这些参数作为 提供
import aiohttp import asyncio async def main(): async with aiohttp.ClientSession() as session: params = {'key1': 'value1', 'key2': 'value2'} async with session.get('http://httpbin.org/get', params=params) as resp: expect = 'http://httpbin.org/get?key1=value1&key2=value2' print(resp.url) assert str(resp.url) == expect loop = asyncio.get_event_loop() loop.run_until_complete(main())
运行打印结果:http://httpbin.org/get?key1=value1&key2=value2
,通过打印 URL,您可以看到 URL 已正确编码。
如果同一个key有多个值的时候,如:http://httpbin.org/get?key1=value1&key2=value2&key2=value3
,其中key2对应的值有2个value2和value3。
那么在传值的时候,可以把多个值放到一个list,如
params = { 'key1': 'value1', 'key2': ['value2', 'value3'] }
也可以使用列表嵌套元祖
params = [ ('key1', 'value1'), ('key2', 'value2'), ('key2', 'value3') ]
也可以把字符串内容作为参数传递, 如params='key=value+1&key2=value2'
.
async with session.get('http://httpbin.org/get', params='key=value+1&key2=value2') as r: print(r.url) assert str(r.url) == 'http://httpbin.org/get?key=value+1&key2=value2'
但是这样会有弊端,+
号这种特殊字符没转码成urlencoded格式%2B
,所以这种方式尽量不用,以下是官方文档把字符串内容作为参数传递的说明。
也可以把参数直接传到url上,如http://httpbin.org/get?key1=value1&key2=value2
import aiohttp import asyncio async def main(): async with aiohttp.ClientSession() as session: async with session.get('http://httpbin.org/get?key1=value1&key2=value2') as resp: print(resp.url) loop = asyncio.get_event_loop() loop.run_until_complete(main())
当请求参数带有中文的时候
params = { 'key1': 'value1', 'key2': '上海-悠悠' }
它会自动帮我们转成urlencode编码http://httpbin.org/get?key1=value1&key2=%E4%B8%8A%E6%B5%B7-%E6%82%A0%E6%82%A0
async def main(): async with aiohttp.ClientSession() as session: params = { 'key1': 'value1', 'key2': '上海-悠悠' } async with session.get('http://httpbin.org/get', params=params) as resp: print(resp.url)
响应内容和状态码
我们可以读取服务器响应的内容及其状态码
import aiohttp import asyncio async def main(): async with aiohttp.ClientSession() as session: async with session.get('https://www.cnblogs.com/yoyoketang/') as resp: print(resp.url) print(await resp.text(encoding='utf-8')) loop = asyncio.get_event_loop() loop.run_until_complete(main())
打印出内容:
https://www.cnblogs.com/yoyoketang/ <!DOCTYPE html> <html lang=zh-cn> <head> <meta charset=utf-8 /> <meta name=viewport content=width=device-width, initial-scale=1.0 /> <meta name=referrer content=origin-when-crossorigin /> <meta http-equiv=Cache-Control content=no-transform /> <meta http-equiv=Cache-Control content=no-siteapp /> <meta http-equiv=X-UA-Compatible content=IE=edge /> <title>上海-悠悠 - 博客园</title>
aiohttp自动解码来自服务器的内容。您可以为该text()方法指定自定义编码:
resp.text(encoding='utf-8')
也可以获取byte响应内容
print(await resp.read())
打印结果
b'<!DOCTYPE html>\n<html lang=zh-cn>\n<head>\n <meta charset=utf-8 />\n ...'