本文档介绍了 Python 下载文件的各种方式,从下载简单的小文件到用断点续传的方式下载大文件。
Requests
使用 Requests 模块的 get 方法从一个 url 上下载文件,在 python 爬虫中经常使用它下载简单的网页内容
import requests # 图片来自bing.com url = 'https://cn.bing.com/th"htmlcode">from urllib import request # 图片来自bing.com url = 'https://cn.bing.com/th"htmlcode">def urllib3_download(): # 创建一个连接池 poolManager = urllib3.PoolManager() resp = poolManager.request('GET', url) with open("pic_urllib3.jpg", "wb") as file: file.write(resp.data) resp.release_conn()wget
在 Linux 系统中有 wget 命令,可以方便的下载网上的资源,Python 中也有相应的 wget 模块。使用 pip install 命令安装
import wget # 图片来自bing.com url = 'https://cn.bing.com/th"htmlcode">python -m wget https://cn.bing.com/th"htmlcode">import requests def steam_download(): # vscode 客户端 url = 'https://vscode.cdn.azure.cn/stable/e5a624b788d92b8d34d1392e4c4d9789406efe8f/VSCodeUserSetup-x64-1.51.1.exe' with requests.get(url, stream=True) as r: with open('vscode.exe', 'wb') as flie: # chunk_size 指定写入大小每次写入 1024 * 1024 bytes for chunk in r.iter_content(chunk_size=1024*1024): if chunk: flie.write(chunk)进度条
在下载大文件的时候加上进度条美化下载界面,可以实时知道下载的网络速度和已经下载的文件大小,这里使用 tqdm 模块作为进度条显示,可以使用 pip install tqdm 安装
from tqdm import tqdm def tqdm_download(): url = 'https://vscode.cdn.azure.cn/stable/e5a624b788d92b8d34d1392e4c4d9789406efe8f/VSCodeUserSetup-x64-1.51.1.exe' resp = requests.get(url, stream=True) # 获取文件大小 file_size = int(resp.headers['content-length']) with tqdm(total=file_size, unit='B', unit_scale=True, unit_divisor=1024, ascii=True, desc='vscode.exe') as bar: with requests.get(url, stream=True) as r: with open('vscode.exe', 'wb') as fp: for chunk in r.iter_content(chunk_size=512): if chunk: fp.write(chunk) bar.update(len(chunk))tqdm 参数说明:
- total:bytes,整个文件的大小
- unit='B': 按 bytes 为单位计算
- unit_scale=True:以 M 为单位显示速度
- unit_divisor=1024:文件大小和速度按 1024 除以,默认时按 1000 来除
- ascii=True:进度条的显示符号,用于兼容 windows 系统
- desc='vscode.exe' 进度条前面的文件名
示例结果
断点续传
HTTP/1.1 在协议的请求头中增加了一个名为 Range的字段域, Range 字段域让文件从已经下载的内容开始继续下载
如果网站支持 Range 字段域请求响应的状态码为 206(Partial Content),否则为 416(Requested Range not satisfiable)
Range 的格式
Range:[unit=first byte pos] - [last byte pos],即 Range = 开始字节位置-结束字节位置,单位:bytes将 Range 加入到 headers 中
from tqdm import tqdm def duan_download(): url = 'https://vscode.cdn.azure.cn/stable/e5a624b788d92b8d34d1392e4c4d9789406efe8f/VSCodeUserSetup-x64-1.51.1.exe' r = requests.get(url, stream=True) # 获取文件大小 file_size = int(r.headers['content-length']) file_name = 'vscode.exe' # 如果文件存在获取文件大小,否在从 0 开始下载, first_byte = 0 if os.path.exists(file_name): first_byte = os.path.getsize(file_name) # 判断是否已经下载完成 if first_byte >= file_size: return # Range 加入请求头 header = {"Range": f"bytes={first_byte}-{file_size}"} # 加了一个 initial 参数 with tqdm(total=file_size, unit='B', initial=first_byte, unit_scale=True, unit_divisor=1024, ascii=True, desc=file_name) as bar: # 加 headers 参数 with requests.get(url, headers = header, stream=True) as r: with open(file_name, 'ab') as fp: for chunk in r.iter_content(chunk_size=512): if chunk: fp.write(chunk) bar.update(len(chunk))示例结果
启动下载一段时间后,关闭脚本重新运行,文件在断开的内容后继续下载
总结
本文介绍了常用的 7 中文件下载方式,其他的下载方式大家可以在留言区交流交流共同进步
示例代码:Python 下载文件的多种方法
以上就是python 下载文件的多种方法汇总的详细内容,更多关于python 下载文件的资料请关注其它相关文章!
白云岛资源网 Design By www.pvray.com
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
稳了!魔兽国服回归的3条重磅消息!官宣时间再确认!
昨天有一位朋友在大神群里分享,自己亚服账号被封号之后居然弹出了国服的封号信息对话框。
这里面让他访问的是一个国服的战网网址,com.cn和后面的zh都非常明白地表明这就是国服战网。
而他在复制这个网址并且进行登录之后,确实是网易的网址,也就是我们熟悉的停服之后国服发布的暴雪游戏产品运营到期开放退款的说明。这是一件比较奇怪的事情,因为以前都没有出现这样的情况,现在突然提示跳转到国服战网的网址,是不是说明了简体中文客户端已经开始进行更新了呢?