电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

python 下載文件的多種方法匯總

瀏覽:7日期:2022-07-05 10:24:46

本文檔介紹了 Python 下載文件的各種方式,從下載簡單的小文件到用斷點續傳的方式下載大文件。

Requests

使用 Requests 模塊的 get 方法從一個 url 上下載文件,在 python 爬蟲中經常使用它下載簡單的網頁內容

import requests# 圖片來自bing.comurl = ’https://cn.bing.com/th?id=OHR.DerwentIsle_EN-CN8738104578_400x240.jpg’def requests_download(): content = requests.get(url).content with open(’pic_requests.jpg’, ’wb’) as file: file.write(content)

urllib

使用 python 內置的 urllib 模塊的 urlretrieve 方法直接將 url 請求保存成文件

from urllib import request# 圖片來自bing.comurl = ’https://cn.bing.com/th?id=OHR.DerwentIsle_EN-CN8738104578_400x240.jpg’def urllib_download(): request.urlretrieve(url, ’pic_urllib.jpg’)

urllib3

urllib3 是一個用于 Http 客戶端的 Python 模塊,它使用連接池對網絡進行請求訪問

def urllib3_download(): # 創建一個連接池 poolManager = urllib3.PoolManager() resp = poolManager.request(’GET’, url) with open('pic_urllib3.jpg', 'wb') as file: file.write(resp.data) resp.release_conn()

wget

在 Linux 系統中有 wget 命令,可以方便的下載網上的資源,Python 中也有相應的 wget 模塊。使用 pip install 命令安裝

import wget# 圖片來自bing.comurl = ’https://cn.bing.com/th?id=OHR.DerwentIsle_EN-CN8738104578_400x240.jpg’def wget_download(): wget.download(url, out=’pic_wget.jpg’)

也可以直接在命令行中使用 wget 命令

python -m wget https://cn.bing.com/th?id=OHR.DerwentIsle_EN-CN8738104578_400x240.jpg

分塊下載大文件

在需要下載的文件非常大,電腦的內存空間完全不夠用的情況下,可以使用 requests 模塊的流模式,默認情況下 stream 參數為 False, 文件過大會導致內存不足。stream 參數為 True 的時候 requests 并不會立刻開始下載,只有在調用 iter_content 或者 iter_lines 遍歷內容時下載

iter_content:一塊一塊的遍歷要下載的內容 iter_lines:一行一行的遍歷要下載的內容

import requestsdef steam_download(): # vscode 客戶端 url = ’https://vscode.cdn.azure.cn/stable/e5a624b788d92b8d34d1392e4c4d9789406efe8f/VSCodeUserSetup-x64-1.51.1.exe’ with requests.get(url, stream=True) as r: with open(’vscode.exe’, ’wb’) as flie: # chunk_size 指定寫入大小每次寫入 1024 * 1024 bytes for chunk in r.iter_content(chunk_size=1024*1024):if chunk: flie.write(chunk)

進度條

在下載大文件的時候加上進度條美化下載界面,可以實時知道下載的網絡速度和已經下載的文件大小,這里使用 tqdm 模塊作為進度條顯示,可以使用 pip install tqdm 安裝

from tqdm import tqdmdef tqdm_download(): url = ’https://vscode.cdn.azure.cn/stable/e5a624b788d92b8d34d1392e4c4d9789406efe8f/VSCodeUserSetup-x64-1.51.1.exe’ resp = requests.get(url, stream=True) # 獲取文件大小 file_size = int(resp.headers[’content-length’]) with tqdm(total=file_size, unit=’B’, unit_scale=True, unit_divisor=1024, ascii=True, desc=’vscode.exe’) as bar: with requests.get(url, stream=True) as r: with open(’vscode.exe’, ’wb’) as fp:for chunk in r.iter_content(chunk_size=512): if chunk: fp.write(chunk) bar.update(len(chunk))

tqdm 參數說明:

total:bytes,整個文件的大小 unit=’B’: 按 bytes 為單位計算 unit_scale=True:以 M 為單位顯示速度 unit_divisor=1024:文件大小和速度按 1024 除以,默認時按 1000 來除 ascii=True:進度條的顯示符號,用于兼容 windows 系統 desc=’vscode.exe’ 進度條前面的文件名

示例結果

python 下載文件的多種方法匯總

斷點續傳

HTTP/1.1 在協議的請求頭中增加了一個名為 Range的字段域, Range 字段域讓文件從已經下載的內容開始繼續下載

如果網站支持 Range 字段域請求響應的狀態碼為 206(Partial Content),否則為 416(Requested Range not satisfiable)

Range 的格式

Range:[unit=first byte pos] - [last byte pos],即 Range = 開始字節位置-結束字節位置,單位:bytes

將 Range 加入到 headers 中

from tqdm import tqdmdef duan_download(): url = ’https://vscode.cdn.azure.cn/stable/e5a624b788d92b8d34d1392e4c4d9789406efe8f/VSCodeUserSetup-x64-1.51.1.exe’ r = requests.get(url, stream=True) # 獲取文件大小 file_size = int(r.headers[’content-length’]) file_name = ’vscode.exe’ # 如果文件存在獲取文件大小,否在從 0 開始下載, first_byte = 0 if os.path.exists(file_name): first_byte = os.path.getsize(file_name) # 判斷是否已經下載完成 if first_byte >= file_size: return # Range 加入請求頭 header = {'Range': f'bytes={first_byte}-{file_size}'} # 加了一個 initial 參數 with tqdm(total=file_size, unit=’B’, initial=first_byte, unit_scale=True, unit_divisor=1024, ascii=True, desc=file_name) as bar: # 加 headers 參數 with requests.get(url, headers = header, stream=True) as r: with open(file_name, ’ab’) as fp:for chunk in r.iter_content(chunk_size=512): if chunk: fp.write(chunk) bar.update(len(chunk))

示例結果

啟動下載一段時間后,關閉腳本重新運行,文件在斷開的內容后繼續下載

python 下載文件的多種方法匯總

總結

本文介紹了常用的 7 中文件下載方式,其他的下載方式大家可以在留言區交流交流共同進步

示例代碼:Python 下載文件的多種方法

以上就是python 下載文件的多種方法匯總的詳細內容,更多關于python 下載文件的資料請關注好吧啦網其它相關文章!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 湖南专升本-湖南省专升本报名-湖南统招专升本考试网 | 湖州织里童装_女童男童中大童装_款式多尺码全_织里儿童网【官网】-嘉兴嘉乐网络科技有限公司 | 解放卡车|出口|济南重汽|报价大全|山东三维商贸有限公司 | 七维官网-水性工业漆_轨道交通涂料_钢结构漆 | 篷房|仓储篷房|铝合金篷房|体育篷房|篷房厂家-华烨建筑科技官网 知名电动蝶阀,电动球阀,气动蝶阀,气动球阀生产厂家|价格透明-【固菲阀门官网】 | 杭州用友|用友软件|用友财务软件|用友ERP系统--杭州协友软件官网 | 西宁装修_西宁装修公司-西宁业之峰装饰-青海业之峰墅级装饰设计公司【官网】 | 爱德华真空泵油/罗茨泵维修,爱发科-比其尔产品供应东莞/杭州/上海等全国各地 | Type-c防水母座|贴片母座|耳机接口|Type-c插座-深圳市步步精科技有限公司 | 馋嘴餐饮网_餐饮加盟店火爆好项目_餐饮连锁品牌加盟指南创业平台 | 数字展示在线_数字展示行业门户网站 | 青岛空压机,青岛空压机维修/保养,青岛空压机销售/出租公司,青岛空压机厂家电话 | 标准品网_标准品信息网_【中检计量】 | 石膏基自流平砂浆厂家-高强石膏基保温隔声自流平-轻质抹灰石膏粉砂浆批发-永康市汇利建设有限公司 | 洛阳永磁工业大吊扇研发生产-工厂通风降温解决方案提供商-中实洛阳环境科技有限公司 | 臭氧实验装置_实验室臭氧发生器-北京同林臭氧装置网 | 苏州柯瑞德货架-仓库自动化改造解决方案 | 2025福建平潭岛旅游攻略|蓝眼泪,景点,住宿攻略-趣平潭网 | 儿童乐园|游乐场|淘气堡招商加盟|室内儿童游乐园配套设备|生产厂家|开心哈乐儿童乐园 | 杰福伦_磁致伸缩位移传感器_线性位移传感器-意大利GEFRAN杰福伦-河南赉威液压科技有限公司 | 二手Sciex液质联用仪-岛津气质联用仪-二手安捷伦气质联用仪-上海隐智科学仪器有限公司 | DDoS安全防护官网-领先的DDoS安全防护服务商 | 泰兴市热钻机械有限公司-热熔钻孔机-数控热熔钻-热熔钻孔攻牙一体机 | 仿古建筑设计-仿古建筑施工-仿古建筑公司-汉匠古建筑设计院 | 中高频感应加热设备|高频淬火设备|超音频感应加热电源|不锈钢管光亮退火机|真空管烤消设备 - 郑州蓝硕工业炉设备有限公司 | 杭州公司变更法人-代理记账收费价格-公司注销代办_杭州福道财务管理咨询有限公司 | 固诺家居-全屋定制十大品牌_整体衣柜木门橱柜招商加盟 | 高速混合机_锂电混合机_VC高效混合机-无锡鑫海干燥粉体设备有限公司 | 冷藏车厂家|冷藏车价格|小型冷藏车|散装饲料车厂家|程力专用汽车股份有限公司销售十二分公司 | 袋式过滤器,自清洗过滤器,保安过滤器,篮式过滤器,气体过滤器,全自动过滤器,反冲洗过滤器,管道过滤器,无锡驰业环保科技有限公司 | 上海律师事务所_上海刑事律师免费咨询平台-煊宏律师事务所 | 北京网站建设|北京网站开发|北京网站设计|高端做网站公司 | 坏男孩影院-提供最新电影_动漫_综艺_电视剧_迅雷免费电影最新观看 | 知名电动蝶阀,电动球阀,气动蝶阀,气动球阀生产厂家|价格透明-【固菲阀门官网】 | 空气弹簧|橡胶气囊|橡胶空气弹簧-上海松夏减震器有限公司 | 空调风机,低噪声离心式通风机,不锈钢防爆风机,前倾皮带传动风机,后倾空调风机-山东捷风风机有限公司 | 压力控制器,差压控制器,温度控制器,防爆压力控制器,防爆温度控制器,防爆差压控制器-常州天利智能控制股份有限公司 | 高压绝缘垫-红色配电房绝缘垫-绿色高压绝缘地毯-上海苏海电气 | 无硅导热垫片-碳纤维导热垫片-导热相变材料厂家-东莞市盛元新材料科技有限公司 | 气动隔膜泵-电动隔膜泵-循环热水泵-液下排污/螺杆/管道/化工泵「厂家」浙江绿邦 | AGV叉车|无人叉车|AGV智能叉车|AGV搬运车-江西丹巴赫机器人股份有限公司 |