电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

Python爬蟲抓取指定網頁圖片代碼實例

瀏覽:3日期:2022-07-16 14:16:38

想要爬取指定網頁中的圖片主要需要以下三個步驟:

(1)指定網站鏈接,抓取該網站的源代碼(如果使用google瀏覽器就是按下鼠標右鍵 -> Inspect-> Elements 中的 html 內容)

(2)根據你要抓取的內容設置正則表達式以匹配要抓取的內容

(3)設置循環列表,重復抓取和保存內容

以下介紹了兩種方法實現抓取指定網頁中圖片

(1)方法一:使用正則表達式過濾抓到的 html 內容字符串

# 第一個簡單的爬取圖片的程序import urllib.request # python自帶的爬操作url的庫import re # 正則表達式# 該方法傳入url,返回url的html的源代碼def getHtmlCode(url): # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個偽裝的頭部請求 headers = { ’User-Agent’: ’Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36’ } # 將headers頭部添加到url,模擬瀏覽器訪問 url = urllib.request.Request(url, headers=headers) # 將url頁面的源代碼保存成字符串 page = urllib.request.urlopen(url).read() # 字符串轉碼 page = page.decode(’UTF-8’) return page# 該方法傳入html的源代碼,通過截取其中的img標簽,將圖片保存到本機def getImage(page): # [^s]*? 表示最小匹配, 兩個括號表示列表中有兩個元組 # imageList = re.findall(r’(https:[^s]*?(png))'’, page) imageList = re.findall(r’(https:[^s]*?(jpg|png|gif))'’, page) x = 0 # 循環列表 for imageUrl in imageList: try: print(’正在下載: %s’ % imageUrl[0]) # 這個image文件夾需要先創建好才能看到結果 image_save_path = ’./image/%d.png’ % x # 下載圖片并且保存到指定文件夾中 urllib.request.urlretrieve(imageUrl[0], image_save_path) x = x + 1 except: continue passif __name__ == ’__main__’: # 指定要爬取的網站 url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html' # 得到該網站的源代碼 page = getHtmlCode(url) # 爬取該網站的圖片并且保存 getImage(page) # print(page)

注意,代碼中需要修改的就是imageList = re.findall(r’(https:[^s]*?(jpg|png|gif))'’, page) 這一塊內容,如何設計正則表達式需要根據你想要抓取的內容設置。我的設計來源如下:

Python爬蟲抓取指定網頁圖片代碼實例

可以看到,因為這個網頁上的圖片都是 png 格式,所以寫成imageList = re.findall(r’(https:[^s]*?(png))'’, page)也是可以的。

(2)方法二:使用 BeautifulSoup 庫解析 html 網頁

from bs4 import BeautifulSoup # BeautifulSoup是python處理HTML/XML的函數庫,是Python內置的網頁分析工具import urllib # python自帶的爬操作url的庫# 該方法傳入url,返回url的html的源代碼def getHtmlCode(url): # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個偽裝的頭部請求 headers = { ’User-Agent’: ’Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36’ } # 將headers頭部添加到url,模擬瀏覽器訪問 url = urllib.request.Request(url, headers=headers) # 將url頁面的源代碼保存成字符串 page = urllib.request.urlopen(url).read() # 字符串轉碼 page = page.decode(’UTF-8’) return page# 該方法傳入html的源代碼,通過截取其中的img標簽,將圖片保存到本機def getImage(page): # 按照html格式解析頁面 soup = BeautifulSoup(page, ’html.parser’) # 格式化輸出DOM樹的內容 print(soup.prettify()) # 返回所有包含img標簽的列表,因為在Html文件中圖片的插入呈現形式是<img src='http://www.hdgsjgj.cn/bcjs/...' alt='..' /> imgList = soup.find_all(’img’) x = 0 # 循環找到的圖片列表,注意,這里手動設置從第2張圖片開始,是因為我debug看到了第一張圖片不是我想要的圖片 for imgUrl in imgList[1:]: print(’正在下載: %s ’ % imgUrl.get(’src’)) # 得到scr的內容,這里返回的就是Url字符串鏈接,如’https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png’ image_url = imgUrl.get(’src’) # 這個image文件夾需要先創建好才能看到結果 image_save_path = ’./image/%d.png’ % x # 下載圖片并且保存到指定文件夾中 urllib.request.urlretrieve(image_url, image_save_path) x = x + 1if __name__ == ’__main__’: # 指定要爬取的網站 url = ’https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html’ # 得到該網站的源代碼 page = getHtmlCode(url) # 爬取該網站的圖片并且保存 getImage(page)

這兩種方法各有利弊,我覺得可以靈活結合使用這兩種方法,比如先使用方法2中指定標簽的方法縮小要尋找的內容范圍,然后再使用正則表達式匹配想要的內容,這樣做起來更加簡潔明了。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: ET3000双钳形接地电阻测试仪_ZSR10A直流_SXJS-IV智能_SX-9000全自动油介质损耗测试仪-上海康登 | 皮带机_移动皮带机_大倾角皮带机_皮带机厂家 - 新乡市国盛机械设备有限公司 | BAUER减速机|ROSSI-MERSEN熔断器-APTECH调压阀-上海爱泽工业设备有限公司 | 主题班会网 - 安全教育主题班会,各类主题班会PPT模板 | 液氮罐_液氮容器_自增压液氮罐-北京君方科仪科技发展有限公司 | 安规电容|薄膜电容|陶瓷电容|智旭JEC安规电容厂家 | 多功能干燥机,过滤洗涤干燥三合一设备-无锡市张华医药设备有限公司 | 蜜蜂职场文库_职场求职面试实用的范文资料大全 | 炒货机-炒菜机-炒酱机-炒米机@霍氏机械 | 铝合金重力铸造_铝合金翻砂铸造_铝铸件厂家-东莞市铝得旺五金制品有限公司 | 运动木地板厂家_体育木地板安装_篮球木地板选购_实木运动地板价格 | 【直乐】河北石家庄脊柱侧弯医院_治疗椎间盘突出哪家医院好_骨科脊柱外科专业医院_治疗抽动症/关节病骨伤权威医院|排行-直乐矫形中医医院 | 杭州代理记账多少钱-注册公司代办-公司注销流程及费用-杭州福道财务管理咨询有限公司 | 标准件-非标紧固件-不锈钢螺栓-非标不锈钢螺丝-非标螺母厂家-三角牙锁紧自攻-南京宝宇标准件有限公司 | 安全,主动,被动,柔性,山体滑坡,sns,钢丝绳,边坡,防护网,护栏网,围栏,栏杆,栅栏,厂家 - 护栏网防护网生产厂家 | 合肥触摸一体机_触摸查询机厂家_合肥拼接屏-安徽迅博智能科技 | 防水接头-电缆防水接头-金属-电缆密封接头-不锈钢电缆接头 | 万濠投影仪_瑞士TRIMOS高度仪_尼康投影仪V12BDC|量子仪器 | 西点培训学校_法式西点培训班_西点师培训_西点蛋糕培训-广州烘趣西点烘焙培训学院 | 山东氧化铁红,山东铁红-淄博科瑞化工有限公司 | 免联考国际MBA_在职MBA报考条件/科目/排名-MBA信息网 | 建筑资质代办-建筑企业资质代办机构-建筑资质代办公司 | 辐射色度计-字符亮度测试-反射式膜厚仪-苏州瑞格谱光电科技有限公司 | 章丘丰源机械有限公司 - 三叶罗茨风机,罗茨鼓风机,罗茨风机 | 深圳标识制作公司-标识标牌厂家-深圳广告标识制作-玟璟广告-深圳市玟璟广告有限公司 | 语料库-提供经典范文,文案句子,常用文书,您的写作得力助手 | 衢州装饰公司|装潢公司|办公楼装修|排屋装修|别墅装修-衢州佳盛装饰 | 双工位钻铣攻牙机-转换工作台钻攻中心-钻铣攻牙机一体机-浙江利硕自动化设备有限公司 | COD分析仪|氨氮分析仪|总磷分析仪|总氮分析仪-圣湖Greatlake | atcc网站,sigma试剂价格,肿瘤细胞现货,人结肠癌细胞株购买-南京科佰生物 | 膏方加工_丸剂贴牌_膏滋代加工_湖北康瑞生物科技有限公司 | 上海小程序开发-上海小程序制作公司-上海网站建设-公众号开发运营-软件外包公司-咏熠科技 | 德国GMN轴承,GMN角接触球轴承,GMN单向轴承,GMN油封,GMN非接触式密封 | led全彩屏-室内|学校|展厅|p3|户外|会议室|圆柱|p2.5LED显示屏-LED显示屏价格-LED互动地砖屏_蕙宇屏科技 | 齿轮减速机_齿轮减速电机-VEMT蜗轮蜗杆减速机马达生产厂家瓦玛特传动瑞环机电 | 必胜高考网_全国高考备考和志愿填报信息平台 | 桌上式超净工作台-水平送风超净工作台-上海康路仪器设备有限公司 | 安全阀_弹簧式安全阀_美标安全阀_工业冷冻安全阀厂家-中国·阿司米阀门有限公司 | PVC地板|PVC塑胶地板|PVC地板厂家|地板胶|防静电地板-无锡腾方装饰材料有限公司-咨询热线:4008-798-128 | 大通天成企业资质代办_承装修试电力设施许可证_增值电信业务经营许可证_无人机运营合格证_广播电视节目制作许可证 | 软启动器-上海能曼电气有限公司 真空搅拌机-行星搅拌机-双行星动力混合机-广州市番禺区源创化工设备厂 |