电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

python 爬蟲網頁登陸的簡單實現

瀏覽:2日期:2022-07-03 17:16:09

相信各位在寫 python 爬蟲的時候會在爬取網站時遇到一些登陸的問題,比如說登陸時遇到輸入驗證碼比如說登錄時遇到圖片拖拽等驗證,如何解決這類問題呢?一般有兩種方案。

使用 cookie 登陸

我們可以通過使用 cookies 登陸,首先獲取瀏覽器的 cookie,然后利用 requests 庫直接登陸 cookie,服務器就會認為你是一個真實登陸用戶,所以就會返回給你一個已登陸的狀態,這個方法是很好用的,基本上絕大部分的需要驗證碼登錄的網站都可以通過 cookie 登錄來解決,

#! -*- encoding:utf-8 -*- import requests import random import requests.adapters # 要訪問的目標頁面 targetUrlList = [ 'https://httpbin.org/ip', 'https://httpbin.org/headers', 'https://httpbin.org/user-agent', ] # 代理服務器 proxyHost = 't.16yun.cn' proxyPort = '31111' # 代理隧道驗證信息 proxyUser = 'username' proxyPass = 'password' proxyMeta = 'http://%(user)s:%(pass)s@%(host)s:%(port)s' % { 'host': proxyHost, 'port': proxyPort, 'user': proxyUser, 'pass': proxyPass, } # 設置 http和https訪問都是用HTTP代理 proxies = { 'http': proxyMeta, 'https': proxyMeta, } # 訪問三次網站,使用相同的Session(keep-alive),均能夠保持相同的外網IP s = requests.session() # 設置cookie cookie_dict = {'JSESSION':'123456789'} cookies = requests.utils.cookiejar_from_dict(cookie_dict, cookiejar=None, overwrite=True) s.cookies = cookies for i in range(3): for url in targetUrlList: r = s.get(url, proxies=proxies) print r.text若存在驗證碼,此時采用resp**e = requests_session.post(url=url_login, data=data)是不行的,做法應該如下:resp**e_captcha = requests_session.get(url=url_login, cookies=cookies)resp**e1 = requests.get(url_login) # 未登陸resp**e2 = requests_session.get(url_login) # 已登陸,因為之前拿到了Resp**e Cookie!resp**e3 = requests_session.get(url_results) # 已登陸,因為之前拿到了Resp**e Cookie!

模擬登陸

這里不得不說一句老話,前人種樹,后人乘涼,當時我想爬一下知乎鹽選的文章,但是卡在了登陸這塊,沒想到搜索下來發現了一個模擬登陸的庫,非常好用,不過本著好東西不分享防和諧的原則,就不在這里說了。

具體思路也就是通過 requests 來進行模擬登陸,然后返回一下驗證碼,之后傳入驗證碼即可登陸成功了。

到此這篇關于python 爬蟲網頁登陸的簡單實現的文章就介紹到這了,更多相關python 爬蟲登陸內容請搜索好吧啦網以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持好吧啦網!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 手持式3d激光扫描仪-便携式三维立体扫描仪-北京福禄克斯 | sus630/303cu不锈钢棒,440C/430F/17-4ph不锈钢研磨棒-江苏德镍金属科技有限公司 | 翰香原枣子坊加盟费多少钱-正宗枣核糕配方培训利润高飘香 | 土壤有机碳消解器-石油|表层油类分析采水器-青岛溯源环保设备有限公司 | 聚合氯化铝_喷雾聚氯化铝_聚合氯化铝铁厂家_郑州亿升化工有限公司 | 北京中航时代-耐电压击穿试验仪厂家-电压击穿试验机 | 进口便携式天平,外校_十万分之一分析天平,奥豪斯工业台秤,V2000防水秤-重庆珂偌德科技有限公司(www.crdkj.com) | 神超官网_焊接圆锯片_高速钢锯片_硬质合金锯片_浙江神超锯业制造有限公司 | 东莞动力锂电池保护板_BMS智能软件保护板_锂电池主动均衡保护板-东莞市倡芯电子科技有限公司 | 碳纤维复合材料制品生产定制工厂订制厂家-凯夫拉凯芙拉碳纤维手机壳套-碳纤维雪茄盒外壳套-深圳市润大世纪新材料科技有限公司 | 苏州西装定制-西服定制厂家-职业装定制厂家-尺品服饰西装定做公司 | TwistDx恒温扩增-RAA等温-Jackson抗体-默瑞(上海)生物科技有限公司 | 托利多电子平台秤-高精度接线盒-托利多高精度电子秤|百科 | 耐驰泵阀管件制造-耐驰泵阀科技(天津)有限公司 | 氟塑料磁力泵-不锈钢离心泵-耐腐蚀化工泵厂家「皖金泵阀」 | 电镀电源整流器_高频电解电源_单脉双脉冲电源 - 东阳市旭东电子科技 | 深圳公司注册-工商注册代理-注册公司流程和费用_护航财税 | 智慧消防-消防物联网系统云平台| 东莞动力锂电池保护板_BMS智能软件保护板_锂电池主动均衡保护板-东莞市倡芯电子科技有限公司 | 磁棒电感生产厂家-电感器厂家-电感定制-贴片功率电感供应商-棒形电感生产厂家-苏州谷景电子有限公司 | 武汉天安盾电子设备有限公司 - 安盾安检,武汉安检门,武汉安检机,武汉金属探测器,武汉测温安检门,武汉X光行李安检机,武汉防爆罐,武汉车底安全检查,武汉液体探测仪,武汉安检防爆设备 | 防火门-专业生产甲级不锈钢钢质防火门厂家资质齐全-广东恒磊安防设备有限公司 | 不锈钢法兰-碳钢法兰-法兰盘生产加工厂家-[鼎捷峰]-不锈钢法兰-碳钢法兰-法兰盘生产加工厂家-[鼎捷峰] | 政府回应:200块在义乌小巷能买到爱情吗?——揭秘打工族省钱约会的生存智慧 | 共享雨伞_共享童车_共享轮椅_共享陪护床-共享产品的领先者_有伞科技 | 东亚液氮罐-液氮生物容器-乐山市东亚机电工贸有限公司 | Trimos测长机_测高仪_TESA_mahr,WYLER水平仪,PWB对刀仪-德瑞华测量技术(苏州)有限公司 | 淘剧影院_海量最新电视剧,免费高清电影随心观看 | 青岛侦探_青岛侦探事务所_青岛劝退小三_青岛婚外情取证-青岛王军侦探事务所 | 餐饮加盟网_特色餐饮连锁加盟店-餐饮加盟官网 | 济南拼接屏_山东液晶拼接屏_济南LED显示屏—维康国际官网 | 等离子表面处理机-等离子表面活化机-真空等离子清洗机-深圳市东信高科自动化设备有限公司 | 干粉砂浆设备_干混砂浆生产线_腻子粉加工设备_石膏抹灰砂浆生产成套设备厂家_干粉混合设备_砂子烘干机--郑州铭将机械设备有限公司 | 膜结构_ETFE膜结构_膜结构厂家_膜结构设计-深圳市烨兴智能空间技术有限公司 | 美缝剂_美缝剂厂家_美缝剂加盟-地老板高端瓷砖美缝剂 | 成都办公室装修-办公室设计-写字楼装修设计-厂房装修-四川和信建筑装饰工程有限公司 | 河南卓美创业科技有限公司-河南卓美防雷公司-防雷接地-防雷工程-重庆避雷针-避雷器-防雷检测-避雷带-避雷针-避雷塔、机房防雷、古建筑防雷等-山西防雷公司 | 北京公司注册_代理记账_代办商标注册工商执照-企力宝 | 电镀标牌_电铸标牌_金属标贴_不锈钢标牌厂家_深圳市宝利丰精密科技有限公司 | 洛阳永磁工业大吊扇研发生产-工厂通风降温解决方案提供商-中实洛阳环境科技有限公司 | 移动机器人产业联盟官网 |