电脑知识|欧美黑人一区二区三区|软件|欧美黑人一级爽快片淫片高清|系统|欧美黑人狂野猛交老妇|数据库|服务器|编程开发|网络运营|知识问答|技术教程文章 - 好吧啦网

您的位置:首頁技術文章
文章詳情頁

python如何獲取網絡數據

瀏覽:28日期:2022-06-22 17:35:58
Retrieving Data over HTTP

Python 內置了 sockets 可以實現與網絡連接并通過 Python 提取數據的功能。

socket 是可以提供雙向連接的,我們可以對同一個 socket 進行讀寫操作。比方說,A 對 socket 寫入信息,并且將其發送給 socket 連接另一端 B;那么 B 讀取 socket 的內容就可以得到 A 的信息。但是這樣會有一個問題,比如說, A端并沒有發送任何信息,而 B 端一直在嘗試讀取 socket 的內容,那么 A 端和 B 端只能陷入漫長的等待。所以就引入了通信協議。協議通過規定誰先發送,誰后響應等來規避上述的問題。

import socketmysock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)mysock.connect((’fakeserver.com’, 80)) # connect to servercmd = ’GET http://fakeserver.com/fake.txt HTTP/1.0rnrn’.encode()# send GET command followed by a blank linemysock.send(cmd) while True: # receive data and print out data = mysock.recv(512) if (len(data) < 1):break print(data.decode())mysock.close()Retrieving Data with urllib

利用 socket 我們可以與網站服務器,郵件服務器等建立連接。但是在建立連接之前,我們需要查詢文檔了解通信協議,然后根據協議編寫程序。所以相較于 socket 這種黑魔法,我們可以利用更為簡單的 Python Package。

利用 urllib.urlopen() 打開網頁后,我們就可以讀取數據,像讀取本地文件一樣。

import urllib.requestfhand = urllib.request.urlopen(’http://fakeserver.com/fake.txt’)for line in fhand: #convert UTF-8 to unicode string and print out print(line.decode().strip())

因為 urllib 使用簡潔方便,所以也常用與網絡爬蟲。網絡爬蟲除了要網頁讀取數據以外還需要在 HTML 格式中解釋出可用數據,所以除了 urllib 還有另一常用利器就是 BeautifulSoup。

import urllib.request, urllib.parse, urllib.errorfrom bs4 import BeautifulSoupimport ssl# Ignore SSL certificate errorsctx = ssl.create_default_context()ctx.check_hostname = Falsectx.verify_mode = ssl.CERT_NONEhtml = urllib.request.urlopen(’http://fakeserver.com/fake.html’, context=ctx).read()soup = BeautifulSoup(html, ’html.parser’)tags = soup(’a’)# Retrieve all of the anchor tagsfor tag in tags: print(tag.get(’href’, None))Retrieving Data from XML

在網絡交換數據,我們常用的格式有兩種,一是 XML; 二是 JSON。

XML 長得就像是 HTML 的近親,可以看做是樹的一種。利用 Python Package ElementTree 我們可以將 XML 文件轉換為樹,這樣可以方便我們后續提取有效的數據。

import xml.etree.ElementTree as ETdata = ’’’ <person> <name>Jack</name> <phone>+123456789</phone> <email office='yes'/> </person> ’’’tree = ET.fromstring(data) # convert xml into a treeprint(’Name:’, tree.find(’name’).text)print(’Attr:’, tree.find(’email’).get(’office’))Retrieving Data from JSON

JSON 結構相較于 XML 來說更為簡單,所以他的功能就沒有那么強大。但是 JSON 有一個優勢就是可以直接映射到 Python 的 dictionaries 和 lists 中,非常實用。

我們可以直接利用 Python Package json 來解釋 JSON。

import jsondata = ’’’ {'name' : 'Jack','phone' : { 'type' : 'intl', 'number' : '+123456789'},'email' : { 'office' : 'yes'} }’’’info = json.loads(data) # convert json into a dictianaryprint(’Name:’, info[’name’])print(’Attr:’, info[’email’][’office’])

作者:Yuki出處:https://www.cnblogs.com/yukiwu/

以上就是python如何獲取網絡數據的詳細內容,更多關于python獲取網絡數據的資料請關注好吧啦網其它相關文章!

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 肉嫩度仪-凝胶测试仪-国产质构仪-气味分析仪-上海保圣实业发展有限公司|总部 | 电镀标牌_电铸标牌_金属标贴_不锈钢标牌厂家_深圳市宝利丰精密科技有限公司 | 超声骨密度仪-动脉硬化检测仪器-人体成分分析仪厂家/品牌/价格_南京科力悦 | 武汉高低温试验机-现货恒温恒湿试验箱-高低温湿热交变箱价格-湖北高天试验设备 | 干洗店加盟_洗衣店加盟_干洗店设备-伊蔻干洗「武汉总部」 | 台式恒温摇床价格_大容量恒温摇床厂家-上海量壹科学仪器有限公司 | 代办建筑资质升级-建筑资质延期就找上海国信启航 | 油罐车_加油机_加油卷盘_加油机卷盘_罐车人孔盖_各类球阀_海底阀等车用配件厂家-湖北华特专用设备有限公司 | 湖南长沙商标注册专利申请,长沙公司注册代理记账首选美创! | 水质监测站_水质在线分析仪_水质自动监测系统_多参数水质在线监测仪_水质传感器-山东万象环境科技有限公司 | 便携式表面粗糙度仪-彩屏硬度计-分体式粗糙度仪-北京凯达科仪科技有限公司 | 杭州画室_十大画室_白墙画室_杭州美术培训_国美附中培训_附中考前培训_升学率高的画室_美术中考集训美术高考集训基地 | 阀门智能定位器_电液动执行器_气动执行机构-赫尔法流体技术(北京)有限公司 | 气体检测仪-氢气检测仪-可燃气体传感器-恶臭电子鼻-深国安电子 | 礼仪庆典公司,礼仪策划公司,庆典公司,演出公司,演艺公司,年会酒会,生日寿宴,动工仪式,开工仪式,奠基典礼,商务会议,竣工落成,乔迁揭牌,签约启动-东莞市开门红文化传媒有限公司 | 电子元器件呆滞料_元器件临期库存清仓尾料_尾料优选现货采购处理交易商城 | 翅片管换热器「型号全」_厂家-淄博鑫科环保 | 北京京云律师事务所 | 微妙网,专业的动画师、特效师、CG模型设计师网站! - wmiao.com 超声波电磁流量计-液位计-孔板流量计-料位计-江苏信仪自动化仪表有限公司 | 北京企业宣传片拍摄_公司宣传片制作-广告短视频制作_北京宣传片拍摄公司 | 微水泥_硅藻泥_艺术涂料_艺术漆_艺术漆加盟-青岛泥之韵环保壁材 武汉EPS线条_EPS装饰线条_EPS构件_湖北博欧EPS线条厂家 | 注塑_注塑加工_注塑模具_塑胶模具_注塑加工厂家_深圳环科 | 北京租车公司_汽车/客车/班车/大巴车租赁_商务会议/展会用车/旅游大巴出租_北京桐顺创业租车公司 | 厂房出租-厂房规划-食品技术-厂房设计-厂房装修-建筑施工-设备供应-设备求购-龙爪豆食品行业平台 | 上海恒驭仪器有限公司-实验室平板硫化机-小型平板硫化机-全自动平板硫化机 | 英语词典_成语词典_日语词典_法语词典_在线词典网 | 聚氨酯复合板保温板厂家_廊坊华宇创新科技有限公司 | 3d可视化建模_三维展示_产品3d互动数字营销_三维动画制作_3D虚拟商城 【商迪3D】三维展示服务商 广东健伦体育发展有限公司-体育工程配套及销售运动器材的体育用品服务商 | 纯水设备_苏州皙全超纯水设备水处理设备生产厂家 | 呼末二氧化碳|ETCO2模块采样管_气体干燥管_气体过滤器-湖南纳雄医疗器械有限公司 | 通信天线厂家_室分八木天线_对数周期天线_天线加工厂_林创天线源头厂家 | 蜘蛛车-登高车-高空作业平台-高空作业车-曲臂剪叉式升降机租赁-重庆海克斯公司 | 减速机三参数组合探头|TSM803|壁挂式氧化锆分析仪探头-安徽鹏宸电气有限公司 | 高效节能电机_伺服主轴电机_铜转子电机_交流感应伺服电机_图片_型号_江苏智马科技有限公司 | 校服厂家,英伦校服定做工厂,园服生产定制厂商-东莞市艾咪天使校服 | 诗词大全-古诗名句 - 古诗词赏析| 车间除尘设备,VOCs废气处理,工业涂装流水线,伸缩式喷漆房,自动喷砂房,沸石转轮浓缩吸附,机器人喷粉线-山东创杰智慧 | X光检测仪_食品金属异物检测机_X射线检测设备_微现检测 | 南京展台搭建-南京展会设计-南京展览设计公司-南京展厅展示设计-南京汇雅展览工程有限公司 | CXB船用变压器-JCZ系列制动器-HH101船用铜质开关-上海永上船舶电器厂 | 储能预警-储能消防系统-电池舱自动灭火装置-四川千页科技股份有限公司官网 |