python使用XPath解析數(shù)據(jù)爬取起點(diǎn)小說(shuō)網(wǎng)數(shù)據(jù)
xpath是一門在XML文檔中查找信息的語(yǔ)言
優(yōu)點(diǎn): 可以在xml中找信息 支持HTML的查找 可以通過(guò)元素和屬性進(jìn)行導(dǎo)航但是Xpath需要依賴xml的庫(kù),所以我們需要去安裝lxml的庫(kù)。
安裝lxml庫(kù)我們先要安裝lxml的庫(kù),直接在pycharm里安裝即可:
元素-元素-屬性-文本
使用XPath選取節(jié)點(diǎn):
nodename: 選取此節(jié)點(diǎn)的所有節(jié)點(diǎn) /從根節(jié)點(diǎn)選擇 // 從匹配選擇的當(dāng)前節(jié)點(diǎn)選擇文檔中的節(jié)點(diǎn),而不考慮他們的位置 . 選擇當(dāng)前節(jié)點(diǎn) .. 選擇當(dāng)前節(jié)點(diǎn)的父節(jié)點(diǎn)(此處是兩個(gè)點(diǎn),瀏覽器默認(rèn)顯示3個(gè)..) /text() 獲取當(dāng)前路徑下的文本內(nèi)容 /@xxx 提取當(dāng)前路徑下標(biāo)簽的屬性值 選取節(jié)點(diǎn)的表達(dá)式舉例:在谷歌里安裝一個(gè)xpath的插件
在html中查找book-mid-info
我們要獲取小說(shuō)的名稱: 也就是 //div[@class=’book-mid-info’]/h4/a/txt()
再加一個(gè)獲取作者:
# 作者:互聯(lián)網(wǎng)老辛# 開(kāi)發(fā)時(shí)間:2021/4/8/0008 8:24import requestsfrom lxml import etreeurl='https://www.qidian.com/rank/yuepiao'headers={’user-agent’:’Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3538.25 Safari/537.36 Core/1.70.3861.400 QQBrowser/10.7.4313.400’}#發(fā)送請(qǐng)求resp=requests.get(url,headers)e=etree.HTML(resp.text) #類型轉(zhuǎn)換,把str轉(zhuǎn)變?yōu)閏lass ’lxml.etree._ELementprint(type(e))names=e.xpath(’//div[@class='book-mid-info']/h4/a/text()’)authors=e.xpath(’//p[@class='author']/a[1]/text()’)print(names)print(authors)#名稱和作者對(duì)應(yīng)for name,authors in zip(names,authors): print(name,':',authors)
以上就是python使用XPath解析數(shù)據(jù)爬取起點(diǎn)小說(shuō)網(wǎng)數(shù)據(jù)的詳細(xì)內(nèi)容,更多關(guān)于python XPath解析數(shù)據(jù)爬取起點(diǎn)小說(shuō)網(wǎng)的資料請(qǐng)關(guān)注好吧啦網(wǎng)其它相關(guān)文章!
相關(guān)文章:
1. html清除浮動(dòng)的6種方法示例2. Xml簡(jiǎn)介_(kāi)動(dòng)力節(jié)點(diǎn)Java學(xué)院整理3. phpstudy apache開(kāi)啟ssi使用詳解4. ASP.NET MVC使用異步Action的方法5. ajax實(shí)現(xiàn)頁(yè)面的局部加載6. jsp實(shí)現(xiàn)登錄驗(yàn)證的過(guò)濾器7. jsp文件下載功能實(shí)現(xiàn)代碼8. uni-app結(jié)合.NET 7實(shí)現(xiàn)微信小程序訂閱消息推送9. JavaScript中常見(jiàn)的幾種獲取元素的方式10. AJAX的跨域問(wèn)題解決方案
