国产精品电影_久久视频免费_欧美日韩国产激情_成年人视频免费在线播放_日本久久亚洲电影_久久都是精品_66av99_九色精品美女在线_蜜臀a∨国产成人精品_冲田杏梨av在线_欧美精品在线一区二区三区_麻豆mv在线看

在Scrapy中如何利用Xpath選擇器從網頁中采集目標數據

數據庫 MySQL
這篇文章我們將通過Xpath表達式來進行提取數據,具體教程如下,仍然以之前的網站為例進行說明,我們的目標數據是標題、發布日期、主題、正文內容、點贊數、收藏數、評論數等。具體的教程如下。

[[347459]]

這篇文章我們將通過Xpath表達式來進行提取數據,具體教程如下,仍然以之前的網站為例進行說明,我們的目標數據是標題、發布日期、主題、正文內容、點贊數、收藏數、評論數等。具體的教程如下。

 

/具體實現/

1、針對標題,在上篇文章中就有提及,其Xpath表達式有多種,任選其一即可,在scrapy shell腳本下進行調試,得到標題的提取方式,并寫入到爬蟲主體文件中。

2、接下來是發布日期的提取,仍然是以交互式的方式實現網頁與源碼之間的交互,如下圖所示。

3、而且標簽“entry-meta-hide-on-mobile”具有全局唯一性,可以很方便的定位到元素。

4、根據網頁結構,我們可輕易的寫出發布日期的Xpath表達式,可以在scrapy shell中先進行測試,再將選擇器表達式寫入爬蟲文件中,詳情如下圖所示。

這里有部分雜質信息,需要利用strip()和replace()函數剔除多余的雜質,還日期一個“清白”。

5、關于文章主題標簽的Xpath表達式,可以看到其在網頁結構上處于日期的下方,如下圖所示。

因此可以通過更改一下發布日期的Xpath表達式,即可獲取到文章主題標簽。

6、文章主題標簽處于a標簽下,如下圖所示。

獲取到整個列表之后,利用join函數將數組中的元素以逗號連接生成一個新的字符串叫tags,然后寫入Scrapy爬蟲文件中去。

7、對于點贊數,其分析方法同之前一致,找到唯一的一個標簽“vote-post-up”即可定位到數據。

8、細心的小伙伴可能會看到“vote-post-up”屬性并不是class標簽中唯一一個屬性,所以一開始的Xpath表達式匹配的內容為空。

這里給大家安利一個小技巧,如果標簽中存在多個屬性,且屬性是唯一的時候,可以利用contains函數進行助攻,其用法是'//span[contains(@class,"vote-post-up"),務必要多加練習,否則容易忘記。根據網頁結構寫出Xpath表達式,調試的過程如下圖所示。

取出的點贊數是個字符串,需要利用int()將其強制轉換為數字。

/小結/

本文基于Xpath理論基礎,主要介紹了Scrapy爬蟲框架中利用Xpath選擇器提取某個網頁中目標數據的方法,為后面抓取全網數據埋下伏筆,更精彩的操作在下篇文章奉上,希望對大家的學習有幫助。

 

責任編輯:姜華 來源: Python爬蟲與數據挖掘
相關推薦

2020-10-25 08:06:08

Scrapy

2020-10-25 08:15:47

Scrapy

2020-10-29 09:25:34

Scrapy

2010-09-03 09:30:29

CSS選擇器

2015-11-17 09:37:52

網頁設計黃金比例

2020-11-11 10:58:59

Scrapy

2012-04-16 14:32:31

iOS選擇器代碼

2010-09-07 12:56:49

id選擇器CSS

2011-07-07 17:30:25

iPhone Xcode

2023-11-30 08:36:10

選擇器鏈接設計

2009-07-16 17:06:55

JSP網頁中JDBC代

2023-11-29 10:16:24

ScrapyPython

2010-09-14 14:10:36

CSS樣式表

2009-05-14 10:44:54

JQuery特殊字符ID選擇器

2011-11-28 13:42:55

Sencha Touc組件選擇器

2012-12-27 14:08:39

Android開發顏色選擇器

2017-03-20 14:46:07

Android日期時間選擇器

2013-04-19 10:40:03

2017-10-18 17:52:50

2025-02-28 09:14:09

JavaNIO機制
點贊
收藏

51CTO技術棧公眾號

欧美麻豆久久久久久中文| 国产日韩欧美a| 污导航在线观看| 久久久噜久噜久久综合| 久久久夜色精品亚洲| 日本a人精品| 成人免费观看毛片| 欧美丰满片xxx777| 欧美激情综合在线| 亚洲妇女av| 中文在线中文字幕| 国产精品午夜av在线| 日韩欧美成人一区二区| 六月丁香婷婷久久| 日韩av免费| 婷婷丁香激情网| 国产97在线|日韩| 欧美性xxxx在线播放| aa国产精品| 亚洲三级欧美| 黄色片在线免费| 日本国产高清不卡| 一区二区三区鲁丝不卡| 亚州av乱码久久精品蜜桃 | 日韩av在线高清| 久久99精品久久久久久久久久久久 | 日韩精品在线第一页| 国产成人免费在线视频| 亚洲日本视频在线| 波多野结衣在线中文| 国产中文字幕亚洲| 日韩手机在线导航| av一区二区久久| 色哟哟精品丝袜一区二区| 亚在线播放中文视频| 日韩动漫在线观看| 日韩中文字幕网| 亚洲一区二区在线免费看| 日韩视频一区| 欧美舌奴丨vk视频| 91中文字幕网| 久久一区二区三区av| 精品国产一区二区三区久久狼黑人| 一区二区三区中文字幕| 久久综合影音| 美女扒开腿让男人桶爽久久动漫| 爱久久·www| 免费无码国产v片在线观看| 国产精品亚发布| 日韩二区三区在线| 尤物在线观看一区| 天堂久久久久va久久久久| 日韩中文在线| 免费网站成人| 国产又大又黄又粗又爽| 精品日产一区2区三区黄免费| 日韩视频一区在线| 欧美午夜在线一二页| 91蜜桃在线免费视频| 在线成人亚洲| jizz国产精品| 欧美aaaaaaa| 黄色成人av| 超碰97免费观看| 成人网中文字幕| 在线观看不卡av| 色婷婷综合久色| 久久一日本道色综合| 国产欧美大片| 欧美电影完整版在线观看| 丰乳肥臀在线| 视频一区二区在线播放| 97国产精东麻豆人妻电影| 国内精品久久久久久久果冻传媒| 欧美大成色www永久网站婷| 香蕉视频网站入口| 亚洲人成网亚洲欧洲无码| 国产在线色视频| av免费观看网| 国产精品视频免费一区| 久久影院免费观看| 欧美色欧美亚洲另类二区| 精一区二区三区| 亚洲永久av| 91短视频在线| 人妻av中文系列| av资源站久久亚洲| 色婷婷**av毛片一区| 欧美精品在欧美一区二区少妇| 亚洲国产精品成人久久综合一区| 亚洲视频一区| 老司机在线精品视频| 99自拍视频在线观看| 色琪琪免费视频网站| 性欧美videosex高清少妇| 日韩电影免费观看中文字幕| 99久久精品免费| 97精品视频在线看| 国产免费不卡| 韩国精品视频| 日韩欧美精品在线观看视频| 黄网动漫久久久| 久久综合久久鬼色中文字| 国产中文一区| 加勒比久久综合| 日韩不卡在线| 超碰免费公开在线| 国产字幕中文| 凹凸日日摸日日碰夜夜爽1| 久久久久久艹| 91文字幕巨乱亚洲香蕉| 九色成人免费视频| 亚洲系列中文字幕| 欧美日韩一区二区三区高清| 一区二区三区av电影| 久久成人麻豆午夜电影| 欧美va亚洲va日韩∨a综合色| 亚州欧美在线| 91cn在线观看| 四虎在线观看| 在线观看污视频| 日本一区网站| 国产不卡一区二区三区在线观看| 97国产精品视频人人做人人爱| 国产一区二区黄| 777午夜精品免费视频| 国产精品国产三级国产aⅴ中文 | 国产日韩成人精品| 韩国三级在线一区| 国产精品久久久亚洲一区| 日韩精品午夜| 成人香蕉社区| www.亚洲一二| 黄色欧美视频| 日本在线中文字幕一区二区三区| 18网站在线观看| 色佬视频在线观看| 免费亚色电影在线观看| 日韩精品一区二区三区四| 中文字幕成人一区| 欧美精品欧美精品系列c| 蜜桃传媒一区二区| 翡翠波斯猫1977年美国| 国产另类自拍| 成人看片在线| 久久综合一区二区三区| 国产精品视频免费观看| 乱一区二区三区在线播放| 国产精品一区二区三区精品| 国产伦精品一区二区三区高清| 91色精品视频在线| 国产伦精品一区二区三区免 | 黄色成人在线免费| 午夜视频在线观看一区二区三区 | 粉嫩精品导航导航| 精品一区视频| 欧美男人操女人视频| 精品视频自拍| 国产一区二区三区四区五区| 国产伦精品一区二区三区视频| 首页国产精品| 我不卡手机影院| 999亚洲国产精| 国产日韩欧美一区| 精品一区二区三区免费毛片爱| 久久精品久久99精品久久| 不卡av在线免费观看| av一二三不卡影片| 本田岬高潮一区二区三区| 国产精品18久久久久| 成人精品视频一区| 亚洲蜜臀av乱码久久精品蜜桃| 亚洲精品国产a| 欧美亚日韩国产aⅴ精品中极品| 欧美色男人天堂| 亚洲欧美激情一区| 久久人体大胆视频| 国产大片精品免费永久看nba| 成人看片人aa| 亚洲精品8mav| 日本成人在线不卡| av一级毛片| 能在线看的av| 国产精品一区二区日韩| 超级碰碰久久| 久久久免费毛片| 精品一区二区三| 欧美日韩99| 国产欧美精品久久| 免费观看久久久4p| 极品尤物av久久免费看| 国产丝袜美腿一区二区三区| 亚洲欧美日韩国产综合在线| 日韩欧美综合在线视频| 日韩一级二级三级精品视频| 欧美成年人视频网站| 国产激情精品久久久第一区二区| 免费久久久一本精品久久区| 欧美精品一区二区三区四区五区| 日本免费a视频|