任佳伟:使用「Web Scraper」抓取商品信息

任佳伟 任佳伟 4个月前 0 3 2021
摘要:某某插件 如此简单 如此方便?
转载是一种动力 分享是一种美德 关注是一种收获


之前我们讲到用Chrome插件——Instant Data Scraper来爬取亚马逊的Review,许多小伙伴已经不再满足于爬Review了。怎么办?那就要学习更厉害的工具啦,当然更厉害的工具也会更复杂。


今天要为大家介绍的也是一个Chrome插件——Web Scraper。看看它在「Chrome应用商店」的评价吧,我相信它也会给你惊喜的!



有的小伙伴可能会说,你之前不说去你的「Web Scraper!」吗?


哎呀,我就那么一说嘛。毕竟我们连亚马逊都敢做,学习怎么用一个爬虫插件有难度?不存在的!那么就我开始学习使用「Web Scraper」吧!


到底怎么添加Chrome插件?


方式1:

访问https://chrome.google.com/webstore

(需要科学上网),在页面搜索「Web Scraper」,搜索结果正第一个就是啦,点击按钮「添加至CHROME」。

方式2:

直接百度搜索「Chrome插件」找一些非Google官方的网站下载插件。点击按钮「添加至CHROME」。

方式3:

如果小主你实在找不到,私信我吧。


成功安装后你的浏览器右上角会显示

这个蜘蛛网图标。


如何使用Web Scraper?


1、打开Web Scraper


装好插件后是不是迫不及待试试看它能帮我抓到什么数据?那我们就一起来爬亚马逊的商品吧。


这里我选择的美国站Best-Sellers中的Book,打开链接后按下F12或在网页空白处点击鼠标右键—>检查。什么鬼!浏览器出现了一堆看不懂的东西?不用担心,再点击↓



这就到「Web Scraper」的界面了。



2、创建爬虫


如图点击Create new sitemapCreate Sitemap

在Sitemap name中填入自己想要为这个爬虫取的名字,如:「book」。在Start URL中填写想要爬的网站链接,这里我们填入亚马逊Best Sellers in Books的链接:https://www.amazon.com/best-sellers-books-Amazon/zgbs/books/ref=pd_dp_ts_books_1,点击「Create Sitemap」就创建了一个名为「Book」的爬虫。



3、创建选择器


完成爬虫的创建后我们就需要创建选择器了,选择器我们可以认为它是你需要爬取的范围。点击「Add new selector」,将跳转至这个页面。

「id」(即给选择器命名)我们可以自由发挥,只要你自己知道这个「ID」代表的是这个选择器(爬取范围)就OK啦!这里我们先爬取商品的标题,所以命名为title。


「Type」选择的是类型,这里我们默认为「Text」类型。


「Selector」


「Selector」就是这里的重点了!



1、我们首先点击Selector中的「Select」按钮,将鼠标移动到页面上。你会发现你的鼠标所到之处都会变成「原谅色」(绿色),这就对了。我们将鼠标移动到一本书的标题上,标题底色变红,就表示已经选取了这一本书的标题,如下图↓


别停再点旁边另一本书的名字。这样做的目的是为了让「Web Scraper」找到当前页面中所有相同属性的数据,一般情况下点击两个数据,该页面所有相同数据底色都会变红。



2、「Element preview」按钮可预览当前已选择的元素,点击后效果与上图一样。


3、「Data preview」按钮可预览当前已抓取到的数据。可我们完成上面步骤后点击「Data preview」却仅有一条数据是为啥?


看到「Multiple」没有?点一下,再按「Data preview」按钮就可以看到整页所有书籍的标题啦。


「Regex」意思是正则表达式,在这里我们默认不填。正则表达式是一个用来匹配字符串的一个模式,最简单的正则表达式就是一个简单的字符串,比如'python'这个可以用来匹配'python'这个词语。你可以用正则表达式在一串字符中来匹配一个你要查找的内容,或者替换他,或者将其分割成字符片段。对于正则表达式,以为IT大牛James Werner Zawinski曾经用some people, when confronted with a problem, think, "I know, I'll use regular expressions." Now they have two problems.”这句话来形容正则的晦涩、难懂。


「Delay」表示每次访问中的延迟时间,这里我们设置为500。


「Parent Selectors」会罗列出各选择器的层级关系。


「Save Selector」点击该按钮可以保存选择器。


4、数据抓取和保存,在完成选择器编辑并预览数据无误后,我们就可以设置爬取参数并开始抓取数据了。




如图点击「Scrape」会转至爬取参数界面。


其中「Request interval」指每次请求间隔、「Page load delay」指每次页面加载延时。这两个参数都不建议设置过小,若过快页面会出现验证码,导致我们无法抓到想要的数据。完成参数填写后点击「Start scraping」就开始爬取数据啦!

在完成爬取后,点击「Export data as CSV」就可以把数据以CSV格式保存到本地啦。至此大功告成!



今天是「Web Scraper」最最最基础的教程,因为很多新手卖家反馈说复杂的看不太懂。大家有什么问题或者想看什么类型的干货都可以留言,这边会一一回复你们!


往期精彩回顾

【Python爬虫】:使用「Selenium」+「Chromedriver」爬僵尸链接
【Python爬虫】:使用「Requests」+「bs4」写亚马逊爬虫
任佳伟:如何利用Instant Data Scraper插件抓取亚马逊评论?


好文!必须点赞
本文已被这些标签收录: 任佳伟
卖家之家倡导尊重保护知识产权。未经本站授权,任何人不得复制、转载、或以其他方式使用本网站的内容。鉴于第三方在平台发布信息数量庞大,如发现本站文章或其它信息可能存在侵权行为,请将身份、版权等证明文件以及相关质询发送邮件至complain#mjzj.com(#换为@),我们将及时沟通与处理

发表评论 未登录

说点什么...

最新评论

  • 目前暂无评论,快来抢沙发吧~

热门文章

eBay怒了!或将发起禁令,只因卖家滥用亚马逊的这项服务
eBay怒了!或将发起禁令,只因卖家滥用亚马逊的这项服务
Best Seller与Amazon's Choice哪个转化率高?
Best Seller与Amazon's Choice哪个转化率高?
年销561.2亿元!最牛卖家是中国的!!
新规生效在即!不符合要求的在线零售商将无法在该市场销售
别再看仓库起火了!新政策让你连FBA仓库都进不去…
外媒:亚马逊称,将不再替卖家销毁库存的商品
危险!卖家订单正在流失,亚马逊Prime或失去竞争优势
美妆卖家刚开始吃上好肉 亚马逊官方就......
全球“最有钱”国家宣布:美元不够用,我自己来印!
中国年货爆卖亚马逊

家友评论

我看过,她有一颗很大的痣
搞事情!亚马逊一卖家产品广告因含这些信息被撤 - 文章
回复 Diana:这个不清楚,我前几天 7月份的都能追回来
PayPal返款怎么冻结 - 聊天吹水交流
回复 澎涟漪:财务说对方收取了就撤不回了,是这样的吗?
PayPal返款怎么冻结 - 聊天吹水交流
回复 澎涟漪:好的谢谢
PayPal返款怎么冻结 - 聊天吹水交流
回复 Diana:选没有收到物品,然后再选无法与卖家达成一致
PayPal返款怎么冻结 - 聊天吹水交流
回复 澎涟漪:申诉就可以了吗?我们财务有申诉过,没有用,她说除非是账号错误否则追不回来
PayPal返款怎么冻结 - 聊天吹水交流
半年之内付款都可以追回
PayPal返款怎么冻结 - 聊天吹水交流
回复 淡淡的忧伤:现在的人广告文都写的漏洞满满的,哈哈哈
深圳卖家月入上万是普遍?一小卖收到20万年终奖,来说说你的... - 文章
呵呵呵呵
深圳卖家月入上万是普遍?一小卖收到20万年终奖,来说说你的... - 文章
回复 蜀道难:额外支付的运费。亚马逊给代发。货物出现问题。找亚马逊?
eBay怒了!或将发起禁令,只因卖家滥用亚马逊的这项服务 - 文章
又来了,没有内容的文章
站内广告要想不烧钱,做好以下几方面很关键 - 文章
回复 Demaciaa:主要是他还已婚,我跟他说中国只能去一个妻子,他说没事,我来中国娶你。 我心想MMP,我说了要嫁给你吗
Tim Hege - 美国 - 测评黑名单
麻蛋,他自己买我的产品,然后退款给差评,在差评里留邮箱地址,摆明就是要来讹钱的。好生气。。。
Fabietto Montalto - 意大利 - 测评黑名单
.......
k.sakade11451@gmail.com - 日本 - 测评黑名单
回复 Demaciaa:我遇到过一个巴基斯坦的,还说要来深圳找我,还要我去接机
Tim Hege - 美国 - 测评黑名单
Reply to Joyce: 您的帐户已被删除。 你同时问了太多评论。
SabrinaBaillargeonx@hotmail.com - 加拿大 - 测评黑名单
参考隔壁某位杠精,别人把骗子消息发出来,他直接要人把骗子骗他的证据发出来,还去告诉骗子说他被举报了,真是世界之大 无奇不有呢
Cristi - 西班牙 - 测评黑名单
........................
三宫弘侑 - 日本 - 测评黑名单
返品?そうは言ってないよ。。。
笹山 いちか - 日本 - 测评黑名单
回复 元歌不太水:对了还天天发自拍给我
Tim Hege - 美国 - 测评黑名单

跨境活动会议

破局--亚马逊选品运营纯干货大会
2018年福建亚马逊卖家年终盛典
福州仓山 01-12 参加活动