任佳伟:使用「Web Scraper」抓取商品信息

任佳伟 任佳伟 2个月前 0 3 1038
摘要:某某插件 如此简单 如此方便?
转载是一种动力 分享是一种美德 关注是一种收获


之前我们讲到用Chrome插件——Instant Data Scraper来爬取亚马逊的Review,许多小伙伴已经不再满足于爬Review了。怎么办?那就要学习更厉害的工具啦,当然更厉害的工具也会更复杂。


今天要为大家介绍的也是一个Chrome插件——Web Scraper。看看它在「Chrome应用商店」的评价吧,我相信它也会给你惊喜的!



有的小伙伴可能会说,你之前不说去你的「Web Scraper!」吗?


哎呀,我就那么一说嘛。毕竟我们连亚马逊都敢做,学习怎么用一个爬虫插件有难度?不存在的!那么就我开始学习使用「Web Scraper」吧!


到底怎么添加Chrome插件?


方式1:

访问https://chrome.google.com/webstore

(需要科学上网),在页面搜索「Web Scraper」,搜索结果正第一个就是啦,点击按钮「添加至CHROME」。

方式2:

直接百度搜索「Chrome插件」找一些非Google官方的网站下载插件。点击按钮「添加至CHROME」。

方式3:

如果小主你实在找不到,私信我吧。


成功安装后你的浏览器右上角会显示

这个蜘蛛网图标。


如何使用Web Scraper?


1、打开Web Scraper


装好插件后是不是迫不及待试试看它能帮我抓到什么数据?那我们就一起来爬亚马逊的商品吧。


这里我选择的美国站Best-Sellers中的Book,打开链接后按下F12或在网页空白处点击鼠标右键—>检查。什么鬼!浏览器出现了一堆看不懂的东西?不用担心,再点击↓



这就到「Web Scraper」的界面了。



2、创建爬虫


如图点击Create new sitemapCreate Sitemap

在Sitemap name中填入自己想要为这个爬虫取的名字,如:「book」。在Start URL中填写想要爬的网站链接,这里我们填入亚马逊Best Sellers in Books的链接:https://www.amazon.com/best-sellers-books-Amazon/zgbs/books/ref=pd_dp_ts_books_1,点击「Create Sitemap」就创建了一个名为「Book」的爬虫。



3、创建选择器


完成爬虫的创建后我们就需要创建选择器了,选择器我们可以认为它是你需要爬取的范围。点击「Add new selector」,将跳转至这个页面。

「id」(即给选择器命名)我们可以自由发挥,只要你自己知道这个「ID」代表的是这个选择器(爬取范围)就OK啦!这里我们先爬取商品的标题,所以命名为title。


「Type」选择的是类型,这里我们默认为「Text」类型。


「Selector」


「Selector」就是这里的重点了!



1、我们首先点击Selector中的「Select」按钮,将鼠标移动到页面上。你会发现你的鼠标所到之处都会变成「原谅色」(绿色),这就对了。我们将鼠标移动到一本书的标题上,标题底色变红,就表示已经选取了这一本书的标题,如下图↓


别停再点旁边另一本书的名字。这样做的目的是为了让「Web Scraper」找到当前页面中所有相同属性的数据,一般情况下点击两个数据,该页面所有相同数据底色都会变红。



2、「Element preview」按钮可预览当前已选择的元素,点击后效果与上图一样。


3、「Data preview」按钮可预览当前已抓取到的数据。可我们完成上面步骤后点击「Data preview」却仅有一条数据是为啥?


看到「Multiple」没有?点一下,再按「Data preview」按钮就可以看到整页所有书籍的标题啦。


「Regex」意思是正则表达式,在这里我们默认不填。正则表达式是一个用来匹配字符串的一个模式,最简单的正则表达式就是一个简单的字符串,比如'python'这个可以用来匹配'python'这个词语。你可以用正则表达式在一串字符中来匹配一个你要查找的内容,或者替换他,或者将其分割成字符片段。对于正则表达式,以为IT大牛James Werner Zawinski曾经用some people, when confronted with a problem, think, "I know, I'll use regular expressions." Now they have two problems.”这句话来形容正则的晦涩、难懂。


「Delay」表示每次访问中的延迟时间,这里我们设置为500。


「Parent Selectors」会罗列出各选择器的层级关系。


「Save Selector」点击该按钮可以保存选择器。


4、数据抓取和保存,在完成选择器编辑并预览数据无误后,我们就可以设置爬取参数并开始抓取数据了。




如图点击「Scrape」会转至爬取参数界面。


其中「Request interval」指每次请求间隔、「Page load delay」指每次页面加载延时。这两个参数都不建议设置过小,若过快页面会出现验证码,导致我们无法抓到想要的数据。完成参数填写后点击「Start scraping」就开始爬取数据啦!

在完成爬取后,点击「Export data as CSV」就可以把数据以CSV格式保存到本地啦。至此大功告成!



今天是「Web Scraper」最最最基础的教程,因为很多新手卖家反馈说复杂的看不太懂。大家有什么问题或者想看什么类型的干货都可以留言,这边会一一回复你们!


往期精彩回顾

【Python爬虫】:使用「Selenium」+「Chromedriver」爬僵尸链接
【Python爬虫】:使用「Requests」+「bs4」写亚马逊爬虫
任佳伟:如何利用Instant Data Scraper插件抓取亚马逊评论?


好文!必须点赞
本文已被这些标签收录: 任佳伟
卖家之家倡导尊重保护知识产权。未经本站授权,任何人不得复制、转载、或以其他方式使用本网站的内容。鉴于第三方在平台发布信息数量庞大,如发现本站文章或其它信息可能存在侵权行为,请将身份、版权等证明文件以及相关质询发送邮件至complain#mjzj.com(#换为@),我们将及时沟通与处理

发表评论 未登录

说点什么...

最新评论

  • 目前暂无评论,快来抢沙发吧~

热门文章

毁灭性打击!明年起亚马逊这类产品将不能卖,国外卖家这么说
毁灭性打击!明年起亚马逊这类产品将不能卖,国外卖家这么说
我是你二毛哥:其实我想 曝光下:亚马逊绿标 现在市面上服务商 其实是在割韭菜的。无意去断哪个人的饭碗,只是觉得卖家不易。
我是你二毛哥:其实我想 曝光下:亚马逊绿标 现在市面上服务商 其实是在割韭菜的。无意去断哪个人的饭碗,只是觉得卖家不易。
产品卖不爆,是因为你不会提高排名!
阿里旗下Lazada双11东南亚交易额激增7倍 这些核心数据了解一下
下一个日出千单的产品在这里!爆谷歌热搜榜持续上升的60款产品...
旺季临近,亚马逊现大面积标题屏蔽事件
review算法调整,这些5星好评没权重?
11月,亚马逊出台了哪些“惊心动魄”的平台政策?
亚马逊出史上最严Review政策!卖家该如何长期稳定的获评?
亚马逊近期政策动态

家友评论

被跨境电商耽误的武侠小说家~
应对跨境电商动荡期不传秘方竟被公开? - 文章
回复 肥力:他们花钱查的吧
IDEAW - 恶意跟卖曝光台
赶跟卖,先赶后付费, 3379845115 
Good Life Mall - 恶意跟卖曝光台
赶跟卖,先赶后付费, 3379845115 
SDGUGUDA - 恶意跟卖曝光台
查公司 都得花钱才能查, 之前查过一次,
HonYea - 恶意跟卖曝光台
叫陈xx 的  ~ 哎哟喂
亚马逊运营的故事,看完心疼她三秒 - 文章
下单了没
CODE - 聊天吹水交流
JS JS
实力宠粉篇丨Jungle Scout破解版福利教程! - 文章
一堆的废话
产品卖不爆,是因为你不会提高排名! - 文章
回复 一个不愿透露姓名的人:这瓜怎么吃?
我是董爽。澄清一下事实,那些瞎bb的,有本事你来实名跟我杠 - 聊天吹水交流
等下 这个董爽不前两天还在facebook上做好事吗?因为有个买家测评后返款就退货,然后他去杠,还发地址帮卖家把款追回来了吗?怎么卖家之家上这么大一个瓜。。。。是没有解决方法了吗?虽然我也不太懂具体因为啥损失的十万,但现在最重要的不是大家挂人,把事情搞大,大家双方都冷静下来,把问题解决下吧。
董爽 - 日本 - 测评黑名单
乡亲们,我终于投上啦,投上啦!!!!!!!!
董爽 - 日本 - 测评黑名单
这人中介真实恶心到底了,人在做天在看,迟早会早报应的。还丢人的去国外学习,也不看看自己那副德行,丢人。。。。永远不要滚回来了,中国不欢迎
董爽 - 日本 - 测评黑名单
这一周ds和旭王让我成功从1级升到了2级。
董爽 - 日本 - 测评黑名单
虽然爽子现在还只是前五,但是在飙升榜已经成功升至第一,朋友们,让我们一起为爽子的巨大进步打call
董爽 - 日本 - 测评黑名单
今天8个小时的鄙视数量就达到了136票,效率惊人,远超过上一次的曝光帖。老铁们,厉害了
董爽 - 日本 - 测评黑名单
回复 您的账号不存在:明显洗白贴,事情被爆出来就立马出来做好事的宣传,啊呸,有本事让因为她辞职的小姐姐们找回工作,补上别人公司损失的10万块钱,还攻击mjzj,她不是不怕吗?威胁别人删帖,辣鸡
董爽 - 日本 - 测评黑名单
蹭个经验 点鄙视
董爽 - 日本 - 测评黑名单
麻烦把这个帖子读完,里面有另一个帖子的链接,你看了就知道怎么回事。如果是洗白,不用了,一吨漂白粉都没用。以前只看到测评人和卖家吵架的,情节不算严重,但是测评人搞人家店铺导致十几万的损失搞的人家运营离职,还是头一次见。
董爽 - 日本 - 测评黑名单
Jessica Williams此刻瑟瑟发抖 怕不是要走下神坛让出c位
董爽 - 日本 - 测评黑名单

跨境活动会议

拓谷思海外独立站+SEO玩法大解析
SEO大神Daniel解读流量玩法,站外武神Wayne破冰海外独立站!
深圳南山 11-18 参加活动