大略说,便是我们想利用工具采集某个网站的数据(条件当然是公开合法数据),但网站不想给你采集而设置的技能阻挡方法。
网站常见的防采集套路有哪些?
防采套路1:输入验证码框验证
采集难度:★☆☆☆☆
常见网站:搜狗微信
在采集某些网站过程中,大家是不是常常会碰着这样的情形,哀求你输入验证码,否则就进行不下去?
对的,这是网站最常用且最根本的防采方法之一,它哀求你必须你手动输入验证码里的数字和字母,才能连续看到更多信息或者进行下一步,以此来判断你是机器人还是真人。
防采套路2:滑动拼图进行验证
采集难度:★★☆☆☆
常见网站:拉勾、B站
验证码防采套路升级版,也是网站最常用来验证当前浏览用户是机器人还是人工的办法之一。
它哀求你必须滑动拼图到它指定的位置,才能通过验证进行下一步操作。
防采套路3:登录验证
采集难度:★★★☆☆
常见网站:新浪微博、新榜
这类网站常日须要登录才能看到更丰富的信息,否则只会展现非常有限的内容。
防采套路4:数据加密
采集难度:★★★★☆
常见网站:大众点评
有些网站通过对数据加密进行防采集。如大众点评(上图),我们在网页上看到的内容是这家餐厅的“地址”,但我们打开源代码看,这段笔墨被已经被加密分离,这会导致什么结果?
这将导致即便你将它采集下来,笔墨也是乱码或支离破碎的,无法整合成一段完全的笔墨。
防采套路5:反馈虚假数据
采集难度:★★★★★
常见网站:携程网
最近看到一个携程开拓写的帖子,关于他们是如何给爬虫反馈“假数据”的。看完以为携程太“恐怖了”!
当你创造辛辛劳苦采集下来的数据居然是假的,叨教你心累不心累?!
所谓道高一尺,魔高一丈,碰着这种给你“投毒”的网站就请绕道吧,除非你想到更好的破解方法!
防采套路6:禁止访问
采集难度:★★★★★
常见网站:个别网站
小八目前还没怎么碰着过这种情形。当然,我们没事也不会故意“以身试法”,去试探网站的防采底线。
这种情形,紧张还是看网站的防采机制设计,如果触发了,常日的结果便是全面封锁和禁止。比如封你的账号、封你的IP地址。一旦被封锁,网站会自动给你缺点页面或无法让你正常浏览。