当前位置:坚果ip > 资讯中心
爬虫采集被封禁了该怎么办呢?
发表日期:2020-09-10
爬虫采集被封了该怎么办?在使用ip转换器进行网络爬虫抓取信息的过程中,如果抓取频率过高或者使用了多线程,很容易被禁止访问。通常,网站的反爬虫机制都是依据IP和用户的User-Agent来标识爬虫的。于是在爬虫的开发者通常需要采取两种手段来解决这个问题:1、放慢抓取速度,减小对于目标网站造成的压力。但是这样会减少单位时间类的抓取量。

2、第二种方法是通过设置ip代理等手段,突破反爬虫机制继续高频率抓取。但是这样需要大量稳定的ip转换器。ip转换器可以搜索到免费的,但是可能不太稳定,也有收费的,比如坚果ip转换器。下面介绍两种方式:普通的基于ADSL拨号的解决办法通常,在抓取过程中遇到禁止访问,可以重新进行ADSL拨号,获取新的IP,从而可以继续抓取。

但是这样在多网站多线程抓取的时候,如果某一个网站的抓取被禁止了,同时也影响到了其他网站的抓取,整体来说也会降低抓取速度。一种可能的解决办法同样也是基于ADSL拨号,不同的是,需要两台能够进行ADSL拨号的服务器,抓取过程中使用这两台服务器作为代理。假设有A、B两台可以进行ADSL拨号的服务器。爬虫程序在C服务器上运行,使用A作为代理访问外网,如果在抓取过程中遇到禁止访问的情况,立即将代理切换为B,然后将A进行重新拨号。如果再遇到禁止访问就切换为A做代理,B再拨号,如此反复。综上,最简单方法就是购买现成的ip转换器产品。

坚果IP支持电脑客户端,安卓手机,模拟器,虚拟机,云手机一键更换全国IP地址,欢迎访问:www.jianguoip.com

    还没有账号?立即注册
    用户名不能为空

    请按住滑块,拖动到最右边

    我已仔细阅读并接受《用户注册协议》
    用户名不能为空
    确定
    忘记密码
    手机号不能为空
    确定

    线