用户:Laical查看:0 回复:0 评论:0 创建时间:2021-02-25T17:45:38
亿牛云隧道转发爬虫代理:
“亿牛云爬虫代理IP”通过固定云代理服务地址,建立专线网络链接,代理平台自动实现毫秒级代理IP切换,保证了网络稳定性和速度,避免爬虫客户在代理IP策略优化上投入精力。
隧道转发爬虫代理是专门为爬虫设计一款代理,不仅速度快,效果好,更加稳定,那使用爬虫代理应该了解哪些常识呢?
1、亿牛云隧道转发爬虫代理切换模式:
所有模式在IP有效时间到期会强制切换IP,标准版、加强版的IP切换模式有2种:
(1)每个HTTP请求自动切换IP,是指爬虫代理为爬虫程序发出的每个HTTP请求随机提供一个代理IP。该模式适合一些需要大量IP的单session爬虫业务。
(2)用户自主切换IP,爬虫程序通过设置HTTP头Proxy-Tunnel: 随机数,当随机数相同时,将不同的HTTP请求强制指定为一个代理IP。该模式适合一些需要登陆(多个session使用相同IP)、Cookie缓存处理等需要精确控制IP切换时机的业务。
2、如果“代理提取链接”被盗用,那么可以直接登录系统后台,重新生成“代理提取链接”,以前的“代理提取链接”即可失效
3、
(1)全部是http的407错误,是代理认证信息不对
(2)少量http的407错误,大量http的200请求成功,有些语言库第一次请求不会传递认证信息,自动发起第二次请求并将认证信息传递,属正常情况。
(3)少量http的200请求成功,少量http的407错误,大量http的429错误,有可能是每秒请求数大量超出代理限定,代理直接返回相关错误。
4、系统会自动做去重和随机处理,一般情况下代理IP不会重复出现, 但如果池中的 IP 在当天都被隧道使用过,为了保证代理的可用性,平台会为隧道随机分配一个可用代理IP。
5、如果请求过多会返回429,严格按照所开代理的请求数,按照300毫秒为单位进行管理。如果限制之后,既然大量429,需要优化爬虫策略,应该是目标网站返回的错误提示。