适用于任何规模的网络爬虫代理

网络爬虫自动收集公开页面。代理将请求分散到多个IP地址,使每个请求看起来像普通访客,并让您从数据所在国家查看页面。

选择代理类型

对于接受自动化流量和API的网站,从数据中心代理开始:它们是最快的,每月每IP起价$0.58/IP,流量不限。当网站通过验证码或不同内容响应服务器地址时,切换到旋转住宅代理;每个请求都将从您设置的国家/地区的家庭IP发出。

对于每天爬取数十GB数据的任务,无限住宅计划固定每日成本($41.53一天),让您可以全速运行。

旋转、会话和并发

对于列表和搜索页面,使用旋转代理,每个请求都是独立的。对于跨多个页面的流程,例如依赖cookie的分页结果,使用粘性会话(在用户名中添加-session-name,保持60 分钟)。

并发由您的爬虫工具设置,而不是由计划决定:打开尽可能多的连接,只要您的工具能处理。保持每个域的请求速率礼貌,并尊重每个网站的条款和robots规则,以收集数据。

估算流量

一个普通的HTML页面大小为100到500 KB,不含图片。在无头浏览器中阻止图片、字体和视频通常可以将流量减少一半以上。50 GB的住宅流量包($99.50)大约可以覆盖150,000到400,000个轻量页面。

  • 仅在可能的情况下获取HTML
  • 为分页流程重用会话
  • 在遇到阻止后,使用新IP重试,而不是在同一IP上重试

为网络爬虫设置住宅代理

使用加密货币一次性支付,支付确认后立即连接。