选择代理类型
对于接受自动化流量和API的网站,从数据中心代理开始:它们是最快的,每月每IP起价$0.58/IP,流量不限。当网站通过验证码或不同内容响应服务器地址时,切换到旋转住宅代理;每个请求都将从您设置的国家/地区的家庭IP发出。
对于每天爬取数十GB数据的任务,无限住宅计划固定每日成本($41.53一天),让您可以全速运行。
旋转、会话和并发
对于列表和搜索页面,使用旋转代理,每个请求都是独立的。对于跨多个页面的流程,例如依赖cookie的分页结果,使用粘性会话(在用户名中添加-session-name,保持60 分钟)。
并发由您的爬虫工具设置,而不是由计划决定:打开尽可能多的连接,只要您的工具能处理。保持每个域的请求速率礼貌,并尊重每个网站的条款和robots规则,以收集数据。
估算流量
一个普通的HTML页面大小为100到500 KB,不含图片。在无头浏览器中阻止图片、字体和视频通常可以将流量减少一半以上。50 GB的住宅流量包($99.50)大约可以覆盖150,000到400,000个轻量页面。
- 仅在可能的情况下获取HTML
- 为分页流程重用会话
- 在遇到阻止后,使用新IP重试,而不是在同一IP上重试