前提:
1. 一级线索已经全部爬完的情况下,使用了一个单搜,一个集搜,两个爬虫群搜抓取二级数据;2. 二级采集花费晚上8小时的时间;

结果:
1. 共抓取成功126,超时1057;

有什么方面能够优化提升抓取成功率?
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2017-7-20 09:43

沙发
shengchengx 金牌会员 发表于 2017-7-20 09:43:14 | 只看该作者
尽量都做上定位标志映射,测试的过程中碰到抓取失败的可以加载出来看看是哪里不对的。可以看下这个帖子提高规则适应性
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?
  • UMAP的n_neighbors参数有什么作用?
  • HDBSCAN的min_samples和min_cluster_size参

热门用户

GMT+8, 2026-6-26 08:57