规则名:农业部第二级采集
情况:农业部第一级采集 已完成,进行到第二级 采集时提示超时(所有线索都抓取超时),但测试时没有问题。
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2019-2-23 11:29

沙发
maomao 论坛元老 发表于 2019-2-23 11:29:09 | 只看该作者
新闻类网站,除非是几个大站,各级政府网站的内容都没有使用统一的模板,看起来有标题和发布时间,但是位置各不一样。你用样本页面定义的规则适应不了其它网页。

你可以加载和分析失败线索,看看能否调整规则提高适应性。可能需要手工写自定义xpath
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?
  • UMAP的n_neighbors参数有什么作用?
  • HDBSCAN的min_samples和min_cluster_size参

热门用户

GMT+8, 2026-6-26 04:11