采集过程都显示抓取成功。抓了2次,第二级故意线索等待时间变长。为什么数据还是这样。是我超时时间设置的问题吗


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 25 个关于本帖的回复 最后回复于 2017-4-21 15:18

沙发
lucky半杯 中级会员 发表于 2017-4-21 13:45:28 | 只看该作者
未解决。我测试的数据都有,集搜也可以有,爬虫群就不行
举报 使用道具
板凳
scraper 论坛元老 发表于 2017-4-21 14:27:12 | 只看该作者
主题名是什么
举报 使用道具
地板
scraper 论坛元老 发表于 2017-4-21 14:33:03 | 只看该作者

你的主题名是淘宝文具第一级?
看了一下 链接那个字段有问题 不应该选择网页片段 要选择文本内容

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
5#
lucky半杯 中级会员 发表于 2017-4-21 14:33:42 | 只看该作者

淘宝文具的第一级3。
1总共2000条数据,
2我用打数据集搜,得到XML,2000条。用你们EXCLE导入,显示文本内容中发现无效错误。但是最后还是有1500多条有效的。
3我将XML压缩之后通过会员中心导入,得到4000条数据,全部无效!下级链接字段显示错误

举报 使用道具
6#
scraper 论坛元老 发表于 2017-4-21 14:36:03 | 只看该作者
lucky半杯 发表于 2017-4-21 14:33
淘宝文具的第一级3。
1总共2000条数据,
2我用打数据集搜,得到XML,2000条。用你们EXCLE导入,显示文本 ...

这个规则跟上面回复的问题一样
链接字段有错

举报 使用道具
7#
lucky半杯 中级会员 发表于 2017-4-21 14:36:11 | 只看该作者
scraper 发表于 2017-4-21 14:33
你的主题名是淘宝文具第一级?
看了一下 链接那个字段有问题 不应该选择网页片段 要选择文本内容

不是淘宝文具第一级,是淘宝文具第一级3。还有我采集的下级链接似无法给  淘宝文具第二级做线索。

举报 使用道具
8#
lucky半杯 中级会员 发表于 2017-4-21 14:38:15 | 只看该作者
scraper 发表于 2017-4-21 14:36
这个规则跟上面回复的问题一样
链接字段有错

不骗你,我这边某数台为啥显示是网页!你那边不是,是BUG吗

举报 使用道具
9#
scraper 论坛元老 发表于 2017-4-21 14:38:55 | 只看该作者
lucky半杯 发表于 2017-4-21 14:36
不是淘宝文具第一级,是淘宝文具第一级3。还有我采集的下级链接似无法给  淘宝文具第二级做线索。

...

按照我说的去改规则重新采

举报 使用道具
10#
lucky半杯 中级会员 发表于 2017-4-21 14:39:33 | 只看该作者
scraper 发表于 2017-4-21 14:36
这个规则跟上面回复的问题一样
链接字段有错

你看。。。。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 爬网址做层级采集——以当当商品爬虫为例
  • 网络爬虫采集列表数据
  • UMAP的min_dist参数有什么作用?
  • UMAP的n_neighbors参数有什么作用?
  • HDBSCAN的min_samples和min_cluster_size参

热门用户

GMT+8, 2026-6-26 04:30