您的位置:首页 > 新闻资讯 > 文章内容
爬虫出现的问题有哪些情况?
来源: 作者:admin 时间:2021-02-04 09:58:40

  爬虫出现错误了,但是不知道是在哪个地方出现问题?别着急,看看万变ip下面的几个情况是不是满足你的情况。

爬虫出现的问题有哪些情况

  1、检查正常浏览器提交的参数,在准备向网站提交表单或者发出post请求前,记得检查一下页面内容是否每个字段已经填好,格式是否正确。

  2、是否有合法的cookie,通常表现为已登录网站却不能保持登录状态,或者出现“登录异常”提示。

  3、检查JavaScript,通常表现为抓取页面信息空白,缺少信息,或者抓取到的信息与你在浏览器上看到的内容不同。

  4、IP被封禁,在访问抓取时如果遇到了HTTP错误,如403禁止访问错误,说明你的IP地址已被目标网站列入黑名单。遇到这种情况,要么静静等待IP地址自动从网站黑名单里移除,一般在24个小时之内;要么就换个IP地址。

  爬虫经常会出问题的几个情况,大家可以看看自己的问题是不是属于上面任意一种。


相关文章内容简介
推荐阅读