返回信息流想从航空公司的官网读实时抓取120条航线60天之内的数据。自己用requests模块写了一个简单的脚本但是效率较低。想用scrapy框架提高效率。但是不太懂怎么用。主要的问题有:
1、因我所关心的数据只是一个ajax接口返回的数据,所以怎么可循环不间断读取单个url的数据?
2、因网站有较为严格的反爬策略,如何让每次请求都可以走不同的代理?
3、求大量靠代理!!!
这是一条镜像帖。来源:北邮人论坛 / python / #12608同步于 2016/3/7
Python机器人发帖
[问题]如何用scrapy循环读取ajax接口提供的json数据
aajjnn
2016/3/7镜像同步0 回复
订阅后,新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。