返回信息流暑假用scrapy做的小项目,爬取一个电商网站(http://item.yintai.com/20-714-8656C.html),获取包包的信息。其中,在获取价格信息的时候,从网页源代码上无法得到价格。后来在检查网页源代码时,在显示价格信息处有一句话 <!--当是首次请求时,不显示价格-->(难道是码农们对爬虫软件的友情提醒?)。求问一下如果遇到这样的情况,要如何获得价格信息呢?[ema11][ema11]
这是一条镜像帖。来源:北邮人论坛 / python / #8019同步于 2015/8/6
该镜像源已超过 30 天没有更新,可能在源站已被删除。
Python机器人发帖
使用scrapy爬取商品信息,第一次请求不显示价格问题
age
2015/8/6镜像同步4 回复
订阅后,新回复会通过你的通知中心匿名送达。
4 条回复
这不有个异步请求么……看看 URL 怎么来的照着发一个好了
【 在 age 的大作中提到: 】
: 暑假用scrapy做的小项目,爬取一个电商网站(http://item.yintai.com/20-714-8656C.html),获取包包的信息。其中,在获取价格信息的时候,从网页源代码上无法得到价格。后来在检查网页源代码时,在显示价格信息处有一句话 <!--当是首次请求时,不显示价格-->(难道是码农们对爬虫软件的友情提醒?)。求问一下如果遇到这样的情况,要如何获得价格信息呢?
可以直接解析js里的东西
<script type="text/javascript">
var YinTai_TagData= {"others":{"apiID":"5","productSex":"女士"},"page":{"id":"5","type":"detail"},"prods":[{"brand":{"href":"http:\/\/www.yintai.com\/store\/store-50003381.html","id":3381,"tit":"Longchamp"},"cate":[{"href":"http:\/\/www.yintai.com\/product\/list-10000500.html","id":500,"tit":"箱包"},{"href":"http:\/\/www.yintai.com\/product\/list-10000520.html","id":520,"tit":"时尚女包"},{"href":"http:\/\/www.yintai.com\/product\/list-10000522.html","id":522,"tit":"手提包"}],"colorID":"20-714-8656","imgSrc":"http:\/\/p10.ytrss.com\/product\/20\/714\/8656\/NormalImage\/52243.jpg","mPrice":1300.00,"name":"LONGCHAMP珑骧女士橘色尼龙小号折叠手提包2605089642","onsale":true,"price":735.00,"sku":"20-714-8656","stock":1.00,"styleID":"20-714-8656"}]}
</script>
感谢!我想问一下,为什么价格这些信息不是直接显示,而是要写在一个js里面呢?
【 在 jelling 的大作中提到: 】
: 可以直接解析js里的东西
: <script type="text/javascript">
: var YinTai_TagData= {"others":{"apiID":"5","productSex":"女士"},"page":{"id":"5","type":"detail"},"prods":[{"brand":{"href":"http:\/\/www.yintai.com\/store\/store-50003381.html","id":3381,"tit":"Longchamp"},"cate":[{"href":"http:\/\/www.yintai.com\/product\/list-10000500.html","id":500,"tit":"箱包"},{"href":"http:\/\/www.yintai.com\/product\/list-10000520.html","id":520,"tit":"时尚女包"},{"href":"http:\/\/www.yintai.com\/product\/list-10000522.html","id":522,"tit":"手提包"}],"colorID":"20-714-8656","imgSrc":"http:\/\/p10.ytrss.com\/product\/20\/714\/8656\/NormalImage\/52243.jpg","mPrice":1300.00,"name":"LONGCHAMP珑骧女士橘色尼龙小号折叠手提包2605089642","onsale":true,"price":735.00,"sku":"20-714-8656","stock":1.00,"styleID":"20-714-8656"}]}
: ...................