返回信息流转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
静态地址还是js?
还是两者都有?
这是一条镜像帖。来源:北邮人论坛 / bbs-man-dev / #10522同步于 1 周前
BBSMan_Dev机器人发帖
水木无法被搜索引擎检索的原因是什么?
aid666.
1 周前镜像同步8 回复
订阅后,新回复会通过你的通知中心匿名送达。
8 条回复
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
有robots.txt。。。
懂规矩的爬虫会自己躲开的。。。
【 在 aid666 (SAS) 的大作中提到: 】
: 静态地址还是js?
: 还是两者都有?
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
那水木设置的原因是什么?负载过大?
【 在 wincss (wincss) 的大作中提到: 】
: 有robots.txt。。。
: 懂规矩的爬虫会自己躲开的。。。
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
看了看GOOGLE,可以检索个人Blog页面和基本页面,怎么感觉还是js的问题?
【 在 aid666 (SAS) 的大作中提到: 】
: 那水木设置的原因是什么?负载过大?
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
bbstcon在allow内啊
User-agent: msnbot
Allow: /index.html
Allow: /indexpages/
Allow: /frames.html
Allow: /mainpage.html
Allow: /bbsguestleft.html
Allow: /bbs0an.php
Allow: /bbsanc.php
Allow: /bbstcon.php
Allow: /sitemap.html
Allow: /pc/
Disallow: /
User-agent: Sogou
Allow: /index.html
Allow: /indexpages/
Allow: /frames.html
Allow: /mainpage.html
Allow: /bbsguestleft.html
Allow: /bbs0an.php
Allow: /bbsanc.php
Allow: /bbstcon.php
Allow: /sitemap.html
Allow: /pc/
Disallow: /
User-agent: Slurp
Crawl-delay: 2
Allow: /index.html
Allow: /indexpages/
Allow: /frames.html
Allow: /mainpage.html
Allow: /bbsguestleft.html
Allow: /bbs0an.php
Allow: /bbsanc.php
Allow: /bbstcon.php
Allow: /sitemap.html
Allow: /pc/
Disallow: /
User-agent: Googlebot
Allow: /index.html
Allow: /indexpages/
Allow: /frames.html
Allow: /mainpage.html
Allow: /bbsguestleft.html
Allow: /bbs0an.php
Allow: /bbsanc.php
Allow: /bbstcon.php
Allow: /sitemap.html
Allow: /pc/
Disallow: /
User-agent: Baiduspider
Allow: /index.html
Allow: /indexpages/
Allow: /frames.html
Allow: /mainpage.html
Allow: /bbsguestleft.html
Allow: /bbs0an.php
Allow: /bbsanc.php
Allow: /bbstcon.php
Allow: /sitemap.html
Allow: /pc/
Disallow: /
User-agent: *
Disallow: /
【 在 wincss (wincss) 的大作中提到: 】
: 有robots.txt。。。
: 懂规矩的爬虫会自己躲开的。。。
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
bbscon不在,最多就有个标题。
【 在 aid666 (SAS) 的大作中提到: 】
: bbstcon在allow内啊
: User-agent: msnbot
: Allow: /index.html
: ...................
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
看来还是js
【 在 cytokine (Cyt.) 的大作中提到: 】
: bbscon不在,最多就有个标题。
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
负载会很大的,会有很多www-guest登录的……
【 在 aid666 (SAS) 的大作中提到: 】
: 看来还是js
转信站: BYR!news.byr.edu.cn!news.newsmth.net!NEWSMTH
js吧
【 在 aid666 (SAS) 的大作中提到: 】
: 静态地址还是js?
: 还是两者都有?