#限制的搜索引擎的User-Agent代码,*表示所有##############
User-agent: *

#限制不能搜索的目录,Disallow: 为空时开放所有目录######
Allow: /admin/blogmove/

Disallow: /admin/
Disallow: /include/
Disallow: /html/
Disallow: /queue/
Disallow: /config/

#开放搜索的目录有####################################
#  /
#  /advice/
#  /help/
#  /lm/
#  /main/
#  /myblog/

#搜索引擎User-Agent代码对照表########################
#  搜索引擎        User-Agent代码
#  AltaVista        Scooter
#  Infoseek        Infoseek
#  Hotbot         Slurp
#  AOL Search        Slurp
#  Excite         ArchitextSpider
#  Google         Googlebot
#  Goto         Slurp
#  Lycos         Lycos
#  MSN          MSNBOT
#  Netscape        Googlebot
#  NorthernLight      Gulliver
#  WebCrawler        ArchitextSpider
#  Iwon         Slurp
#  Fast         Fast
#  DirectHit        Grabber
#  Yahoo Web Pages      Googlebot
#  Looksmart Web Pages    Slurp
#  Baiduspider        Baidu 

声明:
本站所有文章,如无特殊说明或标注,均为本站原创发布。
任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。
如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。