robots.txt文件 淘宝客网站该如何规范写作?

1.robots.txt含义

robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(robots exclusion protocol),网站通过robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。(百度百科copy来的)

通俗说:就是用一个文本来控制百度蜘蛛,谷歌机器人等搜索引擎,我们的网站哪些不要去抓取,哪些要去抓取,别瞎抓,要按章程来。

2.robot.txt写作

robots涉及的名字有许多,以下也是copy百度的:

user-agent: * 这里的*代表的所有的搜索引擎种类,*是一个通配符

disallow: /admin/ 这里定义是禁止爬寻admin目录下面的目录

disallow: /require/ 这里定义是禁止爬寻require目录下面的目录

disallow: /abc/ 这里定义是禁止爬寻abc目录下面的目录

disallow: /cgi-bin/*.htm 禁止访问/cgi-bin/目录下的所有以”.htm”为后缀的url(包含子目录)。

disallow: /*?* 禁止访问网站中所有包含问号 (?) 的网址

disallow: /.jpg$ 禁止抓取网页所有的.jpg格式的图片

disallow:/ab/adc.html 禁止爬取ab文件夹下面的adc.html文件。

allow: /cgi-bin/ 这里定义是允许爬寻cgi-bin目录下面的目录

allow: /tmp 这里定义是允许爬寻tmp的整个目录

allow: .htm$ 仅允许访问以”.htm”为后缀的url。

allow: .gif$ 允许抓取网页和gif格式图片

sitemap: 网站地图 告诉爬虫这个页面是网站地图

解析:disallow 是不允许,allow是允许。许多新手开始会犯一个重大错误:直接allow不就得了,剩下就是不允许的,鸭子我就会告诉大家如果你们这样写就是大错特错了,robots协议是先生效不允许disallow后才会有allow的出现,也就是disallow是先诞生,才会触发allow命令的执行(比如:先有鸡蛋,才会有公鸡)

相关推荐:淘宝客网站怎样才能标新立异,吸引顾客

3.robots写作规范

关于写robots协议大家不要盲目直接copy上方的,因为每个程序的文件由你自己本身网站所产生。

比如:你网站根目录下自行创建了一个tbk文件夹,那么如果要屏蔽它怎么办?

写法:(因为如果是第一次写,建议先创建一个本地命名一个robots.txt文本)

user-agent: *

disallow: /tbk

注意:1.disallow的开头要大写!allow也是要大写!,特别注意,否则是不生效的

2.冒号和/ 之间要存在空格,/代表的是网站根目录下,/tbk代表根目录下的tbk文件夹

3.user-agent:*代表所有搜索引擎蜘蛛,一个robots只出现一次。

解析:这样的写法告诉搜索引擎:我的网站针对所有搜索引擎蜘蛛在访问网站时,不允许抓取网站根目录下tbk文件夹内的所有文件。

总结:以此类推,如果你想禁止你的网站某些文件爬取,就应该去好好涉及一番了。

相关推荐:要做好淘宝客网站 首先要了解六种淘宝客网站

以下是百度联盟的广告,其内容与霍常亮无关,如需投资请谨慎选择,感谢大家支持本博~点点广告更健康~

最后编辑于:2015/7/20作者: 投稿

该用户很懒,还没有介绍自己。