教新手如何创建Robots.txt文件,在高手面前班门弄斧,罪过

如何创建 robots.txt 文件?
您可以在任何文本编辑器中创建此文件。该文件应为 ASCII 编码的文本文件,而非欧博平台 HTML 文件。文件名应使用小写字母。

最简单的 robots.txt 文件使用两条规则:
(1)User-Agent: 适用下列规则的漫游器
(2)Disallow: 要拦截的网页
这两行被视为文件中的一个条目。您可根据需要包含任意多个条目。您可在一个条目中包含多个 Disallow 行和多个
User-Agent。

应在 User-Agen开元棋牌t 行中列出什么内容?
user-agent 是特定的搜索引擎漫游器。网络漫游器数据白金会库列出了许多常用漫游器。您可设置应用于特定漫游器的条目
(通过列示名称)或设置为应用于所有漫游器(通过列示星号)。应用于所有漫游器的条目应与下列条目类似:

User-Agent:*
Google 使用多种不同漫游器(用户代理)。用于网络搜索的漫开元棋牌游器是 Googlebot。Googlebot-Mobile 和 Googlebot-
Image 等其他漫游器遵循您为 Goo欧博平台glebot 设置的规则,您还可为这些特定漫游器设置附加规则。

应在 Disallow盛京棋牌 行中列出什么内容?
Disallow 行列出了您要拦截的网页。您可列出具体网址或网址盛京棋牌模式。条目应以正斜杠开头 (/) 开头。

要拦截整个网站,请使用正斜扛。

Disallow:/
要拦截目录及其中的所有内容,请在目录名后添加正斜扛。

Disallow:/private_directory/
要拦截网页,请列出该网页。

Disallow:/private_file.html
网址区分大小写。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处: 教新手如何创建Robots.txt文件,在高手面前班门弄斧,罪过