已复制

Robots.txt 生成器

搜索引擎爬虫规则配置,可视化生成 robots.txt 文件

爬虫规则配置

User-agent 动作 路径 操作
Sitemap:

生成的 robots.txt


        
使用说明
快捷预设

点击预设按钮快速填充常见规则:允许所有禁止所有禁止后台目录禁止特定爬虫,也可使用 Meta 标签生成 工具。

自定义规则

点击 「+ 添加规则」添加新行,每行配置 User-agent(如 * / Googlebot)、动作(Allow 或 Disallow)和路径。右上角 x 按钮可删除该行,可配合 OG Meta 标签 工具一起使用。

Sitemap

可在 Sitemap 输入框中填入网站 Sitemap 地址,会自动追加到 robots.txt 文件末尾,也可使用 URL Slug 生成 工具。

复制与下载

点击 「复制」将 robots.txt 内容复制到剪贴板,点击 「下载」保存为 robots.txt 文件。