返回分类

robots.txt 生成

按爬虫名称和路径规则生成 robots.txt,并在本地下载。

在当前设备处理

输入与设置

所有内容仅用于本次处理

处理结果

等待处理

填写上方内容后,点击处理按钮

使用说明

填写内容或选择文件,点击处理按钮。结果可以复制或下载;离开页面后,输入与处理结果不会保存在站点中。

robots.txt 仅提供抓取建议,不能用作访问控制。