robots.txt 生成
按爬虫名称和路径规则生成 robots.txt,并在本地下载。
在当前设备处理处理结果
等待处理
填写上方内容后,点击处理按钮使用说明
填写内容或选择文件,点击处理按钮。结果可以复制或下载;离开页面后,输入与处理结果不会保存在站点中。
robots.txt 仅提供抓取建议,不能用作访问控制。
按爬虫名称和路径规则生成 robots.txt,并在本地下载。
在当前设备处理等待处理
填写上方内容后,点击处理按钮填写内容或选择文件,点击处理按钮。结果可以复制或下载;离开页面后,输入与处理结果不会保存在站点中。
robots.txt 仅提供抓取建议,不能用作访问控制。