先建立访问基线
使用浏览器 UA 请求同一页面。如果基线也失败,就不把异常轻率归因于 AI 爬虫限制。
UNDERSTAND YOUR AI VISIBILITY
一个网址,读懂不同 AI 爬虫的访问响应。
从 HTTP 探测到 robots.txt 声明,让每个判断都有依据。
报告保留 7 天。清除本地记录不会立即删除服务器上的报告。
左右滑动表格,查看 robots.txt 策略与检测详情 →
| 爬虫 / USER-AGENT | 访问响应 | HTTP | 耗时 | ROBOTS.TXT | 详情 |
|---|
输入网站地址,开始你的第一次检测。
结果将在这里逐项呈现。
如何理解结果? 本工具从固定服务器出口模拟 UA 请求,不能验证真实爬虫的 IP 或身份。请求成功不代表内容一定被收录;拒绝响应也可能来自 IP 限制。robots.txt 展示声明策略,不等同于实际网络拦截。
BUILT FOR CLARITY
使用浏览器 UA 请求同一页面。如果基线也失败,就不把异常轻率归因于 AI 爬虫限制。
对比状态码、响应特征及重定向。使用限速并发,区分挑战页、限流和连接失败。
读取目标网站的 robots.txt,独立展示允许或禁止声明。UA 标识测试不代表真实爬虫身份。
检测 URL 与报告在服务器保留最多 7 天(定期清理);报告凭随机任务标识访问,请勿分享包含敏感参数的网址。IP 仅以哈希用于限频,Web 访问日志由服务器记录。远程页面正文仅用于内存中的特征判断,不保存、不展示。此浏览器保存最近任务标识,用于刷新恢复。
快速检测包含 8 个 AI UA,扩展检测包含 14 个 UA。请求使用爬虫标识字符串,并非其完整客户端指纹。Google-Extended 等仅用于 robots 声明的标识不参与 HTTP 检测。每个来源每小时限 20 次,同一网站至少间隔 30 秒。