怎么用
- 输入网站首页或任意起始页,按需要调整爬取深度和网址上限(最多 5000 个)。
- 点「开始检查」,完成人机验证后任务进入队列;页面显示进度,可以随时取消并保留已检查的结果。
- 先看「问题链接」:每条列出状态码、出现在哪些页面和锚文本,点开可以看完整重定向链。
- 导出 CSV 或 Excel 交给编辑修复;需要的话用爬到的正常页面一键生成 sitemap.xml。
检查哪些内容
- 站内链接和外部链接的状态码:404、410 等死链,5xx 服务器错误,超时,域名无法解析和连接失败。
- 每一步重定向:301、302、307、308 的完整链条和最终网址,方便把旧链接直接改成最终地址。
- 图片、CSS、JS、图标、iframe 和视频等资源是否 404。
- 每个问题出现在哪些页面、锚文本或图片说明是什么,以及页面标题、noindex、canonical 和是否在 Sitemap 中。
怎么读结果
- 死链:404、410 等明确失效,或域名已无法解析,应该修改或删除链接。
- 服务器错误、超时、连接错误:可能是暂时的,过一段时间重新检查或手动打开确认。
- 被拒绝或禁止抓取:对方拒绝自动访问(401、403、429、999),或 robots.txt 不允许,本工具没有读取内容。
- 重定向:最终能打开,但多了一跳;站内链接最好直接指向最终网址。
- 未检查:登录、购物车等操作链接,疑似无限生成的网址,或按设置跳过的外链和资源。
发现死链后怎么修
- 站内死链:把链接改成正确页面;页面确实删除了,就在服务器上做 301 跳转到最相关的新页面。
- 外部死链:换成对方的新地址或可信的替代来源,找不到就删除链接。
- 图片和资源 404:重新上传文件或修正路径,检查 CDN 和缓存插件里的旧地址。
- 修好后再检查一次;网站很大时按栏目分别从栏目首页开始检查。
常见问题
免费吗?有什么限制?
免费,不用注册。每次最多检查 5000 个网址、爬取深度最多 10 层、最长 20 分钟;未登录时每个网络每天 5 次,登录 XunL 账号每天 15 次,同一时间只能有一个任务。结果保存 2 小时,请及时导出。
会给我的网站造成压力吗?
对同一个网站最多同时 3 个请求、每次间隔至少 0.2 秒;robots.txt 设置了 Crawl-delay 时改为一次一个,并按它的间隔等待。robots.txt 禁止的路径不访问,登录、退出、购物车等操作链接不点。页面只读前 1 MB,图片和外链只读开头 4 KB。
为什么有些外链显示「被拒绝」而不是死链?
401、403、429 以及部分社交网站的 999 状态,通常是对方拒绝自动程序访问,在浏览器里打开可能是正常的,所以单独列出,请手动点开确认。超时和 5xx 服务器错误也单独列出,因为它们常常是暂时的。
能检查 JavaScript 生成的链接吗?
不能。爬虫读取服务器返回的 HTML,不执行 JavaScript,所以只在浏览器里由脚本加出来的链接看不到;搜索引擎第一轮抓取看到的也是这份 HTML。
生成的 Sitemap 包含哪些页面?
只放本次爬到、直接返回 200、允许索引(没有 noindex)、canonical 指向自己或没有 canonical 的同站页面。重定向、死链、被 robots.txt 禁止和没爬到的页面都不放,上传前请再核对一遍。
爬虫用什么 User-Agent,怎么单独限制它?
User-Agent 里带 XunLLinkChecker/1.0。在 robots.txt 里写 User-agent: XunLLinkChecker,就可以单独为它设置 Disallow 或 Crawl-delay;没有单独规则时按 User-agent: * 执行。