死链检查工具检查前需要准备哪些信息:从交付结果倒推清单

📍 WDQWDWQD987AAAAA:216.73.216.187
📱 Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)
🔗 /aa011286ae48.html
📄

死链检查工具检查前需要准备哪些信息:从交付结果倒推清单

用死链检查工具之前,真正要准备的不是工具本身,而是四类信息:待检查范围、判定标准、处理权限与责任分工、验收方式。时间和人手有限时,先明确最终要交付什么——是一份可逐条处理的死链清单,还是只想知道某个栏目有没有问题——再倒推需要哪些输入。范围越模糊,工具跑出来的结果越难用,返工越多。

先确定检查范围:URL 从哪来

死链检查工具需要一份起点列表,否则它不知道从哪开始爬。常见的起点来源有三种,准备成本和覆盖度不同:

准备时至少记录三件事:起点 URL 清单、是否允许工具跟随站外链接、是否需要登录才能访问的页面。最后一项尤其关键,需要登录的页面如果没准备账号或 Cookie,工具只会返回一堆 401/403,看起来像死链,其实不是。

判定标准:什么算“死链”

同一个工具跑出的结果,判定口径不同,清单长度可能差很多。检查前先定好下面几项,避免处理时反复争论:

  1. 状态码范围:通常把 404、410 视为明确失效;301、302 是跳转不算死链,但跳转链路过长或指向失效页时需要单独标记。5xx 属于服务端异常,可能是临时故障,应和 404 分开处理。
  2. 是否检查软 404:页面返回 200 但内容是“找不到该页”,属于软 404。是否纳入取决于工具能力,也取决于你是否愿意人工复核。
  3. 跳转链深度:例如规定“跳转超过 3 次”或“最终落地页仍返回 4xx”才计入待处理项。
  4. robots.txt 限制:被 robots.txt 禁止抓取的路径,工具可能直接跳过,也可能报错。要提前说明这类结果不算死链,因为 robots.txt 的抓取限制不等于可靠的索引移除,也不能据此判断页面失效。

把这几条写成一句话规则,例如“返回 404/410,或跳转后最终页为 4xx 的 URL,计入待处理清单”,后续所有人按同一标准看结果。

权限、责任与工具配置信息

范围和标准定好后,还要准备让检查能真正跑起来、结果能真正被处理的信息:

验收方式:怎么算检查完成

从交付结果倒推,最后一步是约定验收。可行的做法是:先跑一轮全量,导出清单;修复后只针对清单中的 URL 再跑一轮,确认返回码已变为 200 或合理跳转。验收标准可以是“清单中 4xx 条目清零”,也可以按优先级分批验收,例如先处理导航和首页链接,再处理深层内容页。

如果时间极其有限,建议把范围收窄到首页加主要栏目,先保证用户主路径没有死链,再逐步扩大。这样第一轮就能产出可交付的结果,而不是等全站爬完才发现方向不对。

下一步:按上面的四类信息写一份简短检查说明——范围、判定规则、责任人、验收标准各一行,交给执行人后再启动死链检查工具。

图1 图2

nginx