GEO-024·第 02 期·度量与增长·24 / 132
抓取覆盖率:一个被忽略的 GEO 指标
抓取覆盖率是 GEO 漏斗的第一格:从可抓取到被抓取再到被引用,第一道漏损就发生在这里。本文给出可直接复用的口径定义、按模板统计的五步做法、一次示例测量,以及覆盖率涨了但引用没动时该看哪一层。
本期主线先被看见:抓取、渲染与 AI 爬虫可访问性
二月第一周,一家做露营照明的独立站复盘去年秋冬的上新。运营发现,AI 答案里反复出现的还是两款两年前的主力灯;去年补的六个色温版本、两个套装组合,一次都没被提过。工程同事查了 robots.txt、sitemap 和状态码,全放行,全是 200。会开到这儿卡住了:没有人算过,这批新页面里,检索类爬虫到底抓过几个。
从可抓取到被抓取再到被引用,是一条逐级漏损的漏斗;抓取覆盖率是漏斗的第一格,不按模板算它,后面所有优化都在赌。
口径:分母由人定,分子只认验证过的请求
覆盖率最容易被做成一个漂亮的假数字:分子和分母都能随手挑。先把两件事写死。
分母是你希望被 AI 读到的 URL 集合,按模板分组,只收 canonical 版本。商品页、类目页、对比与测评文章算;筛选参数页、站内搜索结果、购物车、账户页不算。
分子是在一个明确时间窗内至少被一次验证过的检索类爬虫请求过、返回 2xx、且关闭 JS 时正文非空的 URL 数,按 canonical 去重。
第一,全站一个百分比没有用。分母里混进参数页,覆盖率永远是个很低的数,团队会把它当噪音;按模板算,数字才能落到“改哪张模板”。
第二,被抓到不等于被读到。返回 200 但首屏是空壳的页面,算进分子就是假通过,必须抽样做无 JS 对照。抓取之前的断点分几层、各层怎么取证,见一次完整的 AI 抓取审计。
第三,分子只认验证过的爬虫。UA 是日志里最容易伪造的字段,不核验 IP 的请求会把覆盖率刷高,这是最隐蔽的一种假通过。
还有个口径要先说清:Google 后台能看索引状态,AI 侧没有对等报表。所以“被抓取”是观测链上的最后一格,再往后只能用引用做代理——覆盖率因此比索引覆盖率更基础,也更早该被盯。
为什么这个指标总被跳过
不是团队懒,是结构上没人对它负责。AI 平台不提供抓取覆盖报表;SEO 工具的可见度数据在结果页那一侧;能证明“来过”的只有服务器日志。而日志通常被当排障工具:出 5xx 才拉,平时不看。
三个机制让它天然隐形。
分母需要人的判断。 工具不会替你决定哪些页面值得被 AI 读。
抓取是低频事件。 一个长尾类目页可能几十天才被回访一次,按周算覆盖率会剧烈抖动,像随机数。窗口至少 30 天,SKU 多、模板多的站用 90 天。频率怎么分配,见抓取预算不是 Google 的专利。
覆盖率不产生收入,只产生上限。 它决定有多少页面有机会被引用;等复盘时发现答案里没有你,这个上限已经定完了。
这个指标的价值不在数字,而在它能被拆到模板,逼你回答:哪一类页面,AI 根本没读到。
一次测量:五步,两周内能出第一版
| 步骤 | 做什么 | 谁来做 | 怎么算过 |
|---|---|---|---|
| 1 圈分母 | 按模板导出 canonical URL 清单,写清排除项与生成规则 | 增长与工程 | 每个模板一张清单,条数可复现 |
| 2 洗日志 | 拉 90 天日志,先按 UA 粗筛,再用反向 DNS 或官方 IP 段核验,URL 归一到 canonical | 工程 | 每个模板得到一个“被抓过”的 URL 集合 |
| 3 算覆盖 | 按模板算命中率并分档:断点、待排、稳定 | 增长 | 一页表,每行一个模板,附低覆盖样本 20 条 |
| 4 归因 | 只看低覆盖 URL,找共同特征:内链深度、入口数量、lastmod、是否只靠 sitemap | 技术负责人 | 每个模板一条可验证假设,不写“可能是” |
| 5 排期与复测 | 只挑一个模板改,30 或 60 天后同口径重算 | 增长 | 有前后对比,且能解释差异 |
第 3 步的分档阈值请写成团队内部约定,不要当成行业基准:不同品类、不同模板结构的合理水位差别很大。有信息量的是模板之间的落差,不是单看某一个数。
第 4 步最容易走偏:拿着覆盖率去催内容团队多写。低覆盖的常见原因是结构性的——页面没有可抓取的链接入口、只存在于 sitemap、变体从主 SKU 分叉出去。这些都不是写一篇文章能修的,具体做法见给 AI 看的导航:分类、筛选与分页。
示例:缺口最大的那张模板,通常不是你以为的
示例:一家做骑行配件的独立站(假设场景,不含真实品牌与数据),有商品页、类目页、变体页、测评文章四类模板。90 天口径算下来,类目页和测评文章覆盖得不错,商品页只到一半,变体页几乎没有。
第一反应是去改商品页。但把变体页的 URL 抽出来看,问题很清楚:只从主 SKU 页的一个下拉框指向,没有可抓取链接,sitemap 里也没有条目——不是内容不好,是根本没有入口。
改法因此不是补文案,而是三件工程活:给变体生成可抓取的独立链接,在 sitemap 里分开列并维护 lastmod,把色温这类属性收进主页面的一段规格说明。复测时这张模板的覆盖率明显上升,另外三张没动——这才说明改对了地方。
同一轮复测里,引用并没有同步上涨,这在意料之中。覆盖率只解释“能不能被读到”;被读到之后说什么、凭什么被推荐,是答案单元和第三方证据的事。两件事混在一个指标里,就会在错误的层级上反复返工。
覆盖率涨了、引用没动,怎么读
覆盖率是必要条件,不是充分条件。三种读法,对应三种动作。
涨了但仍很低。 先怀疑分母:模板是不是切得太碎,把一次性页面、即将下架的页面都收了进来。分母收缩一次,往往比修十个页面有效。
涨到稳定档,引用还是不动。 说明瓶颈已经转移,继续压工程是浪费。这时该看答案单元与站外证据;引用层怎么测,见先建基线:你的 AI 可见度现在是多少。
覆盖率没涨,引用反而涨了。 先查分母是不是漏了页面——被引用的那几页如果压根不在分母里,指标本身就已经失真。
还要接受一个时间差:抓取到引用之间隔着索引与重排,别按周看这个数。月度节奏、固定口径、同一批问题复测,是这条线上唯一靠得住的纪律;其他判断在度量与增长主题页。
边界:什么时候别做这个指标
URL 总量只有几百的站。 抽样人工看即可,做报表的成本高于收益。
成交主要发生在平台内。 亚马逊、Shopee 不给日志,覆盖率无从算起;用 feed 字段完整率和 listing 变更时效替代,别硬套官网口径。
主动屏蔽了检索类爬虫。 覆盖率低是策略的结果,不是问题。先把策略写成书面文件,再决定要不要看这个数。
大促前两周。 上新与临时页会让分母剧烈抖动,测量窗口避开这个区间。
打算拿它考核团队。 一旦进 KPI,最省力的做法就是往分母里塞容易抓的页面,把数字做漂亮。这个指标适合做诊断,不适合做考核。
把动作收窄,这个月只做一件事:挑本季度上新最多的那张商品模板,导出它的 canonical URL 清单,拉 90 天日志按模板去重统计,算出这一张模板的覆盖率;把没被抓到的 URL 按“内链深度”和“sitemap 状态”分成两列,各挑 10 个,下个月的今天用同一口径再算一次。