抓取、索引和排名是三个先后不同、判定证据也不同的环节。抓取是搜索引擎发现并读取网址;索引是把读取到的内容存入可供检索的数据库;排名是用户搜索某个词时,页面在结果中的相对位置。判断问题出在哪一步,不能只看“搜不到”,而要用站点日志、索引状态和查询结果分别取证。
抓取阶段最直接的证据是服务器日志:搜索引擎的抓取程序是否访问了目标网址、返回状态码是多少、访问频率是否异常。索引阶段的证据是站点查询指令或搜索平台提供的页面状态,看目标网址是否被收录、是否被标记为重复或已排除。排名阶段的证据则是用具体查询词在结果页中查找,确认页面是否出现、大致位于什么位置。三者混在一起看,最常见的误判是把“没排名”直接当成“没收录”,或者把“没收录”直接当成“没抓取”。
如果手头正好有网站优化PPT模板,可以把它改造成排查记录表,而不是只当汇报材料。做法是:在模板中新增一页“问题定位表”,列四栏——目标网址、抓取证据、索引证据、排名证据。每一栏只填可复核的事实,例如日志中的时间与状态码、索引查询的结果描述、查询词与结果页观察。这样做的价值在于把主观感受换成可对照的记录,适用条件是问题已经具体到某个网址或某组查询词;如果问题还停留在“整站流量下降”,应先缩小范围再填表。
代价也要说清楚:逐条查日志和索引状态比较费时,适合重点页面或已确认异常的页面;全站批量核对需要借助日志分析工具或搜索平台提供的批量报告,人工逐条做不现实。
抓取成功不等于索引成功。搜索引擎可以抓取一个页面,然后因为内容与站内其他页面高度相似而不把它单独索引;也可以抓取后先放入待处理队列,过一段时间才决定是否索引。反过来,索引中的页面也可能长期不被抓取更新,导致展示的是旧内容。
另一个混淆点是“网址被索引”和“内容被索引”。同一内容有多个网址时,搜索引擎可能只保留其中一个作为规范版本。此时用非规范网址去查,可能显示未收录,但内容其实已经通过另一个网址进入索引。判断方法是核对规范网址设置,并分别查询各个变体网址的状态。
页面被索引,只说明它有资格参与检索,不代表它对任何查询词都有排名。排名取决于该查询词下的竞争情况、页面与查询意图的匹配程度,以及页面自身主题是否清晰。一个已索引页面搜不到某个词,可能的原因包括:该词竞争页面更强、页面主题分散、查询词与页面用词差异过大,或者该查询主要触发的是其他类型的结果。
区分方法是用同一页面测试多个查询词。如果长尾词能搜到、核心词搜不到,问题更偏向排名竞争而非索引;如果所有相关词都搜不到,再回头检查索引状态。这里要区分网页搜索与平台推荐、付费广告,后者出现与否不能作为索引或自然排名的证据。
下一步建议先选一个已确认异常的网址,按上述五步走完一遍,再决定是修抓取入口、改索引设置,还是调整页面主题与内容匹配。