详解GEO技术层审计:AI爬虫可访问性、页面渲染、加载性能、移动端适配等技术检查。
AI爬虫可访问性是GEO技术审计的第一步。如果AI爬虫无法访问你的页面,后续所有优化都无从谈起。AI搜索引擎使用自己的爬虫(如Google的Googlebot-News、Bing的Bingbot)以及与AI大模型集成的爬虫系统来采集网页内容。
可访问性检查的核心是确认robots.txt和meta robots标签没有不当屏蔽AI爬虫,服务器对AI爬虫请求返回正常响应(200状态码),页面内容可被爬虫完整获取(包括JS渲染内容)。
| 检查项 | 检查方法 | 合格标准 | 常见问题 |
|---|---|---|---|
| robots.txt规则 | 检查User-Agent规则 | 未屏蔽主流AI爬虫 | 误封Googlebot/Bingbot |
| meta robots | 检查页面meta标签 | 无noindex/nofollow误用 | 开发环境标记遗留 |
| HTTP状态码 | 模拟爬虫请求 | 200 OK | 302重定向链/404错误 |
| 服务器响应 | 测量TTFB | <500ms | 服务器性能差 |
| JS渲染 | 查看爬虫看到的HTML | 内容完整可读 | CSR内容爬虫不可见 |
| 页面加载 | Core Web Vitals | LCP<2.5s/CLS<0.1 | 性能未优化 |
页面渲染审计检查AI爬虫是否能看到完整的页面内容。现代网站大量使用JavaScript框架(React/Vue/Angular),如果采用客户端渲染(CSR),AI爬虫可能只看到空白的HTML骨架,无法获取实际内容。
渲染审计需要模拟爬虫视角查看页面——使用禁用JavaScript的浏览器或爬虫模拟工具,检查页面内容是否完整可见。如果发现内容缺失,需要改用服务端渲染(SSR)或预渲染(Prerendering)。
页面性能直接影响AI爬虫的采集效率和用户体验。Core Web Vitals是衡量页面性能的标准指标——LCP(最大内容绘制)应低于2.5秒,CLS(累积布局偏移)应低于0.1,INP(交互到下次绘制)应低于200ms。
性能审计不仅检查指标数值,还要分析影响性能的具体因素——图片大小、JS/CSS文件体积、第三方脚本数量、字体加载策略等。
# GEO页面性能审计清单 ## Core Web Vitals - [ ] LCP < 2.5s(最大内容绘制) - [ ] CLS < 0.1(累积布局偏移) - [ ] INP < 200ms(交互到下次绘制) - [ ] FCP < 1.8s(首次内容绘制) - [ ] TTFB < 500ms(首字节时间) ## 资源优化 - [ ] 图片使用WebP/AVIF格式 - [ ] 图片设置width/height属性防止CLS - [ ] JS文件压缩+defer/async加载 - [ ] CSS关键路径内联 - [ ] 字体使用font-display: swap - [ ] 第三方脚本延迟加载 ## 缓存策略 - [ ] 静态资源设置Cache-Control - [ ] HTML设置合理的max-age - [ ] 使用CDN分发 - [ ] 启用Brotli/Gzip压缩 ## AI爬虫专项 - [ ] 内容文本在首屏HTML中可见 - [ ] 结构化数据在HTML源码中(非JS注入) - [ ] 图片alt属性完整 - [ ] 无拦截爬虫的弹窗/遮罩层
移动端适配是GEO技术审计的重要部分。AI搜索引擎越来越重视移动端体验,移动端不友好的页面在AI引用中可能被降权。移动端审计检查响应式设计、触摸友好性、移动端加载速度和可读性。
Google采用移动优先索引(Mobile-First Indexing),意味着AI爬虫优先采集移动版页面内容。如果移动版页面内容与桌面版不一致(如内容删减、结构化数据缺失),会影响AI对内容的理解和引用。