跳到正文
热点事件持续更新

服务器日志分析发现 AI 爬虫请求量超过搜索引擎

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

opensource-analytics.com 的一位作者分析了其网站近两周的 nginx 日志,发现 AI 爬虫的请求量几乎是所有搜索引擎总和的三倍。作者仅当请求地址属于该机器人背后的公司(通过公开列表、DNS 或公司注册网络核实)时,才将其计为真实请求。 超过三分之一自称“Googlebot”的请求是假的。五台租用的 Google Cloud 服务器使用了 30 个机器人名称发起了 2,496 次请求,先读取 robots.txt 和站点地图,再探测密码和密钥文件。没有任何 AI 助手带来哪怕一位访客,而 Google 带来了 108 位。

AI 根据报道生成 · 10 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. Hacker News · AI
    AI爬虫的请求量超过所有搜索引擎之和,且三分之一的“Googlebot”是假冒的

    在不到两周的nginx日志中,AI爬虫发出的请求量几乎是所有搜索引擎总和的三倍,且超过三分之一的“Googlebot”是假冒的。五台租用的Google Cloud服务器使用了30个机器人名称发出2,496次请求,在首先读取robots.txt和站点地图后,探测密码和密钥文件。没有任何AI助手带来哪怕一位访客,而Google带来了108位。

本事件热度走势

可比范围当前
8
可比范围峰值
1011月17日 23:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。