AI 爬虫正借 referrer spam 伪装流量来源
AI scrapers are hiding behind referrer spam
AI 爬虫正利用 referrer spam 伪装访问来源,让网站发布者误以为流量来自其他网站。作者发现一个美国医疗机构的域名持续出现在自己的 referrer 日志中,且"访问"不断增加并扩散到各类无关页面,最终确认这是又一款 AI 爬虫在抓取内容。目前仍没有有效办法阻止这类爬虫污染 referrer 日志。
2026年10月8日
从前,引荐来源垃圾信息曾被用来欺骗网站发布者,让他们以为另一个网站正在给他们带来访客。
这是我经常见到的情况。我会翻看自己的引荐来源日志,看到流量似乎来自某个网站,通常是我以前没听说过的网站。
起初我会很兴奋。有人发现了我的网站,并且喜欢到愿意分享给他们的读者。太棒了。当然,我中了这个圈套,去了那个据称是引荐来源的网站,结果发现那里根本没有链接到我的网站。
我从未试图让另一位博主相信我在没有链接他们网站的情况下链接了他们的网站,所以我不知道制造引荐来源垃圾信息涉及什么。但为了可能只换来一个大概永远不会再回来的访客的一次访问,这似乎太麻烦了。
然而,现在或过去有一些网站会发布其流量来源列表。这可能会促使查看该信息的人前来访问。过去,这个引荐来源列表显然还产生了提升垃圾网站搜索引擎排名的效果。
几周前,我注意到一家声誉良好的美国医疗组织链接到了这里的首页。这似乎不对劲。一个面向医疗专业人士的网站为什么会链接到我的网站?
当然,他们并没有。但“访问”持续不断,而且越来越多。很快,他们链接到了各种毫不相关的页面,其中没有一个包含任何医疗或健康相关内容。
不过,我很快就认出了页面访问活动的模式,很明显是另一个AI抓取程序正在爬取这里的内容。
我研究了阻止、或至少让引荐来源垃圾信息抓取活动不出现在我的引荐来源日志中的方法,但一如既往,实际上并没有什么有效的解决方案。
AI抓取程序藏在引荐来源垃圾信息背后,它们接下来还会做什么?
下一篇
来源:Hacker News · disassociated.com