跳到正文
Hacker News· rexpop·· 9 天前AI 评分66

Google 被指在 YouTube 上向老年和认知障碍人群推送诈骗广告

Google Is Pushing Scam Videos on Elderly and Cognitively Impaired People

AI 导读

Current Affairs 作者调查发现,YouTube 上一则名为 The Pantry Find 的广告以圣经蜂蜜治愈阿尔茨海默病为噱头,点击后跳转到伪造的 CNN 页面。

正文 · AI 翻译

我在YouTube广告里听过一些离谱的说法,但“The Pantry Find”还是让我愣了一下。“如果你是基督徒,却不知道阿尔茨海默病和痴呆症的疗法就在《圣经》里,那你应该再读一遍经文。”一个戴着眼镜、穿着白衬衫打着领带的男人,看起来有点像摩门教传教士,坐在办公桌后,桌上放着一瓶蜂蜜和一包肉桂棒。他身后是提升可信度的书架,不过仔细看,书名都是乱码,是AI生成的。这个男人接着说:

这种饮料在《圣经》中被提到27次,据说正是以色列成为世界上唯一一个阿尔茨海默病零病例国家的原因。直到我去了中东——一些《耶稣受难记》的场景就是在那儿拍摄的——我才知道这件事。那时我才意识到,美国阿尔茨海默病产业已经被贪婪彻底腐蚀到了什么程度。医生为什么不告诉你,阿尔茨海默病是百分之百可逆的?他们宁愿让人死,也不愿透露这种能在不到七十二小时内消除记忆丧失的圣经饮料。它含有三种家用食材,只要以正确方式混合,就能终结脑雾和记忆丧失。有一个免费视频展示如何在家制作这种饮料。如果你感兴趣,只需点击“了解更多”按钮。

他继续大谈以色列如何用这种“圣经饮料”彻底消灭了阿尔茨海默病。(并没有。据报道,以色列大约有18万人患有阿尔茨海默病。)他说制药行业合谋隐瞒了这个秘密。但幸运的是,“这个国家至少有一个诚实的人正在竭尽全力让美国人知道这个解决方案。”这个诚实的人是谁?嗯:

他的名字叫比尔,我相信你已经知道他的姓了。不过,我不能在这里提,因为正是因为这个原因,这段视频已经被下架超过三次。他是世界上最大科技公司的创始人,一直在建立基金会,帮助数千万人[...]在下面的免费视频中,他一步步展示如何制作这种圣经饮料。每晚睡前喝一次,看看你的记忆力感觉如何[...]我为我母亲制作了这种圣经饮料,她当时已处于阿尔茨海默病第七阶段。而今天,她的记忆力比我还好。

这时我好奇了:这些人说这种“圣经饮料”是由什么制成的?“比尔”是谁?他真的会向我展示如何制作这种饮料吗?这个骗局到底会怎么运作?骗局是什么?

于是我点了进去。ThePantryFind.com有一个落地页,承诺提供“一种简单的自制蜂蜜仪式,可能有助于记忆力和思维清晰。”页面底部列出的公司是MARKET AUTO EXPORT LLC,这是迈阿密的一家二手车经销商,也是谷歌广告透明度中心为该广告列出的公司。(不过谁知道他们是否真的在背后操作。)如果你点击“立即观看”,The Pantry Find会把你带到一个假的CNN新闻页面,那里开始播放一段视频,显示一个丹泽尔·华盛顿的AI深度伪造形象,手里拿着一罐蜂蜜:

Deepfake Denzel 解释说,2025 年他开始出现记忆丧失,而且越来越频繁,直到“我到了拒绝出演新 Equalizer 电影主角的地步,因为我再也记不住剧本里的哪怕一句台词了。”医生“说我会被困在轮椅上,在角落里腐烂,甚至不记得自己的名字。”但“在那个绝望的时刻,在我的病情消息泄露给媒体之后[…]比尔·盖茨联系了我。”盖茨告诉他,他的基金会“发现像阿尔茨海默病这样的神经疾病实际上完全可以逆转”,方法是“清除大脑锈迹,这是一种在神经元上堆积并阻断记忆的有毒外壳。”盖茨基金会的研究人员“找到了一种特定的药用蜂蜜”,可以“溶解那层外壳,重新连接大脑中失去的链接。”Deepfake Denzel 说他开始服用这种蜂蜜,瞧,他又成了一个“完全清醒的人”。他接着讲了六分钟,说比尔·盖茨如何用药用蜂蜜治好了他的阿尔茨海默病。

现在,说到这里,你大概和我想的一样:谁会信这种垃圾?我们大多数人看到摩门教鲍勃拿着他的蜂蜜瓶和肉桂棒时,早就点跳过按钮了。这些说法太极端了。阿尔茨海默病用三种家用食材就能“100% 逆转”?喝一种特殊饮料就能在 72 小时内治愈?《圣经》里提到27 次,却不知怎么没人知道?但这引出了一个问题:好吧,如果这蠢得可笑,那我为什么还会看到它?为什么有人花钱给我看这个?

直到我看完整个 54 分钟的视频,这个骗局的各个部分才完全拼合起来。视频从 Deepfake Denzel 开始。在 Denzel 讲了六分钟他如何因为比尔·盖茨终于能记起童年之后,一个(远没那么逼真的)Deepfake Samuel L. Jackson 上来做出类似断言,接着是 Deepfake Chris Hemsworth,接着是 Deepfake 新闻女主播,她解释说比尔·盖茨一直在做前沿研究(插入 Deepfake 画面:比尔·盖茨在实验室里看着一罐罐蜂蜜)。然后十分钟后,我们进入正戏:Deepfake 比尔·盖茨本人登场,用一堆听起来科学的术语讲了超过 40 分钟,讲述他如何发现阿尔茨海默病的治愈方法。最后,在结尾,推销来了:如果你点击下面的按钮并购买“Memocept”药片,你就能找回你的心智。Deepfake 比尔说,这将是“你一生中最重要的决定”。

想象一下醒来时感到头脑清晰,思维轻盈、敏锐、专注。想象自己在下次家庭聚餐上,不只是在场,而是主导着谈话,讲述一段年轻时的故事,细节让所有人震惊。看到孩子们眼中的怜悯变成骄傲。想象医生在说这不可能之后,你的认知测试却有所改善时他的惊讶。生活重新回到你手中,自由,尊严。这两种未来都是真实的。它们已经存在。而决定哪一个属于你的,就是此刻你点击或不点击的那一下。为了表明我多么相信 Memocept,你所决定的不是一次购买;而是一次拯救,拯救你的身份、你的尊严、你在这个世界上的位置。

现在,Memocept 是一种真正的补充剂,由廉价、常见的成分制成(虽然不是蜂蜜或肉桂)。它不能治愈阿尔茨海默病。目前没有治愈阿尔茨海默病的方法。而比尔·盖茨的员工已经确认他与此毫无关系。(第一个落地页确实有免责声明,说他们不承诺产品会有任何效果,但长视频本身却直接而明确地说,服用比尔的疗法三天内你的大脑就会被修复。)

那么,让我们仔细想想这里的情况,因为我认为我们这些足够精明、能毫不费力地跳过这类垃圾内容的人,很容易忽略正在发生的事情的全部含义。这个骗局针对的是年迈、认知受损的人。它包含专门设计来吸引黑人和宗教观众的暗示(华盛顿、杰克逊、“圣经饮品”的伪造)。它把遭受记忆丧失这一可怕、使人衰弱的经历的人们单独挑出来作为目标人群,并通过一连串厚颜无耻的谎言和骗局操纵他们,让他们在绝望的虚假希望中交出钱财,以为只要给这家公司钱,他们就能再次记住孩子的名字。如果他们不给这家公司钱,深度伪造的比尔警告说:

如果你让这个页面溜走,你已经知道等待你的是什么剧本。那是忘记孙辈面孔的恐慌。那是在自己街道上迷路的羞耻,那是配偶脸上疲惫和悲伤的表情。

这个广告,这个看起来老土的 YouTube 垃圾,是邪恶的。他们正在寻找最脆弱的受害者,利用他们对治愈疾病的希望,拿走他们的钱。

而且他们做得非常聪明。你可能认为这个广告“显然”是个骗局。那个假 CNN 页面的标题甚至是“比尔·盖茨正在投资 100 亿美元用于一项逆转阿尔茨海默病和痴呆症的发现”。不完全是专业水准的作品。但请记住:这个广告针对的是患有认知衰退的老年人。

而且整件事的结构其实非常巧妙。记住,一开始你被承诺“Bill”会向你展示如何用家庭食材调制一种“圣经饮品”。一旦你点击进去,他并没有这么做。他用了将近一个小时讲了一堆伪科学术语,然后让你去买一些药丸。但到那时,Bill已经告诉你,除非你买这些药丸,否则你会给家人带来耻辱。你已经忘记了“圣经饮品”和蜂蜜。有趣的是,购买药丸的链接甚至根本没有出现,直到54分钟视频的结尾才出现。只有那些最绝望、愿意尝试任何能治愈阿尔茨海默病方法的人才会看完。而看完视频的人的“转化率”无疑非常高。

当你仔细观看这个视频时,你会意识到它有一定的精巧程度。Denzel Washington的真实影像与AI深度伪造影像交织在一起。T有大量催人泪下的片段,老人变得困惑,勤奋的科学家试图发现治愈方法。(等等,我以为科学家们在密谋阻止我们获得治愈方法,而真正的解决方案在圣经里?啊,算了!)深度伪造的Bill听起来足够逼真,能说服这类目标人群。 (记住,婴儿潮一代在AI垃圾内容面前可能尤其容易上当。)

这就让我想到了Google和YouTube。这是一起犯罪诈骗。冒充Bill Gates并告诉人们你有阿尔茨海默病的治愈方法就是欺诈。制作这个的人应该进监狱。然而,如果你去Google的广告透明度中心,你会发现这个广告以数百个版本投放。我找到的它的视频显示已被观看1400万次。(谁知道这是不是真实数字?)Google正在从这些人那里收钱,这意味着Google正在直接从欺诈老年人中获利。

Magazine Covers 2025

Google/YouTube此前曾因允许深度伪造名人诈骗广告在其平台上泛滥而受到批评,假的Joe Rogan和Taylor Swift告诉人们改变人生的补充剂或政府免费发钱。在外部压力下,该公司下架了许多此类广告。“Pantry Find”广告的有趣之处在于,YouTube视频本身并不包含名人深度伪造。事实上,Mormon Bob直言他不能说“Bill”的姓氏,“因为这个视频已经因为这个原因被下架超过三次了。”但当你点击进入网站时,会有一个新视频,不是由YouTube托管的,包含一个逼真伪造的Bill Gates告诉你,保住你剩余心智的唯一方法就是把钱包里的东西寄给“MARKET AUTO EXPORT LLC”(或者任何自称是他们的人)。YouTube可能已经最小化了平台上AI深度伪造名人的使用,但显然存在漏洞。

YouTube 一直拒绝在广告上线之前进行审查,而是等到用户投诉后才处理。当英国自由民主党表示该平台应遵守与传统广播公司相同的广告标准时,该公司表示“YouTube 不是广播公司,不应像广播公司那样受到监管”,并承诺“我们有严格的政策来管理我们平台上的广告,我们会严格执行这些政策。”尽管如此,英国仍计划要求平台屏蔽诈骗广告,这至少有望在英国有所帮助。

我认为很明显,审查并非人工完成。如果有人手动点击进入该网站,The Pantry Find 就绝不可能“播出”,因为他们会立刻发现这是一个深度伪造诈骗。我不知道 YouTube 上有多少广告是诈骗或可疑产品,但 Help Net Security 表示 YouTube 充斥着欺诈,无论是付费广告还是普通视频。商业安全顾问 Sandeep Abraham 去年向 WBUR 证实,“社交媒体和 YouTube 上的诈骗广告在过去几年里确实激增。”Meta 也存在同样的问题,据报道,针对老年人的诈骗广告为 Meta 带来了数百万美元的广告收入,而且即使在删除后仍能成功重新发布。

当然,如果谷歌愿意,他们可以阻止这一切。他们可以让员工在每条广告发布前进行审核,以确保它不是诈骗,或者至少审核每一条包含某些关键词(例如阿尔茨海默病)的广告。名人代言蜂蜜治疗痴呆症的诈骗变种自去年以来一直在各平台流传,因此如果在展示给人们之前对广告进行预先筛查,就很容易发现。但这既耗时又昂贵。谷歌有经济动机对此放松监管。监管它需要大量资源,而且他们还能从骗子那里分一杯羹。当然,理想情况下联邦政府会介入,但既然总统本人就是个骗子,还削弱了消费者保护,这极不可能发生。希望欧洲的打击行动能促使一些更好的做法渗透到美国。也许大型科技公司中偏左翼的年轻员工可以对雇主施加内部压力,推动改革。我相信他们中的许多人都对这样一个事实感到不安:他们工资中哪怕一小部分也是由诈骗痴呆症患者得来的。他们需要站出来,要求对平台上的掠夺性广告和虚假宣传进行真正的打击。

The Pantry Find 骗局让我毛骨悚然。当我想到这是针对什么样的人时,我感到悲伤和愤怒。我不知道谁该为此负责,但我知道他们应该被起诉。我也知道,骗子本身只是问题的一部分。这些骗局之所以猖獗,部分原因是科技公司连保护老年人和认知障碍者免受网络掠食者侵害这一最基本的责任都不愿承担。

来源:Hacker News · currentaffairs.org