英国上议院拟提案要求智能手机预装CSAM检测软件

根据一个由跨党派贵族和议员组成的强大联盟即将提交议会的提案，所有智能手机和平板电脑都将被禁止查看或制作儿童性虐待材料。

根据该计划，科技公司将被要求在英国销售的所有设备上安装软件，以防止人们看到儿童的露骨图像。儿童性虐待的图像和视频，包括AI生成的材料，将被立即模糊处理，直播虐待行为将变得不可能。

较旧的设备也可以通过强制软件更新来覆盖。

这场运动由保守党贵族、前教育大臣约翰·纳什在上议院牵头，他成功倡导了禁止16岁以下青少年使用社交媒体。工党的前安全保障大臣杰斯·菲利普斯在下议院领导这一行动，她因基尔·斯塔默政府未能足够迅速地阻止儿童手机上出现裸体内容而辞职。

政府已经承诺立法，迫使苹果和谷歌防止儿童在设备上拍摄或分享裸体图像。9月，文化大臣丽莎·南迪表示，科技公司“未能保护儿童免受一些最严重的伤害”，她决心推动“整个生态系统的变革，解决儿童在网络世界中最常遭受虐待或被诱骗的途径”。

安迪·伯纳姆表示，这些保护措施将“内置于设备中并默认开启”。

纳什表示，存在一个“可怕的全球性产业”在制作儿童性虐待材料，而英国是最大的消费国之一，因此有责任采取行动。

“政府非常明智地决定，他们将阻止这个国家的儿童拍摄和发送裸体图像，以及查看裸体图像，”他说。“如果能为儿童手机上的这些图像做到，那么就能为所有手机上的儿童性虐待图像做到。坦率地说，这些都是万亿美元的公司。当然，如果被要求去做，他们就能做到。”

相关文章：

尽管他坚持言论自由很重要，但他补充说：“我们谈论的是非法内容。对这么多儿童以及观看这些内容的人造成的伤害如此可怕，我们必须这样做。”

如果部长们不立法，纳什将提出一项修正案，可能是针对即将出台的国家安全法案，该法案将包括一系列网络安全措施。

他有信心在上议院通过一项措施，此前贵族们以压倒性多数投票支持禁止16岁以下青少年使用社交媒体，但他表示：“与其经历我上次经历的同样繁琐程序——上议院四次投票，每次多数票都更大，以及政府最后一刻改变主意——我更希望政府自己来做这件事。”

菲利普斯坚持认为，模糊或屏蔽不当图像的软件已经存在。“我一贯的绝对优先事项是保护英国儿童，我不想偏离这一点，但我希望政府做的是审视我们将要求儿童手机上安装的技术，看看我们还能考虑什么。

“我不希望我们国家的恋童癖者在菲律宾虐待儿童。如果我们能阻止它，为什么不尝试呢？”

西蒙·贝利曾任诺福克郡警察局长，并在国家警察局长委员会担任儿童保护负责人长达八年，他坚持认为需要更严格的监管。“现有技术已经能够以一定把握判断：‘这是儿童性虐待材料’，”他说。

去年，互联网观察基金会（IWF）移除了超过312,000张在线儿童性虐待图片——较2024年增长7%。分析人员还发现了3,440段AI生成的儿童性虐待视频，而2024年仅有13段。

一篇由技术、执法、网络安全和儿童保护专家撰写、将于本周发表的论文提出了一种“范式转变”，即利用AI工具在图像被查看或分享之前，在设备上识别并阻断疑似虐待行为，从而预防儿童性剥削。

该论文的撰稿人包括国际刑警组织儿童犯罪部门负责人马克·贝文、IWF首席技术官丹·塞克斯顿，以及澳大利亚犯罪学研究所的莎拉·纳皮尔。

根据《观察家报》的一项民意调查，公众绝大多数支持采取更严厉的行动来保护儿童并阻止成年人观看非法材料。只有6%的人非常有信心科技公司已采取足够措施来检测和移除儿童性虐待材料。

在简要介绍该拦截技术后，80%的人支持将其安装在自己的智能手机或平板电脑上，而只有5%的人反对此举。工党和保守党选民中均有近90%的人支持该软件。

一位政府发言人表示：“我们正在实施世界上最严格的在线安全法律。这包括准备一项世界首创的立法，要求最大的科技公司让儿童无法拍摄、分享或查看裸体图像。

“我们还将赋予警方所需的权力，以跟上新兴技术的犯罪使用，从而保障我们儿童的安全。”

摄影：mihailomilovanovic / Getty Images