Meta 推出新 AI 工具，识别暗中导流儿童性虐待内容的广告

Meta 于周三宣布，在 2026 年上半年对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取了行动。与此同时，该公司正在推出新的 AI 工具，以发现可能被用来秘密引导人们获取非法儿童虐待材料的广告和账户。

Meta 表示，其采取行动的内容中超过 97% 是由其系统在用户举报之前发现的。在印度，Meta 在同一时期对 530 万条儿童性剥削内容采取了行动，其中超过 98% 是在用户举报之前检测到的。

Meta 表示，其最新的 AI 工具针对的是那些利用看似无害的广告将用户引导至 Meta 平台之外的非法内容的人。

该公司推出了一种新的大语言模型（LLM）系统，用于检测其所谓的“路标式引导”。这指的是那些可能看起来正常、但涉嫌将用户引导至网上其他地方的非法内容或其他有害活动的广告。Meta 表示，这是其近期发现恶意行为者使用的一种策略，他们不断改变手法以逃避检测。虽然这些广告本身可能不包含非法材料，但它们仍可能成为托管儿童性虐待材料网站的门户。

因此，Meta 表示，它现在不仅关注广告包含什么内容，还关注广告将用户引导至何处。该公司可以利用这些信息来屏蔽违反其规则的网站或其他目的地，并对背后的账户采取行动。

Meta 还在使用额外的 AI 驱动扫描来发现早期系统可能遗漏的儿童剥削内容。该公司表示，随着对这些网络运作方式的了解不断深入，它将继续添加新的信号。

另一项新工具是“红队 AI 代理”，用于测试 Meta 自身的安全措施。它会寻找恶意行为者可能用来绕过公司保护措施的弱点。Meta 表示，这可以帮助其在新的滥用方法变得更加普遍之前就发现它们。

此外，该公司正在改进其系统，以发现那些在之前的账户被移除后使用新账户重返其平台的人。

这些新措施出台之际，Meta 正继续因其平台上儿童的安全问题而面临压力。该公司因其社交媒体服务可能对年轻用户构成的风险而面临诉讼和立法者的批评。8 月，Meta 达成协议，支付最高 180 亿美元以了结一起涉及美国 29 个州的儿童安全诉讼，解决有关在线保护儿童的担忧。

Meta 今年推出了多项儿童安全功能，包括Meta AI 的家长控制、WhatsApp 上的青少年账户，以及当儿童在 Instagram 上搜索自残内容时向家长发出的警报。

9 月，WhatsApp 为家长增加了更多控制功能。他们可以限制青少年如何使用频道、控制谁可以看到他们的状态更新，并决定谁可以将他们的孩子加入群组。家长还可以选择接收有关某些群组活动的通知。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。

Lauren 在 TechCrunch 报道媒体、流媒体、应用和平台。

您可以通过发送电子邮件至 laurenf.techcrunch@gmail.com 或通过 Signal 上的加密消息 laurenforris22.25 联系 Lauren 或核实其联系信息。

查看简介