AI 正擅长反制网络诈骗者：Apate 用 35 万 AI 机器人反骗骗子

欢迎来到 Kernel Panic！， 这是由 Lily Hay Newman 和 Matt Burgess 每周撰写的时事通讯，带你走进隐私与数字安全的新世界。若想每周在收件箱中收到本通讯，请在此注册。

尽管 AI 加剧了数字诈骗和网络犯罪，它也被招募来保护潜在受害者。世界各国政府一直在努力应对全球性的网络犯罪危机，受制于试图打击犯罪分子却跨越不了国界的局限。这催生了其他尝试，比如利用自动化试图大规模反制诈骗者——或许是通过向诈骗者发送垃圾信息来消耗他们的资源。如今，AI 平台正将这类实验转化为打击网络犯罪的实用工具。

过去两年，澳大利亚公司 Apate（以希腊欺骗女神命名）一直在构建一个系统，将电话诈骗者转移到与 AI 机器人的通话中，这些机器人经过训练，会尽可能长时间地维持对话，当然，绝不会真正上当受骗。目标是给诈骗者足够的希望，让他们留在电话上，同时收集有关他们正在实施的诈骗的情报。

“我们真正想的是，我们正在为诈骗者打造完美的受害者，”Apate 的创始人兼 CEO Dali Kaafar 告诉我们。“诈骗者与机器人或代理交谈的每一分钟，都可能让你拯救数百甚至数千名可能被同一个诈骗者联系到的人，”他说，并提到诈骗者使用自动拨号工具的能力。

Kaafar 表示，Apate 的平台被银行使用，并得到电信公司的支持，拥有约 35 万个机器人。它们不仅接听电话，还渗透到网上的诈骗聊天群组中，并以类似的目标回复短信，既让诈骗者感到挫败，又从他们那里收集情报。他说，该公司已实时收集了超过 25 万条关于诈骗者的信息，从诈骗网址到钱骡账户和银行详细信息。

Kaafar 说，这些机器人有不同的性格、语言能力和个人资料，因此诈骗者希望不会察觉自己正在与 AI 对话。就像真人一样，“有时[机器人]有 WhatsApp，有时没有。有时它们接电话，有时它们实际上会挂断诈骗者的电话说，‘我稍后再联系你，’”他说。

但它们有说服力吗？Kernel Panic 使用了一个演示版本测试该工具，用户扮演诈骗者，与 Apate 的一个 AI“受害者”交谈。这些角色被设计为表达适度的怀疑，但留下足够的开口让诈骗者继续试图赢得他们的信任，这种动态我们立刻就能感受到，并觉得极其令人沮丧。

诈骗者很可能熟悉这种怀疑性的互动，Kaafar 表示 Apate 的通话通常会持续两个多小时。在我们的测试中，Apate 系统参与度高、响应及时，对话的节奏感觉很自然，即使我们两人分别扮演朋友“Lucy”和她的财务顾问“Mickey”联手对付这个 AI。即使经过六分钟的不懈努力，我们也未能让 Apate AI 系统投资我们的加密货币机会。（不过回报真的非常惊人，我们发誓。）

目前，即使有 Apate 庞大的机器人集群在应对，你接到下一个诈骗电话或短信也只是时间问题。网络犯罪分子每年发起数十亿条消息和电话，其中最复杂的操作运营着实体化的、工业规模的诈骗窝点。尽管专业的反诈骗者和渗透诈骗团伙的行动多年来已做出关键的威慑工作，但执法和研究努力总体上仍未能阻止数字诈骗的扩张。

但 AI 可能为反诈骗工作开创一个新时代，而不仅仅是诈骗者自身。警察、社交媒体公司、银行和其他行业之间迫切需要更好的情报共享，而 AI 驱动的监控和数据分析可能有助于实现这一点。越来越多的创新努力也在寻求通过利用网络犯罪分子的“心理弱点”来扰乱他们。在某些情况下，这些心理战包括直接戏弄勒索软件攻击背后的那些人。随着对扰乱诈骗者和网络犯罪分子的关注不断扩大，使用生成式 AI 来让他们忙于应付、浪费资源、无法发动其他攻击，似乎越来越有效。

以蜜罐为例。多年来，公司和安全研究人员部署虚假虚拟机来吸引黑客、浪费他们的时间、收集信息，并了解他们的秘密黑客技术。苏黎世联邦理工学院计算机科学系的博士研究员 Mark Vero 表示，开源蜜罐提供商越来越多地将 LLM 集成到他们的系统中，使其看起来更逼真。

在最近的研究中，Vero 和同事发现，由 LLM 驱动的蜜罐会让 AI 代理攻击其系统的时间“显著更长”，相比行为更可预测的蜜罐。“代理攻击者更相信 LLM 模拟的蜜罐，而且他们将其标记为真实蜜罐的比率也低得多，”他说。“如果这些系统构建得足够好，那么我认为这对防御者来说相当有利。”

发现了我们下周应该包含的内容？请通过 [email protected] 告诉我们。在外面注意安全。