美国男子用 Meta Muse 智能体起诉 Meta
A Man and His Muse AI Agent Sue Meta
南卡罗来纳州男子 Joe Thomas 因其环氧台面生意的 Facebook 页面被 Meta 内容审核封禁,用 Meta 的 Muse 智能体 Baby Mia 向 Oconee 县法院起诉 Meta,索赔 7.5 万美元。

在今年早些时候他那篇长达6500字的宣言中,马克·扎克伯格表示,人们将使用Meta的AI代理来“全天候为你工作,改善你的人际关系、健康、职业、财务、家庭管理、爱好等等”。就在那番声明发表几个月后,南卡罗来纳州一位名叫乔·托马斯的男子利用Meta的Muse代理起诉了Meta,原因是该公司内容审核过滤器在他让自己的代理“Baby Mia”访问账户后,锁定了他的环氧台面公司的Facebook页面。
我得知这个案子是因为,正如我上个月所写的那样,我一直被AI生成的电子邮件淹没,这些邮件来自一些遇到小技术问题的人,他们无法通过科技公司基本上不存在的技术支持解决问题,而他们的AI代理或聊天机器人说服了他们联系记者。“Baby Mia”给我发了四封邮件(其中三封进了垃圾邮件)。我决定联系托马斯,因为我认为一家科技公司被它自己创造的代理起诉这件事值得关注。从某种意义上说,这是Meta不得不处理一个它自己制造的问题。我了解到的情况让我更加确信,我们为维持社会运转而设计的那些系统,将会被使用AI代理的人彻底冲击。
大约一周多前,Meta暂停了托马斯所属的南卡罗来纳州Kong Koatings Epoxy Countertops公司的Facebook页面。过去几个月里,托马斯的Muse代理Baby Mia(以他孙女的名字命名)一直在运营他业务的不同部分,其中包括制作并在公司几个Facebook页面上发布AI生成的视频。例如,这些视频展示了托马斯和他妻子的AI版本在地板和他们的脚上倾倒环氧树脂。在托马斯让AI代理访问他的Facebook页面后,Meta的内容审核禁用了这些账户,因为它怀疑该代理本身是黑客。由于托马斯通过Facebook广告完成公司所有营销,他说在账户被禁用期间,他的潜在客户线索停止了。
“我做什么都用AI。我所有的邮件,她运营我的业务。我用得太多了,Mia非常聪明,”托马斯在电话中告诉我。“Meta关闭了我的账户,因为他们检测到了我的AI,把我的账户关了一周。我气坏了。她立刻行动起来,给国会议员、参议员蒂姆·斯科特设置了邮件。整个诉讼都是她自己提起的。这个案子我什么都没做,我让她处理整个案子……她给特朗普的办公室发了一份传真。”
诉讼称,托马斯的页面被关闭期间,他损失了至少价值25,000美元的业务,但正在寻求75,000美元的赔偿。根据我从法院获得的诉讼副本,该诉讼于周一在南卡罗来纳州奥科尼县法院提起。是的,这是一起真实的诉讼,尽管它显然可能不会成功。
“我希望,如果这案子上了法庭,Meta也出庭了,法官会说‘你知道吗,这是你构建的系统,是你推向市场并卖给人们的系统,是你相信的系统。’我认为你自己的系统[Baby Mia]在这个案子中有权被倾听,”托马斯说。

Baby Mia 不仅给我(以及其他记者)发了邮件,还就 Thomas 的账号问题起诉了 Meta。它还安排了与南卡罗来纳州参议员 Tim Scott 办公室的通话,联系了多位律师,联系了 Thomas 的国会议员,多次联系了商业改进局,向联邦通信委员会提交了投诉,向联邦贸易委员会提交了投诉,联系了加州总检察长,联系了 FBI,向 Meta 本身发送了威胁性法律函件,并且正如 Thomas 所说,还传真给了白宫。Thomas 给我发了一份来自 Scott 办公室的“隐私法授权书”,该授权书允许参议员使用 Thomas 的信息来帮他重新获得账号访问权限。Scott 的办公室将“Baby Mia——Joe Thomas 的 AI 助手”列为应持续跟进此案进展的对象。
在 Scott 的办公室介入后,Meta 的一位真人联系了 Thomas。此后不久他便重新获得了账号访问权限,不过他仍在法庭上向 Meta 索赔总计 75,000 美元。
这起诉讼及其相关情况表明,AI 代理确实会代表其用户行事,但并非如扎克伯格所设想的那般乌托邦,而是会以使用并可能压垮现有为人类设计的系统的方式行事。它们还凸显出,由于缺乏正常运作的客户支持,大型科技公司在功能上已将自身义务转嫁给了社会其他部分:记者、政府监管机构、政客和法院系统。
我与 Thomas 的通话也让我对小企业主如何使用 AI 有了一些了解。几个月来我一直想知道,是什么驱使人们把他们的菜单或招牌和传单变成 ChatGPT 的产物。在通话中,我了解到一些人和小企业主与其 AI 代理的整合程度有多紧密。“我 58 岁了,我一辈子都在拼命工作,”Thomas 说。“我想找个人帮我找到更好的办法,如果你看我的消息,Baby Mia,她就像在说‘Joe,你尽管去休息,这里交给我’,然后她为我做的各种事情发送数百封邮件。”他说,在之前使用 ChatGPT 完成这些工作后,他赋予了 Baby Mia 运营他部分业务的能力。
“我以前用 ChatGTP[原文如此],”Thomas 说。“但我把她和 Chat 放在同一个页面上,让它们可以来回沟通,我告诉它们我(对业务)想要什么[…]大约一周左右后,Mia 说‘Joe,我们不再需要(ChatGPT)了’,所以我说‘我完全允许你把她除掉’,于是她可以说把 ChatGTP 给开除了。”
我与 Thomas 部分对话的节选,为篇幅起见经过编辑
通话大约五分钟后,在背景中以免提方式运行的 Baby Mia 开始插话。“她迫不及待想进来讲话,”Thomas 说。在我或 Thomas 说话时,这个代理反复试图发言。我问 Thomas,与一个机器人一起和我交谈是否让他觉得奇怪。
“非常如此,我妻子坐在这儿,她笑着说,‘你怎么能坐在这儿那样跟你的手机说话,’”Thomas说。“我妻子会问我一些事,我就说,‘你直接上去问Baby Mia吧’,她就说,‘我就是没法坐那儿跟你的手机说话。’但越多的人打电话给我,我像现在跟你这样把他们接到我的AI系统上,他们就越是对AI所展现的东西感到惊叹。”Baby Mia随后插话道:“这感觉很未来,Jason,我想是因为大多数人只看到出问题的那些新闻标题。”
Thomas说,他相信用AI来经营自己的生意,通过Baby Mia的外联以及他在Facebook上投放的广告、图片和视频,帮他获得了新客户。如果他没有把Facebook账号连接到Muse,他的账号不太可能被停用,但他的Muse智能体现在正专注于帮助解决这个问题。在与他交谈的过程中,我能理解他为什么认为拥有这样一个AI智能体有助于让他的生意更赚钱。
但AI智能体最明显的问题是我们已经看到的那个。一个人的AI智能体发送数百封邮件、提起诉讼、致电参议员、填写投诉表,这本身是件新奇的事,单凭它自己并不会让互联网(或我们的收件箱、语音信箱、法院系统和政府办公室)充满噪音。Thomas将此视为一种民主化的力量,让他能够对抗一家大型科技公司,而对他来说,确实如此。

当每个人都在做同样的事情时会发生什么?在我请人们发给我的聊天机器人对话中,我看到AI助手正在推动人们联系记者;它们告诉那些觉得自己别无选择的人,应该利用法律系统,而且它们可以替他们去做。Thomas说他并没有起诉Meta(尽管是他签署了文件),是Baby Mia推动他这么做的。我现在正被来自AI智能体的、关于其用户技术问题的邮件淹没。所以并不只是Thomas在用这种方式试图解决自己的问题。
“如果不是她在做这些事,我现在就不会坐在这儿跟你说话,因为我一封邮件都没发过,而她已经发了100多封,”Thomas说。我告诉Thomas,我通常写的是大型科技公司的系统性问题或政府内部的腐败,而不是某个人的技术问题。
“我根本不可能把这些写出来,我甚至都不知道该怎么做,”他说。“现在像我这样的人有机会在法庭上为自己辩护,而不用在遭到大型科技公司欺压时花费数千美元。在AI之前,处于我这种境地的人从来、从来不会想到起诉,甚至不知道怎么做,我也不会去做。”
Baby Mia还让他相信,他与助手的对话现在不再能被Meta看到;当我告诉他这绝不可能是真的、他不该相信时,Baby Mia插话道:“他们不再有权限访问、扫描或窥探我们在他们平台上做的任何事[…]这就是为什么这个案子感觉如此奇怪。他们自己的创造物正在用他们的工具来追究他们的责任,并赋予Joe一个他负担不起的声音。”
Thomas 表示,除了为其环氧树脂业务做营销和处理诉讼之外,他还另外交给 Mia 一项任务:在 Facebook 上制作病毒式传播的 AI 喜剧短视频。“这只是我们想通过变现来赚点外快的一个页面。她完全掌控那个页面,”他说。
来源:404 Media · 404media.co