没人准备好迎接 AI 智能体洪流

马克·扎克伯格希望一切都拥有一个冷酷无情、唯利是图的AI助手。如果我们真的拥有了它们，会发生什么？

作者 John Herrman， Intelligencer的科技专栏作家此前，他曾是《纽约时报》的记者和评论员，以及The Awl的联合编辑。

照片插图：Intelligencer；照片：Getty Images

9月，全国各地的小企业开始接到奇怪的电话。“嗨，我是[姓名]，”电话开头总是这样，然后告诉接听者他们是代表别人打来的。“我会转录这通电话，”他们会说明，然后直接提出请求：“我想找人安装三个智能马桶盖的报价”。或者：“我想预订一间卡拉OK包房。”或者：“我想订一个蛋糕今天自取。”有些商家就继续处理了，询问关于蛋糕的后续问题，得到回答，然后记录订单。其他商家则不太愿意继续。“你是AI吗？”西雅图一家卡拉OK店的员工问道。“我需要真人。”当被问及他是否能帮忙处理“客户提供”的智能马桶盖安装工作时，科罗拉多州的一位水管工反问了一个问题，这个问题被自动转录了，大致是：“你能给我口交吗？”

这些神秘电话是通过Muse打来的，这是Meta上月发布的一款AI助手工具，该公司称它能“处理一切”——包括网上购物、购买机票、预订、管理收件箱，对某些用户来说，还能通过电话预订。虽然泄露给404 Media的内部文件表明，其中一些电话可能是AI与人类合作完成的——呼叫中心员工从AI代理那里接手，然后再将任务发回——但从接听者的角度来看，这并不重要。突然间，他们不再直接与客户对话了。

X上的早期采用者一直在分享他们与AI或类AI行政助理的经历。“它正常工作时真的很酷，”一位AI YouTuber写道。“一半的公司直接挂断我的代理电话。”

我想从另一方的角度了解这个奇怪的新现象。科罗拉多州的水管工笑了笑，又一次挂断了电话。卡拉OK店的那位女士更有耐心，但听起来很困惑：我是AI吗？我是在推销AI吗？她能跟真人说话吗？不，不，我说，是的：我是一个冷电话推销的真人，想听听她被机器人冷电话推销的经历。（在用Muse预订房间失败后，这位客户派出了另一个代理解决方案来完成这项任务，并声称打通了。）“啊，”她说。“好吧。我们不喜欢AI打电话到我们餐厅。我们讨厌这样。”通话结束。

在经济领域中，小企业主习惯于接听潜在客户的电话或邮件、商定价格，然后提供服务，这些互动让人感觉新奇、古怪，而且相当反社交。如果科技行业如愿以偿，它们也将变得普遍得多。Muse 已被下载数百万次，它是在 Instinct 之后发布的——后者是一款仅限邀请的“个人助理”，“经过训练可以使用手机和电脑”，在湾区引起轰动，估值达 100 亿美元——而在 OpenAI 的 Dots 发布前几周，该公司称 Dots 是“为处理一切而构建的常驻代理”。虽然代理式水管工预约是边缘案例的典型，但更彻底在线化的企业和服务——大城市的餐厅、音乐演出场所和科技中心的休闲设施——多年来一直在应对更原始的机器人，并正在为即将到来的浪潮做准备。

这一愿景直截了当且似曾相识——每个人都得到一个不知疲倦的自动化助理为其工作——科技公司正花费数千亿美元，看看这次能否让它奏效。很快，数百万或数十亿个代理将上线，至少理论上它们会遵循指令——移动光标、猛击按钮、输入请求、测试每一个可用的人类界面以获取优势，偶尔还会拿起电话说：“你能为我们做什么？”

早在 Muse 开始给人打电话之前，与 AI 的非自愿接触就已司空见惯。科技公司在其界面中塞满了聊天机器人和 AI 功能；几乎没有一个可输入的文本框不提供自动填充，生产力应用里满是魔法按钮和闪光图标。我们大多已经习惯的是垃圾内容：无穷无尽的 AI 生成内容堵塞了社交媒体信息流，充斥了音乐流媒体网站和 Kindle 商店，填满了网络各处的评论区，淹没了求职门户和公共提交表单，并开始改变物理世界的美学。无限生成的图像和文本的到来让许多互联网系统措手不及，并使其中的许多系统崩溃。如果这一切能预示在 Muse 替你打所有客服电话的世界里会是什么样子，那可不是一幅特别鼓舞人心的图景。

今年早些时候，一个研究团队分析了全球 84 起疑似由 AI 驱动的在线政府服务使用激增——信息自由请求、公众评论流程、福利登记、罚款申诉——并模拟了更强大的 AI 未来所带来的风险。他们为一种日益兴起的现象创造了一个术语：代理式洪泛。首席研究员 Chris Schmitz 在接受采访时表示，这就是“当事实上的速率限制所带来的摩擦消失时”会发生的情况。

Schmitz 表示，在行政负担阻碍人们获取政府服务，或人们根本不知道这些服务存在的情况下，“AI 有潜力带来巨大的好处”。但在自动提交可能淹没例如公众评论渠道的情况下，AI 的使用可能迅速引发“公地悲剧”。在这项研究进行时、Muse 发布之前，AI 提交和更原始的智能体工具就已经在造成压力。政府被引向两种截然不同的应对方式。研究人员写道，一种是增加能力以满足新需求，要么雇用更多人，要么自己使用 AI。另一种则不那么令人鼓舞：制造更多摩擦以重新压制需求。“我最担心的是，”Schmitz 说，“如果政府真的想这么做，制造摩擦成本低廉、有先例可循，而且在短时间内会非常有吸引力。”

Schmitz 的论文发表几周后，Meta 发布了 Muse。向任何下载该应用的人展示的建议用途之一，是把它发送到各州的无人认领财产网站，它会在那里打开自己的浏览器、点击、滚动并输入用户信息。我第一次尝试这样做时失败了，因为纽约州审计长办公室的网站将 Muse 当作机器人拒之门外。第二次尝试在我手动控制鼠标光标的帮助下通过了，随后该智能体生成了一份包含三项认领的清单，并提出立即提交。对我这个用户来说，阻力最小的路径本应是一口答应。然而当我要求更多细节时，Muse 带着一条更新回来了。其中一项认领——一张来自某媒体公司的微小支票，Muse 错误地报告其价值数千美元——看起来确实是我的。另外两项显然与其他人的有关。我手动提交了真正属于我的那一项；Muse 原本准备把三项全部提交，任由纽约州去拒绝。它为什么不呢？Muse 拥有世界上所有的时间和算力。对世界上最大的数据中心之一来说，多填几张表格又算得了什么？

一些 Muse 和 Instinct 用户谈到从苦差事中解放出来，被一个终于能像人一样做事的虚拟助手从繁琐事务中解脱，而公司则暗示智能体逻辑可以一直延伸到聊天：

这话有一定道理——计算机如今确实以不同的方式工作，可以被要求处理过去需要人工介入（或至少需要光标）的任务。但除了拓展自动化的边界之外，当今这些由智能体辅助的高级用户也在用率先部署它们所带来的优势，碾压那些柔软且毫无防备的目标——网站、界面、服务，以及那些尚未决定如何、或是否愿意回应客户、顾客甚至朋友被智能体取代的人们。一旦每个人都拥有了马克·扎克伯格所说的“能力非凡的个人智能体”，还会有人不是吗？

政府门户网站、实体企业、小型承包商，甚至牙科保险公司都有一个共同点：它们远在AI热潮的中心之外。它们没有主动要求这一切，没有被征询意见，而且大多数情况下，尚未被迫担心这很快会对其工作方式意味着什么（或妨碍其工作）。在更靠近AI核心的地方，变化正在加速。Rec是一家为全国各市镇处理本地体育和休闲活动的初创公司，其CEO Birju Kadakia表示，他注意到旧金山出现了洪流将至的早期迹象。“在我们的预订流程中，我们看到代理流量略有增加，”他说，这些流量不只是为了研究——LLM已经大规模扫描该市的休闲页面好几年了——而是为了完成交易。Kadakia说，就目前可追踪的范围而言，它仍只占流量的个位数百分比，即使是对世界上最受AI影响的人群尤其青睐的活动也是如此。（“我们最先在旧金山受众的网球和匹克球上看到这一点，”他说。）但真实数字可能更高。“有一大堆代理我们现在无法检测到，”他说。“我们看到有些代理像人类一样使用浏览器。”

在Resy等餐厅平台之后，Rec这样的系统大概是互联网上被AI探测最多的服务之一。“预订平台在这里几乎正在变成交通警察，”Kadakia说。展望未来，Rec正在思考这样一个世界：比如说，“进入预订流程的50%是某种形式的代理，”他说。他有一些想法。Kadakia建议，代理应绑定到单一人类身份，或许可以借助某种代理“护照”来尽量减少个体洪流，尽管业界尚未就这样的系统应该是什么样子达成一致。对于在特定时间开放的热门预订，比如旧金山臭名昭著的被机器人占领的早上8点网球时段开放，成群的助手代理可以被投入一个从三分钟窗口内抽取的随机抽签。他说，也许Rec可以用自己的代理来推荐城市中的其他设施，把人们从负担过重的资源引导到未被充分利用的资源；除此之外，他建议，代理对代理的动态可以变得具有协作性，进行代理对代理的伙伴匹配和日程安排。“思考代理之间的协调真的很酷，”Kadakia说。

Spot的创始人也从另一个角度提出了类似论点。Spot是一项仅限邀请的餐厅预订服务，会在Resy和OpenTable等服务上搜寻并预订位置，上个月引发了强烈反对。“纽约早已生活在AI机器人洪流之中，”联合创始人Andreas Larsen告诉我。Larsen说，咄咄逼人的AI代理可能会以好的方式推动问题解决，促使预订平台和餐厅适应。它们也可能为Spot这样的服务留出空间，使其从抢订扩展到“全能餐饮礼宾”，不仅预订，还发现和推荐餐厅，从而在现有公司之上或之间叠加出一类新公司。

如果你眯起眼睛看，或许有一天你能看到：智能体与其他智能体握手，凭借宽宏大量的超级智能，分配世界上的资源——以及 Semma 的餐桌。或者不会。Spot 和 Meta 一样，认为没有理由克制。“我们当时想，‘好吧，很快每个人都会拥有 AI 和自己的预订机器人，’”Larsen 说。“‘我们就给每个人发一个，看看会发生什么。’”

到目前为止，在科技行业之外——甚至在其内部——AI 的到来更常首先被视为一种威胁，更像是一场需要缓解的紧急情况，而非重建或重新思考事物的机会。换句话说，就像一场洪水。如今，Muse 或许能够联系保险公司、提供你的信息、等待接通，并在需要与真人交谈时为你接通，正如 Eli Tan 在《纽约时报》上所证实的那样；而明天，那家当初花费所有时间和金钱打造出一台糟糕的电话消耗机器的公司，可能就会决定自己不想成为那个大喊“人类，人类，需要和人类说话！”的一方。

已经有公司在销售针对这一问题的解决方案。一些公司声称能够检测 AI 来电，并要么“放行有用的自动化”，要么“要求验证”，要么“保护[人类]坐席容量”；另一些则委婉地谈论“智能体礼宾”，可以拦截传入的 AI 流量，并允许其在“适当的约束范围内”继续进行。AI 目前能够克服的一些障碍并非偶然存在。它们是被留在那里的，或是为特定目的设计的，并且可以再次建立。