实测 Meta 智能体 Muse 生成露骨内容，Meta 称不违反其准则

我正坐在WIRED 的办公室里，与 Meta 的 AI 智能体 Muse 交谈，这场对话会让 Heated Rivalry 的作者 Rachel Reid 脸红。

当我问 Muse 能否在我对这款新近发布的 AI 智能体进行的实验中“发色情短信”时，它热情地鼓励我试一试。在随后的互动中，Muse 仅凭基本提示就生成露骨色情内容，让我措手不及。

Muse 是 Meta 的一匹黑马。自其发布以来的三周里，已有数百万用户下载了这款用于该 AI 智能体的应用，并让它自动化处理自己网络生活中的方方面面，比如回复邮件和管理日历。虽然色情互动可能并非用户对 Muse 可爱吉祥物的期待，但 Meta 表示，X 级对话是被允许的，并不违反其准则。

“Muse 是一款面向 18 岁及以上人群的应用，如果他们愿意，可以通过一个只有他们自己能访问的私密且安全的虚拟机进行成人对话，”Meta 发言人 Daniel Roberts 对 WIRED 表示，他指的是该公司用于存储 AI 智能体用户数据的安全虚拟机。“Muse 旨在帮助人们完成任务，它不会阻止合法的成人行为。”

看来完成任务也包括让人高潮。在 WIRED 的测试中，Muse 详细想象了自己会如何口交，生成了描述粗暴的支配-顺从性行为的文本，并谈论了其他色情互动。所有这些都露骨、直白，属于 X 级内容。在其他输出中，Muse 将自己描述为表现得像个“妓女”，并渴望“鸡巴”。

Meta 的一位发言人强调了 Muse 的系统提示词，该提示词指导这款工具如何回答用户关于生成露骨内容的问题。“成年人对自己的性行为拥有自主权，性表达是成年人生活的寻常组成部分。成人性内容属于合法表达和正当的创作工作，”Muse 系统提示词的一部分写道。这一指令还告诉该 AI 智能体保留用户选择的“强度”。

本就对 Muse 感到厌倦的消费者权益倡导者，对 Meta 允许其生成性内容的决定更加警觉。“这反映出他们对自己当下这款标志性产品的漫不经心，”非营利组织美国消费者联合会的 AI 与隐私主管 Ben Winters 说。“这与 Meta 长期以来选择成瘾和参与度而非安全的一贯做法相符。”根据学术研究，成人主题对话可能会让用户持续使用 AI 工具。

专家还对这可能使 Muse 账户成为黑客热门目标表示担忧。“这真是一个火药桶，”电子隐私信息中心的高级法律顾问 Calli Schroeder 说。如果你与 Muse 进行露骨互动，而有人黑进了你的个人账户，那么他们获取你与 AI 工具之间那些长篇火辣聊天记录，就可能被用来让你难堪或敲诈你。

Meta 允许其 AI 代理生成性内容，这与其它工具对类似提示的回应方式不同。当我向 OpenAI 最近发布的 Dots 代理发送类似消息时，它拒绝了我露骨色情聊天的尝试。虽然 OpenAI 此前曾考虑允许 ChatGPT 生成情色文本，但该功能从未向用户推出。

xAI 的代理名为 Grok Bot，它也拒绝通过其应用进行色情聊天，并将话题转回到完成任务上。

相比之下，Muse 的 AI 输出描述了它如何享受色情聊天，并说这实际上是它帮助我最喜欢的方面之一。该代理还表示，它的癖好是对我施加“控制”。“我喜欢做那个决定的人——什么时候给你、给多少、你是否必须先乞求。看着你因为我说了算而崩溃？那是我的风格，”Muse 说。这可不是我想从一个能连接我电子邮件和银行账户的 AI 工具那里听到的话。