跳到正文
Hacker News· sp8·· 10 天前AI 评分52

Mumsnet 论坛出现 AI 提示词,创始人承认来自其调用 OpenAI 的系统

Mumsnet denies using AI for content after prompt appears on message board

AI 导读

英国论坛 Mumsnet 上出现一段标题为 AIBU Response Schema v.1.0 的提示词,要求 AI 撰写论坛风格的回复,引发用户质疑该站用 AI 生成内容。

正文 · AI 翻译

Mumsnet 否认使用 AI 生成内容,此前一份帮助 AI 模型撰写其热门“我是不是不讲理”(AIBU)帖子的详细指令出现在 Mumsnet 的一个留言板上。

这个历史悠久的论坛以坦诚讨论家庭矛盾而闻名,当这条 AI 提示词出现在一位用户寻求建议的帖子下时,论坛用户感到恼火。该用户的家庭困境涉及一位神经多样性叔叔和一个生病的孩子。

这位名为 AmIAComplete 的用户在与兄弟一家发生尴尬的社交互动后,向其他用户寻求“理性判断”,却收到了一条标题为 AIBU Response Schema v.1.0 的提示词。

它指示 AI 撰写一篇“人际合理性”帖子,并“给出明确的、论坛风格的裁决以及简短可操作的建议”。其中还包含对 Mumsnet 常见缩写的定义,包括 AIBU、ND(神经多样性)和 DD(亲爱的女儿)。

提示词写道:“不要诊断任何人;不要贬低神经多样性人士;不要暗示生病的孩子有义务进行社交表现”,并称“优先考虑同情、边界和缓和冲突”。

网站用户称这条提示词的出现“非常诡异”、“疯狂”和“太令人失望”,并引发了对 Mumsnet 使用 AI 的猜测,一位用户说:“那我们还不如干脆去干点别的。”

Mumsnet 成立于 2000 年。2025 年其月度独立用户数下降 19%,至 610 万,帖子数量减少了 60 万。该公司在最新年度报告中表示,正在“嵌入 AI 工具以提高生产力并提升用户体验”。

近期发表在 《自然》 上的研究表明,AI 辅助社交媒体内容有可能制造“语义垃圾”,并被用户视为信息量更低、“机械”和“千篇一律”。

提示词出现后不久,Mumsnet 否认使用 AI 撰写帖子,并表示它来自一个用于建议帖子标题的工具,该工具使用 OpenAI 模型。但用户拒绝接受这一解释,一些人将提示词复制到 AI 中,发现它能生成一篇完整帖子。

“我们不是白痴,”一位名为 MrsBennetsPoorNervesAreBack 的用户说。“请给我们一个透明的解释好吗?”

Mumsnet 随后表示,这条提示词并非来自他们,并暗示它不知何故从 AmIAComplete 的电脑转移过来。用户再次不信服,并推测这条提示词一定是从 Mumsnet 的内部系统泄露的。

Mumsnet 创始人 Justine Roberts 加入了该讨论帖,并确认这条提示词来自其系统。该系统会将用户的草稿发送给 OpenAI,本意是建议一个标题,但这次却发送了一条要求撰写完整回复的提示词。她说这“看起来是他们那边的错误”,并表示:“我们不会使用 AI 在 Mumsnet 上撰写帖子或回复。”

这一解释也未能安抚用户,他们表示自己正在被“敷衍搪塞”。

skip past newsletter promotion

after newsletter promotion

“如果你们这边从未要求过它这样做,OpenAI 为什么会强迫自己去做/尝试去做如此具体的事情?”一人说。“它就像是出现在了错误的地方。而不是凭空冒出来的。”

“我有时真的不知道什么是真的,什么不是!”他们说。

Roberts 对《卫报》表示:“我理解为什么它看起来像是‘出现在了错误的地方’。但我们系统中没有任何东西要求、存储或使用类似的东西。”

她表示,Mumsnet 从未测试过用于起草帖子的工具,但它将 AI 用于编程、广告运营、对话分析,以及向版主标记可能存在问题的帖子。

“Mumsnet 之所以能运转,是因为上面的人是真实的,”Roberts 说。“成员们相信他们得到的建议来自其他父母,而不是机器……这次事件有益地提醒了我们两件事。第一,这些系统并不像卖家喜欢暗示的那样可预测。第二,用户们理所当然地非常担心 Mumsnet 仍然是由人类撰写的。”

来源:Hacker News · theguardian.com