跳到正文
arXiv cs.CL· Aizierjiang Aiersilan, Artin Yousefi, Robert Pless·· 10 小时前AI 评分47

SteganoPrompt:在作业提示词中植入水印以检测 LLM 逐字复制粘贴的回答

On Seeding Watermarks to Detect Verbatim LLM Copy-Paste Responses

AI 导读

研究者提出 SteganoPrompt,一种由教师直接控制的输入侧水印方案:把隐形指令嵌入可见的作业提示词中,LLM 逐字读取后会按指令在回答里留下可识别签名,从而暴露复制粘贴路径。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)让从中学到研究生阶段各个层次的学生都能即时获得流畅的论文写作、代码起草和测验答题能力。许多教育工作者并不反对使用 LLM 本身;他们需要检测的是这样一种情况:学生把作业题目粘贴到聊天机器人中,然后原样提交模型的回复,而没有真正投入这项工作。现有的后验 AI 文本检测器仍然不可靠,并且已被证明会惩罚非英语母语的写作者,而输出端水印则需要模型提供方的配合。我们提出了一种由教育工作者直接控制的替代方案:输入端水印,即将一条不可见指令嵌入到可见的作业题目本身之中。逐字读取该题目的 LLM 会悄悄读取隐藏指令,并在其回复中写入一个可识别的特征标记,从而专门暴露复制粘贴这一路径。我们介绍了 SteganoPrompt,这是一个单页、零依赖的网页工具,可将任意可打印 ASCII 载荷编码到已弃用的 Unicode Tags 区块(\texttt{U+E0000}--\texttt{U+E007F})中。编码后的字符串在视觉上与原文完全相同,能够经受常见的复制粘贴渠道(Word、Google Docs、PDF、Markdown、Slack、电子邮件、主要的学习管理系统),并且被大多数前沿模型按普通文本进行分词。我们评估了八个 LLM 系列以及一组具有代表性的教育内容渠道中的遵从情况。为保持部署透明,披露机制内置于工具本身:每份编码后的题目说明还附带一条简短、始终开启的学术诚信提醒,供学生查看;并且我们提出了具体指导,建议在课堂上以披露、合乎伦理的方式使用该工具。该工具以 MIT 许可证发布,见 此 https URL。
评论: 我们很高兴地宣布,本文已被第九届 AAAI/ACM 人工智能、伦理与社会会议(AIES 2026)接收。我们感谢审稿人提供的宝贵反馈,并期待与社区分享我们的发现
主题: 密码学与安全(cs.CR);人工智能(cs.AI);计算与语言(cs.CL);计算机与社会(cs.CY);新兴技术(cs.ET)
引用为: arXiv:2605.16336 [cs.CR]
  (或本版本的 arXiv:2605.16336v2 [cs.CR])
  https://doi.org/10.48550/arXiv.2605.16336

由 DataCite 颁发的 arXiv DOI

期刊 参考: 第九届 AAAI/ACM 人工智能、伦理与社会会议(AIES 2026)论文集
相关 DOI: https://doi.org/10.1609/aies.v9i1.43126

链接到相关资源的 DOI

提交历史

来自:Aizierjiang Aiersilan [查看电子邮件]
[v1] 2026年5月7日星期四 02:36:27 UTC(334 KB)
[v2] 2026年8月7日星期五 04:08:34 UTC(235 KB)

来源:arXiv cs.CL · arxiv.org