跳到正文
arXiv cs.AI· Michael Hind, Basel Shbita, Bo Wu, Farhan Ahmed, Chad DeLuca, Nathan Fulton, David Cox, Dan Gutfreund·· 2 天前AI 评分22

LLMON:一种 LLM 原生标记语言,在 LLM 接口中利用结构与语义

LLMON: An LLM-native Markup Language to Leverage Structure and Semantics at the LLM Interface

AI 导读

研究者提出 LLM 原生标记语言 LLMON(LLM Object Notation),用于向 LLM 传递文本的结构与语义元数据,可应用于模型训练、提示和推理实现,以提升模型准确性、安全性与安全性。该工作讨论了 LLM 原生标记语言的设计要求,并给出 LLMON 在训练与推理两类用例上的初步实证证据。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:文本大语言模型(LLM)提供了一个简单且熟悉的接口:一串文本同时用于输入和输出。然而,传递给 LLM 的信息往往具有更丰富的结构和语义,而这些并未在字符串中体现。例如,大多数提示词同时包含指令(“将这篇论文总结成一段话”)和数据(要总结的论文),但在传递给模型时通常并不加以区分。这可能导致模型混淆和安全风险,例如提示注入攻击。
本工作通过引入一种 LLM 原生标记语言 LLMON(LLM Object Notation,发音为“Lemon”)来解决这一缺陷,该语言能够以自然的方式将文本的结构和语义元数据传达给 LLM。这些信息随后可用于模型训练、模型提示和推理实现,从而提升模型的准确性、安全性和安全性。这类似于编程语言类型可用于多种目的,例如静态检查、代码生成、动态检查和 IDE 高亮显示。
我们讨论了 LLM 原生标记语言的一般设计要求,介绍了 LLMON 标记语言并展示其如何满足这些设计要求,描述了 LLMON 工件中包含的信息如何有益于模型训练和推理实现,并为其在这两个用例中的价值提供了一些初步的实证证据。我们还讨论了 LLM 原生方法所开启的更广泛的问题和研究机会。
评论: 28 页
学科: 软件工程(cs.SE);人工智能(cs.AI);编程语言(cs.PL)
引用为: arXiv:2603.22519 [cs.SE]
  (或使用 arXiv:2603.22519v4 [cs.SE] 查看此版本)
  https://doi.org/10.48550/arXiv.2603.22519

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Michael Hind [查看电子邮件]
[v1] 2026 年 3 月 23 日星期一 19:27:35 UTC(137 KB)
[v2] 2026 年 3 月 30 日星期一 20:39:09 UTC(135 KB)
[v3] 2026 年 10 月 13 日星期二 23:40:21 UTC(186 KB)
[v4] 2026 年 10 月 15 日星期四 02:24:57 UTC(186 KB)

来源:arXiv cs.AI · arxiv.org