arXiv cs.AI· Thomson D. Nguy (Radiant Institute for Manifold Studies)·· 10 天前AI 评分24
语义几何能否教会 AI 判断？四项研究未获可靠行动前判断
Can Semantic Geometry Teach an AI Judgement?
AI 导读
一项 arXiv 研究将动作与策略表示为向量，测试几何测量能否为 AI 智能体的行动前判断提供依据，四项研究均未建立可靠的行动前判断。最终合成研究中，词法路由器找回了全部支配与阻断策略，中位策略检查次数减少 97.7%，但组合流水线仍升级了全部 2,304 个测试动作，包括本应放行的动作。作者据此修正假设，认为 AI 智能体的判断需要构建后果图，该假设尚待验证。
正文 · AI 翻译
作者：Thomson D. Nguy（Radiant Institute for Manifold Studies）
摘要：AI 智能体如何确定应遵循哪些规则？一条规则允许某项行动。另一条规则则施加条件、例外或相互冲突的义务。当这些关系已被明确指定时，确定性系统能够解决它们。当它们隐含在语言中时，智能体可能遵循了一条规则，却遗漏了另一条本应阻止它的规则。拒绝所有未解决的行动可以避免这种风险，但也会阻止本可允许的行动。
我们希望智能体能够做出区分并仍然采取行动。我们最初的假设是，几何测量可以为判断提供依据。我们将行动和政策表示为向量，然后测试它们的几何结构能否识别起支配作用的政策，并解释行动与这些政策的关系。
在四项研究中，所测试的方法均未能建立可靠的行动前判断。在最后一项合成研究中，一个词汇路由器恢复了所有起支配作用和起阻止作用的政策，同时将政策检查的中位数减少了 97.7%。然而，组合后的流水线仍将全部 2,304 个测试行动升级处理，包括那些本应被允许的行动。将每项政策都提供给同一个下游机制并未改变任何决策。找到政策并没有解决解释政策的问题。
这一结果促使我们修正了假设：AI 智能体中的判断需要构建一个后果图。这样的图会将行动者与权威机构同政策条件、例外以及行动将产生的变化连接起来。后续研究将探究，明确这些关系是否有助于智能体区分何时行动、停止或寻求审查。
| Comments: | 16 页，6 幅图。关于行动前判断的语义测量的四项有界研究；后果图假设尚未得到检验 |
| Subjects: | 人工智能（cs.AI） |
| Cite as: | arXiv:2610.07249 [cs.AI] |
| （或 arXiv:2610.07249v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.07249 arXiv 通过 DataCite 颁发的 DOI（待注册） |
Submission history
来自：Thomson Nguy [查看电子邮件]
[v1]
2026年10月5日星期一 18:49:55 UTC（1,905 KB）
来源：arXiv cs.AI · arxiv.org