arXiv·· 12 天前AI 评分31
LLM 智能体的欺骗行为能否从内部表征提前预测？
Before Agent Tells The Lie: Has Deception Already Been Represented?
AI 导读
研究探讨能否在 LLM 智能体的欺骗行为外显之前，从其内部表征中预测欺骗。作者将欺骗监控建模为轨迹级表征分析问题，围绕关键决策点对齐智能体轨迹，并利用隐藏状态进行分析。现有监控方法主要在欺骗出现于可观测动作或输出之后才进行检测。
来源：arXiv · arxiv.org