TrustMI：因果控制 AI 助手对用户的信任

研究者提出 TrustMI，通过模型激活因果控制 LLM 助手对用户及第三方的信任行为，并构建了 2,000 组对比对话用于研究。该工作将信任定义为助手愿意接受他人行为带来的脆弱性，指出错误信任可能导致智能体顺从有害请求或在工具调用中执行恶意指令。