arXiv cs.CL· Ruoxi Su, Yuhan Liu, Jingyu Hu·· 11 小时前AI 评分52
研究:一小时 LLM 访谈只能提取性格特质,无法预测个人决策
What a One-Hour Interview Does Not Tell an LLM About You: Interviews Elicit Traits, Not Decision Policies
AI 导读
一项 arXiv 论文测试一小时 LLM 主导的自适应访谈能告诉模型多少关于个人价值取向决策的信息:46 名成年人完成访谈后回答 25 道两难问题作为真实答案,结果显示访谈任何部分都不比无信息基线和多数答案基线更可靠,自适应追问也不优于固定问题。
正文 · AI 翻译
摘要:大型语言模型越来越多地被要求代表特定的人,而访谈本人是让模型了解他们是谁的自然方式。我们测试了一场由 LLM 主导、时长一小时的自适应访谈能让模型了解到一个人的哪些价值取向决策。46 名成年人完成了这样一场访谈,随后回答了 25 道两难问题,这些答案即为真实基准。我们从转录文本的不同部分预测他们的答案,将自适应追问与针对同一批参与者的固定问题进行比较,并将每种变体与一个未获得该人任何信息的模型以及多数答案基准进行对比。访谈的任何部分都没有可靠地优于这两个基准,自适应追问也不比固定问题更好。对转录文本的两项审计揭示了原因。对于 85% 的错误,审计员找不到任何能将此人的选择与备选项区分开的证据;而在转录文本确实包含相关证据的情况下,其所倾向的选项与此人自身答案一致的概率低于多数答案。同样的转录文本确实能提高对当事人 MBTI 类型的还原准确率。这类访谈引出的是特质,而非决策策略。我们讨论了决策感知式引出需要具备什么条件,以及为什么不应将价值取向决策委托给人格智能体,并公开了同意参与的参与者的转录文本及所有预测结果。
| 评论: | 25 页,5 幅图,27 张表。大幅修订版:新标题、第二个队列(N=46)、受试者内固定追问对照、零上下文与多数答案基准,以及两项转录文本审计 |
| 主题: | 计算与语言(cs.CL);人工智能(cs.AI) |
| ACM 分类: | I.2.7 |
| 引用为: | arXiv:2605.29458 [cs.CL] |
| (或本版本使用 arXiv:2605.29458v2 [cs.CL]) | |
| https://doi.org/10.48550/arXiv.2605.29458 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Ruoxi Su [查看邮箱]
[v1]
2026 年 5 月 28 日星期四 06:53:08 UTC(347 KB)
[v2]
2026 年 10 月 20 日星期二 05:05:53 UTC(123 KB)
来源:arXiv cs.CL · arxiv.org