儿童如何设计与推理可信 AI 聊天机器人
How Children Design and Reason about Trustworthy AI Chatbots
研究团队开发了可调节置信度、透明度、正式度、果断性等信任相关特质的聊天机器人搭建环境，115 名 8-18 岁学习者共制作了 119 个聊天机器人。10-13 岁学生设定的置信度显著高于 14-18 岁学生，部分人故意让机器人给出错误答案却仍称其可信，认为机器人只是做了它被造出来要做的事。年幼者将信任等同于目的达成，年长者则将其与透明、校准的设计联系起来，学术类机器人被调得比兴趣类更透明正式。
作者：Deniz Ozturk、Jiayu Li、Daksh Pratap Singh、Yasitha Rajapaksha、Fasika Melese、Bahare Riahi、Shiyan Jiang、Qiao Jin、Joey Huang、Veronica Cateté、Tiffany Barnes、Xiaoyi Tian
摘要：儿童越来越多地与 AI 聊天机器人互动，因此信任校准对 AI 素养至关重要。以往研究主要将儿童对 AI 的信任视为用户对他人构建的系统的评估，而非将其视为自己聊天机器人的设计者。我们开发了一个聊天机器人构建环境，其中包含可调节的信任相关特质（例如自信度、透明度、正式程度、果断性）、规则和人格设定。我们对 115 名学习者（8-18 岁）开展了混合方法研究，他们共制作了 119 个聊天机器人。我们考察了儿童如何配置他们的聊天机器人、如何推理可信度，以及聊天机器人行为与其设计的吻合程度。年龄较小的学生（10-13 岁）设定的自信度显著高于年龄较大的学生（14-18 岁），并且一些学生故意构建会给出错误答案的聊天机器人，却仍称其可信，理由是聊天机器人做了它被构建来做的事。年龄较小的学生将信任等同于目的达成，而年龄较大的学生则将其与透明、校准的设计联系起来。学生们还将学术类聊天机器人校准得比兴趣类聊天机器人更透明、更正式。我们识别出七个设计维度，描述儿童认为什么使聊天机器人可信，并讨论了对 AI 素养工具的意义。
| 主题： | 人机交互（cs.HC）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.25244 [cs.HC] |
| （或 arXiv:2609.25244v4 [cs.HC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.25244 arXiv 颁发的 DOI，通过 DataCite |
提交历史
来自：Deniz Ozturk [查看电子邮件]
[v1]
2026年9月21日星期一 18:02:26 UTC（11,046 KB）
[v2]
2026年9月23日星期三 16:03:34 UTC（11,046 KB）
[v3]
2026年10月6日星期二 16:56:51 UTC（11,046 KB）
[v4]
2026年10月7日星期三 01:59:32 UTC（11,038 KB）
来源：arXiv cs.AI · arxiv.org