跳到正文
arXiv cs.AI· Zihan Fang, Ron Asoulin-Handelman, Helen Wu, Yu Huang, Gina R. Bai·· 12 小时前AI 评分24

TestCompass:不生成测试的 AI 如何引导单元测试学习?一项对比研究

Can AI Guide Testing Without Generating Tests? A Comparative Study of AI-Assisted Unit Testing

AI 导读

研究团队推出生成式 AI 导师 TestCompass,只针对学生测试套件的薄弱点给出反馈,不生成可执行测试。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:生成式 AI 的最新进展使助手能够生成日益复杂的可执行单元测试。然而,新手可能会直接接受这些输出,而不会独立判断应该测试什么、评估测试套件的完整性或验证正确性,这可能限制他们培养基本测试技能的机会。尽管已有研究探索了 AI 辅助测试生成和面向反馈的编程导师,但关于 AI 能否在不替新手生成测试的情况下支持其测试实践,目前仍知之甚少。为探究这一问题,我们推出了 TestCompass,这是一个生成式 AI 导师,它针对学生测试套件中的薄弱环节提供有针对性的反馈,而不生成可执行测试。在一项有 18 名学生参与的课堂研究中,我们在两个 Java 单元测试任务中比较了 TestCompass 与通用 AI 助手,考察了学生的测试行为、测试套件质量和主观体验。我们发现,使用通用 AI 助手的参与者生成了更多测试,而 TestCompass 的参与者则花了更多时间自行开发和验证测试。然而,大多数测试套件质量指标在两种条件下相当,并且在一个任务中,TestCompass 参与者以显著更少的测试方法($p=0.012$)实现了相似的需求覆盖率。两组均未报告在感知测试知识或信心方面有短期提升。这些发现表明,面向反馈的 AI 可以在保留动手测试实践机会的同时支持有意义的测试成果,为 AI 辅助测试教育提供了一种互补方法。
评论: 10 页,2 幅图
主题: 软件工程(cs.SE);人工智能(cs.AI)
引用为: arXiv:2610.36185 [cs.SE]
  (或 arXiv:2610.36185v1 [cs.SE] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.36185

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Zihan Fang [查看电子邮件]
[v1] 2026 年 10 月 26 日星期一 19:18:29 UTC(2,460 KB)

来源:arXiv cs.AI · arxiv.org