arXiv cs.AI· Kalin Stoyanov, Nina Ilieva·· 11 小时前AI 评分21
伦理视角下的 LLM 辅助科研：负责任委托、验证与认知价值框架
Ethical LLM-Assisted Research: A Framework for Responsible Delegation, Verification, and Epistemic Value
AI 导读
一篇 arXiv 论文提出 LLM 辅助科研的规范框架，将科学推理视为人机分布式过程，区分内容来源 O(g)、人工验证完成度 V(g)、责任分配 R(g)、可问责的人类所有权 M(g) 与认知结果 E(g)。核心主张是伦理边界主要由充分验证与可问责的人类所有权决定，而非机器参与程度本身，并据此提出“认知审计”概念，用于结构化记录委托、验证、来源与责任。
正文 · AI 翻译
摘要：大语言模型（LLM）正日益成为科学研究的常规工具，协助进行文献综合、假设提出、编码和形式推理。其使用引发了一个核心的认识论问题：当部分科学推理被委托给人工系统时，必须有哪些条件仍处于人类控制之下，由此产生的知识主张才能保持认识论上的正当性和可问责的作者身份？本文提出了一个用于分析此类委托的规范性与概念性框架。科学推理被视为一个分布式过程，其中贡献的来源可能在人类与机器之间变化，而将其接纳进科学记录的责任仍由人类承担。该框架区分了内容来源 $O(g)$、人类验证的完成 $V(g)$、责任分配 $R(g)$、可问责的人类所有权 $M(g)$ 以及认识论结果 $E(g)$。这些构念将一项主张的来源与其被核查的过程、该核查的认识论结果以及附加于其处置的人类责任区分开来。核心命题是：LLM 辅助研究的伦理边界主要取决于充分的验证和可问责的人类所有权，而非机器参与的程度本身。在此基础上，本文提出了 \emph{认识论审计}的概念：一种对委托、验证、来源和责任的结构化记录，旨在使 AI 辅助的推理透明且可审查。由此形成的框架提供了一套形式化词汇，用于区分负责任的认知委托与科学研究中认识论责任的转移或忽视。
| 评论： | 这是 submit/7664457 的重大修订版本。我对稿件进行了大量修订，以阐明其学术贡献、强化形式化框架和文献基础，并删除或重新表述了支持不足的主张 |
| 主题： | 人工智能（cs.AI） |
| MSC 分类： | 68T01 |
| ACM 分类： | I.2.0; K.4.1; K.7.4 |
| 引用为： | arXiv:2608.23644 [cs.AI] |
| （或本版本使用 arXiv:2608.23644v2 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2608.23644 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Kalin Stoyanov [查看电子邮件]
[v1]
2026年8月24日星期一 07:13:34 UTC（27 KB）
[v2]
2026年10月20日星期二 11:20:17 UTC（14 KB）
来源：arXiv cs.AI · arxiv.org