arXiv cs.AI· Zhiyu Liu, Xinyu Yang·· 11 小时前AI 评分31
研究：LLM 审计临床预测网络靠的是计算而非权重访问，GPT-6 Astra 在 38,401 权重网络上全部复现植入关系
Computation, not weight access: large language models as auditors of clinical prediction networks
AI 导读
预注册模拟实验显示，GPT-6 Astra 等五个 GPT 模型在配备仅做计算的工具后，于最多 38,401 权重的 Tanh 网络上 29 次运行全部复现植入关系，15 次零假设网络运行无误报，6 次全部找出标签偏倚子组。
正文 · AI 翻译
摘要：据报道，前沿大型语言模型（LLM）能够读取、编辑和写入小型神经网络的权重，这为仅凭文件审计临床预测模型带来了前景。然而，公开演示将读取原始权重与运行代码混在一起。我们在内部预先设定的模拟实验中分离了这些条件。权重从 105 到 38,401 的 Tanh 网络在模拟的蛛网膜下腔出血患者队列上训练，每个队列植入或不植入关系，其中一个网络在某个亚组中低报了死亡的标签上训练。GPT-6 Astra 和另外四个 GPT 模型在默认或明确的系统指令下回答单一提示，要么提示中包含权重且不使用工具，要么使用仅用于计算的工具，该工具暴露权重（白盒）或仅暴露网络的预测（黑盒）。在不使用工具的情况下，Astra 在 353 个权重的网络中恢复了植入的关系，但在 3,457 个权重时变得不可靠，并且在默认指令下，它将 12 项审计和修复任务中的 11 项以无法识别为由拒绝；明确的指令消除了这些拒绝。使用该工具时，它在多达 38,401 个权重的网络上所有 29 次运行中都恢复了植入的关系，在零网络上的 15 次运行中没有发出误报，并在 6 次运行中的 6 次都找到了有偏亚组。黑盒访问的表现与白盒访问一样好，其他 GPT-6 模型的读取也同样准确。一个精心设计的脚本在审计和最佳 LLM 修复方面与对照模型相当。对于审计这些网络而言，重要的是计算和引导，而不是对权重的访问。
| 评论： | 13 页，2 幅图，6 张表。代码、模拟网络、提示和回复：此 https URL |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.07847 [cs.LG] |
| （或 arXiv:2611.07847v1 [cs.LG] 为此版本） | |
| https://doi.org/10.48550/arXiv.2611.07847 arXiv 发布的 DOI 通过 DataCite（待注册） |
提交历史
来自：Zhiyu Liu [查看电子邮件]
[v1]
2026 年 11 月 5 日星期四 11:28:04 UTC（38 KB）
来源：arXiv cs.AI · arxiv.org