arXiv cs.CL· Ken Enda, Jien Saito, Masami Mukai, Feng Han, Emir Turkes, Tatsumi Kusakabe, Reona Umeki, Kazuhiro Sumiyoshi, Mitsuya Numata, Takumi Tanikawa, Akira Endoh, Kenji Hirata, Atsushi Yoshida, Kohsuke Kudo, Shinya Tanaka·· 11 小时前AI 评分50
北海道大学医院在院内封闭网络部署 LLENS 大模型智能体平台
The LLENS Platform for On-Premises Large Language Model Agents in a Japanese University Hospital: Development and Evaluation Study
AI 导读
研究团队在北海道大学医院封闭网络内部署了 LLENS 临床支持智能体平台，单机 8 张 NVIDIA H200 GPU 运行约 1 万亿参数的开放权重模型 Kimi K2.6，配套基于 Open WebUI 重建的 Web 应用。
正文 · AI 翻译
作者：Ken Enda、Jien Saito、Masami Mukai、Feng Han、Emir Turkes、Tatsumi Kusakabe、Reona Umeki、Kazuhiro Sumiyoshi、Mitsuya Numata、Takumi Tanikawa、Akira Endoh、Kenji Hirata、Atsushi Yoshida、Kohsuke Kudo、Shinya Tanaka
摘要：使用工具的大语言模型智能体可以承担部分电子健康记录和文书工作，从而减轻医生在这些事务上耗费的时间；但在许多医院，医疗信息系统运行在封闭网络内，因此模型和智能体框架也必须部署在内部。我们设计、实现并部署了 LLENS，这是一个临床支持 AI 智能体平台，运行于北海道大学医院的封闭网络内，部署在单台配备 8 块 NVIDIA H200 GPU 的主机上，采用开放权重模型 Kimi K2.6（约 1 万亿参数），以及基于 Open WebUI 重建的 Web 应用。该框架包含 10 个组件，包括页面图像读取、全文附件输入、无向量索引的路径寻址文档树、网络隔离沙箱、产物返回、生成输出自检、子智能体以及保存的流程。Kimi K2.6 从 3 个开放权重候选模型中选出，在 2026 年日本医师国家考试中得分 480/500；单用户生成速度为 119 tokens/s，并以总计 908 tokens/s 服务 16 个并发请求。在针对医院文档的 180 道问题（每个 3 个随机种子）上，无文档时平均准确率为 10.7%，固定检索（一次词法搜索的前 10 个片段）时为 81.3%，交互式访问时为 97.2%，即模型使用文档工具和沙箱进行阅读（比固定检索高 15.9 个百分点，95% CI 10.9-21.3）；差异体现在过滤/计数类问题上（16.7% 对 87.8%）。使用合成数据的五个场景在组件组合上运行：针刺伤响应、批量不良事件分级、扫描转诊信转录、跌倒数据汇总与绘图，以及由子智能体调查 3 个主题。该平台自 2026 年 9 月 14 日起在医院网络上运行。
| 评论： | 49 页，3 幅图，6 张表，附补充材料。已投稿至 JMIR Medical Informatics |
| 主题： | 计算与语言 (cs.CL)；人工智能 (cs.AI) |
| 引用为： | arXiv:2610.32151 [cs.CL] |
| （或 arXiv:2610.32151v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.32151 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ken Enda [查看邮箱]
[v1]
2026 年 10 月 23 日星期五 04:34:26 UTC（1,861 KB）
来源：arXiv cs.CL · arxiv.org