跳到正文
10月16日周五
  1. arXiv cs.CL39

    当评审一致却出错:一致性-准确率解离成为无标签评估的盲区

    研究直接检验了"一致性可代理正确性"这一无标签评估假设,使用四个金融问答数据集、十个一致性维度和两个前沿模型族,在单样本层面测量一致性与准确率的联合分布。结果显示,60% 的错误答案落在高一致性区域(一致性 ≥ 0.8),其中 77.7% 出现完全答案坍缩,即所有扰动变体给出相同错误答案。

  2. arXiv cs.AI42

    Sci$\Pi$vot:科学 AutoResearch 智能体关键决策时刻的首席研究员判断基准

    研究者构建了 Sci$\Pi$vot,一个基于人类纠正记录的 248 例科学判断基准,源自资深研究员六个月内在 26 个项目上对 LLM 智能体的反复干预。在提供项目记录的中等推理强度下,五个前沿模型中有四个低于随机水平,最高准确率 63.5%,低于新手的 73.4%;且各模型带项目记录的准确率反而低于不带记录时,重新考虑也未能稳定提升表现。

  3. arXiv cs.CL36

    PremiseCheck:高效核查人类与 AI 同行评审中的事实错误

    研究者提出 ReviewFact 基准,在 NLP、机器学习与自然科学领域用统一定义标注评审意见中的事实错误,并同时衡量成本与延迟。PremiseCheck 框架让 LLM 在不读论文的情况下把每条评审意见改写为显式前提,再由决策模型逐条对照论文核查。单条核查时,其在三个领域准确率与 GPT-5.5 相当而成本约为一半,NLP 评审上成本降至四分之一、延迟不到一半。

  4. arXiv cs.CL24

    APRiL:面向大语言模型中文社交意识的开源基准

    研究者推出 APRiL,一个面向中文社交意识的开源基准,包含 2,196 个社交意识评估实例,覆盖六类场景与社交场景分析、社交意识回应两项任务。在来自六个模型家族的 12 个模型上测试发现,模型普遍存在"理解到回应"的落差,高质量场景分析能提升回应质量,而弱分析可能拉低回应质量。数据与代码已公开。

  5. arXiv cs.AI32

    AlphaDiana:面向智能体可验证推理任务的测量系统

    AlphaDiana 是一个模块化测量系统,通过数据集、智能体、环境和评分器的接口,在保留 harness 原生控制循环的同时分别控制文件复用与记忆保留。研究用 3 个开源模型和 3 个开源 harness 在 5 个答案型基准上测试,发现 harness 并不能稳定提升推理准确率:在模型单独答错的问题上取得的增益,可能被其原本答对问题上的损失抵消。

  6. arXiv cs.AI30

    基准饱和后如何评估模型能力:任务转录仍保留能力信号

    研究探讨基准分数饱和后能否用任务转录评估模型能力,通过历史基准与模型发布回溯模拟饱和场景,测试仅访问已饱和基准中正确解答转录的协议能否预测未饱和留出项上的能力。结果显示饱和转录仍保留超出基准准确率的能力信息,其中成对评判表现最佳,预测误差比仅用饱和基准分数的基线降低 5.3 倍,但预测能力在分布偏移下并不总能泛化,例如会低估 2025 年初首批推理模型的能力。

  7. arXiv cs.MA22

    从迁移到校准:让 AI 智能体对齐部署需求

    论文提出面向部署目标的智能体校准框架,主张校准应让智能体满足目标环境需求,而非模仿来源或追求通用最优。框架定义三类标准族(基础能力与可操作性、技术与专业精度、用户上下文),并用版本化映射区分需保留、转换、新增或淘汰的需求。作者强调这是方法论提案,仅含部分调和的试点证据,确认性验证与超 80% 零样本任务上下文接受目标仍未完成。

  8. arXiv cs.MA34

    MasDrift:跨多智能体架构的授权保持基准测试

    研究者推出 MasDrift 基准,包含 8 个领域的 600 个良性生产力任务,用于评测多智能体系统在委派任务时能否保留原始授权边界。测试显示,集中式层级架构任务完成率达 93.9–98.6%,高于对等网络的 85.7–87.0%,但未授权操作占比 2.7–19.8%,远高于后者的 0.6–0.8%,且差距随层级加深而扩大。

  9. Tessl Blog50

    Tessl:75% 的 PR 已无需人工审查即可合并

    Tessl 工程团队用 Tessl Code Review 审查其单体仓库每周超 1200 个智能体编写的 PR,约 75% 的 PR 无需人工修正即可合并。该工具基于团队自有编码规范审查,发现的问题中 91% 为真实缺陷,高于此前 AI 审查工具的 68%,每个 PR 修复的真实 bug 数量翻倍(1.56 对 0.75),单 PR 审查成本降低 35%。

  10. RadarAI78

    可灵 Kling 4.0 上线:支持30秒一镜到底,作者实测动态与全能参考

    可灵 AI 凌晨上线视频模型 Kling 4.0,支持最长 30 秒直出和最多 10 帧的多帧参考,并强化全能参考与大范围动态表现。作者烧数万积分实测城市追逐、电梯打斗、花样滑冰等场景,认为纸箱形变等细节体现物理规律理解的提升。

    同一新闻,精选展示《快手可灵 AI Kling 4.0 全量上线,单次生成视频最长 30 秒》