跳到正文
10月16日周五
  1. The Decoder80

    GPT-6-Astra 在 TheoPhysEval 上解出 50 道物理研究题中的 49 道,单题约 2.40 美元

    一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。

    推荐理由:读者可看到前沿模型在理论物理论文级计算上的实际得分、成本与失败模式,以及作者对科研训练与资源门槛的影响判断。

10月15日周四
  1. arXiv cs.AI24

    Eval4DiRec:面向扩散模型推荐系统的统一系统化评估框架

    Eval4DiRec 是首个专为扩散模型推荐系统设计的统一开源评估框架,支持 5 种推荐场景下的 14 个代表性扩散推荐模型,提供一致可复现的实验设置。基于该框架的大规模基准测试揭示了扩散模型在推荐任务上的强劲潜力,同时暴露了显著影响性能的关键因素与实际挑战。该工作已被 ACM TKDD 接收,代码与数据已公开。

  2. arXiv cs.AI26

    面向陪伴型智能体评测的披露门控用户模拟

    针对 LLM 模拟用户过度配合、被测系统靠提问数量刷分的问题,研究者提出"披露门控"用户模拟器,将信息释放条件化为五级有序门、合并为三个可观测深度层。在已发布陪伴型智能体基准的英文语料上,移除逐样本门控语句会改变 12 个系统的排名且超出种子重跑的噪声带,但各系统分数无明显变化。该模拟器同时满足排名保序与分数尺度稳定两项标准,与已发布排行榜相关性达 0.993。

  3. arXiv cs.AI35

    DBA-Bench:面向 LLM 数据库运维智能体的生产级保真基准

    DBA-Bench 是一个面向 LLM 数据库运维智能体的生产级保真基准,在真实 PostgreSQL 与分布式 TiDB 环境中评估智能体,覆盖 5 个运维域的 231 个有界场景和 10 个持续场景。评测包含 4 个前沿基础模型、2 个开放权重模型和 2 个 GPT-5.5 驱动的数据库智能体,结果显示智能体能定位根因却无法恢复运维目标,即使恢复目标,执行动作也可能违反安全约束。

  4. arXiv cs.AI22

    超越文化人格偏差:以响应几何衡量语言模型与人类

    研究提出用响应几何(各维度间相关矩阵构成的对称正定矩阵)衡量语言模型与人类的文化偏好。在 DeepSeek-V3 和 GPT-4o 中,固定题目顺序时提示的文化人格在 Big Five 得分和响应几何两个层面均显现;随机化题目顺序后响应几何降至随机水平,Big Five 仍能以 95%–97% 区分两种人格。

  5. arXiv cs.AI27

    NoRA:评估视觉第一人称规范动作推理中的可溯源合理性

    研究者推出 NoRA,一个视觉第一人称视频基准,要求模型从零生成候选下一步动作,并通过显式的"事实-理由-动作"支撑图说明理由。该基准包含 1,420 段标注视频片段,分为 HumanGold-190 与 LLMSilver-1230,按动作对齐、事实溯源与支撑绑定三项指标汇总为可溯源合理性分数。

  6. arXiv cs.AI24

    超越提问:评估 LLM 的陈述性知识

    研究者提出"开放知识评估"新范式,不再依赖预设问题,而是用开放式提示词考察 LLM 主动表达的知识,并推出包含 10,000 个实体及参考语料库的基准 BeQu。基于 BeQu 的评测覆盖多种语言模型,分析了推理投入、模型规模、提示词格式和知识领域的影响,数据与排行榜已在 GitHub 发布。

  7. arXiv cs.AI22

    Spec-Harness:评估与引导 LLM 合成的形式化规范超越可验证性

    研究对比经典与基于提示词的 JML 规范合成,发现 22.7% 通过验证的规范完全没有后置条件,且提示词优化无法超越最佳手写规范。为此提出 Spec-Harness 框架,从前置与后置条件的正确性和完整性四个维度衡量规范的行为充分性,结合 Hoare 三元组符号验证与输入/输出变异。

  8. arXiv cs.AI23

    如何测量 LLM 评测中的所有噪声

    研究定义并测量了 LLM 评测中的三类噪声:同一问题生成不同答案的预测噪声、采样问题的数据噪声,以及依据总方差定律合并的总噪声。作者提出 all-pairs comparison 方法,对 LLM 所有配对做成对比较,基于数百万条问题级预测测量各噪声分量。结果显示多数评测在所有模型对上呈现高度可预测的总噪声水平,且成对预测噪声通常大于成对数据噪声,通过平均降低预测噪声可显著提升统计功效。

  9. arXiv cs.AI33

    SoK:系统化 LLM 提示词安全——越狱攻击与防御的分类体系、数据集及统一评估

    一项 SoK 研究系统梳理了 272 项 LLM 提示词安全研究,提出越狱攻击、防御与模型漏洞三套多标签分类体系,并发布开源平台 PromptSecurity 及配套数据集 JailbreakDB(445,752 条越狱提示对、1,094,122 条良性提示)和 PromptSecurity-Eval(166,200 条有害查询、9,200 条良性效用记录)。