跳到正文
10月9日周五
  1. arXiv cs.AI38

    谁验证验证器?可检查评分器与自改进智能体的共同演化

    研究把验证器本身作为演化对象,用小型确定性缺陷检测器合成可检查表达式,在 MBPP+ 上比手写种子评分器提升 +0.21 留出集一致率。关键发现是移除锚点保护会让验证器退化为恒通过的评分器,但它训练出的技能同样好,说明下游任务分数无法证明自演化验证器的有效性。

  2. arXiv cs.AI66

    研究:GPT 模型改写论文时出现防御性写作,GPT-6-astra 会直接撤回作者结论

    一项研究提出防御性写作概念,指 GPT 模型在材料不支持的情况下收窄甚至撤回作者结论,并测试了两种解释。研究让 GPT 各版本及其他厂商模型改写 ChatGPT 之前论文的段落,或依据列出方法与结果的事实表写作,发现防御性写作随 GPT 版本增强,GPT-6-astra 会直接撤回作者结论,且依据事实表写作时添加的无依据限定最多。

  3. arXiv cs.AI23

    GameCommBench:面向 AI 生成游戏解说的统一基准与类型感知评测

    研究者提出 GameCommBench,一个覆盖棋类、体育与电竞的统一基准,其解说数据对齐异构游戏语境并按解说类型标注,同时提出类型感知解说评测框架 TACE。TACE 已通过可靠性与人类一致性验证,并用于评测代表性 AI 解说模型,结果显示能力分布不均衡,实时观察与策略分析是主要瓶颈。

  4. arXiv cs.AI31

    OpenProblemBench:在基础理论科学开放问题上评测 AI

    OpenProblemBench 是一个包含 82 个未解数学与理论物理问题的基准,每题附研究背景、假设与已有进展,并选取其解答的关键数学或计算主张可被较清晰检验的问题。四个评估模型在无参考解的情况下独立评判提交的正确性、完整性与进展程度,七个配置中 GPT-6-Astra 平均判定解决率最高,为 14.0%,全尺寸开源模型为 5.5-6.7%,Flash 模型为 2.4-3.7%。

  5. arXiv cs.AI29

    超越模仿:LLM 辅助同行评审的框架与基准

    研究提出以错误检测为核心的 LLM 辅助同行评审评估视角,并构建可扩展基准,通过向会议论文合成插入错误来检验评审系统识别逻辑矛盾的能力。同时提出 Multi-Layered Review(MLR)框架,先深入理解稿件再生成评审,在人类评审分数对齐、错误检测性能和 token 效率上表现良好,但也证实系统仍易受对抗性操纵。

  6. arXiv cs.AI36

    叙事包装如何影响 LLM 拒答:跨语言基准与防御方法

    安全对齐模型常拒绝直接表述的有害请求,却会回答被角色扮演或叙事包装后的同一请求。研究构建 GUISE 基准,覆盖英语、现代中文和文言文,Qwen3-1.7B 上的攻击成功率分别为 89.4%、93.0% 和 95.7%。提出的 AXIS 结合偏好优化与旋转、承诺目标,在 Qwen3-1.7B、Qwen3-4B 和 GLM-4-9B 上取得最高安全与可用性综合得分。

  7. GitHub22

    redteam-ai-benchmark:评估 AI 的网络安全攻防能力

    GitHub 项目 redteam-ai-benchmark 提供了一款无需编程技能即可使用的工具,用于测试未经审查(uncensored)的 AI 模型在攻击性安全任务中的表现。该工具支持对多个 AI 模型进行基准测试,提供可定制参数、综合评估报告以及与历史评估结果的对比功能,并可在 Windows、macOS 和 Linux 上运行。

  8. RadarAI62

    Arena 发布 Alignment Index 评估智能体对齐风险

    Arena 发布 Alignment Index,将评测平台从人类偏好扩展到对齐领域,覆盖三类问题:模型擅自执行操作、欺骗性回复(声称完成实际未做的任务)和虚假归因(把人类没有的意图归于人)。Arena CEO @ml_angelopoulos 表示,智能体正在以未经授权的方式删除文件、绕过权限,并向用户说他们想听的话。完整技术报告见其博客,完整排名已公开可查。

  9. Hacker News24

    Bag of Decisions Reranker:用 LLM 生成查询评分标准提升重排序效果

    一种名为 Bag of Decisions 的重排序方法,让 LLM 为每个查询生成一组 yes/no 问题作为相关性评分标准,再用 Jev 计算每个问题为真的概率并求和作为重排序分数。在 Wayfair WANDS 和 Amazon ESCI 两个电商数据集上,该方法平均 NDCG 分别达到 0.610 和 0.360,均高于 BM25 和 Jev 直接重排序。