ElevenLabs 盲测:Eleven v4 在八语种中表现更富表现力
ElevenLabs 将最新语音模型 Eleven v4 与其他模型在八种语言中进行盲测,听众在每项测试中都认为 Eleven v4 更具表现力。
ElevenLabs 将最新语音模型 Eleven v4 与其他模型在八种语言中进行盲测,听众在每项测试中都认为 Eleven v4 更具表现力。
Artificial Analysis 评测显示,Nvidia 的 Nemotron 3.5 Super VL 在 Artificial Analysis Intelligence Index 得分 26,成为领先的美国开源权重模型,智能是上代 Nemotron 3 Super(13)的两倍,且每任务输出 token 减少约 60%。
ARC Prize 公布 Google DeepMind 的 Gemini 4 Argon 在 ARC-AGI (Verified) 上的评测成绩。
ARC Prize 称 Google Argon 在 ARC-AGI-3 上得分 97.5%,仅次于 GPT-6 Astra 的 99.9%。与 Astra 一样,Argon 在 25 个 ARC-AGI-3 公开游戏中的操作次数比人类基线少 62%。它在 3 个游戏上追平或打破速通纪录,另有 6 个游戏差距在 10% 以内。
ARC Prize 公布 Gemini 4 Argon 在 ARC-AGI-3 标准 harness 下的测试结果:低推理得分 49.8%,完成 42/55 局;中推理 46.3%,完成 46/55 局;高推理仅完成 19/55 局,因此未公布分数。
ARC Prize 公布 Gemini 4 Argon 在 ARC-AGI 基准上的完整结果,并登上其排行榜。相关页面同时给出排行榜、复现公开结果的 GitHub 仓库以及测试政策链接。
Krea AI 发布图像编辑模型 Krea 3,主打快速精准的图像编辑,可将角色、服装和场景的独立参考合并为单一画面,并保持面部与色调一致。在真实图像编辑基准 CPI-Bench 上,Krea 3 Ultra 得分 4.81/5,仅次于 GPT Image 2.5,高于其他所有图像模型。
一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。
推荐理由:读者可看到前沿模型在理论物理论文级计算上的实际得分、成本与失败模式,以及作者对科研训练与资源门槛的影响判断。
LangChain Agent Evals 速查表梳理了智能体评估的三大挑战:输出不确定、答案非唯一、路径自选导致验证困难。它提出从真实 trace 起步构建最小闭环,并强调失败回流机制,同时对比离线与在线评估,给出借助开源工具做复杂评估的策略。
邵猛针对 LangChain 团队发布的 Agent Evals 常见问题解答整理了一份 Cheatsheet,涵盖从真实 trace 起步建立 10–20 条数据集、离线与在线两道评估闸门、代码优先于 LLM 裁判的评估器优先级,以及小模型裁判成本 $0.34 对比 Claude Sonnet 4.6 的 $28.17。
蚂蚁百灵(Ant Ling)致谢 atomic.chat 在本地测试 Ling-3.1-flash,并分享 LEGO 埃菲尔铁塔演示。atomic.chat 称 Ling 3.1 Flash 已开源权重,在同一 Three.js 提示词下击败 GPT-6 Luna,成本便宜 2.8 倍。
研究对比了 LLM 直接评分与先提取临床标准再由规则判定两种抑郁严重程度评估方式,在 Reddit 语料上用 3 个模型(9B 至前沿规模)和 PHQ-9、BDI-II 两份问卷以二次加权 kappa 衡量一致性。
Eval4DiRec 是首个专为扩散模型推荐系统设计的统一开源评估框架,支持 5 种推荐场景下的 14 个代表性扩散推荐模型,提供一致可复现的实验设置。基于该框架的大规模基准测试揭示了扩散模型在推荐任务上的强劲潜力,同时暴露了显著影响性能的关键因素与实际挑战。该工作已被 ACM TKDD 接收,代码与数据已公开。
arXiv 论文《LLM Alignment--Utility Asymmetry under Semantic-Preserving Transformations》用规则化。
研究者推出 GameHorizon Suite,一套面向多时间跨度的游戏玩法数据与评测套件,包含自动化标注流水线 GameHorizon-Annotator、首个大规模 AAA 游戏数据集 GameHorizon-Data(21 款游戏、5000 小时录像、100 名人类专家玩家)以及支持离线与逐步在线测试的 GameHorizon-Bench。
研究者提出 SPINE 基准,由 LLM 代理扮演持续但错误的用户,自适应挑战目标模型最多 25 轮,以测量大语言模型的谄媚行为。
针对 LLM 模拟用户过度配合、被测系统靠提问数量刷分的问题,研究者提出"披露门控"用户模拟器,将信息释放条件化为五级有序门、合并为三个可观测深度层。在已发布陪伴型智能体基准的英文语料上,移除逐样本门控语句会改变 12 个系统的排名且超出种子重跑的噪声带,但各系统分数无明显变化。该模拟器同时满足排名保序与分数尺度稳定两项标准,与已发布排行榜相关性达 0.993。
研究用两个闭源模型和两个开源权重模型在 MMLU 与 ARC-Challenge 上测试四类策略,发现准确率与顺序敏感性并不一致变化:两阶段提示词在 MMLU 上降低了 GPT 的翻转率和 RStd,准确率却无显著变化。
DBA-Bench 是一个面向 LLM 数据库运维智能体的生产级保真基准,在真实 PostgreSQL 与分布式 TiDB 环境中评估智能体,覆盖 5 个运维域的 231 个有界场景和 10 个持续场景。评测包含 4 个前沿基础模型、2 个开放权重模型和 2 个 GPT-5.5 驱动的数据库智能体,结果显示智能体能定位根因却无法恢复运维目标,即使恢复目标,执行动作也可能违反安全约束。
针对 LLM 引用验证器缺乏统一评测的问题,研究者发布 HALLMARK 基准,含 2,526 条 BibTeX 条目、覆盖 14 种幻觉类型,并提供分类型与诊断性子测试标签。
研究者提出 TabQueryBench,一个用 SQL 式分析查询评估合成表格数据的查询中心基准,将 12 个公开查询来源提炼为 44 个可复用查询模板,覆盖 49 个数据集和 11 个生成模型,每个数据集生成超 100 条可执行查询。
研究提出用响应几何(各维度间相关矩阵构成的对称正定矩阵)衡量语言模型与人类的文化偏好。在 DeepSeek-V3 和 GPT-4o 中,固定题目顺序时提示的文化人格在 Big Five 得分和响应几何两个层面均显现;随机化题目顺序后响应几何降至随机水平,Big Five 仍能以 95%–97% 区分两种人格。
研究者提出 Critical Interval MSE(CI-MSE),一种用于机器人模仿学习策略的离线验证指标:先用零样本智能体定位任务关键片段,仅在这些片段上计算误差,并施加动作对齐处理以更贴近实际 rollout 行为。
RoboGaze 是一个免训练的多智能体 VLM 评估器,通过将任务与场景接地、把子任务路由给维度专属专家并用 critic 核验,生成时间定位的诊断报告,覆盖 6 个维度和 30 种失败类型。
研究者提出 ScholarQuest,一个基于 1000 多个计算机科学主题、围绕四类研究意图构建的分类引导基准,并配套百万级文献环境 ScholarBase 与共享多轮搜索测试框架。
研究提出 LLM 评判模型存在"暗电流"现象,即对完全相同的重复输入仍产生非平局偏好。在 102 条 RewardBench 2 样本上,四个配置-准则组合均报告 0/102 克隆偏好,但严格效用下界 .539 和 .745 未达 .75 阈值;另一配置出现 2/102 克隆偏好却通过中性效用检验。
研究者提出 ThreadBench,一个基于 9,817 条真实 Reddit 讨论帖、覆盖 8 个领域和 116 个子版块的基准,用均匀性、表达、语气、互动 4 类共 12 项指标对比生成讨论与真实讨论。
研究者提出 RAIL——一个基于 Cattell-Horn-Carroll(CHC)框架、以人为中心的听觉智能基准,将听觉认知形式化为五项核心能力并构建结构化评测任务。
研究者推出 NoRA,一个视觉第一人称视频基准,要求模型从零生成候选下一步动作,并通过显式的"事实-理由-动作"支撑图说明理由。该基准包含 1,420 段标注视频片段,分为 HumanGold-190 与 LLMSilver-1230,按动作对齐、事实溯源与支撑绑定三项指标汇总为可溯源合理性分数。
研究用 16 个模型、99 道 LeetCode 风格题目、每题 2 个提示词各跑 5 次(共 15,840 次评判运行),拆解 LLM 代码评测分数的方差来源。
GEO-Bench 是一个在统一协议下评估生成引擎优化(GEO)排名操纵攻击的基准,整合了 TAP、Zero-Shot 等黑盒提示攻击,STS、RAF、StealthRank 等白盒梯度攻击,以及十种白帽 C-SEO 策略。
研究系统评估了 46 种不确定性估计器在内在幻觉与外在幻觉场景下的表现,覆盖四个 benchmark 和多个 LLM。结果显示不确定性与幻觉之间的关联差异很大且往往较弱,取决于幻觉场景和所评估的模型。这一结果对将不确定性直接作为幻觉信号的做法提出了质疑。
研究者提出"开放知识评估"新范式,不再依赖预设问题,而是用开放式提示词考察 LLM 主动表达的知识,并推出包含 10,000 个实体及参考语料库的基准 BeQu。基于 BeQu 的评测覆盖多种语言模型,分析了推理投入、模型规模、提示词格式和知识领域的影响,数据与排行榜已在 GitHub 发布。
研究者推出 XL-SafetyBench,覆盖 10 个国家-语言对、共 5,500 条测试用例,包含国家情境越狱基准与文化基准两部分,并引入 Cultural Sensitivity Rate(CSR)区分原则性拒绝与未参与。
研究对比经典与基于提示词的 JML 规范合成,发现 22.7% 通过验证的规范完全没有后置条件,且提示词优化无法超越最佳手写规范。为此提出 Spec-Harness 框架,从前置与后置条件的正确性和完整性四个维度衡量规范的行为充分性,结合 Hoare 三元组符号验证与输入/输出变异。
OpenVTON-Bench 是一个约 10 万对高分辨率图像(最高 1536×1536)的虚拟试穿评估基准,结合 Gemini 密集描述与 DINOv3 K-Means 聚类的 20 个视觉簇分层采样。
PhyAVBench 是首个系统评估 T2AV、I2AV、V2A 模型音频物理 grounding 能力的基准,包含 25.5 小时、11,605 段视频的 PhyAV-Sound-11K 数据集,覆盖 6 个音频物理维度和 41 个细粒度测试点。
研究定义并测量了 LLM 评测中的三类噪声:同一问题生成不同答案的预测噪声、采样问题的数据噪声,以及依据总方差定律合并的总噪声。作者提出 all-pairs comparison 方法,对 LLM 所有配对做成对比较,基于数百万条问题级预测测量各噪声分量。结果显示多数评测在所有模型对上呈现高度可预测的总噪声水平,且成对预测噪声通常大于成对数据噪声,通过平均降低预测噪声可显著提升统计功效。
一项 SoK 研究系统梳理了 272 项 LLM 提示词安全研究,提出越狱攻击、防御与模型漏洞三套多标签分类体系,并发布开源平台 PromptSecurity 及配套数据集 JailbreakDB(445,752 条越狱提示对、1,094,122 条良性提示)和 PromptSecurity-Eval(166,200 条有害查询、9,200 条良性效用记录)。
SciRerankBench 是首个专门评估 RAG-LLMs 系统中 reranker 的基准,覆盖五个科学学科。