跳到正文
10月9日周五
  1. arXiv cs.CL24

    SOL:用双切片 Wasserstein 距离度量文本分布之间的差距

    研究者提出 SOL,一种基于双切片 Wasserstein 距离的文本分布度量方法,将每条序列表示为固定 Transformer 下隐状态的经验测度,再比较这些测度的分布,并证明当 Transformer 为单射时 SOL 是度量。实验显示 SOL 能检测分布性失败、还原预期模型趋势并提供稳定的基于样本的估计,研究还用它重新评估了多个在 OpenWebText 上训练的模型。

  2. arXiv cs.CL24

    FA-Bench:面向强制对齐与 ASR 的干净及噪声语音音素级与词级时间戳准确率基准

    FA-Bench 是一个统一评测强制对齐与 ASR 时间戳准确率的开放框架,固定了文本归一化、数据划分、音素映射与评分脚本,在干净及四种退化语音上覆盖 21 个开源模型和 9 个商业 API。它采用基于容差的 F1 作为主指标,消除了标准 MAE 在对话语音中造成的 9% 至 14% 分数虚高,并发现 Whisper 时间戳平均偏早约 150 ms,多个商业 ASR API 偏晚超过 50 ms。

  3. arXiv cs.CL32

    ReTurn:多模态多轮对话中的选择性历史使用基准

    研究者提出 ReTurn 基准,包含 7,000 个覆盖视觉与音频证据的基础任务,用于评估多模态模型的选择性历史使用能力。在 13 个全模态、视觉语言和音频语言模型上,开放式准确率中位数从直接输入的 93.7% 降至对话中的 72.3%。行为探测显示,高问题召回率可能与较弱任务应用并存,竞争性媒体会使回答偏离历史目标,监督式适配仅带来部分提升。

  4. arXiv cs.CL15

    Jev 能否理解立场?Jev 与通用 LLM 的立场检测对比评测

    研究在 VAST(英文文本)和 ZS-CSD(中文对话)两个立场检测数据集上评测了专用决策模型 Jev,并与四个通用 LLM 及两个微调模型对比。Jev 在 VAST 上表现与 GPT-5.6 相当并优于其他通用 LLM,但在 ZS-CSD 上落后于更强的 LLM,尤其在区分"支持"与"反对"时。分析显示该局限可能与理解回复关系和立场方向有关,而非仅由对话长度导致。

  5. arXiv cs.CL24

    UXBench Pro:多轮对话交互中的个性化用户体验基准测试

    研究者推出 UXBench Pro,包含来自 12 个任务场景、82 个领域的 1000 个真实用户交互测试实例,每个实例配有刻画七种可解释行为特征的 FACTORS 用户画像。该基准提出双视角评估范式,结合个性化 User Reward Model(URM)与用户模拟器 Sim4Eval,并引入 URMBench 和 USimBench 两个元基准检验评估器还原真实人类偏好与行为的可靠性。

  6. arXiv cs.CL27

    BeliefScope:诊断大语言模型中的证据驱动修正与压力诱导偏移

    研究团队提出 BeliefScope,一个受控黑盒框架,用于区分大语言模型对同一命题的响应变化究竟来自相关证据还是来自不添加事实的用户定向压力。该框架在 36 个 Qwen/Llama 模型家族上开展研究,并对 12 个家族(含 Gemma3-12B)做定向检查,结果显示模型层面的广泛差异在匹配控制、解码或响应接口下可能改变,而部分模型内部的窄范围模式保持稳定。

  7. arXiv cs.CL22

    提示词 vs 规则:语音用户模拟器中语音自然度行为的审计与控制

    研究审计了基于 LLM 提示的 tau-Voice 与规则注入算法在语音用户模拟器中实现不流畅、打断和反馈三种自然度行为的效果。结果显示,提示词方式不可靠,生成的语音与指令不一致,位置和分布不如指令所暗示的自然;而基于规则、无需模型的算法能产生更可控、更多样且更贴近自然语音的行为。研究认为,未经用户模拟专门训练的 LLM 不足以单独代表真实用户行为,需要语言学驱动的确定性方法或专用模型来弥补差距。

  8. arXiv cs.CL24

    AI4Fire:大语言模型在野火任务上的评测

    AI4Fire 对 6 个核心模型在 5 项野火任务上做零样本评测,并对比"裸跑"与"有依据"两种设置,另扩展 29 个模型。加入只读 SQL 工具后,所有核心模型的数据库准确率从最高 16% 提升到至少 88%;但无核心模型能胜过直接重复当日人力配置这一简单规则,两个开放权重模型大多照抄历史火灾日的中位数。

  9. arXiv cs.AI32

    LLM 数学推理鲁棒性研究:用数学等价变换对高等数学题做基准测试

    研究者提出 GAP(Generalisation-and-Perturbation)方法,通过表面重命名与内核重写两类可解释变换,自动生成数学等价变体,并在 1938 至 2024 年全部 1,051 道 Putnam 竞赛题上构建出 6,306 题的 PutnamGAP 语料库。对 18 个商业与开源模型的评测显示,所有模型准确率均下降,内核重写下最为严重,且该差距不随模型能力增强而缩小。

  10. arXiv cs.AI41

    AgentTime:AI 智能体能否预估并控制自身运行时长?

    研究者提出 AgentTime 基准,用 222 个来自 18 个来源的任务测试智能体能否按指定时长工作、预测运行时间并事后估算耗时。在时长遵循实验中,Claude Code 中的 Fable 5.1 与要求时长的典型偏差达 2.9 倍,而 Codex 中的 GPT-6 Astra 仅为 1.2 倍;158 次可分类的 Astra 运行中有 14 次在看似完成后显式休眠。

  11. arXiv cs.AI40

    Humanity's Sixth Sense:多模态模型直觉视觉推理基准测试

    研究者推出 Humanity's Sixth Sense(HSS)基准,用于评测多模态大模型(MLLMs)的直觉视觉推理能力,涵盖图像与视频输入,按时间、空间、社交和抽象结构分类。人类参与者准确率达 93.1%,而最强模型 GPT-6-astra 即使开启最大推理努力也仅达 53.6%。引入动态视觉操作的智能体设置可缩小差距但未能弥合。