跳到正文
热点事件持续更新

TopicScope:逐token主题监测框架

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Rishikesh Mallagundla 与 Pranav Patel 提出 TopicScope,一个在稀疏自编码器(SAE)特征上训练因果主题分类器的框架,为模型回复中的每个 token 分配主题标签,标签可在生成中途变化。 该框架在 prefill 阶段用隐藏状态特征训练监控器,在 decode 阶段监控。在 Gemma-3 1B 和 4B 上,监控器能泛化到 decode 阶段;插入离题内容、删除主题或重排段落后,最多只损失 5 个 macro-F1 点。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI
    TopicScope:用稀疏自编码器在 prefill 阶段训练、decode 阶段监控主题

    TopicScope 框架在 SAE 特征上训练因果主题分类器,为模型回复中的每个 token 分配主题标签,标签可在生成中途变化。在 Gemma-3 1B 和 4B 上,用 prefill 隐藏状态特征训练的监控器能泛化到 decode 阶段,插入离题内容、删除主题或重排段落后最多只损失 5 个 macro-F1 点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。