跳到正文
热点事件持续更新

Token Inoculation:用标记令牌实现选择性拒绝

1 篇报道1 个报道来源13 小时前更新

先了解这件事

AI 综述

Seunghyun Lee 等研究者提出 Token Inoculation 安全对齐方法:在继续预训练阶段用特殊 token 标记危险句子,再微调模型,使其拒答危险问题、但在该 token 下仍能预测危险答案;测试时移除 token,模型便不再输出已学会的危险答案。 据该研究,在 1.5B 至 14B 参数、三个架构族上,危险准确率维持在约 18%,同时保留 instruct 基线 93% 的 MMLU 表现。该成果被 NeurIPS 2026 接收。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.CL
    Token Inoculation:用标记而非抹除处理 LLM 两用知识

    研究者提出 Token Inoculation 方法,在继续预训练阶段用特殊 token 标记危险句子,再微调模型拒答危险问题、但在该 token 下预测危险答案;测试时移除 token,模型便不输出已学会的危险答案。在 1.5B 至 14B 参数、三个架构族上,危险准确率维持在约 18%,同时保留 instruct 基线 93% 的 MMLU 表现。该成果被 NeurIPS 2026 接收。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。