Token Inoculation:用标记令牌实现选择性拒绝
热点事件持续更新
Token Inoculation:用标记令牌实现选择性拒绝
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
Seunghyun Lee 等研究者提出 Token Inoculation 安全对齐方法:在继续预训练阶段用特殊 token 标记危险句子,再微调模型,使其拒答危险问题、但在该 token 下仍能预测危险答案;测试时移除 token,模型便不再输出已学会的危险答案。 据该研究,在 1.5B 至 14B 参数、三个架构族上,危险准确率维持在约 18%,同时保留 instruct 基线 93% 的 MMLU 表现。该成果被 NeurIPS 2026 接收。
AI 根据报道生成 · 2 小时前更新
最新进展10月27日 12:00
Token Inoculation:用标记而非抹除处理 LLM 两用知识报道时间线
沿着报道,了解事件的不同侧面。
10月27日
- arXiv cs.CLToken Inoculation:用标记而非抹除处理 LLM 两用知识
研究者提出 Token Inoculation 方法,在继续预训练阶段用特殊 token 标记危险句子,再微调模型拒答危险问题、但在该 token 下预测危险答案;测试时移除 token,模型便不输出已学会的危险答案。在 1.5B 至 14B 参数、三个架构族上,危险准确率维持在约 18%,同时保留 instruct 基线 93% 的 MMLU 表现。该成果被 NeurIPS 2026 接收。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。