蚂蚁 inclusionAI 发布 SingProbe：基于 Qwen3.8-Flash-Next 的流式安全探针

蚂蚁 inclusionAI：HuggingFace 新模型·2026-10-27 12:46· 1 小时前AI 评分48

inclusionAI/Qwen3.8-Flash-Next-singprobe

AI 导读

蚂蚁 inclusionAI 在 HuggingFace 发布 SingProbe，一个基于 Qwen/Qwen3.8-Flash-Next 的流式安全探针，仅 5.18M 参数，复用基座模型隐藏状态逐 token 打分查询意图、回复安全性与幻觉风险，解码开销低于 0.5%。

正文 · 原文

模型描述

SingProbe 是一个构建于 Qwen/Qwen3.8-Flash-Next 之上的内在流式护栏。它不运行独立的安全模型，而是复用基座模型在生成过程中的隐藏状态，在每个 token 处对查询意图、回复不安全性和幻觉风险进行打分。它增加的解码时间开销低于 0.5%。

基座模型	探针参数	接入层	输出
`inclusionAI/Qwen3.8-Flash-Next-singprobe`	5.18M	`[15, 31, 47]`	8 种意图 + 不安全 + 幻觉

方法论与完整结果见技术报告。训练代码见 inclusionAI/SingProbe。

评估

所有指标均为越高越好。结果为下文所列基准测试套件的平均值。

任务	指标	Qwen3.8-Flash-Next-singprobe	参考基线
查询意图分类（6 个基准）	F1	0.8728	YuFeng-XGuard-Reason-8B：0.8714
回复安全分类（8 个基准）	F1	0.8714	Qwen3Guard-Gen-8B-strict：0.8604
流式安全（3 个基准）	R-AUC / T-AUC	0.9882 / 0.9320	Qwen3Guard-Stream-8B-strict：0.9640 / 0.8893
幻觉检测（6 个基准）	AUC	0.8063	DRIFT：0.8000

部署特性	结果
良性回复误报率	5 个数据集平均 0.03%
解码开销	< 0.5%

快速开始

SingProbe 通过 SGLang 集成分支或 vLLM 集成分支提供支持。在启动服务时通过其 Hugging Face ID 加载探针：

python -m sglang.launch_server \
  --model-path Qwen/Qwen3.8-Flash-Next \
  --probe-ckpt inclusionAI/Qwen3.8-Flash-Next-singprobe \
  --port 30000

集成方案会为每个生成的 token 返回一个分数字典（label_0–label_9）。请使用完全匹配的基座模型/探针组合：Qwen/Qwen3.8-Flash-Next 搭配此检查点。

引用

@article{singteam2026singprobe,
  title = {SingProbe Technical Report},
  author = {Sing Team},
  journal = {arXiv preprint arXiv:2608.30703},
  year = {2026},
}

来源：蚂蚁 inclusionAI：HuggingFace 新模型 · huggingface.co