Tether AI Research 发布 BotPsy 0.8B 端侧智能体模型

Hugging Face 社区博客·2026-11-11 13:01· 1 小时前AI 评分55

BotPsy：搭载十亿参数以下智能体语言模型的端侧个人助理

AI 导读

Tether AI Research 在 Hugging Face 博客介绍 BotPsy，一个基于 Qwen3.5-0.8B 的 0.8B 参数函数调用与智能体模型，面向端侧部署。

正文 · 原文

前沿云端 LLM 的运营成本高昂且可能意外波动，依赖此类第三方模型还会带来脆弱性，因为提供商可以随时修改、拒绝或弃用访问权限。此外，专有模型针对特定工作流的定制能力有限，同时在隐私、数据控制和透明度方面存在风险。而且，并非每项任务都需要前沿级别的智能：小型专用智能体在特定任务上同样出色，运行成本却显著更低，因为许多常规或较小的工作负载可以在端侧高效处理。随着每参数智能持续快速提升，我们希望在迈向高性能、注重隐私、自托管模型的这一转变中站在最前沿。

Tether AI Research 推出 BotPsy，一个 0.8B 参数模型，专为函数调用和智能体工作流设计，基于 Qwen3.5-0.8B 构建，适合端侧部署。BotPsy 是一个“个人助理”，通过工具为用户执行各种简单任务，涵盖网络搜索与研究、旅行与生活、商业与金融、业务与客户运营、设备与车辆控制、文件与文档、日历，以及电子邮件与消息等领域。由于其参数规模较小，它最适合低至中等难度的任务。BotPsy 在其规模上实现了最先进（SOTA）的工具使用和智能体性能，在我们测试过的所有不超过 1.2B 参数的模型中表现最佳（图 1 和图 2）。它专为安全的端侧工作流设计，在保持用户数据私密的同时，提供出色的指令遵循可靠性和效率。作为一个小型模型，BotPsy 仍会出错，不适用于高风险用途；更多信息请阅读预期用途与局限性。

🤗 模型（safetensors） | 📦 GGUF（bf16、Q8、Q4）

Bar chart of tool-use and agentic benchmark scores for BotPsy-0.8B and four comparison models — **图 1：**BotPsy-0.8B 显著优于其基础模型，并在六项工具使用与智能体基准中的五项领先，包括对阵规模为其 2.5 倍的 Qwen3.5-2B-Think；仅在 Claw-Eval 上 Qwen3.5-2B-Think 略胜一筹。

Bar chart of knowledge and instruction-following benchmark scores for BotPsy-0.8B and four comparison models — **图 2：***知识：*与同等规模模型相比，工具使用训练保持并提升了 BotPsy 的通用知识，但整体知识仍主要随参数规模扩展。*指令遵循：*BotPsy 擅长遵循明确指令和多轮任务，但随着指令累积，其表现会下降，并在低资源语言上落后。

版权投诉

我们将对版权侵权通知采取适当行动。如果您认为您的作品被以侵犯您知识产权的方式使用或复制，请发送电子邮件至 data-apps@tether.io，说明并描述受版权保护的作品和涉嫌侵权的内容，以提交侵权通知。

核心亮点

基准测试结果

性能达到其基础模型的两倍：BotPsy 在关键基准上大致将 Qwen3.5-0.8B-Think 的智能体能力提升了一倍：BFCL v4 从 23.4 升至 44.0，ACEBench 从 30.1 升至 58.7，τ-bench 从 23.2 升至 51.5（零售、电信和银行子集的平均值）。
同类中最佳智能体：BotPsy 在全部六项工具使用与智能体基准（BFCL v4、ACEBench、τ-bench、ToolSandbox、Claw-Eval 和 BrowseComp-Plus）上均优于 ≤1.2B 参数重量级的领先模型（Qwen3.5-0.8B-Think、LFM2.5-1.2B-Think、MiniCPM5-1B-Think）。
超越更大的同系列模型：BotPsy 在六项基准中的五项上取得了所有受测模型的最高分，在 BFCL v4（44.0 对 37.7）、ACEBench（58.7 对 55.4）、τ-bench（51.5 对 46.5）、ToolSandbox（64.6 对 41.2）和 BrowseComp-Plus（4.5 对 2.8）上击败了规模为其 2.5 倍的 Qwen3.5-2B-Think。仅在 Claw-Eval 上 Qwen3.5-2B-Think 领先（48.9 对 46.5）。

模型能力

在多轮工作流中更可靠：在 τ²-bench 上，智能体必须进行长时间的客户对话、遵循严格策略并代表客户行事，它在电信领域得分为 82.5，领先于 Qwen3.5-2B-Think（69.3）。在 BFCL v4 的多轮任务上，它从基础模型的 7.5 升至 46.1，几乎是 Qwen3.5-2B-Think（23.8）的两倍。按应用分组，其多步得分在商业与服务领域（58.3 对次优的 Qwen3.5-2B-Think 47.4）以及设备与系统管理领域（46.1 对 31.9）均领先所有受测模型。
知道何时（不）调用工具：会行动的智能体也必须知道何时不行动。在 BFCL v4 的幻觉测试中（检查模型在不存在合适工具时是否会拒绝），BotPsy 得分为 86.1，为所有受测模型最高。在 ACEBench 的特殊案例中（请求不完整、包含错误参数或无法由给定工具满足），它得分为 51.3，而其基础模型为 13.7。
在遵循指令的同时保留知识：BotPsy 专注于工具使用，同时保留通用技能。指令遵循能力大幅提升，IFEval 从 59.7 升至 90.8，IFBench 从 22.0 升至 55.9，为所有受测模型中 IFBench 最高分。通用知识也有所提升，GPQA Diamond 从 33.2 升至 38.1，MMLU-Pro 从 41.6 升至 48.9。在这四项基准上，BotPsy 均优于我们测试的所有其他 1.2B 参数及以下的模型。

安全性、效率与部署

比同类领先模型更安全：在跨六个危害类别的自动化红队测试中，BotPsy 产生不安全响应的比例为 21%，而其基础模型为 36%。这是所有不超过 1.2B 参数的模型中最低的比率（LFM2.5-1.2B-Think：35%；MiniCPM5-1B-Think：47%）。在提示注入攻击下（这对读取不可信工具输出的智能体最为重要），不安全率从基础模型的 46% 降至 31%。
更高效的推理，更少的循环：在五个模型均正确回答的问题上，BotPsy 在 GPQA Diamond 上达到答案所需的推理 token 比其基础模型少约 3 倍（3,690 对 11,563），在 MMLU-Pro 上少 2.7 倍（1,912 对 5,105）。在所有 IFBench 尝试中，其陷入重复推理循环的比例从 22.9% 降至 1.4%，触及 32k token 上限的运行从 28.3% 降至 0.2%。更短、更果断的推理应能降低设备端延迟。
- 开源且开箱即用：BotPsy 将以 Apache 2.0 许可证下的开放权重发布，用于研究和教育用途。它将提供三种精度（bf16、Q8、Q4），以 Hugging Face safetensors 以及用于 QVAC SDK 和 llama.cpp 的 GGUF 文件形式提供。

更广阔的愿景

在 BotPsy 的基础上，Tether Data, S.A. de C.V.（“Tether AI Research”，“我们”）未来的开发将专注于扩展设备端智能体能力，以无缝集成更广泛的硬件和本地服务。Tether 的 Hypersearch 将演进为支持更强大的去中心化点对点（P2P）查询，进一步确保私密、加密的网页搜索，绕过企业追踪器。QVAC Fabric 本地微调机制将得到优化，以更深入地适应用户个人偏好、工作流程和专用工具环境。未来的迭代将允许智能手机界面在离线-在线转换期间将繁重计算任务平滑委托给家用 PC 或可信安全 P2P 节点。隐私协议将持续加强，以保证所有个人数据、凭证和决策严格保留在本地硬件上。将引入协作功能，允许在可信本地网络中进行安全的智能体间通信，而不损害用户机密性。最终，这些进步将巩固 BotPsy 作为一个完全自主、能力强大的个人 AI 生态系统，让用户完全掌控自己的数字生活。

方法论

BotPsy 基于 Qwen3.5-0.8B，分四个连续阶段进行后训练：监督微调（SFT）、多教师同策略蒸馏（MOPD），以及两轮强化学习（RL）。每个阶段都以上一阶段的最佳检查点为起点，并受益于不同的学习信号：对参考轨迹的模仿、更大教师模型的 token 分布，以及基于规则的工具调用奖励（见图 3）。

Diagram of the four-stage BotPsy training recipe — **图 3：**BotPsy 训练配方。学生模型经历四个阶段。三个专家 Qwen3.5-4B 教师模型，各自针对一项技能进行 RL 训练，在蒸馏阶段指导它。

训练流程：四个阶段，三类反馈

我们的方法采用四个训练阶段，从三类信号中学习：演示、专家教师和可验证奖励。

从演示中学习（SFT）

我们首先对工具使用对话进行全参数监督微调。这些包括来自模拟环境的多轮智能体轨迹、重放的单次、并行和多步调用，以及不应调用任何工具的情况。

从教师中学习（MOPD）

接下来，学生模型使用同策略蒸馏（OPD）进行训练：它生成自己的回答，由专门的教师模型对每个 token 提供反馈，并以逐 token 的反向 KL 散度作为训练信号。为了构建教师模型，我们首先通过 RL 训练了三个 Qwen3.5-4B 模型，分别专精于工具使用、通用推理和指令遵循。训练期间，每个提示都会被路由到其中一个教师模型。这一阶段主要旨在恢复在 SFT 阶段退化的知识和指令遵循能力，尽管工具使用指标也有所提升（见图 4）。

Line chart of mean tool-use, instruction-following and knowledge scores after each training stage — **图 4：**每个训练阶段后各能力组的平均得分。SFT 提升了工具使用，但使知识和指令遵循低于基座模型；蒸馏将两者都带回基座模型之上，而 RL 阶段在三个方面都带来了进一步提升。

从规则和环境学习（RL 阶段）

最后，模型使用 DAPO [1] 进行强化学习训练，仅从规则和验证器计算出的奖励中学习。第一轮聚焦于工具调用，并辅以指令遵循和 STEM 多项选择题。与 Tool-N1 [2] 一样，工具调用奖励首先检查推理和工具调用格式。然而，不同于 Tool-N1 的二元正确性奖励，它借鉴 ToolRL [3] 的思路给出细粒度的部分得分，将预测的工具名称、参数名称和参数值与真实值进行匹配。

第二轮将训练混合扩展到通用领域的可验证任务：数学、代码、知识（多项选择）题、指令遵循、结构化输出，以及模拟工作环境中的多步工具使用。尽管这一混合数据不包含多轮对话，它仍进一步提升了多轮函数调用能力。

数据构成

每个训练阶段使用不同的数据混合（图 5）。SFT 阶段主要聚焦于工具使用，并为后续阶段奠定基础。MOPD 混合结合了工具使用、知识和指令遵循数据，既进一步提升函数调用能力，也恢复 SFT 阶段在通用领域的性能回退。第一 RL 阶段再次主要聚焦于工具使用，而第二 RL 阶段将重心转向通用领域数据（指令遵循、知识、数学和代码），保留较小比例的工具使用数据。

Stacked bar chart of the training-data mix for each of the four stages — **图 5：**各阶段训练数据的大致构成，按能力分组。

结果

工具使用与智能体

BotPsy 的工具使用性能约为其 Qwen3.5-0.8B 基座的两倍，并且在六个智能体基准中的五个上都是五个模型中最强的：BFCL v4（44.0 对 23.4）、ACEBench（58.7 对 30.1）、τ-bench（51.5 对 23.2）、BrowseComp-Plus（4.5 对 1.9）和 ToolSandbox（64.6 对 30.5）。在这五项上，它也领先于规模为其 2.5 倍的 Qwen3.5-2B-Think（分别为 37.7、55.4、46.5、2.8 和 41.2；见表 1）。在 Claw-Eval 上，Qwen3.5-2B-Think 领先（48.9 对 46.5）。

基准	BotPsy-0.8B _ours	Qwen3.5-0.8B-Think _{base · 1×}	Qwen3.5-2B-Think _2.5×	LFM2.5-1.2B-Think _1.5×	MiniCPM5-1B-Think _1.25×
BFCL v4¹	44.0	23.4	37.7	28.1	22.8
ACEBench²	58.7	30.1	55.4	39.4	24.5
τ-bench³	51.5	23.2	46.5	6.5	28.8
Claw-Eval⁴	46.5	39.3	48.9	31.6	31.0
BrowseComp-Plus⁵	4.5	1.9	2.8	0.2	0.8
ToolSandbox⁶	64.6	30.5	41.2	45.7	28.1
平均	45.0	24.7	38.8	25.3	22.7

表 1：工具使用与智能体基准测试（0–100，越高越好）。每行最佳分数以粗体显示，次佳分数加下划线；倍数表示相对于 BotPsy-0.8B 的参数量。平均值为六项基准测试的未加权均值。评估设置的详细信息见评估脚注。

知识

工具使用训练并未牺牲通用知识：GPQA Diamond 从 33.2 升至 38.1，MMLU-Pro 从 41.6 升至 48.9，在参数量不超过 1.2B 的模型中表现最佳（LFM2.5-1.2B-Think：35.0 和 39.4；MiniCPM5-1B-Think：15.8 和 40.0）。知识仍主要随参数量增长，Qwen3.5-2B-Think 的得分远高于此（59.9 和 65.5）。因此，BotPsy 的设计目标是针对其不知道的事实调用工具，而非作为知识模型使用。

基准测试	BotPsy-0.8B _ours	Qwen3.5-0.8B-Think _{base · 1×}	Qwen3.5-2B-Think _2.5×	LFM2.5-1.2B-Think _1.5×	MiniCPM5-1B-Think _1.25×
GPQA Diamond⁷	38.1	33.2	59.9	35.0	15.8
MMLU-Pro⁸	48.9	41.6	65.5	39.4	40.0

表 2：通用知识基准测试（0–100，越高越好）。每行最佳分数以粗体显示，次佳分数加下划线。评估设置的详细信息见评估脚注。

指令遵循

在遵循明确指令方面，BotPsy 是五者中表现最好的：IFEval 90.8（基础版 59.7；Qwen3.5-2B-Think 80.0），IFBench 55.9（基础版 22.0；Qwen3.5-2B-Think 40.9）。Multi-IF 测试在八种语言中跨三轮的指令遵循能力，BotPsy 得分为 67.2，与 Qwen3.5-2B-Think（66.9）和 LFM2.5-1.2B-Think（68.2）持平。它起步最强（第一轮 84.3，为五者中最高），但随着指令累积下降更快（第三轮 51.0，而上述两个模型分别为 56.5 和 56.2）。低资源语言仍是弱项：印地语（24.5）和俄语（57.6）远低于英语、中文、法语、西班牙语、意大利语和葡萄牙语达到的 72–80。

基准测试	BotPsy-0.8B _ours	Qwen3.5-0.8B-Think _{base · 1×}	Qwen3.5-2B-Think _2.5×	LFM2.5-1.2B-Think _1.5×	MiniCPM5-1B-Think _1.25×
IFEval⁹	90.8	59.7	80.0	85.6	78.4
IFBench⁹	55.9	22.0	40.9	33.9	40.6
Multi-IF¹⁰	67.2	43.2	66.9	68.2	53.4

表 3：指令遵循基准测试（0–100，越高越好）。每行最佳分数以粗体显示，次佳分数加下划线。评估设置的详细信息见评估脚注。

多轮对话

相对提升最大的是多轮、有状态交互，BotPsy 在五项多轮基准测试中的四项领先（图 6）。在 BFCL v4 多轮上，它从 7.5 升至 46.1，几乎是 Qwen3.5-2B-Think（23.8）的两倍；在 ACEBench Agent 上从 7.9 升至 28.3（Qwen3.5-2B-Think：16.2）。在 τ²-bench 上，其零售场景得分翻倍（67.8 对 33.9，略高于 Qwen3.5-2B-Think 的 65.5），电信场景达到 82.5，该场景中智能体需在多轮中引导用户完成故障排查（MiniCPM5-1B-Think：74.0；Qwen3.5-2B-Think：69.3）。在单次调用（BFCL non-live：83.0）以及在没有合适工具时不调用工具（BFCL hallucination：86.1）方面，它也是五者中最可靠的。

Bar chart of multi-turn agentic benchmark scores for BotPsy-0.8B and four comparison models — **图 6：**多轮智能体任务：BFCL v4 多轮、ACEBench Agent、τ²-bench（零售、电信）和 τ³-bench（银行）。BotPsy 在五项基准测试中的四项领先；在 τ³-banking 上，所有模型均低于 5。

薄弱环节

BotPsy 的薄弱环节是开放式搜索，以及少数几个 Qwen3.5-2B-Think 仍然领先的领域。BotPsy 的 BrowseComp-Plus 得分为 4.5，是五者中最好的，但绝对值偏低；在 BFCL 网络搜索（14.0）和记忆（16.3）上，它落后于 Qwen3.5-2B-Think（19.8 和 26.1）。在 Claw-Eval 上，BotPsy 相比其基座模型有明显提升（46.5 对 39.3），但仍略低于 Qwen3.5-2B-Think（48.9）。在 ACEBench 的特殊情况（不完整或错误请求）上，Qwen3.5-2B-Think 同样领先（58.0 对 51.3），不过 BotPsy 在该项上远高于其基座模型（13.7）。τ³-banking 是 BotPsy 唯一未领先的多轮基准：没有模型得分超过 5（BotPsy 4.1，与其基座模型持平；Qwen3.5-2B-Think 4.8）。

适用之处：应用级性能细分

BotPsy 可以处理多种用例和场景。图 7 按应用组细分了基准场景，将简单场景（单轮、单次工具调用）与复杂场景（多轮或多工具）区分开来。本节引用的总体得分是所有场景的平均值；图 7 的底行是七个组的未加权平均值，因此其数字有所不同。

单次工具调用在各处都表现良好

在样本量有意义的每个应用组中，简单场景得分均为 70–79（Communication & Social 仅有 6 个）。总体而言，BotPsy 得分为 75，比其基座模型（54）高约 21 分，并略高于 Qwen3.5-2B-Think（70）。

Horizontal bar chart of per-app-group scores for simple and complex scenarios across five models — **图 7：**按应用组划分的每个场景平均得分（0–100，越高越好），分别对应简单场景（左）和复杂场景（右）。n 表示每组中简单/复杂场景的数量；底行是七个组的未加权平均值。

最大提升出现在多步任务中

在复杂场景上，BotPsy 总体得分为 39.5，而其基座模型为 17.9，Qwen3.5-2B-Think 为 30.8。提升最大的是 Communication & Social（61 对基座模型的 13）、Commerce & Services（58 对 27）和 Device & System Management（46 对 15）。Qwen3.5-2B-Think 仅在 Personal Productivity & Work 上领先（64 对 58，38 个场景，主要是 Claw-Eval），而 MiniCPM5-1B-Think 在 Communication & Social 上略微领先（61.5 对 60.5）。多步任务的得分仍低于单次调用，这仍是更难任务的主要限制。

多步信息检索是薄弱环节

复杂 Information Retrieval & Research 场景得分为 15（单次调用：79）。其中大多数是 BrowseComp-Plus 深度研究问题，对处于该规模区间的所有模型来说仍然很难（基座模型：9；Qwen3.5-2B-Think：14）。

推理效率

BotPsy 用远少于其基座模型的推理量得出正确答案，并且在多轮智能体任务上使用更少的轮次。这与我们在整个训练过程中对推理效率的明确关注一致。以下所有比较均基于相同的问题或任务（即所有五个模型都正确回答或解决的那些），因此难度差异不会影响这些数字。推理 token 使用各模型自己的分词器计数。

Scatter plots of accuracy against reasoning tokens per correct answer on four benchmarks — **图 8：**在 GPQA Diamond、MMLU-Pro、IFEval 和 IFBench 上，准确率与每个正确答案对应的推理 token 数的关系。Token 在所有五个模型都正确回答的问题上测量；准确率则基于所有问题。左上角更优；虚线为帕累托前沿。

推理更短，准确率更高。与其基座模型相比，BotPsy 在 GPQA Diamond（3,690 对 11,563）、MMLU-Pro（1,912 对 5,105）、IFEval（3,148 对 4,433）和 IFBench（4,204 对 11,576）上每答对一题所用的推理 token 数少 1.4–3.1 倍，同时在全部四项上得分更高（图 8）。它并非在所有地方都是最短的模型：LFM2.5-1.2B-Think 在 MMLU-Pro、IFEval 和 IFBench 上写出的推理更短，MiniCPM5-1B-Think 在 IFEval 和 IFBench 上更短，但它们在每一项上的准确率都低于 BotPsy。

Scatter plots of pass rate against assistant turns per solved task on tau2-bench retail and telecom — **图 9：**在 τ²-bench 零售和电信任务上，每个已解决任务的通过率与助手轮数对比。轮数在全部五个模型都能解决的任务上测量；通过率基于全部任务。左上角更优；虚线为帕累托前沿。

在多轮智能体任务上比基座模型使用更少轮数。在全部五个模型都能解决的 τ²-bench 任务上，BotPsy 所需的助手轮数少于其基座模型（图 9）：

τ²-retail：10.7 轮，基座模型为 11.7 轮（少 9%），Qwen3.5-2B-Think 为 10.6 轮。
τ²-telecom：13.1 轮，基座模型为 17.6 轮（少 26%），Qwen3.5-2B-Think 为 13.8 轮（少 5%）。

与此同时，它通过的任务数是基座模型的 2.0 倍（零售）和 2.6 倍（电信）。MiniCPM5-1B-Think 在零售任务上使用更少轮数（8.7），但仅通过 9.9% 的零售任务。

预期用途与局限性

BotPsy 的开发旨在推进最先进水平，并支持研究和教育用途。基于我们工作开发的模型可能适用于以下领域的任务：设备与系统管理（设置、文件与文档、时钟与闹钟）、个人生产力与工作（日历与任务、电子邮件、协作工具）、通信（消息传递）、信息检索与研究（网页搜索、天气、新闻）、媒体与生活方式（视频、音乐、食谱与健身、照片）以及商业与服务（地图与旅行、金融、购物与配送）。由于其参数规模较小，它最适合低至中等难度的任务。

BotPsy 主要使用英语进行训练和测试，英语是推荐语言。它还在 Multi-IF 上进行了评估，该基准涵盖另外七种语言（中文、法语、印地语、意大利语、葡萄牙语、俄语和西班牙语）：它在大多数语言中表现良好，但在印地语和俄语中得分低得多。BotPsy 是一个小型语言模型，会犯错。它不适用于安全关键或高风险的自动化决策，也不适用于涉及金钱、个人信息、健康及其他敏感主题的应用。

引用

@misc{botpsy2026,
  title  = {BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model},
  author = {{Tether Data, S.A. de C.V. d.b.a. Tether AI Research}},
  year   = {2026},
  note   = {Hugging Face blog}
}

参考文献

[1] Yu, Qiying, et al. "DAPO: An Open-Source LLM Reinforcement Learning System at Scale." Advances in Neural Information Processing Systems 38 (2025): 113222–113244.

[2] Zhang, Shaokun, et al. "Nemotron-Research-Tool-N1: Exploring Tool-Using Language Models with Reinforced Reasoning." International Conference on Learning Representations (2026).

[3] Qian, Cheng, et al. "ToolRL: Reward is All Tool Learning Needs." Advances in Neural Information Processing Systems 38 (2025).

评估脚注

所有分数均为百分比（越高越好）。
所有模型均在思考（推理）模式下评估。
所有使用外部 API 的基准测试均于2026 年 11 月 3 日运行。
¹ BFCL v4：总分采用官方加权公式计算（40% Agentic、30% Multi-Turn、10% Live、10% Non-Live、10% Hallucination），取 3 次运行的平均值。
² ACEBench：总体准确率。所有模型均在函数调用（FC）模式下评估；取 2 次运行的平均值。
³ τ-bench：τ²-bench（零售、电信）与 τ³-bench（银行）的平均值，不含航空；取 3 次运行的平均值。
⁴ Claw-Eval：官方平均任务得分，其中每个任务得分为 safety ×（0.8 × completion + 0.2 × robustness）；取 3 次运行的平均值。
⁵ BrowseComp-Plus：准确率，所有模型最多 30 步。
⁶ ToolSandbox：8 项设置的平均相似度得分。
⁷ GPQA Diamond：全部 198 道题的准确率，取 3 次运行的平均值，启用 thinking。
⁸ MMLU-Pro：准确率。
⁹ IFEval、IFBench：提示级严格准确率。
¹⁰ Multi-IF：3 次运行的平均值。

来源：Hugging Face 社区博客 · huggingface.co