研究者提出托管模型隐私输入变换方法

Mahendra Roopa 与 Srikanth Roopa 提出一种在客户端本地完成的输入嵌入变换方案，使托管方只收到变换后的向量，而非原始文本或 token id。该变换是一个 55.6M 参数的小网络，作用于冻结的 Qwen3.8-27B；训练时以冻结模型为固定评判者，结合前向 KL 效用项和使向量偏离原方向的辅助项。 在训练中未使用的 1,490 道 MMLU 题上，该变换使准确率下降 1.5 个百分点（80.7% 对 82.3%），在未修改模型原本答对的 1,226 道题中破坏了 68 道（5.5%）；按最近邻查找，30.1% 的内容 token 不再解码为原 token。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。