跳到正文
arXiv cs.AI· Ritika Poddar, Aidan Fennelly, Deirdre Murphy, Eric Wolos, Corre L. Steele, Michael Doyle·· 12 小时前AI 评分31

BUSTA:用逆向基本块执行教小语言模型推理二进制执行

BUSTA: Teaching Small Language Models to Reason About Binary Execution

AI 导读

BUSTA 通过逆向基本块执行任务将逆向工程技能迁移到开源小模型:给定 x86-64 基本块和目标输出寄存器状态,让模型预测产生该状态的输入寄存器值。用 GRPO 微调 Qwen3-1.7B 和 Nemotron-3-Nano 后,可推断寄存器预测准确率分别从 73.2% 升至 85.3%、从 63.3% 升至 95.2%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)正越来越多地应用于逆向工程(RE)工作流。然而,RE 与常见的 LLM 编码任务不同,因为它要求模型对底层程序行为进行推理。此外,在资源受限的沙箱化 RE 环境中部署工具,限制了使用前沿规模解决方案的能力。我们研究一种有针对性的 LLM 训练方法能否通过逆向基本块执行将独特的 RE 技能迁移到开放模型:给定一个 x86-64 基本块和期望的输出寄存器状态,模型预测产生该状态的输入寄存器值。使用组相对策略优化(GRPO)对 \texttt{Qwen3-1.7B} 和 \texttt{Nemotron-3-Nano} 进行微调,可将可知寄存器预测准确率分别从 73.2\% 提升至 85.3\%,从 63.3\% 提升至 95.2\%。前沿模型仍得分最高(最高达 99.2\%),但我们微调后的 \texttt{Nemotron-3-Nano} 以极少的参数量将差距缩小到四分以内。我们发布了两个微调模型和训练数据集。
主题: 密码学与安全(cs.CR);人工智能(cs.AI);机器学习(cs.LG);编程语言(cs.PL)
引用为: arXiv:2610.36288 [cs.CR]
  (或 arXiv:2610.36288v1 [cs.CR] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.36288

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Michael Doyle [查看电子邮件]
[v1] 2026年10月26日星期一 21:11:48 UTC(23 KB)

来源:arXiv cs.AI · arxiv.org