跳到正文
RadarAI· X:indigo (@indigox)·· 2 天前AI 评分64

MIT CSAIL 团队提出权重空间编程,GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重

MIT CSAIL 团队提出权重空间编程,让 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重

AI 导读

MIT CSAIL 博士生 Rikiya Takehi 团队提出权重空间编程方法,让 GPT-6 Astra 无需训练和梯度直接读写神经网络权重。实验仅修改 Qwen3.5-0.8B 约 0.016% 的权重,MATH-500 从 7.9 涨到 48.1,GSM8K 从 13.8 涨到 67.1,指令遵循提升 3 倍。

正文 · AI 翻译

indigo· @indigox · X·2026-11-03 08:35· 40 分钟前AI 评分53

AI 导读

MIT CSAIL 博士生 Rikiya Takehi 团队提出权重空间编程方法,用 GPT-6 Astra 无需训练和梯度直接读写神经网络权重。仅修改 Qwen3.5-0.8B 约 0.016% 的权重,MATH-500 从 7.9 涨到 48.1,GSM8K 从 13.8 涨到 67.1,指令遵循提升 3 倍。

正文 · 原文

今日 X 上 AI 最火:MIT CSAIL 的博士生 Rikiya Takehi 和他的团队提出了“权重空间编程”的方法,不训练、不算梯度,让 GPT-6 Astra 直接读写神经网络的权重。实验只修改了 Qwen3.5-0.8B 约 0.016% 的权重,就让 MATH-500 从 7.9 涨到 48.1,GSM8K 从 13.8 涨到 67.1 ... 大模型手搓小模型,指日可待🤟

引用Rikiya Takehi@rikiyatakehi
我们让 GPT-6 Astra 编辑 Qwen3.5-0.8B 的权重以提升数学能力。 它仅直接修改了 0.016% 的权重,就修复了 0.8B 的推理循环,数学能力最高提升 6 倍,指令遵循能力甚至提升 3 倍,且无需梯度或训练。 我们称之为权重空间编程:前沿 LLM 现在可以原生读写神经网络权重了!🧵 博客:https://rikiyat.github.io/blog/weight-space-programming/
在 X 查看被引用的帖子

来源:indigo · x.com

来源:RadarAI · aihot.news