马东锡读文：前沿AI团队如何管理

Dongxi 东锡 NLP· @dongxi_nlp · X·2026-10-28 05:59· 1 小时前AI 评分43

AI 导读

马东锡分享阅读前沿 AI 团队组织管理文章的笔记，认为对训练大模型的组织极具参考价值。要点包括：语言模型关键信息必须自下而上流动，核心语言建模团队应始终保持小规模，工程必须服务于下一代模型，并坚持固定训练日程、少而精地发布模型。他推荐深度阅读原文。

正文 · 原文

很棒的阅读！

训练前沿 AI 的团队中充满着世界上最聪明的大脑，运行着巨量的算力，如何管理这样独特的组织？

随手记了很多笔记，非常受用：

1. 大团队必然滋生政治与领地意识，但语言模型的关键信息必须自下而上流动。
2. 预训练与后训练的规划逻辑不同，前者少而大，后者可相对连续迭代。
3. 核心语言建模团队应始终保持小规模，即使公司整体急剧扩张。
4.工程与训练不可过度切割，工程必须服务于下一代模型。
5. 不要发布太多模型，坚持一套固定的模型训练日程。拥有更少但更有能力的模型。

当然还有更多，推荐深度阅读！

引用Nathan Lambert@natolambert

我认为，组织架构和团队运作对打造优秀 LLM 的重要性被严重低估了。这篇文章已发布超过 18 个月，仍是我历来最喜欢的 Interconnects 文章之一。这也是为什么我们仍常看到组织崩塌并需要重建（例如 Llama/xAI），以及为什么我相信后来者仍能迎头赶上。一个高效的组织和团队，其价值相当于数倍的算力。我还认为，构建模型并没有那么多秘密配方。是的，确实有一些技巧，但大部分收益来自持续一致的执行和明智地使用算力。

在 X 查看被引用的帖子

来源：Dongxi 东锡 NLP · x.com