LM-SimBench:LLM训练仿真器评测框架与数据集
热点事件持续更新
LM-SimBench:LLM训练仿真器评测框架与数据集
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
研究者 Yu Dong 等人提出 LM-SimBench,一个用于评估大语言模型训练仿真器的统一框架、性能剖析数据集与基准。 该数据集在 Ascend NPU 集群上剖析了 10 个稠密与 MoE 大模型家族的 23 个模型设置,得到 348 个可行配置,联合变化五个并行维度和激活重计算,并提供六种粒度视图。 作者称,匹配的 GPU-NPU 实验验证了该收集与评估协议的跨平台适用性,并展示了 NPU 引导的 GPU 配置选择。
AI 根据报道生成 · 47 分钟前更新
最新进展11月11日 13:00
LM-SimBench:面向大语言模型训练仿真的统一框架、数据集与基准报道时间线
沿着报道,了解事件的不同侧面。
11月11日
- arXiv cs.AILM-SimBench:面向大语言模型训练仿真的统一框架、数据集与基准
研究者推出 LM-SimBench,一个用于评估 LLM 训练仿真器的统一框架、性能剖析数据集与基准。该数据集在 Ascend NPU 集群上剖析了 10 个稠密与 MoE 大模型家族的 23 个模型设置,得到 348 个可行配置,联合变化五个并行维度和激活重计算,并提供六种粒度视图。匹配的 GPU-NPU 实验验证了该收集与评估协议的跨平台适用性,并展示了 NPU 引导的 GPU 配置选择。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。