跳到正文
热点事件持续更新

LM-SimBench:LLM训练仿真器评测框架与数据集

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

研究者 Yu Dong 等人提出 LM-SimBench,一个用于评估大语言模型训练仿真器的统一框架、性能剖析数据集与基准。 该数据集在 Ascend NPU 集群上剖析了 10 个稠密与 MoE 大模型家族的 23 个模型设置,得到 348 个可行配置,联合变化五个并行维度和激活重计算,并提供六种粒度视图。 作者称,匹配的 GPU-NPU 实验验证了该收集与评估协议的跨平台适用性,并展示了 NPU 引导的 GPU 配置选择。

AI 根据报道生成 · 47 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. arXiv cs.AI
    LM-SimBench:面向大语言模型训练仿真的统一框架、数据集与基准

    研究者推出 LM-SimBench,一个用于评估 LLM 训练仿真器的统一框架、性能剖析数据集与基准。该数据集在 Ascend NPU 集群上剖析了 10 个稠密与 MoE 大模型家族的 23 个模型设置,得到 348 个可行配置,联合变化五个并行维度和激活重计算,并提供六种粒度视图。匹配的 GPU-NPU 实验验证了该收集与评估协议的跨平台适用性,并展示了 NPU 引导的 GPU 配置选择。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。