AQL-Lite:阿拉伯语LLM高效持续预训练框架
热点事件持续更新
AQL-Lite:阿拉伯语LLM高效持续预训练框架
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Houssam Eddine Boukhalfa 等人提出 AQL-Lite 框架,通过质量优先的数据筛选流程和部分参数持续预训练,将多语言大模型适配到现代标准阿拉伯语。 在 1B token 预算下,其精选数据使四项阿拉伯语基准平均分较原始网络文本提升 3.51 分;在 5B token 对比中,AQL-Lite 以 52% 的实际耗时达到全参数持续预训练增益的 94%(平均 73.19 对 73.58)。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 12:00
AQL-Lite:通过以数据为中心的持续预训练为阿拉伯语 LLM 实现高效知识获取报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv cs.CLAQL-Lite:通过以数据为中心的持续预训练为阿拉伯语 LLM 实现高效知识获取
AQL-Lite 框架通过质量优先的数据筛选流程与部分参数持续预训练,将多语言 LLM 适配到现代标准阿拉伯语。在 1B token 预算下,AQL 精选数据使四项阿拉伯语基准平均分比原始网络文本提升 3.51 分;5B token 对比中,AQL-Lite 以 52% 的实际耗时恢复全参数 CPT 94% 的增益(平均 73.19 对 73.58)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。