RadarAI· X:马东锡 NLP (@dongxi_nlp)·· 4 小时前AI 评分22
马东锡 NLP 后训练系列第三篇:LoRA 与 QLoRA 的 rank、低秩近似与量化
马东锡 NLP 后训练系列第三篇:LoRA 与 QLoRA
AI 导读
马东锡 NLP 发布后训练系列第三篇,主题为 LoRA 与 QLoRA。文章围绕 rank 秩、low-rank approximation 低秩近似、quantization 量化三个基本概念展开,并用矩阵中的 pattern 模式这一概念将三者串联起来。
正文 · 原文
Dongxi 东锡 NLP· @dongxi_nlp · X·2026-10-24 17:01· 53 分钟前AI 评分36
AI 导读
马东锡 NLP 发布后训练文章系列第三篇,主题为 LoRA 和 QLoRA。文章围绕 rank 秩、low-rank approximation 低秩近似、quantization 量化三个基本概念展开,并用矩阵中的 pattern 模式这一概念将三者串联起来。
正文 · 原文
后训练文章系列第三篇,关于 LoRA 和 QLoRA
三个重要的基本概念:
rank 秩
low-rank approximation 低秩近似
quantization 量化
它们可以用同一个概念串起来,即矩阵中的 pattern模式。
https://x.com/i/article/2113912265061593088在 X 查看被引用的帖子
来源:Dongxi 东锡 NLP · x.com
来源:RadarAI · aihot.news