arXiv cs.CL· Nam H. Le·· 11 小时前AI 评分42
模型复制知识该由谁买单？研究将模型坍缩解读为 Rogers 悖论
Who Pays for the Knowledge Models Copy? Model Collapse as Rogers' Paradox
AI 导读
研究把生成模型的模型坍缩重新解读为 Rogers 悖论：依赖复制的一代并不比从不复制更好，因为副本会过时，除非有人持续自主学习。仅用纯合成数据拟合的 Rogers 模型，能在几个百分点误差内预测从词三元组到预训练 Transformer 的语言模型在新鲜数据不同混合比例下的稀有知识保留率。
正文 · AI 翻译
摘要：在早期模型输出上训练的生成模型会跨代丢失知识，稀有知识首当其冲。所有有效的补救措施都从循环之外引入信息，而模型崩溃理论将这种供给视为给定：一个固定的档案库，取自固定的分布。我们认为供给本身就是问题所在，而文化演化已有关于它的理论。我们将模型崩溃解读为罗杰斯悖论：一个转而依赖复制的群体，最终并不比从不复制的群体处境更好，因为除非有人持续为自己学习，复制品就会过时。我们分三步检验这一识别。第一，仅用完全合成训练数据拟合的罗杰斯模型，能在几个百分点以内预测语言模型——从词三元组到预训练 transformer——在其他新鲜数据混合下保留多少稀有知识。第二，当世界本身发生变化时，复制自身过去的谱系需要更多新鲜数据才能跟上，且世界变化越快所需越多，正如罗杰斯模型所言，也如假设固定目标的分析所不能言；而每一代都从固定预训练权重重新开始的谱系基本不受影响，因为这些权重是永远不会被复制的知识。第三，我们闭合循环：当编写模型训练数据的人可以询问模型而不是自己去查明时，新鲜数据的供给就变成内生的。在均衡状态下，模型的可靠程度恰好等于人们自行查明的成本，群体的处境并不比没有模型时更好，而模型生成文本份额的每一次增加，都必须由更多人自行学习来偿付。核对所被告知内容并在其错误时重新学习的用户打破了这一悖论。筛选看似合理文本的过滤器是顺从性的，会加速崩溃；只有携带新信息的核对才起到关键学习的作用。
| 评论： | 13 页，5 幅图。代码：此 https URL |
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL）；种群与演化（q-bio.PE） |
| 引用为： | arXiv:2611.06022 [cs.LG] |
| （或 arXiv:2611.06022v1 [cs.LG] 为本版本） | |
| https://doi.org/10.48550/arXiv.2611.06022 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Nam H. Le [查看邮箱]
[v1]
2026 年 11 月 4 日星期三 06:19:55 UTC（85 KB）
来源：arXiv cs.CL · arxiv.org