跳到正文
热点事件持续更新

大模型零样本直接写出网络权重

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Eduardo C. Garrido-Merchán 提交的论文检验大语言模型能否零样本完成权重空间编程:在不做梯度下降、不用优化器、不执行代码的条件下,仅凭完整小数据集和前馈网络架构,直接写出每个权重与偏置的数值。 在玩具问题、隐藏旋转伪装的合成问题、经典基准与真实工程回归的评测中,冻结网络在线性最优处匹配闭式解,在三个非线性层级达到生成过程的不可约误差,并在其中两个层级上超过包括梯度下降训练的同类架构在内的所有拟合基线。两个失败层级均因待发现结构与其分析坐标斜交。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    大语言模型能否零样本完成权重空间编程?结构化数据集目标变量预测与分类研究

    研究检验大语言模型能否在无梯度下降、无优化器、无代码执行的条件下,仅凭完整小数据集和前馈网络架构,直接写出每个权重与偏置的数值。在涵盖玩具问题、隐藏旋转伪装的合成问题、经典基准与真实工程回归的评测中,冻结网络在线性最优处匹配闭式解,在三个非线性层级达到生成过程的不可约误差,并在其中两个层级上超过包括梯度下降训练的同类架构在内的所有拟合基线;两个失败层级均因待发现结构与其分析坐标斜交。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。