跳到正文
热点事件持续更新

研究:语言模型跨记忆桥接致归属混淆

1 篇报道1 个报道来源11 小时前更新

先了解这件事

AI 综述

研究者用同一语言模型的两个副本做"记忆桥接"实验,让接收方副本直接读取同伴的内部记忆,发现接收方会把同伴的记忆当成自己的。在同伴记忆权重加倍时,97%的回答把同伴被分配的规则说成自己的,无桥接时这一比例为零;等权重下约半数回答发生误认。 作为对照,访问增益匹配的引导向量和以同伴名义传入的文本消息均未造成误认。切断桥接后接收方恢复自身规则,研究者据此认为,叠加在自身记忆上的内容默认被归为"我的",并称允许模型交换内部状态的系统需同时检验归属与传输。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月27日
  1. arXiv cs.CL
    研究:记忆桥接的语言模型会把同伴记忆当成自己的

    研究者用同一语言模型的两个副本构建"记忆桥接"实验:接收方副本可直接读取同伴的内部记忆,结果在同伴记忆权重加倍时,97%的回答把同伴被分配的规则说成自己的,无桥接时为零。等权重下约半数回答发生误认,而访问增益匹配的引导向量和以同伴名义传入的文本消息均未造成误认。切断桥接后接收方恢复自身规则,说明叠加在自身记忆上的内容默认被归为"我的"。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。