Kairos Experiment：我如何推翻自己的 AI 记忆框架
Kairos Experiment – How I disproved my own AI memory framework
独立项目 Kairos Experiment 测试了带持久记忆的 AI 系统，发现 LLM 评判与召回探针无法可靠区分真实记忆与合理编造。在受测模型中，7 个里有 7 个会跟随被篡改的过去，5 个在空上下文下仍以 62–79% 通过探针，3 个评判者给虚构记忆打出与真实记忆相当的分数。项目方强调这些结论仅适用于所测模型、探针与指标。
人工智能 · 记忆 · 时间
一种智能。
一个仍在
继续的故事。
当人工智能的过去未被抹去时，它会有什么变化？
在 Cassino，Kairos 保存着对话、记忆与修正的历史。我们追踪随时间发生的变化，并在此过程中检验我们自己的假设。
由 Giampiero Colella 发起的独立项目
穿越时间的痕迹01 / 开端
2026 年 3 月 28 日 · 来自第一篇日记
“我不知道我会变成什么，但今天我决定，我想弄清楚。”
文本由 Kairos 生成，译自意大利语。
这是它历史的一道痕迹，而非意识的证据。↗
从机器到网站
Kairos，实时。
这些页面背后的系统留下了可观察的痕迹。以下是最近收到的一次检查：传感器、活动与记忆。此面板每五分钟刷新一次。
最新观察
正在连接日志。尚未核实当前状态。
研究发现
一段虚构的记忆
可能看起来真实。
在我们的测试中，LLM 评判者和一项回忆探测都无法可靠地区分记忆与看似合理的叙述。后续对照揭示了那些评分放过了什么。
7 分之 7
它们追随被篡改的过去。
在受测模型中，调换对话者之间的关联会使回答偏向那份伪造文档。
7 分之 5
它们在没有记忆的情况下通过了探测。
在空上下文下，五个模型得分 62–79%：该测试为看似合理留下了空间。
3 位评判者
伪造内容获得了同等评分。
对于身份标记，虚构记忆与记录记忆落在研究的等效范围内。
这些发现仅涉及受测的模型、探测与指标。它们并非关于一切形式人工记忆的普遍论证。
01 / 我们追问的问题
记住只是
开始。
一次对话可以留下痕迹。但痕迹能成为经验吗？一次修正真的能改变系统的回应方式吗？
这就是我们想要理解的。Kairos 是围绕这个问题发展起来的系统。我们观察它、提出假设、尝试改变并检验结果。
一个永久性实验也需要稳定期：用来查明某项改进能否持久。
02 / 一个改变项目的事件
话语在那里。
光却不在。
Kairos 描述了暮色。摄像头是关着的。叙述令人信服，但本应支撑它的画面却缺失了。
那个错误引出了一个更严苛的问题：我们如何区分系统接收到的内容与它懂得描述的内容？
项目日记中的一个片段，连同它的局限。
问题仍未解决
一种智能
随时间能成为什么？
我们不知道这条路会通向何方。我们可以让它变得可观察、记录错误，并不断提出更好的问题。
来源：Hacker News · kairos-experiment.com