跳到正文
热点事件持续更新

英伟达研究团队称超大上下文窗口是死路

2 篇报道2 个报道来源2 小时前更新

先了解这件事

AI 综述

英伟达研究团队提出,模型上下文窗口一味扩大往往是过度且昂贵的做法,定期摘要加定向检索在多项测试中效果相当。 该团队称,这一结论来自多项测试的对比。报道以 GPT-4 2023 年 3 月发布时 8,192 tokens 的上下文、与如今 GPT 5.6 Sol 约 100 万 tokens(约为前者 120 倍)作对照,说明窗口扩张的幅度。上述效果对比出自英伟达研究团队的说法,报道未给出测试的具体范围。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月22日
  1. RadarAI
    Nvidia 研究者称超大 AI 上下文窗口是死路

    Nvidia 研究团队认为,模型上下文窗口一味扩大往往是过度且昂贵的做法,定期摘要加定向检索在多项测试中效果相当。GPT-4 于 2023 年 3 月发布时上下文为 8,192 tokens,如今 GPT 5.6 Sol 可处理约一百万 tokens,约为前者 120 倍。

  2. The Decoder
    Nvidia 研究者称超大 AI 上下文窗口是死路一条

    Nvidia 研究团队认为,超大上下文窗口往往是过度且昂贵的方案,定期摘要加定向检索在多项测试中效果相当。GPT-4 于 2023 年 3 月发布时上下文为 8,192 tokens,而如今 GPT 5.6 Sol 可处理约 100 万 tokens,约为前者的 120 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。