Periscope：让冻结语言模型突破上下文窗口限制

Periscope 是一种免训练的推理方法，将文本的 N 个分块排成 K×K 网格，让冻结模型对 K 个连续分块的局部片段和 K 个跨全文的跨步片段回答同一问题，并读取每个答案的对数几率。该方法针对在有限选项集上做判断的任务（如哪篇文档相关、哪个选项成立、哪段是证据），无需训练即可将冻结语言模型扩展到超出其上下文窗口。