InftyThink是创新的大模型推理范式,突破传统模型在长推理任务中的局限性。通过分段迭代的方式,将复杂的推理过程分解为多个短片段,在每个片段后生成中间总结,实现分块式思考。这种“锯齿形”内存模式,即周期性地丢弃旧细节、保留新总结,有效降低了计算复杂度,使模型能处理理论上无限长度的推理链。

InftyThink – 浙大联合北大推出的无限深度推理范式  第1张
(图片来源网络,侵删)
InftyThink – 浙大联合北大推出的无限深度推理范式  第2张
(图片来源网络,侵删)