斯坦福与伯克利发布TokenGate长上下文预填充模块

事件综述根据 1 篇报道整理，10月25日更新

斯坦福大学与加州大学伯克利分校的研究者以预印本形式发布 TokenGate，一个面向长上下文预填充的 token 门控注意力模块，并公开代码与检查点（GitHub，Apache-2.0）。团队称其让长上下文预填充最高提速 11.3 倍。 这一提速数字来自论文计时：单张 A100、batch size 1；训练使用 4 张 A100。另有一个可选的 FlashAttention-2 key-bias 内核，用于加速稠密 Qwen3。预印本可见正文未给出具体样本与基准细节，上述效果尚未经独立复现。

综述由模型根据报道生成，细节以各篇原文为准。