MarkTechPost· Asif Razzaq·原文发布· 7 小时前AI 评分46
Zyphra AI 推出 Zyphra Hierarchical Attention（ZHA）：迈向真正的次二次复杂度注意力
Zyphra AI Introduces Zyphra Hierarchical Attention (ZHA): A Path to True Subquadratic Attention
AI 导读
Zyphra 发布稀疏注意力方法 ZHA，用树结构索引器在 KV cache 中检索相关 token，使索引成本随上下文呈次线性增长。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 MarkTechPost · marktechpost.com