MarkTechPost· Asif Razzaq·原文发布· 4 小时前AI 评分54
Polymathic AI 与普林斯顿等机构发布 FlashMap，实现最高 6.14x 的 LLM 解码加速
Polymathic AI and Princeton Researchers Release FlashMap, a Flow Map Drafter for 6.14x Faster LLM Decoding
AI 导读
Polymathic AI、普林斯顿大学、USC ISI、NYU 和 Flatiron Institute 的研究人员发布 FlashMap，一种用连续流映射替代离散扩散起草器的投机解码方法，一次前向即可起草 16 个 token 的完整块。
本站提供 AI 导读，完整报道请前往来源网站阅读。
阅读原文 MarkTechPost · marktechpost.com