Zyphra Research·原文发布· 2026-09-01AI 评分39
PUFFER:面向持续演化语料的增量模糊去重
PUFFER: Incremental Fuzzy Deduplication for Continuously Evolving Corpora
AI 导读
Zyphra Research 提出 PUFFER(Provenance-aware Updatable Fuzzy Filtering for Evolving Repositories),一种面向持续演化语料的增量模糊去重系统。它基于 MinHash-LSH 规则,将去重状态持久化在磁盘而非内存表中,增量加入新数据集的结果与全量重跑一致,并在索引中嵌入数据集来源信息以支持定向撤回。
本站提供 AI 导读,完整报道请前往来源网站阅读。
阅读原文 Zyphra Research · zyphra.com