跳到正文
热点事件持续更新

Cartesia 发布 H-Net 字节级建模扩展规律研究

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

Cartesia 发布系列博文第一篇,报告其分层网络(H-Net)在字节级语言建模上的扩展规律与实验结果。在严格匹配数据和计算的控制实验中,1-stage H-Net 相比 BPE Transformer 取得 1.28x 计算效率增益,代码任务中位数达 2.04x,分布外编程语言升至 3.10x。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Cartesia Blog精选
    From Tokens to Bytes I:Cartesia 详解 H-Net 的扩展规律

    Cartesia 发布两篇系列博文的第一篇,介绍其分层网络(H-Net)在字节级语言建模上的新结果。在严格匹配数据和计算的控制实验中,1-stage H-Net 相比 BPE Transformer 在验证损失上取得 1.28x 计算效率增益,代码任务上中位数达 2.04x,分布外编程语言升至 3.10x。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。