Together AI 发布 Together Compiler 推理优化系统

Together AI 发布 Together Compiler（TKCC），一个由智能体驱动的持续编译系统，随生产流量变化不断重写模型前向传播以优化推理，官方称推理最高可提速 2.6 倍。 该系统目前以有限测试版形式向 Together 客户开放，相关结果已发布在公开仓库中。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。