InternLM/InstantFusion

上海人工智能实验室 InternLM 开源 InstantFusion，通过共享隐空间把不同扩散模型的隐变量对齐，使去噪轨迹可以组合。方法用 Sigma 条件编码器与解码器把两个模型的隐变量映射到共享空间，训练结合重建、交叉重建、隐空间对齐和去噪速度对齐损失，可实现不同步数预算模型间的接力加速、多偏好组合以及跨模型 OPD 蒸馏。