说米网

今天清晨，OpenAI发布了全新分散模型办法sCM，仅需2步就能生成高质量图片、3D模型等完成50倍时钟加快，尤其是在高分辨率使命上相当出色。
例如，经过sCM练习了一个15亿参数的模型，在单个A100GPU上无需任何推理优化0.11秒内就能生成内容。
现在，分散模型生成图片最快的是Stability AI开源的SD快速版别，4步就能生成高质量图片。而Scm在保证质量的前提下又将推理效率提升了1倍，一起简化了接连时刻一致性模型的理论公式，答应模型在更大数据集进步行稳定的练习和扩展。
图片
sCM的中心原理是基于一致性模型思路，经过直接将噪声转换为无噪声样本来生成数据。在传统分散模型中，数据生成过程被视作一条从噪声到数据的渐进途径，每一步都经过去噪来逐渐恢复数据的清晰度。
一致性模型则恰恰相反，可找到一条更直接的途径，在单步或少数几步内直接从噪声状况跳动到数据状况。
sCM采用了接连时刻框架，使得模型在理论上可以在接连的时刻轴进步行操作，然后避免了离散时刻模型中的离散化误差。在接连时刻于一致性模型中，模型的参数化、分散过程和练习方针都被重新定义，以适应接连时刻的设置。
图片
例如，模型的参数化不再依赖于离散的时刻步，而是直接依赖于时刻本身。惠普服务器报价,这种接连时刻的参数化办法使得模型可以更精确地捕捉数据生成过程中的动态改变。
在网络架构方面，sCM引进了改善的时刻条件、自适应组归一化、新的激活函数和自适应权重，以提高模型的练习稳定性和生成质量。改善的时刻条件使得模型可以更准确地感知时刻t的改变，然后在生成过程中做出更合理的决策。
自适应组归一化则有助于模型在练习过程中坚持内部特征的稳定性，减少练习过程中的噪声搅扰。新的激活函数被引进以增强模型的非线性表达能力，使得模型可以更好地学习复杂的数据散布。
而自适应权重的引进答应模型依据练习数据的散布动态调整丢失函数中的权重，然后减少了不一起刻步长之间的丢失方差。
图片
为了评估sCM的性能，研究人员在CIFAR-10、ImageNet64×64和ImageNet512×512多个数据集进步行了归纳评测。结果显示，sCM成为现在最高效的分散生成办法。
例如，在ImageNet512×512数据集上，sCM的模型达到了1.88FID，一起使用的算力更少、更高效。
有网友表明，如果把这个办法用在视频范畴，那实时视频或许很快会到来。Sora的推理负担也会下降很多。
图片
很高兴又看到OpenAI共享技能论文了。
图片
如果把这个技能用在Sora，它应该快公测了吧?
图片
这种简化的模型非常适合需要快速结果而不影响质量的应用!
图片
这个模型相当有前途啊。
图片
2步就能生成内容，这会再一次改变游戏规则啊。
图片
把这个技能用在Sora，应该就快来了吧?
图片
现在，OpenAI现已共享了该论文办法，是由两位华人提出来的。
论文地址:https://arxiv.org/abs/2410.11081