小米最近发布了一个名为SDXS的项目,该项目显著提升了SD图片生成的速度。通过运用先进的技术,SDXS在单个GPU上能够实现每秒生成100张SD 1.5图片和每秒30张SDXL图片的速度。
这一创新项目很可能是为了优化小米本地设备的运行效率而专门研发的。
项目介绍如下:
尽管扩散模型在图像生成任务中表现出色,但由于其模型庞大且需要多步采样,导致推理速度较慢,难以在低功耗设备上部署。
为了解决这些问题,我们采用了多种常见的模型压缩方法,如剪枝、知识蒸馏和量化等。在此项目中,我们的优化策略主要聚焦于两个方面:首先是实现模型的微型化,其次是将采样步数减少至一步。
为了实现这一目标,我们运用了知识蒸馏技术来简化U-Net架构和图像解码器。此外,我们还引入了一种创新的单步训练技术,该技术结合了特征匹配和成绩蒸馏来训练扩散模型。
经过精心研发,我们成功推出了两款模型:SDXS-512和SDXS-1024。在单个GPU上,SDXS-512能够达到大约每秒100帧的处理速度(比SD v1.5快30倍),而SDXS-1024则能达到每秒30帧的速度(比SDXL快60倍)。
值得一提的是,我们的训练方法在图像条件控制方面也展现出了巨大的潜力,有效地实现了图像到图像的快速转换。这一技术突破将为用户带来更加高效和便捷的图像生成体验。
相关导航
暂无评论...