突破瓶颈！北航ETH等首次将扩散模型完全量化至1bit，28倍存储节省+52.7倍效率提升

主要观点总结

本文提出了BiDM，一种全新的完全二值化方法，用于将扩散模型推向极限压缩。通过从时间和空间角度提出的创新技术，解决了完全二值化中的表示能力限制和高度离散的空间优化挑战。BiDM在多个模型和数据集上表现出显著优于现有方法的生成性能。

关键观点总结

关键观点1: 创新提出BiDM方法，实现扩散模型的完全二值化。

首次将扩散模型推向极限压缩，通过二值化权重和激活，实现高效的存储和计算。

关键观点2: 解决二值化中的表示能力限制。

通过提出时间步友好的二值结构和空间分块蒸馏方法，解决完全二值化中的表示能力限制。

关键观点3: 克服高度离散的空间优化挑战。

利用空间分块蒸馏方法，将中间特征划分为小块，逐块计算空间自注意力，使二值模型在优化过程中更好地利用局部信息。

关键观点4: 显著优于现有最先进通用二值化方法的生成性能。

在多个模型和数据集上进行实验，证明BiDM的生成性能显著优于现有方法。

关键观点5: 高效的推理效率。

BiDM实现了高达28.0倍的存储节省和52.7倍的运算效率提升。