Stable Diffusion （SD）是當(dāng)前最熱門(mén)的文本到圖像（text to image）生成擴(kuò)散模型。盡管其強(qiáng)大的圖像生成能力令人震撼，一個(gè)明顯的不足是需要的計(jì)算資源巨大，推理速度很慢：以 SD-v1.5 為例，即使用半精度存儲(chǔ)，其模型大小也有 1.7GB，近 10 億參數(shù)，端上推理時(shí)間往往要接近 2min。

為了解決推理速度問(wèn)題，學(xué)術(shù)界與業(yè)界已經(jīng)開(kāi)始對(duì) SD 加速的研究，主要集中于兩條路線：（1）減少推理步數(shù)，這條路線又可以分為兩條子路線，一是通過(guò)提出更好的 noise scheduler 來(lái)減少步數(shù)，代表作是 DDIM [1]，PNDM [2]，DPM [3] 等；二是通過(guò)漸進(jìn)式蒸餾（Progressive Distillation）來(lái)減少步數(shù)，代表作是 Progressive Distillation [4] 和 w-conditioning [5] 等。（2）工程技巧優(yōu)化，代表作是 Qualcomm 通過(guò) int8 量化 + 全棧式優(yōu)化實(shí)現(xiàn) SD-v1.5 在安卓手機(jī)上 15s 出圖 [6]，Google 通過(guò)端上 GPU 優(yōu)化將 SD-v1.4 在三星手機(jī)上加速到 12s [7]。

盡管這些工作取得了長(zhǎng)足的進(jìn)步，但仍然不夠快。

近日，Snap 研究院推出最新高性能 Stable Diffusion 模型，通過(guò)對(duì)網(wǎng)絡(luò)結(jié)構(gòu)、訓(xùn)練流程、損失函數(shù)全方位進(jìn)行優(yōu)化，在 iPhone 14 Pro 上實(shí)現(xiàn) 2 秒出圖（512x512)，且比 SD-v1.5 取得更好的 CLIP score。這是目前已知最快的端上 Stable Diffusion 模型！

論文地址：https://arxiv.org/pdf/2306.00980.pdf

Webpage: https://snap-research.github.io/SnapFusion

核心方法

Stable Diffusion 模型分為三部分：VAE encoder/decoder, text encoder, UNet，其中 UNet 無(wú)論是參數(shù)量還是計(jì)算量，都占絕對(duì)的大頭，因此 SnapFusion 主要是對(duì) UNet 進(jìn)行優(yōu)化。具體分為兩部分：（1）UNet 結(jié)構(gòu)上的優(yōu)化：通過(guò)分析原有 UNet 的速度瓶頸，本文提出一套 UNet 結(jié)構(gòu)自動(dòng)評(píng)估、進(jìn)化流程，得到了更為高效的 UNet 結(jié)構(gòu)（稱為 Efficient UNet）。（2）推理步數(shù)上的優(yōu)化：眾所周知，擴(kuò)散模型在推理時(shí)是一個(gè)迭代的去噪過(guò)程，迭代的步數(shù)越多，生成圖片的質(zhì)量越高，但時(shí)間代價(jià)也隨著迭代步數(shù)線性增加。為了減少步數(shù)并維持圖片質(zhì)量，我們提出一種 CFG-aware 蒸餾損失函數(shù)，在訓(xùn)練過(guò)程中顯式考慮 CFG （Classifier-Free Guidance）的作用，這一損失函數(shù)被證明是提升 CLIP score 的關(guān)鍵！

下表是 SD-v1.5 與 SnapFusion 模型的概況對(duì)比，可見(jiàn)速度提升來(lái)源于 UNet 和 VAE decoder 兩個(gè)部分，UNet 部分是大頭。UNet 部分的改進(jìn)有兩方面，一是單次 latency 下降（1700ms -> 230ms，7.4x 加速），這是通過(guò)提出的 Efficient UNet 結(jié)構(gòu)得到的；二是 Inference steps 降低（50 -> 8，6.25x 加速），這是通過(guò)提出的 CFG-aware Distillation 得到的。VAE decoder 的加速是通過(guò)結(jié)構(gòu)化剪枝實(shí)現(xiàn)。

下面著重介紹 Efficient UNet 的設(shè)計(jì)和 CFG-aware Distillation 損失函數(shù)的設(shè)計(jì)。

（1）Efficient UNet

我們通過(guò)分析 UNet 中的 Cross-Attention 和 ResNet 模塊，定位速度瓶頸在于 Cross-Attention 模塊（尤其是第一個(gè) Downsample 階段的 Cross-Attention），如下圖所示。這個(gè)問(wèn)題的根源是因?yàn)?attention 模塊的復(fù)雜度跟特征圖的 spatial size 成平方關(guān)系，在第一個(gè) Downsample 階段，特征圖的 spatial size 仍然較大，導(dǎo)致計(jì)算復(fù)雜度高。

為了優(yōu)化 UNet 結(jié)構(gòu)，我們提出一套 UNet 結(jié)構(gòu)自動(dòng)評(píng)估、進(jìn)化流程：先對(duì) UNet 進(jìn)行魯棒性訓(xùn)練（Robust Training），在訓(xùn)練中隨機(jī) drop 一些模塊，以此來(lái)測(cè)試出每個(gè)模塊對(duì)性能的真實(shí)影響，從而構(gòu)建一個(gè) “對(duì) CLIP score 的影響 vs. latency” 的查找表；然后根據(jù)該查找表，優(yōu)先去除對(duì) CLIP score 影響不大同時(shí)又很耗時(shí)的模塊。這一套流程是在線自動(dòng)進(jìn)行，完成之后，我們就得到了一個(gè)全新的 UNet 結(jié)構(gòu)，稱為 Efficient UNet。相比原版 UNet，實(shí)現(xiàn) 7.4x 加速且性能不降。

（2）CFG-aware Step Distillation

CFG（Classifier-Free Guidance）是 SD 推理階段的必備技巧，可以大幅提升圖片質(zhì)量，非常關(guān)鍵！盡管已有工作對(duì)擴(kuò)散模型進(jìn)行步數(shù)蒸餾（Step Distillation）來(lái)加速 [4]，但是它們沒(méi)有在蒸餾訓(xùn)練中把 CFG 納入優(yōu)化目標(biāo)，也就是說(shuō)，蒸餾損失函數(shù)并不知道后面會(huì)用到 CFG。這一點(diǎn)根據(jù)我們的觀察，在步數(shù)少的時(shí)候會(huì)嚴(yán)重影響 CLIP score。

為了解決這個(gè)問(wèn)題，我們提出在計(jì)算蒸餾損失函數(shù)之前，先讓 teacher 和 student 模型都進(jìn)行 CFG，這樣損失函數(shù)是在經(jīng)過(guò) CFG 之后的特征上計(jì)算，從而顯式地考慮了不同 CFG scale 的影響。實(shí)驗(yàn)中我們發(fā)現(xiàn)，完全使用 CFG-aware Distillation 盡管可以提高 CLIP score， 但 FID 也明顯變差。我們進(jìn)而提出了一個(gè)隨機(jī)采樣方案來(lái)混合原來(lái)的 Step Distillation 損失函數(shù)和 CFG-aware Distillation 損失函數(shù)，實(shí)現(xiàn)了二者的優(yōu)勢(shì)共存，既顯著提高了 CLIP score，同時(shí) FID 也沒(méi)有變差。這一步驟，實(shí)現(xiàn)進(jìn)一步推理階段加速 6.25 倍，實(shí)現(xiàn)總加速約 46 倍。

除了以上兩個(gè)主要貢獻(xiàn)，文中還有對(duì) VAE decoder 的剪枝加速以及蒸餾流程上的精心設(shè)計(jì)，具體內(nèi)容請(qǐng)參考論文。

實(shí)驗(yàn)結(jié)果

SnapFusion 對(duì)標(biāo) SD-v1.5 text to image 功能，目標(biāo)是實(shí)現(xiàn)推理時(shí)間大幅縮減并維持圖像質(zhì)量不降，最能說(shuō)明這一點(diǎn)的是下圖：

該圖是在 MS COCO’14 驗(yàn)證集上隨機(jī)選取 30K caption-image pairs 測(cè)算 CLIP score 和 FID。CLIP score 衡量圖片與文本的語(yǔ)義吻合程度，越大越好；FID 衡量生成圖片與真實(shí)圖片之間的分布距離（一般被認(rèn)為是生成圖片多樣性的度量），越小越好。圖中不同的點(diǎn)是使用不同的 CFG scale 獲得，每一個(gè) CFG scale 對(duì)應(yīng)一個(gè)數(shù)據(jù)點(diǎn)。從圖中可見(jiàn)，我們的方法（紅線）可以達(dá)到跟 SD-v1.5（藍(lán)線）同樣的最低 FID，同時(shí)，我們方法的 CLIP score 更好。值得注意的是，SD-v1.5 需要 1.4min 生成一張圖片，而 SnapFusion 僅需要 1.84s，這也是目前我們已知最快的移動(dòng)端 Stable Diffusion 模型！

下面是一些 SnapFusion 生成的樣本：

更多樣本請(qǐng)參考文章附錄。

除了這些主要結(jié)果，文中也展示了眾多燒蝕分析（Ablation Study）實(shí)驗(yàn)，希望能為高效 SD 模型的研發(fā)提供參考經(jīng)驗(yàn)：

（1）之前 Step Distillation 的工作通常采用漸進(jìn)式方案 [4, 5]，但我們發(fā)現(xiàn)，在 SD 模型上漸進(jìn)式蒸餾并沒(méi)有比直接蒸餾更有優(yōu)勢(shì)，且過(guò)程繁瑣，因此我們?cè)谖闹胁捎玫氖侵苯诱麴s方案。

（2）CFG 雖然可以大幅提升圖像質(zhì)量，但代價(jià)是推理成本翻倍。今年 CVPR’23 Award Candidate 的 On Distillation 一文 [5] 提出 w-conditioning，將 CFG 參數(shù)作為 UNet 的輸入進(jìn)行蒸餾（得到的模型叫做 w-conditioned UNet），從而在推理時(shí)省卻 CFG 這一步，實(shí)現(xiàn)推理成本減半。但是我們發(fā)現(xiàn)，這樣做其實(shí)會(huì)造成圖片質(zhì)量下降，CLIP score 降低（如下圖中，四條 w-conditioned 線 CLIP score 均未超過(guò) 0.30, 劣于 SD-v1.5）。而我們的方法則可以減少步數(shù)，同時(shí)將 CLIP score 提高，得益于所提出的 CFG-aware 蒸餾損失函數(shù)！尤其值得主要的是，下圖中綠線（w-conditioned, 16 steps）與橙線（Ours，8 steps）的推理代價(jià)是一樣的，但明顯橙線更優(yōu)，說(shuō)明我們的技術(shù)路線比 w-conditioning [5] 在蒸餾 CFG guided SD 模型上更為有效。

（3）既有 Step Distillation 的工作 [4, 5] 沒(méi)有將原有的損失函數(shù)和蒸餾損失函數(shù)加在一起，熟悉圖像分類知識(shí)蒸餾的朋友應(yīng)該知道，這種設(shè)計(jì)直覺(jué)上來(lái)說(shuō)是欠優(yōu)的。于是我們提出把原有的損失函數(shù)加入到訓(xùn)練中，如下圖所示，確實(shí)有效（小幅降低 FID）。

總結(jié)與未來(lái)工作

本文提出 SnapFusion，一種移動(dòng)端高性能 Stable Diffusion 模型。SnapFusion 有兩點(diǎn)核心貢獻(xiàn)：（1）通過(guò)對(duì)現(xiàn)有 UNet 的逐層分析，定位速度瓶頸，提出一種新的高效 UNet 結(jié)構(gòu)（Efficient UNet），可以等效替換原 Stable Diffusion 中的 UNet，實(shí)現(xiàn) 7.4x 加速；（2）對(duì)推理階段的迭代步數(shù)進(jìn)行優(yōu)化，提出一種全新的步數(shù)蒸餾方案（CFG-aware Step Distillation），減少步數(shù)的同時(shí)可顯著提升 CLIP score，實(shí)現(xiàn) 6.25x 加速。總體來(lái)說(shuō)，SnapFusion 在 iPhone 14 Pro 上實(shí)現(xiàn) 2 秒內(nèi)出圖，這是目前已知最快的移動(dòng)端 Stable Diffusion 模型。

未來(lái)工作：

1.SD 模型在多種圖像生成場(chǎng)景中都可以使用，本文囿于時(shí)間，目前只關(guān)注了 text to image 這個(gè)核心任務(wù)，后期將跟進(jìn)其他任務(wù)（如 inpainting，ControlNet 等等）。

2. 本文主要關(guān)注速度上的提升，并未對(duì)模型存儲(chǔ)進(jìn)行優(yōu)化。我們相信所提出的 Efficient UNet 仍然具備壓縮的空間，結(jié)合其他的高性能優(yōu)化方法（如剪枝，量化），有望縮小存儲(chǔ)，并將時(shí)間降低到 1 秒以內(nèi)，離端上實(shí)時(shí) SD 更進(jìn)一步。