千万 DAU 下的端侧 AIGC：美图秀秀如何把图像大模型塞进手机并跑出极致性能？

一、问题背景：千万 DAU 与端侧 AIGC 的碰撞

美图秀秀作为千万 DAU 级别的影像应用，用户对 AI 生成、AI 修图、AI 扩图、AI 写真等能力的需求持续增长。若全部依赖云端推理，带宽、算力成本和首屏延迟都会成为瓶颈；而端侧推理能带来隐私保护、离线可用、低延迟和更低的云端成本。用户通过美图秀秀官网或应用商店完成美图秀秀下载后，期待在手机上获得接近云端的生成质量。这要求工程团队把图像大模型塞进手机，并在碎片化硬件上跑出极致性能。

二、总体架构：端侧 AIGC 推理管线

管线通常分为：输入预处理、条件编码、扩散/生成主干、后处理与显示。预处理包括人脸检测、分割、关键点、图像对齐；条件编码可能使用轻量文本编码器或图像编码器；生成主干采用 Latent Diffusion、GAN 或轻量 Transformer；后处理包括 VAE 解码、超分、色彩校正。端侧引擎需要管理模型仓库、硬件抽象层、调度器和内存池。针对不同设备，引擎会动态选择 CPU、GPU、NPU 或异构组合。

三、模型压缩：把大模型塞进手机

结构轻量化：使用 Latent Diffusion 降低分辨率，蒸馏 UNet，剪枝注意力头与通道，低秩分解卷积。对于人像、风格化等垂直场景，采用专用小模型替代通用大模型。
步数蒸馏：通过 LCM、Turbo、一致性模型把采样步数从 50 步降到 4 到 8 步，显著降低计算量。
量化：训练后量化与量化感知训练结合，权重 INT8/INT4，激活 INT8，敏感层保留 FP16。逐通道量化、混合精度、异常值裁剪，保证画质。
权重压缩与分片：模型权重按需加载，使用 mmap 与差分更新，减少美图秀秀下载包体积和内存占用。

四、推理引擎：算子、内存与异构调度

移动端推理引擎需要做图优化：常量折叠、算子融合、死代码消除、内存复用。卷积使用 Winograd、FFT、im2col+GEMM；注意力使用 FlashAttention 思路，分块计算 softmax，减少显存访问。内存方面，采用内存池、激活重计算、分阶段加载，避免 UNet 与 VAE 同时驻留。异构调度上，CPU 负责预处理与轻量算子，GPU/NPU 负责大矩阵乘与卷积，通过 Vulkan、Metal、OpenCL、NNAPI、Core ML 等后端接入。异步流水线与多队列可以隐藏数据传输开销。

五、性能极致优化：从首帧到温控

首帧延迟和生成耗时是核心指标。优化手段包括：多线程绑核、算子级 profiling、动态分辨率、自适应步数、缓存常用中间特征。温控与功耗墙下，引擎会动态降频、降低分辨率或切换更小模型，保证不崩溃、不过热。端云协同也是策略：端侧快速预览，云端精修；或者低端机走云端，高端机走端侧。美图秀秀官网版本迭代时，会通过灰度发布和 AB 实验验证不同机型的策略。