返回精选
Apple Machine Learning Research2026-08-05 08:008 月 5 日

驯服扩散 Transformer 中的离群 token:Dual-Stage Registers 干预

Taming Outlier Tokens in Diffusion Transformers

AI 导读

研究发现扩散 Transformer(DiT)图像生成流程中,预训练 ViT 编码器和 DiT 去噪器均会产生离群 token,尤其在中间层,且简单掩蔽高范数 token 无法改善性能,问题与局部 patch 语义损坏相关。为此提出 Dual-Stage Registers(DSR)干预方法,在 ImageNet 和文生图任务上持续减少离群伪影并提升生成质量。

来源:Apple Machine Learning Research · machinelearning.apple.com

看完资讯,聊聊你的企业

一对一,30 分钟让你的企业用 AI 推动起来。

WECHAT

添加我的微信

长按或选中下方微信号复制。