跳到正文
返回科技动态
原文
Apple Machine Learning·· 2026-10-14

Apple 发布三模态掩码扩散模型设计空间研究

The Design Space of Tri-Modal Masked Diffusion Models

AI 导读

Apple 机器学习团队发表关于三模态掩码扩散模型(MDM)的研究,首次从零开始预训练涵盖文本、图文和音频文本数据的模型。该研究系统分析了多模态缩放定律、模态混合比例及噪声调度,并提出基于随机微分方程的批次大小重参数化方法以解耦物理与逻辑批次。在 3B 参数规模下,统一设计的初步模型在文本生成、T2I 和 T2S 任务中均取得强劲表现。

来源:Apple Machine Learning · machinelearning.apple.com

浙ICP备2026082753号-2