LLaDA-Image:训练配方全公开的图像生成模型,训练代码还在路上
下载得到权重,却复现不了它:图像生成开源的真卡点
按论文自报口径,目前最强的开源图像模型,你可以在几分钟之内下载到它,输入一句 prompt,得到一张以假乱真的图。可一旦你想把它从零复现出来,撞上的墙就出现了:数据是怎么筛的,超参是怎么定的,训练按什么顺序推进,这些全部不可得。想象一个研究组想在某开源模型上做消融实验,他们能做的只有下载权重跑推理,想改数据、改训练流程,只能从头猜起。下载权重只是吃到了成品菜,菜谱并不在你手上,你永远学不会这道菜。
LLaDA-Image 整篇论文就是冲着这一面墙去的,回应方式是交出一份可核查的训练配方,而这份配方的灵魂是"复现优先":目标从来不是单点生成质量,而是让一套完整做法同时覆盖四件事。它来自 Inclusion AI 的 AGI Research Center,引言里直言主流图像生成模型的 data、model 和 training recipes(训练配方)对社区基本不可得。专有系统进步很快,但配方锁在保险柜里,社区能下载的只有"做完的菜"。LLaDA-Image
这四件事正对应这面墙上四道具体的裂缝。能力不是某个基准上的单一分数,而是把复杂多语言指令理解、参考图编辑、准确的文字渲染这些创作者真正会用到的事打包在一起;数据预算指从头训练要花多少数据和算力,普通人够不够得着;稳定的大规模训练指几亿个样本训下来不崩、不出现质量坍塌;高效部署则直接通向 Turbo 这种少步出图的变体。四件缺一件,别人就无法照着重做一遍。读成论文的四个并列卖点就偏了,它们其实是"可复现"这一个目标拆出来的四道检查项。
这面墙在图像生成这边格外高,因为决定成败的环节恰好全锁在最里面。相比之下,图像生成领域的数据与配方几乎不公开、可复现资料更稀缺:数据从哪里来、配文怎么生成、过滤阈值取多少,这些环节直接决定模型上限,却几乎是每家的最高机密。"能下载却不可复现"的落差在图像这边尤其刺眼,LLaDA-Image 的做法等于把最高机密也写进了论文正文,这是它对这个真卡点给出的最直接的回应。
配方的潜台词是,社区可以在此基础上改数据、改超参、做消融,而不是每次从零猜起。回看 2025 到 2026 年的开源图像生态,权重发布越来越慷慨,可复现性却每况愈下,能下载的模型越来越多,能讲清楚怎么训出来的几乎没有,这种落差让"配方"本身变成了稀缺资源,也让"配方即贡献"落成这篇论文的押注。论文在 Scope 里划清了这条押注的边界:不声称每个组件全局最优,也不做穷尽对比,它交出来的是一套可以逐条检查、逐条复用的做法,而不是一句"我们最强"。这两条限定合起来才是"可核查配方"的完整含义:不要求每个组件都用最顶级的方案,但要求每个数字都能被查到、每步做法都能被照着重做。这句话倒过来读也一样成立:对一个开源模型,复现能力和生成能力同等重要,一个分数再高但没人能重新训出来的模型,价值要打一个大折扣。判断这套配方值不值之前,得先弄清楚两件事:这套系统到底由什么构成,以及它吃的是什么数据。名字里的 LLaDA 先给出一个提示,也埋了一个最容易踩的坑。
名字里的 LLaDA:理解骨干为什么是一台扩散语言模型
LLaDA 是一个扩散语言模型家族的名字,起点在 2025 年初的 LLaDA 1.0。它当时做了一件反共识的事:所有人都默认大语言模型只能是自回归的,一个字一个字往外吐,LLaDA 却换了一套玩法。训练时,模型随机盖住一句话里的一部分字,掩码比例随机取,然后同时预测所有被盖住的位置。推理时反过来,从一句全是空格的话出发,每一轮把最有把握的位置填上,没把握的先留着,下一轮再填。关键的机制在于,预测每个空格时模型能同时看到左边和右边的字,而且每一步同时填所有位置,不是一次填一个,这相当于并行解码。LLaDA
举个具体的例子。假设训练语料里有一句"春天来了,桃花开了",训练时随机盖住其中几个字,可能盖成"春□来了,桃□开了",模型要同时把两个空格猜回来,它猜"桃"后面的字时,能看到右边的"开了"。掩码比例每次随机,所以模型在训练中见过各种残缺程度的句子。推理时则从"□□□□□□□□"这样的全空格出发,第一轮填出最有把握的位置,没把握的留白,下一轮在剩余空格上再猜,直到整句可见。每轮具体留哪些位置重猜,LLaDA 用的是低置信度重新掩码:先预测所有空格,再把置信度最低的一小部分重新盖回去,保证每一轮都往最有信息量的地方发力。这套损失还有个关键身份:论文证明它等价于最大化模型对数似然的下界,是一套有理论根基的最大似然训练,而不是拍脑袋的启发式目标,这正是名字里"扩散"二字的由来。

图注:LLaDA 训练流程三栏示意:预训练时按随机比例掩码 token,SFT 时只掩回复段,采样时从全掩码逐步揭盖,每一步同时预测所有掩码位并支持灵活的重新掩码策略。LLaDA
这套玩法在 8B 规模上被验证过。论文自述,LLaDA 8B 从零训练 2.3T token 之后,在 15 个零样本和少样本任务上整体与 LLaMA3-8B Base 竞争力相当,给"扩散语言模型也可以按大模型的范式训出来"提供了一份关键证据。同一个模型不重训,还支持在自回归、块扩散、半自回归三种采样之间随时切换,因为每一步填多少个空本来就是可以调的。双向上下文的收益是实打实的:因为能看到左右两侧,每一轮又能同时填多个位置,同等质量下推理吞吐可以更高,论文自述 8B Base 在数学任务上吞吐是 LLaMA3-8B Base 的 1.8 倍。这个特性后来被 LLaDA-Image 的理解骨干原样继承。
2025 年底,LLaDA2.0 把这条路线推到 100B 规模,方法不是从零硬训,而是把现成的自回归模型渐进改造成扩散模型,改造窗口从逐个 token 逐步放宽到整段文本、再收回到紧凑的块大小,让模型既能并行解码,又保留 KV 缓存这类部署收益。改造中用到 block diffusion,也就是按连续的文本"块"而不是单个 token 来掩码去噪。它开源了两个 MoE 变体,16B 的 mini 和 100B 的 flash,其中 mini 正是本文被冻结的理解骨干,理解骨干的 CoT SFT 也沿用 block diffusion,块大小取 32。LLaDA2.0
到这里必须做一个事实校正,这才是理解全篇架构的钥匙:LLaDA-Image 名字里带 LLaDA,绝不代表它的图像生成主路径是掩码扩散。恰恰相反,它的生成主路径是一台流匹配 DiT,下一章细讲。掩码扩散只出现在被冻结的理解骨干里。理解这件事交给了扩散语言模型家族,生成这件事另起炉灶。真正值得看的是这两半怎么接在一起。
理解骨干选扩散语言模型也有实际考量:双向上下文天然适合"读懂"任务,并行解码让多模态输入的处理开销可控。至于生成,论文另起炉灶用流匹配 DiT,两条路各干各的,这正是整套架构分工的来由。
理解与生成如何合体:冻结的 VLM、可学习的桥、与单流 DiT
论文的架构图把整个系统切成三块:理解侧、桥、生成侧。理解侧是一台被整体冻结的 VLM(视觉语言模型),骨干就是 LLaDA2.0-Mini,视觉编码器是 SigLIP-VQ,负责把文字和图像读懂。冻结的意思是,后面所有训练阶段里它的参数一个都不动。理解侧有三种输入状态,对应三种数据流:纯文生图时只吃文本条件;image-only 预训练阶段的输入里有一条辅助 prompt 加采样出的视觉 token;做编辑时它只管编辑指令,参考图不经过它。
问题立刻浮出来:理解侧输出的是一套为"理解"训练出来的表征,直接拿它当图像生成的条件会域不匹配;微调整个 VLM 又贵,还容易灾难性遗忘。论文于是在中间架了一座桥,桥分两段。第一段叫 RQA,全称 Residual Query Adapter,残差查询适配器,用 256 个可学习 query 在 prefill 之前对整个多模态输入做 cross-attention,把"生成需要知道什么"的信息抽出来,以残差形式追加回原输入而不是替换,让冻结的 VLM 带着这批信息再编码一遍。第二段是一个浅层 Transformer connector,把 VLM 的隐状态投影到 DiT 的条件空间。connector 解决的是一个对齐问题:VLM 的隐状态是在"理解"任务里被拉出来的,维度、分布和 DiT 想要的条件都不一样,投影一步等于把两套坐标系对齐。LLaDA-Image

图注:LLaDA-Image 架构总览:可学习 query 经 RQA 的 cross-attention 聚合输入信息,拼接回原输入后由 LLaDA 2.0 Mini 编码,Connector 把隐状态投影到 DiT 条件空间;FLUX.2 VAE 提供图像 latent,编辑时参考图以 SigLIP-VQ 特征与干净 VAE latent 额外作为条件;单流 DiT 预测流匹配速度场。LLaDA-Image
这座桥可以用一个日常画面来理解:RQA 是一份采访提纲,拿着 256 个预先设计好的问题去把整个输入问一遍,把答案贴回去,让冻结的专家带着答案再答一遍;connector 则是翻译,把专家的隐状态翻成 DiT 听得懂的指令。两段都是小参数,都不动理解侧一根权重,但"理解怎么变成生成条件"这件事就是它们干的。需要说明的是,RQA 并非本篇原创,它来自同团队更早的 IOMM 工作,那篇论文的核心洞见是先用纯图像预训练生成组件,再混入小规模配对数据微调,RQA 正是为冻结理解模块配套的可训练桥。IOMM
生成侧是一台 6B 的单流 DiT。DiT 的全称是 Diffusion Transformer,扩散 Transformer,指的是 2022 年"把扩散去噪网络从卷积 U-Net 换成 Transformer"的那篇范式之作,这里只需知道它在图像扩散领域是标配即可。DiT 所谓单流,是指条件 token 和视觉 token 拼在一起,由同一组 joint self-attention 统一建模,模型预测的是一个流匹配速度场,也就是把纯噪声逐步推向图像时每一步该往哪个方向走。图像本身的连续 latent 由 FLUX.2 VAE 提供。
到这里 tokenizer 的"分工"值得点透:理解与编辑侧用 SigLIP-VQ,把图像变成离散的语义 token,方便按语言的方式处理;生成侧用 FLUX.2 VAE,输出连续 latent,直接喂给 DiT 做回归式的速度场预测。两种表示各管一段任务、互不混用,这是与下一段要说的 LLaDA2.0-Uni 形成对照的关键。
最能体现"理解与生成分工"的是编辑路径。具体到一个人人都能想象的场景:你想把一张家庭合照改成水彩画风格。参考图如果先进 VLM,模型得先把整张照片"翻译"成语言再转成生成条件,信息一路损耗。本文的做法是让参考图完全绕过 VLM,直接走两条互补通道注入 DiT:一条是 SigLIP-VQ 的语义通道,提供"这是一家人、背景是客厅"的高层内容指引;另一条是干净 VAE latent 的像素通道,提供哪些区域必须保持原样的像素级证据。论文以两条通道分别提供语义与像素条件,旨在帮助保留这些信息。实际能保留多少,要等后面的编辑评测给出答案,架构本身并不担保这一点。也不需要额外的编辑骨干。为了让编辑训练不反噬文生图能力,论文把 T2I 和 I2I 以 1:1 混训,当作能力回放。
同一团队在 2026 年 4 月还发布过 LLaDA2.0-Uni,走的是另一条"融合式统一"路线:图像切成全离散的语义 token,和文本塞进同一个掩码扩散骨干,最外层再配一个 diffusion decoder 把语义 token 重建成图像。把它和本文并排看,取舍很清楚,Uni 让理解与生成挤在同一条路上,共享同一套表示;本文让理解完全冻结、生成放开手脚从头训练。这是同一团队对"统一"的两种设计选择,论文不下优劣结论。LLaDA2.0-Uni
架构定了,接下来是这篇论文最有分量的部分:它到底吃了多少数据,按什么顺序训练的。这就是"开放配方"的实锤。
220M 张图、五段训练:"开放配方"的实锤长什么样
配方的第一部分是数据。生成训练管线一共约 220M 个样本,其中 98% 是真实图像。这些数字的每一项都能在论文正文里查到,这正是"公开配方"和"公开权重"的区别。数据要先过三道过滤:总像素大于 $1024^2$,文件大小与像素数之比不低于 0.15 bytes/pixel,再叠加美学评分 ArtiMuse(低于 60 剔除)和质量评分 DeQA(低于 4.0 剔除)两道门槛。配文(caption)由两个大模型生成,Qwen3.6-35B-A3B 和 Qwen3-VL-235B-A22B-Instruct,生成要求是忠实完整地描述主体、属性、动作、空间关系和场景风格,并把画面里出现的文字逐字转写出来、保留原语言;生成之后还要由 35B 模型做一次"配文与图像一致性"校验,专门挑出幻觉对象、畸形输出、拒答、退化重复、私密信息和水印信号这类坏样本,编辑数据还要额外过一道指令一致性检查。SFT 阶段的配对数据按自然、设计、人物、合成四组组织,其中真实图像占比超过 70%。LLaDA-Image
这里有个反直觉的地方值得点破:一个图像生成模型,九成以上的训练样本是纯图像,没有配文。为什么敢这么做?IOMM 的洞见是,图像自条件化让"条件"和"目标"天然自洽,模型自己给自己当条件,不会像配文那样失真,所以稀缺的图文配对数据可以大量让位给海量纯图像。IOMM 还发现一个隐患:当模型拿整张图当条件时,它可能学会把条件原样抄回去,那是无意义的恒等映射。预训练于是会对图像 patch 随机掩掉一部分,把任务从"照抄"逼成"补全",逼出组合式的视觉先验,LLaDA-Image 的预训练沿用了同样的掩码自条件化思路。IOMM 论文自报,用这条路从零训练 IOMM-B 总共约 1050 个 H800 GPU 小时,其中约 1000 小时就完成了主要预训练阶段。先纯图像、后配文,这个顺序是省数据的核心。IOMM
配方的第二部分是顺序,画在论文的 Figure 2 里,一条横向链条。

图注:训练与发布链路:虚线框是 CoT SFT 准备冻结理解骨干,实线依次是 256² image-only 预训练、512² 中间训练、512 到 1024 的 T2I SFT、联合生成编辑训练,产出多步 Base,再经 TwinFlow 蒸馏出 2 到 4 步的 Turbo。LLaDA-Image
虚线框是准备阶段,先用 CoT SFT 把理解骨干准备好,然后冻结。实线才是主角,一共五段。第一段在 $256^2$ 分辨率上做 image-only 预训练;第二段升到 $512^2$,按长宽比分桶(AR buckets)做中间训练;第三段进入 T2I SFT,分辨率从 512 推到 1024;第四段把生成和编辑联合训练,产出的是多步版本的 Base;最后一段用 TwinFlow(同团队在 ICLR 2026 提出的蒸馏方法)把 Base 蒸馏成 2 到 4 步出图的 Turbo,这是论文采用的蒸馏方法,并非本文原创。分辨率渐进不是随意排的:先在低分辨率上便宜地把生成组件的基本能力练出来,再逐步提高,最后才在 $1024^2$ 上精修对齐,这个顺序本身就是配方的一部分。表 2 里各阶段的学习率逐段递减,batch size 整体从 24576 一路压缩到 256(中间 Refine 阶段略有回弹),220M 是这个链条的累计样本量。顺带一提,Base 的建议步数是 50 步,Turbo 的建议步数是 4 步,两个数字都写在权重发布页上,属于开箱即用的配方细节,而不是藏在论文附录里的隐参数。
支撑这套长训练的是两个不起眼但关键的稳定性配方:所有生成阶段统一用 Muon 优化器,它先做动量更新,再用 Newton-Schulz 迭代对更新做近似正交化,只作用于矩阵参数;同时把 DiT 里的归一化层全部换成 parameter-free RMSNorm。训练稳定性对开源项目尤其要命,一次中途崩掉就意味着推倒重来、算力账单照付,论文把 Muon 加 RMSNorm 的组合当预防药写进配方,这类细节恰恰是黑盒模型最不会告诉你的部分。这里还有个读者查文献时常踩的坑:论文正文对 Muon 的引用条目实际指向的是一篇 Kimi 系的规模化报告 arXiv:2502.16982,而不是 Muon 最初的官方 writeup(Keller Jordan 的 GitHub 仓库),两处是不同来源。Muon
Base 和 Turbo 是两张不同定位的牌:
| Base(多步) | Turbo(蒸馏) | |
|---|---|---|
| 采样步数 | 约 50 步 | 2 到 4 步 |
| 怎么训练出来的 | 渐进式链路直接产物 | 用 TwinFlow 蒸馏 Base 得到 |
| 定位 | 质量优先 | 部署优先,用步数换速度 |
蒸馏不是免费的。后面评估里会看到,Turbo 在部分指标上低于 Base,这是一个真实的权衡。
53.53 是"开源最佳"吗:先把尺子讲清楚,再谈分数
给分数之前先给尺子。LLaDA-Image 声称的"开源最佳"是在 Qwen-Image-Bench 上测出来的,这是一把为创作者工作流设计的尺子,由 Qwen 团队构建。它把"生成得好不好"拆成三级能力树:5 个一级支柱,质量(Quality)、美学(Aesthetics)、图文对齐(Text-Image Alignment)、真实世界保真(Real-world Fidelity)、创意生成(Creative Generation),往下是 23 个二级子能力,再往下是 56 个可以单独判分的评价条目 facet,配 1000 条中英双语 prompt,长短各半。打分的是一个叫 Q-Judger 的裁判模型,基于 Qwen3.6-27B 微调,训练用了 13 万条以上人工标注的 prompt 图像对,标注者包括 80 名有摄影、导演、纯艺背景的专业人员,盲标加三人交叉复核。Q-Judger 与人类专家排序的一致性,中英文 Spearman 秩相关系数分别达到 0.92 和 0.90。三级可诊断的意义在于,一个模型哪里弱,可以一路定位到具体的艺术子技能,而不是一句笼统的"不够好"。Qwen-Image-Bench

图注:Qwen-Image-Bench 评测维度三级能力树:5 个一级支柱下分 23 个子能力与 56 个评价 facet,每个 facet 标注 18 个被测模型中该维度的最高分模型。Qwen-Image-Bench
这把尺子的打分机制本身也值得一提。Q-Judger 对每个 facet 只给三档分,0 分失败、60 分通过、100 分优秀,刻意把及格线上下拉开,再由底向上逐级聚合出子能力、支柱直到总分。56 个 facet 里有 28 个落在后两个新增支柱下,说明这把尺子把真实世界保真和创意生成当成现代图像模型的主战场。18 个被测模型被分成五档,第一档 GPT Image 2 总分 64 以上、五个支柱全部第一,首位与末位相差 16.5 分,分层足以拉开差距。把图上的阵营格局看一眼,前几档几乎被闭源模型占据,开源模型大多落在中后段,LLaDA-Image 的分数让它站到了开源队伍的最前面。这解释了为什么"开源最佳"值得写进这篇论文的核心声称(摘要与图题):它是在一个整体靠后的赛道里,把开源的天花板顶到了离前端最近的位置。
尺子清楚了,现在看分数。论文自报,LLaDA-Image 在英文轨 Overall 53.53,中文轨 53.38,比次优的开源基线 Z-Image Turbo 高出 1.87 和 0.67,论文据此声称两个语种都到达新的开源最佳,并且明确限定:不加 prompt 增强,不加 test-time thinking 推理管线。

图注:Qwen-Image-Bench 双轨总体分对比,模型按两轨平均排序,LLaDA-Image 标注 53.53(英文)与 53.38(中文),同图还有 GLM-Image、Kling-Image、Z-Image、Imagen 4.0、FLUX.2 Max 等模型。LLaDA-Image
"开源最佳"四个字带着三重限定,必须拆开看。第一,这是论文自报,按统一协议自己跑的评测,不是第三方复测。第二,"最佳"限定在 open-source 类别里,图上排在它前面的 GPT Image 2、Imagen 4.0 都是闭源模型。第三,官方 18 模型榜截至 2026 年 9 月 6 日并没有收录 LLaDA-Image,所以这个分数与"官方榜排名"是两回事,引用时必须带上核查日期。Qwen-Image-Bench
论文在别的基准上也给了数字,合起来能看个轮廓。长文字渲染在 LongText-Bench 上中英双轨 0.923 和 0.913,够用但低于最强的专用文字渲染模型;CVTG-2K 的文字准确率 0.875,在全部对比模型里排第二,不过画面里文字区域从 2 个增加到 5 个时,准确率会从 0.892 掉到 0.857,区域越多越不稳;GenEval 总体 0.85,细分里单物体 1.00、双物体 0.98、属性绑定 0.84,唯独数数只有 0.53,是明显短板。值得注意的是,论文自己说 GenEval 和 DPG-Bench 这类老基准不反映现代模型的真实能力,只作历史延续性参考,所以别拿它们当主要证据。GEdit-Bench 上它的语义一致性比感知质量更有竞争力,感知质量是留给未来的改进方向。Turbo 的蒸馏代价在这里也能看到,例如 CVTG-2K 上 Turbo 就低于 Base。LLaDA-Image
读到这里,分数和尺子都对上了。最后还剩一个最容易被口号带过去的检查:标题里那个"完全开放",到底兑现了多少。
"完全开放"兑现了多少:一张可核查的清单,与剩下的路
把"完全开放"四个字逐条核对一遍。论文 2026 年 9 月 3 日提交时声明,将发布 Base 和 Turbo 的权重、训练代码、推理代码和详细 recipes。它承诺的不只是代码,还包括四份流程级的 recipes:数据怎么构建、渐进训练怎么排、统一生成编辑怎么训、TwinFlow 蒸馏怎么做,全都以文字形式写进了论文正文。仓库 9 月 4 日实际发布了什么,按 9 月 6 日核查当天的情况,可以列成一张对照表。
| 条目 | 论文声明 | 仓库现状(核查至 2026-09-06) |
|---|---|---|
| 模型权重 | 发布 Base 与 Turbo | 四件套已上线:Base/Turbo × BF16/FP8,HuggingFace 与 ModelScope 双通道,标注 apache-2.0 |
| 推理代码 | 发布 | 已上线,Diffusers 的 LLaDAImagePipeline,提供 text、vq、editing 三种生成模式 |
| 训练代码与 recipes | 发布 | 尚未上线,README 仍标注 "Training code (coming soon)" |
| 参数量口径 | 论文与 README 称 6B | HuggingFace 页面自动显示 7B,官方未说明差异原因,记为已知缺口 |
这张表的时间差,是判断"完全开放"成色的关键。权重和推理侧在发布后第二天就兑现了,训练侧至今还在路上。论文的说法和仓库的现状之间隔着一段真实的时间差,这是如实记录的缺口,不是矛盾。LLaDA-Image 仓库
想本地跑起来,门槛也写在 README 里。官方推荐的 Quick Start 环境是 Python 3.11、PyTorch 2.8、Transformers 4.57.6 和 Diffusers 0.39.0,推理走 LLaDAImagePipeline;text 和 vq 模式要求输入宽高是 16 的倍数,editing 模式要求 32 的倍数;Base 默认的 guidance scale 是 5.0,Turbo 是 1.0。四件套里的两个 FP8 变体,让显存紧张的机器也能跑。仓库本身还是个刚起步的活物,核查当天 5 个 commit、106 个 star,HuggingFace collection 里挂着一个论文页和四个 checkpoint,共五项。
回到论文自己划的边界,它不声称每个组件全局最优,也不做穷尽对比。局限写得明明白白:更广的世界知识覆盖不足,专业主体、文化特定概念这类 prompt 画不忠实;长文本、多区域文字渲染的稳定性会随区域数和版式复杂度下降;训练名义上只有 $1024^2$ 的像素预算,原生 2K 生成是"待扩展的能力"而不是"已评估的能力";训练算力成本论文没有披露。这些限制合起来的意思是,这是一套公开的、可检查的起跑线,不是终点。
剩下的路论文也画了。未来工作包括 grounding 与排版、知识密集概念的覆盖、原生 2K 的课程式训练,以及用"规划评估编辑"的闭环做 agentic 生成。即便这些目标都还没实现,这套配方的社区价值已经成立:它让"从零训练一个像样的图像生成器"从传说变成了可到达的路径,后来的团队可以拿它当基线,逐项替换数据、架构、蒸馏方案,而不必重新发明整套流程。判断一个"全开放"项目,最可靠的做法就是同时核对论文声明、仓库现状和第三方收录三条线,声明与现状的时间差是常态,列表核查永远比口号可靠。
开源图像模型的下一场竞赛,比的也许不是谁的分数更高,而是谁愿意把考卷和答案一起交出来。LLaDA-Image 把答案交出了一大半:从零到发布的全链路配方,每一个数字都在论文里摊开。剩下的那个 coming soon,是这条路上最诚实的一道标记,它提醒你,宣称"完全开放"是一回事,把开放落到可以下载的代码里是另一回事。LLaDA-Image
想深入可以读原文:LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes(arXiv:2609.03796)
参考文献
- LLaDA-Image 论文:LLaDA-Image: Building Strong Image Generators with Fully Open Training Recipes,arXiv:2609.03796
- LLaDA:LLaDA: Large Language Diffusion Models with Masked Language Modeling,arXiv:2502.09992
- LLaDA2.0:LLaDA2.0: Scaling Up Diffusion Language Models to 100B,arXiv:2512.15745
- LLaDA2.0-Uni:LLaDA2.0-Uni: Unifying Multimodal Understanding and Generation with Diffusion Large Language Model,arXiv:2604.20796
- Qwen-Image-Bench:Qwen-Image-Bench: From Generation to Creation in Text-to-Image Evaluation,arXiv:2605.28091
- DiT:Scalable Diffusion Models with Transformers,arXiv:2212.09748
- IOMM:Rethinking UMM Visual Generation: Masked Modeling for Efficient Image-Only Pre-training,arXiv:2603.16139
- Muon:Muon: An optimizer for hidden layers in neural networks,官方 GitHub 仓库与 writeup
- inclusionAI/LLaDA-Image 仓库:官方 GitHub 仓库 github.com/inclusionAI/LLaDA-Image 与 HuggingFace collection(核查日期 2026-09-06)