同一段 DNA，两种脑细胞读出两种结果：基因组模型得把细胞状态当输入

一段 DNA 的功能不是它自带的属性。同一段序列在皮层兴奋性神经元里被读成一条染色质可及性曲线，在肝脏里被读成另一条；模型如果只读序列、把细胞类型当作训练时钉死的标签，换一种细胞就失效。2026 年 10 月前后上线的两项预印本从两侧逼近同一个结论：预测单位是序列乘语境。COMPASS 把原核非编码序列按演化协变组织成一张可查的图谱，Bolero 把细胞状态写成可设置的输入。两条路线任务域不同，共同短板却相同：所有数字都停在相关性一侧。

非编码区的注释缺口，卡在序列分化到比对失效的那一步

非编码区的困难不是没有功能，而是序列分化得太快，靠比对本就对不上。

非编码 DNA 指基因组里不编码蛋白、却承担调控的区段。在原核基因组里它主要表现为基因间区，也就是编码基因、tRNA、rRNA 之间的片段；在真核基因组里还包括增强子和启动子这类顺式调控元件。COMPASS 的作者先把这块空间数了一遍：从 143,614 个代表性原核物种的基因组与元基因组里解析出 1.01B 个基因间区，去冗余后留下 750M 条互异序列。用已知非编码 RNA 的协方差模型扫描这 750M 条序列，只有 0.4% 有至少一个显著命中。这些数字出自 2026 年 10 月 22 日发布的 bioRxiv 预印本 v1，未经同行评议，全部是作者自报。COMPASS

缺的到底是哪一格，从蛋白侧对照最清楚。蛋白已经有成熟范式：先预测结构，把结构编码成可对齐的 token，再把数亿个预测结构聚成家族。非编码 RNA 缺的正是中间这一步。它能保留功能与结构，同时允许 DNA 序列剧烈变化；序列一致性掉到 50% 至 60% 以下，比对就开始失效，这段区间在 RNA 领域被叫作 twilight zone。分化恰好发生在比对失效之后，传统工具于是再也说不出「这段序列像谁」。

下面这张图把缺口与解法画在了同一张图上。

图注：A 面板把两条路线并排放：一条靠序列相似性与结构共变做比对，另一条用基因组语言模型学到的表征直接比较序列。B 面板是主流程，基因组与元基因组被切出基因间区，用来微调 Evo 2，得到的嵌入再送去大规模聚类，右侧点云里高亮的几类都是已知的非编码 RNA。这张图证明的是「比对在序列分化后进不去，但表征还能把同类元件放到一起」，图内并没有标注簇数、命中率这些统计量。COMPASS

缺口在聚类结果上更大。376M 条序列被聚成 5.14M 个簇，其中不到 1% 含已知非编码 RNA 注释。也就是说，即便把整个序列空间组织完，绝大多数簇仍然没有名字。如果连「这段序列像谁」都答不上，「这段序列在什么条件下起什么作用」就无从谈起。

把 DNA 当语言预训练，模型学到的是演化压出来的规律

自监督预训练学到的是被演化约束筛过的规律，所以它能做零样本打分；但一碰到远端调控，它打不过有真值可对的监督模型。

基因组语言模型的直觉可以压成一句话：模型给一段序列一个似然，突变让这个似然下降得越多，就被判为越有害。这个能力不来自任务标注，而来自跨物种序列里反复出现的保守模式。Evo 2 是这条路线目前公开信息最完整的实例：它按字节级分词，等价于单核苷酸分辨率，在 OpenGenome2 的 8.84 万亿核苷酸上做下一 token 预测，分 7B 与 40B 两档，先在 8,192 token 上下文上预训练，再用 midtraining 把上下文扩到 1,048,576 token。Evo2

规模不是这条路线的问题，边界才是。同一篇论文自己给出了对照：在 DART-eval 上，Evo 2 40B 的 caQTL AUROC 是 0.58、dsQTL 是 0.66，而专门在可及性数据上训练的 ChromBPNet 是 0.77 与 0.89。作者写得很直白，带任务监督的序列到功能模型在这个设定下更强。另一句同样关键：Evo 2 从未在任何人类遗传变异或功能基因组数据上训练过，它的临床变异能力完全来自跨物种序列的演化约束。

图注：字节级分词、两阶段训练把上下文从 8,192 扩到百万 token、以及训练数据的构成，都在这张总览图里。右侧那张 UMAP 是按 k-mer 频率嵌入的基因组分布，展示的是数据长什么样，不是按功能聚类。Evo2

图注：在第 26 层表征上训练稀疏自编码器，可以解出外显子与内含子边界、人类启动子区对应的转录因子 motif、tRNA 与 rRNA 区这类可命名的特征。特征激活不等于实验验证，但这些特征的存在说明嵌入里带着生物结构，这是下一章拿嵌入当序列空间组织方式的前提。Evo2

把这一类模型放在一起比数字是危险的。一份 2026 年 1 月的综述把基因组语言模型拆成六个可枚举的设计维度：架构四类、分词四类、预训练目标三类、语料五类、评测口径三类、微调三类。同样被叫作「DNA 版 GPT」，分词方式与训练语料不同，得到的数字就不在同一个坐标系里。gLM综述

分词本身就是一个会改变下游能力的变量。Motif-Vocab 做了个受控实验：同一架构、同一语料、同一训练预算，只把统计校准后显著命中的转录因子 motif 换成一个 TF 身份 token，未匹配的碱基仍走 k-mer，词表里因此有 964 个 TF token。真实 motif 库在 54/55 个任务上方向优于随机化库，但在 55 个任务的宽面板上，纯 6-mer 的通用分词反而更好；作者自己的结论是它不是通用的精度替代品。Motif-Vocab

把领域知识塞进模型是可行的，但不要指望它普遍加分。

不做比对，模型也能把非编码序列聚成可探索的家族图谱

无比对聚类能把整个序列空间组织成一张可查的图谱，但这张图谱交付的是假说，不是功能注释。

COMPASS 的起点是一个语料偏差：基因间区只占原核基因组的 10%，在 Evo 2 的原始预训练数据里代表性不足。作者因此在全部 750M 条基因间区上继续预训练，得到 Evo-PIN。可量化的改进是聚类质量分数，0 表示注释被打乱、1 表示完全按注释聚：均值池化的 Evo 2 得 0.43，Evo-PIN 到 0.60，再换成只平均低熵位置的池化后到 0.65。COMPASS

这套方法为什么能识别已经分化的同源序列，是本章唯一需要讲透的机制。同源非编码 RNA 保留下来的是共变的碱基配对，不是序列字面。碱基可以一直换，只要配对关系不被破坏，结构就还在。模型在演化数据上预训练，学到的正是这种协变约束，所以它的嵌入在序列一致性已经很低时仍然靠近。证据是两组数字的对撞：簇内序列的中位两两一致性只有 28.5%，远低于比对开始失效的 50% 至 60%；而簇内非编码 RNA 注释一致性达到 0.92。聚类本身用近似 k 近邻图加 Leiden，全程不做比对，也不需要任何参考基因组。

从簇走到功能提名是两步，不是一步。

图注：A 面板是每个簇的处理流程。上一条路先把链方向重定向，让同一元件落在所有成员的同一链上，再用 CMfinder 找共识 motif；下一条路把基因组上下文向两侧各扩 5 kb，用 Pfam、PDB、Swiss-Prot 找显著共定位的基因。E 面板是分类结果，绝大多数簇仍然没有已知注释，另有约三成被判为独立的转录终止子。D 面板的富集显著性只能说明「共定位」，不能读成已确立的相互作用。COMPASS

规模链上的口径必须分开写，混用会让整章的数字失去意义。

最后一行是这张图谱真正的交付物：20,149 个被提名的候选结构化 RNA 簇。它们是被提名，不是被证实。

边界要和结论一起给。任务域是原核非编码 RNA，不是人类调控语法预测器；所有候选都是计算预测，实验验证仍是瓶颈；共定位只是提名可能的蛋白伙伴，并没有确立二者如何相互作用；这是 2026 年 10 月的 bioRxiv v1，未经同行评议，也没有第三方复现。另一种取向是把比对与物种树直接写进架构，让模型在输入层就看到系统发生关系，这条路线会在最后一章以 GPN-Star 的形式出场。GPN-Star

要读出语法，模型得先在真实的调控读数上被训练过

语法之所以能被读出来，是因为有一个能被真值校准的预测对象。

这条路线的起点是感受野。纯卷积模型的视野停在转录起始位点上下游 20 kb，Enformer 用自注意力把它扩到 100 kb，能看到的高置信增强子与基因对从 47% 提到 84%。Enformer 的作者同时写下了这条路线的死穴：模型只能为训练数据里出现过的细胞类型与实验类型做预测，无法泛化到新的细胞类型。Enformer

Borzoi 把预测对象换成了 RNA-seq 覆盖度本身，也就是哪一段 RNA 被转录出来、在哪个位置结束、以哪种 isoform 结束。它必须同时解决长度与分辨率这对矛盾。

图注：输入是 524 kb 序列，卷积与下采样之后接一组跑在 128 bp 分辨率上的自注意力块，再逐级上采样回到 32 bp 输出。之所以不在 32 bp 上直接做注意力，是因为那样序列长度达到 16,384，平方级显存吃不消；U-net 式跳连就是这对矛盾的折中方案。Borzoi

变异分数不是模型直接吐出的一个致病分，而是从两条预测曲线再算出来的统计量。把 524 kb 窗口居中到待测位点，参考与替代等位各跑一次预测，再从两条覆盖度曲线的差异里提炼 SUM、L2 或基因中心的统计量。分数还能继续往回追：对预测统计量做归因，可以读出组织特异的转录因子 motif。

图注：这一张把「语法可变现」的链条走完了。参考与替代等位各跑一次预测，两条覆盖度曲线相减得到变异分数，再对分数做归因，就落到了具体的转录因子 motif 上。血液读出 SPI1/B 与 IRF4/8，肝脏读出 HNF4A/G，脑读出 SOX9 与 REST，肌肉读出 MYOD1 与 MEF2D；组织间归因差异与对应转录因子基因的实测表达倍数变化高度相关，血液与肌肉之间 Spearman R 达 0.77。图里的性能面板是作者自报口径，单个位点的例子不能外推到全基因组精度。Borzoi

监督模型不是处处赢。Borzoi 在剪接任务上整体略逊于 Pangolin，判别稀有变异时与 CADD 相当，AUROC 在 0.55 量级；归因读出的 motif 是相关性证据，不是结合实验。它真正的意义在于说明「语法」要能被读出，前提是有一个能对上真值的预测对象。

同一段 DNA 换个细胞状态就是另一套预测，因为模型把语境做成了输入

语境之所以能成为预测单位，是因为它可以被写成输入，而不是训练时钉死的标签。

Bolero 把这句话做成了一个能看见的实例。同一段基因组区段，hg38 chr4:67,293,473 到 67,567,414，在五个皮层兴奋性亚类 CT、ITL23、ITL4、ITL5、ITL6 上各有一条实测 ATAC 轨迹，也各有一条预测轨迹；换一个亚类，两套轨迹的形状一起变。序列没变，读法变了。Bolero

图注：b 面板是全篇最直接的证据。同一坐标、五个皮层兴奋性亚类，上块是实测 ATAC，下块是预测 ATAC，两条轨迹随亚类一起改变形状。左侧括号标出两个评测轴：往下比是 across-sample，看不同状态能否被区分；横着比是 across-peak，看同一状态里位置预测得准不准。雷达图只表示各基准数据集上的相对位置，不能从里面读数值。Bolero

机制可以压成一句话：换权重，不是换头。Borzoi 的 Flashzoi 骨干权重被冻结，对所有细胞状态共享；每个状态先被压成一个 30 维隐变量，由该状态的单细胞测量算出，再经 MLP 逐层生成一对低秩因子，加到骨干的每一层上：

$$ W = W_{\mathrm{base}} + \frac{\alpha}{r} A(e) B(e) $$

其中 $\alpha = 0.02$，$B$ 零初始化，所以训练起点等同于未修改的骨干。秩按模块配置，卷积 stem 是 2，Transformer 层是 30，输出头是 1；注意力里的 q、k、v、o 投影不参与条件化。消融的结论很关键：条件化每一层比只条件化某一层好，说明细胞状态必须在每个深度上塑造网络。由于只有权重随状态改变，每个预测仍然可以完全归因回 DNA 序列。

图注：细胞状态嵌入与条件嵌入进入一个全局共享的条件模块，再由逐层的低秩权重模块生成一对因子，虚线箭头指向 Borzoi 骨干的每一层。被条件化的是这些低秩权重因子，不是注意力权重本身；骨干对所有状态冻结，所以 DNA 知识与状态区分是分开的。Bolero

两个评测轴测的不是同一件事。across-peak 看同一状态里位置预测得准不准，Bolero 在这里只追平最强的微调 Borzoi，说明基因组分辨率没有被牺牲。across-sample 看不同细胞状态之间能不能被区分开，Bolero 在每个基准数据集上都明显领先：小鼠皮层 L2/3 IT 神经元跨 21 个脑区，across-sample 相关中位数是 0.59 与 0.62，Scooby 是 0.38 与 0.41。

语法部分用的是第二条连续条件轴。作者把 AP-1 的活动分数作为每个 pseudobulk 的条件输入，图谱里只保留未受刺激的对照细胞，因此模型是在天然异质性里学刺激响应，而不是背下刺激数据。对 AP-1 响应做归因（覆盖全部 1,204 个训练 pseudobulk），得到 39,710 条代表性 seqlet 与 16 个从头 motif 簇。

图注：结论是同一个 AP-1 核心在不同细胞类里换协同词汇。肺纤毛细胞偏 FOX、NF-I、ETS 样，肺周细胞偏 TEAD、C/EBP、NF-I，Peyer 斑的 CD8+ T 细胞偏 RUNX/BCL 与 ETS/NFAT 样，额叶皮层星形胶质细胞偏 NF-I、SOX、CREB 样。图中 f 面板把 motif 插进受控序列背景再扫间距，FOX 与 AP-1 的效应随带符号间距变化，在 d = −4 附近最明显，且集中在上皮与腺体、内分泌状态。这里的效应值全部是 in silico 预测，不是实验测量。Bolero

边界要和结论一起给。Bolero 只读出染色质可及性与转录本丰度，不解析转录因子占位、蛋白丰度、增强子与启动子的通讯，也不解析三维基因组；在 QTL 层面，近端启动子与活性染色质变异捕捉得更好，许多远端变异不行；最难的那组留出设定下外推仍不完整；这是 2026 年 10 月 20 日的 bioRxiv v1，未经同行评议，没有独立复现。规模也有两套口径，预印本写 10.7M 细胞、33 个数据集，项目页写 10.8M 与 36。

模型能告诉你这个变异更有害，却说不出它会不会致病

今天所有模型能给出的最强结论是这个变异更可能有害；从有害到致病还差实验验证这一步，而这正是两条路线共同的未完成部分。

监督一侧的当代代表是 AlphaGenome，它把 1 Mb 输入、11 种模态、最高 1 bp 分辨率放进同一个模型，输出 5,930 条人类 track，并在 26 项变异效应评测中有 25 项持平或领先外部模型，这是作者自报的口径。它自己也写清了局限：超过 100 kb 的远端调控仍难捕捉，模型预测的是变异的分子后果，不是表型后果。AlphaGenome

图注：这一组面板围绕 TAL1 位点，展示一个非编码插入变异如何被拆成可读的多模态效应：可及性、组蛋白标记与 RNA 表达各自有一条预测变化，最下方的柱状图说明阈值卡得越高，候选因果变异相对对照的富集越强，落在阈值之上的变异也越少。富集倍数不是致病性判定，也不能当临床证据。AlphaGenome

反向证据来自 GPN-Star。它把多物种全基因组比对与物种树当作架构的一等输入，最大模型只有 2 亿参数，8 张 A100 训几天。在 OMIM 与 HGMD 的致病非编码面板、以及 83 个 UK Biobank 性状的 GWAS 精细定位非编码面板上，它排在 AlphaGenome、Borzoi、Enformer 之前，作者的原话是序列到功能模型在这些任务上「显著差于」比对型模型。但同一篇论文也给了反例：在 OMIM 与 HGMD 面板上，Evo 2 40B 反而排在 AlphaGenome、Borzoi、Enformer 之前。两篇的标签构造与指标族不同，只能并列，不能相减。GPN-Star

要判断这些数字属于哪一档，需要一把统一的尺子。GUANinE 就是这把尺子：同一个大样本基准、冻结权重加线性探针，一次重测数十个模型。它把样本量当方法学主张而不是工程细节，因为小样本微调里的超参数调节本身就会混淆排名。GUANinE

图注：左右两个面板，横轴都是上下文长度，纵轴都是与真值的 Spearman 相关。左图是功能注释任务，监督式模型整体偏高；右图是保守性任务，自监督 gLM 略高，两类接近。两张图放在一起的结论是两种范式各占一头，以及上下文长度只是弱预测因子，点越往右并不必然越高。GUANinE

真正的分界在两个新任务之间。一个是有害性代理，用群体频率区分已固定变异与超稀有变异，训练集有 76M 条；另一个是致病性代理，ClinVar 里的良性对致病变异，没有训练集，总量不足 12,000 条。前者由保守性与比对类打分器领先，后者换成剪接类模型与低维打分框架领先。作者写下的结论是：在前者上优化过的模型，到后者上几乎没有预测力，而且原文在此处明确没有报分数。

一份非编码变异综述把这件事说得更清楚：ground truth 分观测与实验两大类。观测一侧是 GWAS 与 QTL 汇总统计、极端表型关联的稀有变异、等位基因失衡、以及 ClinVar 与 HGMD 这类分类标签；实验一侧是 MPRA 与 CRISPR 类扰动，其中只有 CRISPRi 与 prime editing 能在内源基因组的原生染色质环境里测扰动效应。本文引用的证据全部停在观测一侧。VEP综述

把两条路线并排放，会看到它们回答的是同一个问题的两半。

两者不可互相替代，也不能跨任务域比数字。它们唯一的共同点是同一句论点：功能是序列与语境的联合结果。

而从相关性走到因果，中间隔着几个台阶，本文引用的所有工作都停在第一级。

把语境当作预测单位，意味着问一个变异时，要问它在哪个细胞类型、哪个发育阶段、哪段演化尺度上起作用，而不是只看序列保守性。这一步今天已经能做到。再往前一步，问它到底会不会致病，需要的是实验扰动，而本文引用的来源里没有任何一篇提供非编码元件的这类因果验证。这是两条路线共同的未完成部分，也是整个领域当前的位置。

参考文献

本专题引用的核心资料如下，建议深入学习时阅读原文：

1. Systematic mapping of the prokaryotic noncoding sequence space with a genomic language model（COMPASS / Evo-PIN） — bioRxiv 10.64898/2026.10.21.760802
2. Predicting cell-state-specific gene regulation from DNA across species（Bolero） — bioRxiv 10.64898/2026.10.19.760026
3. Genome modelling and design across all domains of life with Evo 2 — Nature 652, 1349–1361 (2026)
4. Predicting RNA-seq coverage from DNA sequence as a unifying model of gene regulation（Borzoi） — Nature Genetics 57, 949–961 (2025)
5. Effective gene expression prediction from sequence by integrating long-range interactions（Enformer） — Nature Methods 18, 1196–1203 (2021)
6. Advancing regulatory variant effect prediction with AlphaGenome — Nature 649, 1206–1218 (2026)
7. Predicting genome-wide functional constraints with GPN-Star — Nature (2026)
8. Leveraging genomic deep learning models for the prediction of noncoding variant effects — Nature Genetics (2026)
9. GUANinE v1.1 reveals complementarity of supervised and genomic language models — Bioinformatics 42(Suppl 2):btag427
10. A comprehensive survey of genome language models in bioinformatics — Briefings in Bioinformatics 27(1):bbaf724
11. Motif-Vocab: Statistically Calibrated Transcription-Factor-Identity Tokenization for Genomic Language Models — arXiv:2609.28386