世界模型从零讲起(三十一):世界模型懂因果吗——干预、反事实与结构因果模型如何描述它

14109 字
71 分钟
世界模型从零讲起(三十一):世界模型懂因果吗——干预、反事实与结构因果模型如何描述它

从第三十篇留下的问题说起

前几篇把世界模型当成一个函数在算账:它输出下一状态、奖励或者下一帧,规划器在这个函数上搜动作,第三十篇又给每一次预测配了一份不确定性。到这里,世界模型作为一个预测器已经算得很清楚了:它花多少算力、误差沿 rollout 怎么涨、哪块区域不可信。

但有一类问题,前面三十篇一直没有真正回答:世界模型知道「为什么」吗?

举个最直白的例子。一个用机器人操作数据学出来的世界模型,观察到「按下咖啡机按钮」之后总是跟着「杯子被推到台边」。如果模型只是把这两件事的相关性学进了权重,那么它会预测:即使杯子已经拿走了,按按钮之后杯子仍然会被推到台边。显然它没有学到「按按钮」和「杯子移动」之间不是直接因果,中间隔着「咖啡机震动桌面」这个机制。

再进一步:杯子现在已经被推到台边了。如果当时没有按那个按钮,杯子现在还会在台边吗? 这属于反事实问题,它要求模型对同一段已经发生的历史做一次「本来会怎样」的推演。这比「下一步会怎样」难得多:观测数据里只存在唯一一条真实轨迹,没有第二条「没按按钮」的轨迹可以拿来对答案。

第三十篇讲的是「模型对一次预测有多确定」,这一篇讲的是「模型对一次干预或反事实推理有多合理」。这两件事并不重叠:一个模型可以对自己的预测极度确定,同时完全没有因果结构,在干预下立刻失效。因果能力是评估世界模型的另一条独立坐标。第三十篇的结尾把镜头对准了感知、规划与执行的联合调度,而在把几层账合并成一张时间表之前,还有一个更基本的问题需要先回答:调度器凭什么相信模型给出的那些预测?如果模型在干预下就会给出错误的方向,再精细的延迟预算也只是把错误算得更快。

这篇文章从最基础的概念开始讲因果:从 Pearl 的三层阶梯、结构因果模型(Structural Causal Model,SCM),到「世界模型在什么条件下等于一个 SCM」、反事实推演需要哪些额外能力,再到对真实学出来的世界模型做干预测试的方法,以及工程上如何借用因果思想把模型改得更能扛干预。篇幅落在概念和结构上,不铺实验成绩。

一个杯子、一个按钮和三个不同的问题

设想一张桌子:桌上有一个塑料杯,桌角有一台咖啡机,咖啡机上有一个按钮。按住按钮会让咖啡机震动,震动通过桌面传到杯子,杯子慢慢向桌边移动。数据是用一台带夹爪的机械臂采集的:操作员随机按按钮、随机拿放杯子,相机记录桌面画面。

现在从这段数据里学一个世界模型。它看到的输入是画面和动作,输出是下一帧画面或者下一时刻的状态向量。训练完成后,它在验证集上的下一帧预测误差很低。接下来问它三个问题:

  1. 当前杯子在桌子中间,按钮亮着。按住按钮一秒钟,杯子会移动多远?
  2. 我不按按钮,而是直接把咖啡机整体搬走,然后再按按钮,杯子会怎样?
  3. 杯子现在已经掉到地上了。如果刚才那一秒我没有按按钮,它现在还会在桌上吗?

第一个问题是预测:给定观测到的状态和即将执行的动作,下一状态是什么。第二个问题是干预:我把某个变量强行设成某个值,同时切断它原本的因果来源,世界会怎样。第三个问题是反事实:在同一段已经发生的历史里,把某一个动作换掉,结果会怎样。

这三个问题的数学对象并不相同。第一个问题对应条件分布 P(st+1∣st,at)P(s_{t+1}\mid s_t,a_t);第二个问题对应干预分布 P(st+1∣do(at=press),st)P(s_{t+1}\mid do(a_t=\text{press}),s_t);第三个问题对应一个带下标的量 P(st+1, at=no press∣st,at=press,st+1=fell)P(s_{t+1,\,a_t=\text{no press}}\mid s_t,a_t=\text{press},s_{t+1}=\text{fell})。三者写法接近,含义差得很远。

更麻烦的是,一个模型可以在第一个问题上做到像素级准确,却在第二、第三个问题上错得离谱。原因在于:观测数据里只存在「操作员决定按不按」这一条因果链的真实取值。如果操作员在杯子靠近桌边时更倾向于按按钮,那么「按按钮」和「杯子掉落」在数据里高度相关,但这份相关里混着操作员的判断。模型完全可以把「按按钮」当成「杯子快掉了」的指示灯来用,预测得越准,越说明它抓住了这个捷径。

而规划器输出的从来不是「预测」,而是干预:它要在若干候选动作里挑一个,问的是「如果我执行这个动作,世界会怎样」。这是一个 do 问题。用条件分布去回答干预问题,正是世界模型在闭环里翻车的常见起点。

因果的三层阶梯

Judea Pearl 在 2009 年出版的《Causality》第二版里把这类问题整理成三层,通常画成一张三级阶梯。第一层是关联,第二层是干预,第三层是反事实。三层的表达能力严格递增,而可计算性严格递减。

第一层:关联(association)。它回答「看到 X=xX=x 时,YY 的分布是什么」:

P(Y=y∣X=x)P(Y=y\mid X=x)

这是统计学习最熟悉的对象。监督学习、自回归世界模型、视频预测,全部在这一层工作。它描述的是同一个世界里变量共同出现的规律,不区分谁导致谁。

第二层:干预(intervention)。它回答「如果我强制把 XX 设成 xx,YY 的分布是什么」:

P(Y=y∣do(X=x))P(Y=y\mid do(X=x))

这里的 dodo 是一个算子,不是一个普通条件。它表示:把决定 XX 的那个机制整个换掉,让 XX 取指定值,同时保留世界里其他所有机制不变。用图的语言说,干预会删掉所有指向 XX 的边,因为 XX 不再由它的父节点决定。

第三层:反事实(counterfactual)。它回答「在已经观测到 X=x′X=x'、Y=yY=y 的这一个具体世界里,如果当时 XX 取 xx,YY 会是多少」:

P(YX=x=y′∣X=x′,Y=y)P(Y_{X=x}=y'\mid X=x', Y=y)

下标 YX=xY_{X=x} 读作「在 XX 被设为 xx 的那个世界里,YY 的取值」。注意它同时用到了两件事:事实世界里实际发生的 X=x′X=x' 和 Y=yY=y,以及一个假想的改动 X=xX=x。这就是反事实比干预更难的地方——它不仅要知道「改规则会怎样」,还要把改动锚定在这一个已经发生过的世界上,而不是任意一个可能世界。

三层之间不是靠数据量打通的。因果层级定理(causal hierarchy theorem)说得很清楚:仅凭第一层的分布,无法在没有任何额外假设的情况下确定第二层的量;仅凭第二层的分布,也无法确定第三层的量。这不是统计效率问题,而是信息本身不在那里。观测数据里根本没有「强行改变某个变量」的记录,除非有人真的做过,或者有结构假设把观测分布和干预分布连起来。

条件与干预差在哪:一个调整公式

把差别写成公式,会看得更清楚。考虑一个最简单的结构:变量 ZZ 同时影响 XX 和 YY,XX 也影响 YY。ZZ 是混杂因子,比如「杯子是否易碎」,XX 是「夹爪用力大小」,YY 是「杯子是否破碎」。

观测条件分布可以按 ZZ 展开:

P(y∣x)=∑zP(y∣x,z) P(z∣x)P(y\mid x)=\sum_z P(y\mid x,z)\,P(z\mid x)

干预分布则按 ZZ 的边缘分布展开:

P(y∣do(x))=∑zP(y∣x,z) P(z)P(y\mid do(x))=\sum_z P(y\mid x,z)\,P(z)

两个式子的条件部分 P(y∣x,z)P(y\mid x,z) 一样,差别只在最后一项:一个是 P(z∣x)P(z\mid x),一个是 P(z)P(z)。干预切断了 Z→XZ\to X 这条边,所以 ZZ 不再随 XX 变化,回到它自己的边缘分布;观测条件下,ZZ 和 XX 仍然纠缠在一起,P(z∣x)P(z\mid x) 会把「什么样的杯子会被用力抓」这个选择偏差带进来。

条件分布与干预分布的对比:条件是在总体与子群体里看相关,干预是把处理强行设定后看结果

这张图把两种问法并排放置:左边是条件 P(y∣t)P(y\mid t),它随着被选中的子群体变化;右边是干预 P(y∣do(t))P(y\mid do(t)),它对应的是「把 tt 设成指定值」之后的总体结果。两者的差异不是估计精度,而是所问的总体不同。

用一个具体数字感受一下。设 Z=1Z=1 表示易碎杯,占一半;Z=0Z=0 表示不易碎杯。操作员的策略是:易碎时轻拿(X=0X=0),不易碎时重拿(X=1X=1)。四种组合的破碎概率设为:

Z=1Z=1 易碎Z=0Z=0 不易碎
X=0X=0 轻拿0.800.05
X=1X=1 重拿0.950.10

观测数据里只会出现 X=0,Z=1X=0,Z=1 和 X=1,Z=0X=1,Z=0 两类样本,所以:

P(Y=1∣X=0)=0.80,P(Y=1∣X=1)=0.10P(Y=1\mid X=0)=0.80,\qquad P(Y=1\mid X=1)=0.10

看起来「轻拿反而更容易碎」,于是模型可能学出「用力越大越安全」这种荒谬结论。但干预分布是:

P(Y=1∣do(X=1))=0.5×0.95+0.5×0.10=0.525P(Y=1\mid do(X=1))=0.5\times0.95+0.5\times0.10=0.525P(Y=1∣do(X=0))=0.5×0.80+0.5×0.05=0.425P(Y=1\mid do(X=0))=0.5\times0.80+0.5\times0.05=0.425

干预之后符号翻转:重拿更危险。观测数据没有错,错的是把「操作员的选择策略」当成了世界规律。世界模型如果只在第一层拟合,就会把这个选择策略一起学进去,然后在策略改变时失效。

这个例子还说明另一件事:即使数据量趋于无穷,观测条件分布也会收敛到 0.800.80 和 0.100.10,偏差不会消失。它不是方差,是偏置。第三十篇把误差分成认知与偶然两类,这里出现的是第三类东西——结构错位:模型回答的问题和系统实际问的问题不是同一个。

SCM:一个可以「改规则」的世界模型

要把干预和反事实写清楚,需要一个能描述「世界的规则是什么」的对象。这就是结构因果模型(Structural Causal Model,SCM)。

一个 SCM 由三部分组成:

  • 外生变量 U=(U1,…,Un)U=(U_1,\dots,U_n),每个变量带一个分布 P(U)P(U)。它们是模型外的噪声,不由模型内其他变量解释,通常被假定为相互独立。
  • 内生变量 V=(V1,…,Vn)V=(V_1,\dots,V_n),对应世界里我们关心的那些量:物体位置、速度、电机转角、杯子是否破碎。
  • 结构方程(structural equations):
Vi=fi(Pa(Vi),Ui),i=1,…,nV_i = f_i(\mathrm{Pa}(V_i), U_i),\qquad i=1,\dots,n

Pa(Vi)\mathrm{Pa}(V_i) 是节点 ViV_i 的父节点集合,也就是直接决定它的那些变量。fif_i 是机制:一个函数加一份噪声。它是确定的形状加上随机的尾项,而不是一个概率表。

结构方程和普通概率模型的根本区别在语义:Vi=fi(Pa(Vi),Ui)V_i=f_i(\mathrm{Pa}(V_i),U_i) 是一个赋值语句,表示「ViV_i 是由这些东西计算出来的」。它不是「ViV_i 和 Pa(Vi)\mathrm{Pa}(V_i) 相关」,而是「换了 Pa\mathrm{Pa} 的取值,ViV_i 会跟着按 fif_i 重算」。普通概率模型 P(V1,…,Vn)P(V_1,\dots,V_n) 只给出一个联合分布,从同一个联合分布可以写出无数组不同的结构方程,它们的干预结果各不相同。

图与分布:SCM 给的是图,概率模型给的是表

这个区别值得单独展开。假设有三个二元变量 X1,X2,X3X_1,X_2,X_3,联合分布已知。那么「X1→X2→X3X_1\to X_2\to X_3」「X1←X2→X3X_1\leftarrow X_2\to X_3」「X1→X3←X2X_1\to X_3\leftarrow X_2」这三种结构的观测分布都可能与同一份数据完全一致:全连接的有向无环图配上合适的条件概率表可以精确表示任意联合分布,因此同一张观测表允许很多种机制分解。但它们的干预结果完全不同:在链式结构里,干预 X2X_2 会改变 X3X_3;在倒 V 结构里,X3X_3 被两个父节点共同决定,干预 X1X_1 只能改变 X3X_3 的一部分。

统计模型与因果模型的区别:统计模型只给出一个联合分布,因果模型给出每一条边对应机制的一组分布

图里左侧是统计观点:三个变量只有一个点,一个联合分布就是对全部问题的回答。右侧是因果观点:同一组变量背后是一张图,每个节点有自己的机制;干预相当于改掉其中一个机制或输入,于是得到一个新的分布。Schölkopf 等人在综述《Towards Causal Representation Learning》里把这一点概括为:因果模型不是一个分布,而是一个分布族,族里的每个成员对应一组机制取值。

对世界模型来说,这意味着一个关键判断:如果一个模型只有联合分布而没有机制结构,那么它回答干预问题的能力必须来自别的东西——要么来自训练数据里真实存在的干预行为,要么来自被写进模型的假设,要么根本没有。

三种基本结构

在分析世界模型之前,需要熟悉三种基本结构,它们决定了「观测到哪些变量」会如何影响一个量。

链 A→B→CA\to B\to C。干预 AA 会通过 BB 传到 CC。若观测 BB,则 AA 和 CC 条件独立(给定祖先,后代不提供额外信息)。用世界模型的语言:状态 BB 是充分统计量的时候,历史 AA 对下一状态 CC 没有额外信息。

分叉 A←B→CA\leftarrow B\to C,即 BB 是共同原因。AA 与 CC 在观测上相关,但相关全部来自 BB。干预 AA 不会影响 CC。这是混杂结构:如果模型把 AA 当成原因,会在 AA 被干预后给出错误的 CC。

对撞 A→C←BA\to C\leftarrow B。AA 和 BB 边际独立,但给定 CC 之后变得相关。这就是著名的「对撞偏置」:看到 CC 会引入 AA 和 BB 之间的虚假关联。在世界模型里,这对应「用结果反过来推断原因」的情形——比如用画面里「杯子已经碰到手」这件事去推测操作员是否打算松手,两者本来无关,但被共同结果绑在了一起。

这三种结构的意义在于:能不能从观测里区分原因和结果,取决于图的结构,而不取决于数据量。因果发现(causal discovery)研究的核心就是把图结构从数据里找出来,而这件事在没有额外假设时通常只能确定到马尔可夫等价类,即一组方向不同的图共享同一个骨架和 v-结构。

do 算子:让世界模型学会「改规则」

干预在 SCM 里的定义非常干净。执行 do(X=x)do(X=x),就是把 XX 的结构方程替换成常数:

X:=xX := x

其余所有 fif_i 保持不变。这个操作在图上表现为删掉所有指向 XX 的边、把 XX 固定为常量。由此产生的分布记作 PM(V∣do(X=x))P_{\mathcal{M}}(V\mid do(X=x)),其中 M\mathcal{M} 是原模型。

为什么「改规则」这么重要?因为真实系统里的控制恰恰是这个操作。机器人抓一个杯子,不是让「夹爪闭合」的概率变高,而是直接改变夹爪的开合状态:闭合与否不再由夹爪内部机制决定,而是被外部指令设定。操作员按按钮,按钮的状态也不再由它自己的物理机制决定,而是被外力压下。所有执行器的动作在因果意义上都是 do。

这带来一个直接后果:模型只有在结构上保留了「动作是外部给定的」这条通道,才有可能回答对干预问题。自回归世界模型输入 (st,at)(s_t,a_t)、输出 st+1s_{t+1},形式上看动作就是新增的父节点;但语法正确不等于语义正确。差别在于:模型内部的 st+1s_{t+1} 机制 pθ(st+1∣st,at)p_\theta(s_{t+1}\mid s_t,a_t) 必须对所有可能的 ata_t 都被训练到,而不是只在数据集里出现过的、与 sts_t 特定相关模式下的 ata_t 上被训练到。

「动作是干预」为什么不够:混杂的残余通道

回到咖啡机例子。数据集里的 (st,at)(s_t,a_t) 对是操作员产生的:他看到杯子在桌边,就更可能按按钮。于是 sts_t 和 ata_t 在训练分布中存在依赖。世界模型学的是 p(st+1∣st,at)p(s_{t+1}\mid s_t,a_t),它在这个分布下对两个变量的联合取值拟合得很好。

问题出在推理时。规划器可能发出一个在训练分布里从未出现的 (st,at)(s_t,a_t) 组合:杯子在桌边,但动作是「按按钮」。或者更极端:杯子已被拿走,动作仍然是「按按钮」。模型在这个区域的行为完全由它学到的推广方式决定,而推广方式取决于它把哪些特征、怎样组合。

如果模型学到了「按钮按下 + 桌边 → 杯子掉落」,那是把 sts_t 里「桌边」这个特征直接当成了 st+1s_{t+1} 的条件;可实际上「桌边」只是一个状态读数,真正推动杯子的机制是按钮带动咖啡机震动。两者在训练数据里高度共现,模型无法在没有任何结构约束时区分它们。

CausalWorld 中对外生变量做 do 干预的示意:地板颜色、块大小、关节角度被直接设为指定值

CausalWorld 是 Ahmed 等人在 2020 年提出的机器人操作基准,专门用来评价「因果结构和迁移学习」。它的设计把干预显式暴露出来:环境里的状态量与参数——物体大小、地板颜色、相机位置、机械臂关节角度以及各类物理参数——都可以被 do 干预成任意指定值,从而切断了这些变量原本的来源。图里展示的就是这种干预:块的大小、地板颜色、桌子的姿态都被直接设成某个值,而不是由场景随机化产生。

这个设计点出了本章的核心:评价世界模型是否会「改规则」,需要有人真的去改规则。观测数据不可能告诉你按钮和杯子之间隔着咖啡机,除非有人做过「把咖啡机搬走再按按钮」这种实验。

三个条件:什么时候 p(st+1∣st,at)p(s_{t+1}\mid s_t,a_t) 就是干预分布

到这里可以正面回答文章标题里的问题了。一个标准的马尔可夫决策过程把世界写成 P(st+1∣st,at)P(s_{t+1}\mid s_t,a_t),它看起来就是一个条件分布,但它在特定条件下就是动作的干预分布。把条件写成图:策略决定动作,所以 St→AtS_t\to A_t;状态影响下一状态,所以 St→St+1S_t\to S_{t+1};动作也影响下一状态,所以 At→St+1A_t\to S_{t+1}。这是一个分叉加一条直连的结构。给定 St=stS_t=s_t,从 AtA_t 到 St+1S_{t+1} 的后门路径 At←St→St+1A_t\leftarrow S_t\to S_{t+1} 被条件化阻断,唯一剩下的通道就是 At→St+1A_t\to S_{t+1} 本身。因此在这个图里:

P(st+1∣st,at)=P(st+1∣do(at),st)P(s_{t+1}\mid s_t,a_t)=P(s_{t+1}\mid do(a_t),s_t)

这就是后门准则在 MDP 上的特例。它成立需要三个前提。

前提一:状态完备。 所有同时影响动作和下一状态的变量都在 sts_t 里。如果有一个未观测变量 HH(比如夹爪的实际夹持力、杯子质量、桌面摩擦系数),图里就会多出 H→St+1H\to S_{t+1},并且 HH 与动作相关(操作员在重物上更用力)。此时:

P(st+1∣st,at)=∑hP(h∣st,at) P(st+1∣st,at,h)P(s_{t+1}\mid s_t,a_t)=\sum_h P(h\mid s_t,a_t)\,P(s_{t+1}\mid s_t,a_t,h)

而干预分布按 HH 在给定状态下的条件分布混合:

P(st+1∣do(at),st)=∑hP(h∣st) P(st+1∣st,at,h)P(s_{t+1}\mid do(a_t),s_t)=\sum_h P(h\mid s_t)\,P(s_{t+1}\mid s_t,a_t,h)

两个式子只差 P(h∣st,at)P(h\mid s_t,a_t) 与 P(h∣st)P(h\mid s_t)。当 HH 与动作独立时(操作员不根据隐藏参数调整力度),两者相等;一旦操作员会调整,条件分布就把「谁更可能做这个动作」混了进来,偏差随策略变化,且不随数据量消失。

前提二:动作语义稳定。 同一个动作向量在训练和部署时产生同样的物理效应。换夹爪、换机器人、换负载、更换执行器的标定,都会让动作的语义发生变化。此时即使状态完备,P(st+1∣st,at)P(s_{t+1}\mid s_t,a_t) 也只是「旧动作语义下的条件」,不能直接当作新语义下的干预分布。

前提三:状态不被动作同步影响。 观测里的 sts_t 必须是动作之前的读数,而不是动作已经开始执行后的读数。视频数据里这一点很容易被破坏:一帧画面可能包含了机械臂已经移动的痕迹,模型于是能从画面推断出动作,而不需要真正使用动作通道。这类问题在自回归视频世界模型里尤其常见,因为训练时模型看到的是「动作执行后」的帧。

除了这三个前提,还有一个实际条件经常被忽略:支撑集覆盖(positivity)。要评估 P(st+1∣do(at),st)P(s_{t+1}\mid do(a_t),s_t),训练数据里在 sts_t 附近必须出现过足够多的 ata_t 样本。如果某个状态下从未执行过某类动作,模型对该动作的预测完全是外推。规划器最容易问到的恰恰是这些组合:它要探索的正是数据里没有走过的路。

所以,标准世界模型的转移核可以看成「对动作这一变量的局部因果模型」,前提是状态完备、语义稳定、时序正确、覆盖足够。它不是一个完整的世界 SCM:它不能回答 do(摩擦系数)do(\text{摩擦系数})、do(杯子质量)do(\text{杯子质量})、do(另一个智能体的动作)do(\text{另一个智能体的动作}) 这些问题,因为那些变量根本不在它的输入里,也不在它的输出里。跨具身迁移、sim2real、多智能体交互恰好都需要这类查询。

用干预数据识别机制:Interventional CRL

既然观测数据单独不够,那干预数据能补多少?这是因果表示学习(Causal Representation Learning)里的核心问题,综述《Towards Causal Representation Learning》把它列为该领域的中心议题之一。

Ahuja 等人的《Interventional Causal Representation Learning》(2022 年)给出了一个很有代表性的结论。问题设定是:真实世界由一组潜在因果因子 z1,…,zkz_1,\dots,z_k 生成,我们只能观测到它们的高维纠缠投影 x=g(z)x=g(z)(比如画面)。目标是学出一个编码器,把 xx 映回 zz。

只用观测数据,非线性 ICA 的潜变量在无额外假设下完全不可识别:任意一个双射改换都能保持观测分布不变,因此编码器可以学出任意等价的潜坐标。即使加上温和假设,通常也只能识别到置换与逐维变换的等价类。

但如果我们有完美 do 干预下的数据——比如在某个时刻把 ziz_i 强行设成某个值,切断它与祖先的联系——那么每个因子的支撑集(它能取哪些值)都会与祖先断开。作者证明,在这种条件下,zz 可以被识别到置换加逐维线性变换(缩放)的等价类;在更弱的假设下也能达到块仿射识别。

干预因果表示学习:观测数据与干预数据的对比,以及干预如何切断潜在因子与其祖先的依赖

图里左栏是观测数据,右栏是做过 do 干预的数据,下方两个小图是同一组潜变量在观测分布下的 DAG 与对 z22z_2^2 做完美干预后的 DAG。关键不在样本数量,在于干预删掉了指向被干预变量的边,从而在数据分布里留下了只有结构才能解释的痕迹:干预过的因子不再随上游变化,它的分布形状会变成「扁平」或「跳跃」。

对世界模型的启发有三层:第一,干预数据是识别潜在因子的必要条件,不是可选项;第二,干预不需要发生在每个因子、每个值上,只要能打破足够多的依赖,就可以把等价类压缩到可用的程度;第三,机器人天然会产生干预数据:每个动作都是一次 do,这恰好是它相对于纯文本或纯视频数据的优势。问题只在于数据里覆盖了多宽的干预范围。

反事实:比干预再多一层

反事实问题在形式上可以在 SCM 上写成一条固定流程,称为反事实推演的三个步骤:

  1. 溯因(abduction):用外生变量的后验 P(U∣observed)P(U\mid \text{observed}) 去替代 UU 的先验,得到与观测一致的外生变量取值。
  2. 干预(action):把 XX 的结构方程替换成 X:=xX:=x,其余机制不变。
  3. 预测(prediction):在新模型里前向计算得到 YY。

对带有噪声的模型,这三步可以写成一个积分:

P(YX=x=y′∣X=x′,Y=y)=∫1[fY(Pa(Y)X=x,uY)=y′] P(uY∣X=x′,Y=y) duYP(Y_{X=x}=y'\mid X=x',Y=y)=\int \mathbf{1}\left[f_Y(\mathrm{Pa}(Y)_{X=x},u_Y)=y'\right]\,P(u_Y\mid X=x',Y=y)\,du_Y

符号说明:fYf_Y 是 YY 的结构方程,Pa(Y)X=x\mathrm{Pa}(Y)_{X=x} 表示把 XX 的方程替换成常数之后重新计算的父节点取值,uYu_Y 是 YY 自己的外生噪声,积分权重是它在事实观测下的后验。第一步算出 uYu_Y 的后验,把模型「校准」到这一段具体历史;第二步改 XX 的机制;第三步重算下游。

注意 UU 的后验是反事实和干预的分水岭:干预只问「在所有可能世界里,改 XX 会怎样」,它对 UU 求边缘;反事实问「在这一个被观测到的世界里,改 XX 会怎样」,它用 UU 的条件。

这正是反事实难的地方:它要求模型拥有完整的外生变量信息,也就是「这个世界的特定初始扰动是什么」。一个只有条件分布 P(st+1∣st,at)P(s_{t+1}\mid s_t,a_t) 的模型没有 UU,它无法把「这一段历史」和「另一段历史」区分开。它只能做干预。

在动态世界里,「外生」意味着什么

对世界模型来说,SCM 的静态形式需要改成时间序列版本。设状态 st∈Rds_t\in\mathbb{R}^d、动作 ata_t,一个充分性假设下的结构方程是:

st+1,i=fi(Pa(st+1,i),Pa(st,i),at,ut,i)s_{t+1,i} = f_i(\mathrm{Pa}(s_{t+1,i}),\mathrm{Pa}(s_{t,i}),a_t,u_{t,i})

这里 ut,iu_{t,i} 是每一步的噪声,可以理解为环境里模型未建模的那些扰动:地面的不均匀、接触面的微观粗糙、电池电压波动带来的电机偏差。它是每一步独有的、不可跨步复用的外生变量。

这带来两个重要区别。

其一,时序 SCM 里「回溯外生变量」通常做不到,因为观测只覆盖了部分变量、且噪声在步间独立。反事实在动态世界里的可行版本通常是模型内反事实:在你自己的世界里,假设某一步的动作不同,其余外生变量沿用同一次采样。它回答的是「如果模型本身没错,改这一步动作会怎样」,而不是「如果真实世界会怎样」。两者之间的差距,就是模型误差。

其二,反事实需要每一步的外生噪声后验,而不只是状态的边缘分布。一个高斯潜变量动力学模型每步的 utu_t 在训练时被采样、在推演时被沿用,所以它天然支持「同一段历史下换动作」的推演。而一个纯确定性预测器在同样设置下没有任何 utu_t,它的反事实只能由输入差异完全解释——一旦输入被固定,它就只能预测同一个未来。

反事实推理需要什么能力

把上面的分析收拢,一个世界模型要能合理回答反事实问题,至少需要以下几条能力中的若干条:

  • 机制可分离:不同机制不能混在一个黑箱里,否则「改掉其中一个机制」就没有对应的操作。结构方程 Vi=fi(Pa(Vi),Ui)V_i=f_i(\mathrm{Pa}(V_i),U_i) 的分解就是最小形式。
  • 外生变量可推断:模型需要能够对每个观测时刻推断出它独有的噪声(或等价的确定性的「初始扰动」),并把它们保存在潜状态里。
  • 一致性约束:反事实的世界必须与事实世界在未干预部分共享信息。SCM 的三个步骤之所以能定义反事实,是因为 UU 在整个推演过程中保持不变。所以模型里必须有一个「跨世界共享」的对象。

这三条并不是全部。第三十篇讨论了两类不确定性(见 世界模型从零讲起(三十)),这里的「外生变量」与之有交叠但不相同:偶然不确定性描述的是噪声的统计分布,外生变量描述的是这一个样本的具体取值。知道一个环境平均噪声是 0.01 m,不等于知道这一次采样得到的噪声是 0.007 m。反事实需要后者。

从现有世界模型家族来看,这些能力的分布并不均匀。Dreamer 系列的 RSSM(见 世界模型从零讲起(二))有潜状态和随机潜变量的采样,但它的随机性对每一维独立采样、并且不与具体机制绑定,它的「外生变量」是潜空间里的一个整体采样,而不是每个结构方程一份——所以它能做潜空间里的想象,但它的反事实推演主要反映的是模型内部的随机性,不保证与真实世界的外生噪声对齐。JEPA 系列(见 世界模型从零讲起(三))在表征空间里预测,不重建像素,它能做「同一潜状态、换动作」的推演,但没有显式的噪声模型,反事实的界定完全依赖它的潜状态编码能力。视频生成式的世界模型(见 世界模型从零讲起(四))以扩散或自回归方式预测画面,它们的随机性分布在隐变量或者去噪轨迹上,反事实往往体现为「同一首帧、不同条件」,而不是「同一段历史、换掉一个动作」。这些差别都需要具体的实验来测,而不是从架构名称推断。

让世界模型带上结构:因果动力学模型

SCM 是一种结构,自回归世界模型大多没有结构。两者之间有一类折中的设计:在潜空间或者状态空间上,为每个状态变量单独建模它的动力学,并约束这个动力学只依赖少数几个变量。这一类方法里最有代表性的是 Wang 等人的《Causal Dynamics Learning for Task-Independent State Abstraction》(2022 年,发表于 ICML)。

它的出发点非常具体:标准模型基强化学习的动力学模型 p(st+1∣st,at)p(s_{t+1}\mid s_t,a_t) 是一个稠密模型,把所有状态维度和动作一起送进神经网络,学出来的依赖是稠密的、任务相关的。在导航任务里,一个「时钟」维度对这个任务无关,但稠密模型会照样花参数去预测时钟的下一时刻,并且在数据稀疏时把它的噪声混进其他维度。

CDL 的做法是:把 st+1s_{t+1} 的每一维 st+1js^j_{t+1} 拆成一个条件分布

p(st+1j∣at,{sti:i∈Mj})p(s^{j}_{t+1}\mid a_t,\{s^{i}_{t}: i\in M_j\})

其中 Mj⊆{1,…,d}M_j\subseteq\{1,\dots,d\} 是第 jj 维的输入掩码,决定这一维的预测使用哪些状态变量。掩码不是人为给的,而是通过一个条件互信息估计器学习出来:如果一个输入变量对 st+1js^j_{t+1} 没有额外信息,就把对应的边剪掉。

因果动力学模型示意:状态变量被分为可控、动作相关、动作无关三类,因果图被拆成子图分别建模

图中上半部分是完整的因果动力学图,下半部分把状态变量分成三类:可控变量(绿色,动作能直接改变的,比如门)、动作相关变量(橙色,动作不能直接改、但会阻碍动作效果的,比如挡在门前的箱子)、动作无关变量(蓝色,没有任何变量依赖它,比如时钟)。学到的图允许把这三类分开,从而在规划时省略动作无关变量——这是一种从动力学自身推导出来的状态抽象,不需要预先定义任务或者奖励。

这里的关键机制是:结构化后的因果依赖本身就是干预安全性的来源。一个知道「时钟只被时间驱动、且不驱动任何其他变量」的模型,在被问到「如果把时钟拨快一小时,门会不会变化」时,会正确地回答「不会」。稠密模型做不到,因为它把时钟和门一起塞进了同一个隐状态。

因果动力学模型中对单个状态变量 s^{j}_{t+1} 的预测器:通过不同掩码表示不同的条件密度

架构图上,每个 st+1js^j_{t+1} 的预测由一个共享的特征提取器 qj(hj)q_j(h_j) 和一个掩码后的条件头组成,不同的掩码对应不同的条件密度。训练时,掩码通过互信息估计器更新,只有保留的输入才会进入条件头;推理时,这等价于一个稀疏的因果图。这样得到的模型对干预的响应与图结构一致:干预某条边上游的变量,只影响它的下游。

CDL 在化学环境、机器人操作环境和物理环境上做了单步与多步预测的实验,其中包括在分布外(OOD)噪声下比较稠密模型与稀疏因果模型的泛化。这些实验的意义不在于排名,而在于说明同样规模的稠密网络在稀疏因果结构下能更好地扛住分布偏移:当训练数据里某些变量被干预过,因果模型能保留住「这条依赖不存在」的信息,而稠密模型会把样本相关性当成依赖。

这一路线与把物理结构直接写进模型的工作(见 世界模型从零讲起(二十一))是同一方向的两个层次:CDL 从数据里学变量之间的稀疏依赖,物理先验路线则把守恒律、对称性之类的约束直接写进消息传递。前者更通用,后者在数据稀少时更稳。

CDL 的局限也很明确:它学的是一个环境内的因果图,而且依赖可观测的状态维度。如果状态是像素,它的拆分就没有直接对应。它的掩码学习依赖互信息估计的准确性,对噪声和有限的样本量敏感。它不处理反事实,只处理干预,因为它的每个变量虽然有独立条件,但没有保存每一步的外生噪声。

主动制造干预:从 Causal Curiosity 到 CoPhy

除了在动力学里塞结构,另一条路线是主动用干预数据去学结构。Sontakke 等人的《Causal Curiosity》(2021 年,发表于 ICML)设计了一个内在奖励,鼓励智能体做「实验」:主动执行那些能分类轨迹、揭示因果因子的动作序列。

它把实验奖励定义在「不同动作序列下的轨迹差异」上:如果两个动作序列产生的状态轨迹能被区分,就说明它们之间存在可观测的因果影响,值得给它奖励。于是智能体会自己发现「抬起块看它的高度」「推一下看它是否移动」这类实验,从而把环境里原本不可观测的因果因子(质量、密度)变成可以通过观察分类的类别。

这一点对世界模型训练有很直接的启发:在训练数据里主动增加干预,尤其是那些在自然操作中很少出现、但能分离因果因子的干预。真实机器人采集数据时,操作员的动作分布往往集中在「完成任务的有效动作」上,很少系统地做变量分离实验。这也是为什么用纯人类操作数据训出来的世界模型在大规模分布外干预下容易失效——数据里缺少「切断依赖」的样本。

CoPhy(Baradel 等人,2020 年发表于 ICLR)把这一想法放在纯粹的物理推理上:给定一段机械试验(塔倒下、球碰撞)的观测,模型要预测「把初始条件中的某个物体移动一下」之后的结果。它的做法是学习一个潜表示,把「混杂因子」(物体质量、弹性、摩擦)从观测里推断出来,再用它预测改变了初始位置的未来。在结构上等价于两步:先从观测里推断混杂因子,再在新的初始条件下前向模拟。它把「什么保持不变」写进了潜表示,这是它能做反事实而不只是做预测的原因。

视频生成式世界模型的反事实:固定画面,改条件

前面的讨论以状态空间世界模型为主。视频生成式世界模型——Sora 式的方法、以及带动作条件的驾驶与机器人视频模型(见 动作条件世界模型完全拆解)——把预测搬到像素或视频 token 上,它的反事实能力需要单独看。

在潜空间扩散里,反事实推演有三种常见形态,它们各自对应不同的「外生变量」定义。

形态一:同一首帧、不同文本条件。 用同一段已观测历史作为条件帧,换一条文本提示,生成两个未来。这是最常见的使用方式。它的价值在于探索「场景语义层」的分支:杯子是否被拿走、光照是否变化、另一个物体是否出现。但它的「外生变量」定义在文本条件上,不是物理噪声上——两个分支之间的差异反映的是提示词差异,而不是「同一次采样、不同的微观扰动」。

形态二:同一首帧、不同动作。 动作条件视频模型把动作作为额外条件送入去噪网络。在固定首帧与固定初始噪声的前提下,只改变动作条件,得到的两个未来就是一次「模型内反事实」。这条路径与 SCM 的「干预 + 固定外生变量」最接近:初始噪声对应外生扰动,动作对应被改写的机制。实际实现里有两点需要注意。其一,随机种子必须完全一致,否则分支差异里混入了采样噪声。其二,动作条件的注入位置决定了模型是否真的把动作当作机制,而不是当作画面的一部分——如果动作被编码进画面特征,模型就可能从画面里「读出」动作,从而在动作缺失时产生看似合理的幻觉。

形态三:去噪轨迹的中间打断。 在去噪到某一步后固定隐状态,再切换到另一条条件继续去噪。这本质上是一种「中途改规则」的操作,与 SCM 里「只在某个时刻干预、之后按新机制前推」最接近。代价是隐状态的语义依赖去噪步数:切得太早,状态还没形成结构;切得太晚,改动只能影响细节。

视频世界模型的反事实有一个额外难点:分支对应关系。两条未来视频之间的像素对应不是天然的,尤其当动作改变了物体的出现与消失时。因此评测反事实一致性不能简单做像素差,而要用对象级的跟踪、分割或者语义指标。

世界模型里的「条件」与「干预」:把两种做法分清

工程上最容易混淆的两种做法是:把条件当成干预,和把干预当成条件。

把条件当成干预。 训练时把「动作」作为输入,推理时把它当成「外部设定」,这是标准做法。它的正确性建立在上一节三个前提之上。一旦状态不完备,它给出的就是一个带选择偏差的条件分布。常见的翻车场景是:训练数据来自一个特定操作员,模型学到的是这个操作员的策略,而不是世界的物理规律。

把干预当成条件。 另一种做法是把「执行器状态」作为条件输入,然后用观测数据对 (st,executort)→st+1(s_t,\text{executor}_t)\to s_{t+1} 建模。看起来一样,区别在于执行器状态不再由模型推断,而是外部给定。这就是「动作是给定的」在工程上的落地:只要有独立的执行器读数通道,动作的来源就与模型解耦了。但这也带来一个隐患:如果执行器读数在训练视频里也能被「看」出来(例如机械臂位置可以从画面上读出),模型仍然可能把画面当捷径。

两者的共同问题:混杂变量藏在潜空间里。 无论采用哪种形式,如果有一个未观测变量同时影响动作和下一状态(比如操作员看到杯子快掉了才去扶),模型仍然会把这个相关性学进去。检验方法很直接:在同一状态 sts_t 下,对比由不同操作员、不同策略产生的动作样本,看模型对同一动作的预测是否一致。如果不一致,说明模型对状态之外的变量有依赖。

先做一个最小的动作敏感性检查

把上面对话落成一个可复现的检查流程。它不依赖模拟器的 do 接口,只要求有一个能交互的环境和一个训练好的世界模型。

# 在同一个状态附近,比较世界模型对同一动作的两种预测:
# (a) 来自自然操作分布的动作
# (b) 来自人为探索分布的动作
for s_t in sample_states(env, n=200):
a_nat = sample_from_policy(s_t) # 原始策略下的动作
a_exp = sample_from_uniform_action(s_t) # 人为探索,避开原始策略
pred_nat = world_model(s_t, a_nat)
pred_exp = world_model(s_t, a_exp)
real_nat = env.step(s_t, a_nat)
real_exp = env.step(s_t, a_exp)
# 比较模型误差在两种分布下的差异
report[pair(s_t, a_nat)] = dist(pred_nat, real_nat)
report[pair(s_t, a_exp)] = dist(pred_exp, real_exp)

判读规则有三条。

  • 如果两种分布的误差接近,说明模型对动作的依赖与动作的来源关系不大,状态是充分统计量。这是一个好信号,但不排除在未覆盖的 (st,at)(s_t,a_t) 组合上失效。
  • 如果人为分布下的误差显著更大,说明模型在训练分布的边缘上外推能力不足。规划器会恰好走进这个区域。
  • 如果误差与「动作是否罕见」强相关,而不是与「动作是否是因果有效的」相关,说明模型学到了策略相关的东西,而不是机制。

这个检查的成本主要在环境侧:每对 (st,a)(s_t,a) 都需要环境真实执行一次。在模拟器里可以批量做,在真机上需要受控实验。它只能给出「动作通道是否真的被用上」的初步信号;要判断模型在干预下是否可信,还需要下面这套分层测试。

怎么测一个世界模型懂不懂因果

前几节定义了对象,这一节讲怎么量。对一个具体世界模型,可以做以下四类测试,强度从上到下递增。

观测一致性测试

用一段轨迹的历史,问模型下一步。这是最基础的测试,也就是第三十篇里评估过的预测误差。它只能证明模型在第一层拟合得好。

干预一致性测试

给定模型,做以下对比:

  • 在真实环境里执行一个干预 do(at=a∗)do(a_t=a^*),记录下一状态的真值;
  • 让模型在同样的 sts_t 下预测 at=a∗a_t=a^* 的结果;
  • 比较两者。

关键点是 a∗a^* 必须在训练分布之外或者稀疏区域。一种做法是从训练数据里随机取的状态 ss 和随机取的动作 aa,人为拼成一对 (s,a)(s,a),让真实环境在状态 ss 下执行动作 aa,对比模型预测。这类测试在离线评估里可以用模拟器做,在真机上则很昂贵。

CausalWorld 就是为这种测试设计的。它内置了 do 接口,可以把环境变量直接设为指定值,也可以把配置变量与任务解耦,从而测出模型在干预后的表现是否依赖那些本应无关的变量。

反事实测试

反事实测试需要同一段历史的两条真实分支。标准做法是「匹配对」测试:

  1. 找两段轨迹,它们在 tt 时刻之前的(部分)历史相同,之后采取不同的动作;
  2. 让模型从共享的历史出发,分别预测两条分支的未来;
  3. 对比模型的分支差异与真实的分支差异。

如果两条真实分支在共享历史之后产生了显著不同的未来,而模型给出的两个未来几乎一样,说明模型对动作不敏感;如果模型给出的未来差异远大于真实差异,说明模型把动作的影响放大了,或者学到了错误的依赖。

这类测试在模拟器里可以批量生成。在真实机器人上,需要受控的重复实验。CoPhy 就是为这件事专门做的一个基准:它用合成 3D 场景渲染出「同一历史、干预初始条件」的反事实对。

结构测试

最强的一种测试不是问模型「输出是什么」,而是问它「依赖什么」。做单变量干预,看模型的内部表示如何变化:

  • 干预一个不该影响结果的变量(例如把时钟拨快),看模型预测的轨迹是否变化;
  • 干预一个应该影响结果的变量(例如把门打开),看模型是否正确地传到了下游;
  • 干预一个应该只影响上游、不影响其他支路的变量,看模型是否只在一条支路上改变。

这种测试不需要模型的真值,只需要检查它的稀疏响应模式是否与已知的因果结构一致。

CLEVRER:一个把四类问题都放进去的基准

CLEVRER(Yi 等人,2019 年)是一个视频因果推理基准,专门覆盖上述几个层次。视频内容是简单的碰撞事件,每段视频配有四类问题:描述型(发生了什么)、解释型(为什么)、预测型(接下来会怎样)、反事实型(如果某个事件不同,会怎样)。

它的意义在于把「反事实」变成可评测的指标,而不只是一个概念。对每个反事实问题,模型必须定位到某个具体事件,判断它在因果链上的位置,然后模拟「这个事件不发生或者以另一种方式发生」后的结果。

四类问题的强度依次递增:描述型只需读出观测,解释型需要指出因果链,预测型需要外推动力学,反事实型需要「同一段视频、改掉一个事件」的推演。模型在四类问题上的表现差距,正是它处于因果阶梯哪一层的直接读数。同一份视频数据,描述型准确率高不等于反事实型没有问题;恰好相反,描述型常常可以被观测相关性完全满足。

分布外干预下的抽象:为什么稀疏图更稳

CDL 类方法的意义不只在「图更稀疏、算得更少」。在分布外(OOD)干预下,稀疏结构还有一个更重要的性质:它把「这条依赖不存在」显式地存了下来。

考虑一个稠密模型和一个稀疏因果模型,它们在同一份训练数据上误差相同。现在对环境做一个干预:改变某个变量的噪声尺度,或改变某个本应无关变量的取值。稠密模型对每一个输出都使用了全部输入,任何变量的变化都会通过权重传导到所有输出,于是误差在整个状态向量上扩散。稀疏模型只在真正的下游维度上接受变化,其余维度按原值预测。

这不是泛化能力的普遍提升,而是一个具体的结构性质:局部性。干预改动的是局部机制,局部依赖的模型对这类改动是局部响应的;稠密模型的响应是全局的,误差随之扩散。

代价也很明确:一旦稀疏图学错了——本该有的边被剪掉,或者多出一条虚假边——模型的误差会有明确的方向性。剪错的那条边会让下游变量完全不响应一个真实存在的影响,多出的那条边会让无关变量也抖动。所以稀疏因果模型的风险分配与稠密模型不同:稠密模型错得均匀,稀疏模型错得集中。对规划器来说,知道错误集中在哪比知道错误均匀存在更有用,因为前者可以针对性校验。

结构、干预与推理系统

讲到这里,因果能力与推理系统之间的关系可以收拢成三条具体的账。

结构带来的算力节省

CDL 的结构化拆分有一个直接的推理收益。稠密模型给每个状态维度都算一次「全体输入 → 该维度」的前向,而稀疏因果模型只使用掩码保留下来的输入。在状态维度较大、依赖较稀疏的场合,每一维的输入规模从 dd 降到 k≪dk\ll d,计算量随之降低。更重要的是,在规划阶段,动作无关变量可以直接被忽略,不需要被预测,也不需要被规划。这正是「状态抽象」对推理成本的直接回馈:少预测一批变量,就少一批 rollout 的开销。

干预测试的采样成本

干预测试的代价主要在数据侧。每一条干预样本都需要真实环境执行一次干预、记录一条轨迹。如果模型在 dd 个状态维度、mm 个候选取值上都要测,样本量是 O(dm)O(dm) 量级。因此实际做法通常是:

  • 用模拟器做干预测试,真机只抽少量验证;
  • 只测那些「在模型结构里有可能出错」的依赖,而不是全量;
  • 利用 CausalWorld 这类暴露 do 接口的基准,在训练和测试里统一注入干预。

反事实推演的成本

反事实推演比干预推演多一步溯因。对一个有 kk 个分支的反事实树,每一步都需要重新计算新动作下的下游状态。自回归世界模型里这等价于做一次前向(如果动作只影响单步),但反事实的完整形态是「从 tt 时刻起重新生成整条未来轨迹」,于是成本与 rollout 长度成正比。对视频生成式世界模型,这意味着重新从某个中间帧开始去噪,成本是去噪步数与帧数的乘积。

因此,真实系统里的反事实通常只在关键决策点做一次局部推演,而不是对整条轨迹做穷举。这也是第三十篇那张预算地图需要再增加的一列:每个反事实分支的算力成本,以及它的结果被用来做什么。

小结

因果这一层,把「世界模型预测得准不准」的问题,换成了「世界模型在问什么样的问题」。收成六句话:

  • 三个问题是不同的对象。 预测是条件分布,干预是 do 分布,反事实是带下标的条件分布。三者形式上接近,含义上完全不同。一个模型在观测上越准,越可能只是因为抓住了混杂带来的捷径。
  • 观测数据不足以回答干预问题。 因果层级定理说明,从观测分布到干预分布需要一个结构假设或者真实干预数据。数据量增大不会消除条件与干预之间的差异,那个差异来自选择偏差,不来自抽样噪声。
  • SCM 是能回答干预的对象。 它用结构方程把世界拆成一组机制,每个机制只在它的父节点变化时才重算;干预就是把其中一条机制替换成常数,反事实则在此基础上额外做一次外生变量后验的推断。
  • 「动作是干预」在语法上正确、在语义上不够。 自回归模型把动作作为额外输入,形式上就是给定值;但它在训练分布中稀疏的动作与状态组合下行为如何,取决于模型有没有学出真正的机制,而不是状态与动作之间的相关。
  • 结构可以学出来,也可以被设计进去。 CDL 用条件互信息把状态维度拆成稀疏的因果图,CausalWorld 用 do 接口暴露所有变量,Causal Curiosity 用内在奖励驱使智能体做实验,CoPhy 用潜变量推断混杂因子。这些方法的共同点是主动制造干预数据的多样性,而不是等待观测数据自然覆盖。
  • 测试要按层去做。 观测一致性、干预一致性、反事实一致性和结构测试,强度递增,成本也递增。CLEVRER 把四个层次放在同一个基准里,是评估这类能力最直接的方式。

沿着这条线索再往前走,还有一类问题不在本文范围里:一个世界模型能在不同环境下共享它的结构吗?因果图在换一个场景、换一个形态后是否会保留一部分。这正是「结构迁移」的方向——把世界模型从「某一个环境里的因果图」变成「一个跨环境的结构假设」,并衡量它的失效边界。下一篇将讨论结构迁移:哪些边可以跨环境复用、哪些机制必须重新辨识,以及一个换了形态的机器人怎样才能把旧图用起来。

参考资料

  1. Causal Machine Learning: A Survey and Open Problems
  2. Towards Causal Representation Learning
  3. CausalWorld: A Robotic Manipulation Benchmark for Causal Structure and Transfer Learning
  4. Causal Dynamics Learning for Task-Independent State Abstraction
  5. Interventional Causal Representation Learning
  6. Causal Curiosity: RL Agents Discovering Self-supervised Experiments for Causal Representation Learning
  7. CoPhy: Counterfactual Learning of Physical Dynamics
  8. CLEVRER: CoLlision Events for Video REpresentation and Reasoning
  9. CausalWorld GitHub Repository
  10. CoPhy GitHub Repository
  11. DoWhy: An End-to-End Library for Causal Inference
  12. Causality: Models, Reasoning, and Inference
  13. Causal Inference: What If

文章分享

如果这篇文章对你有帮助,欢迎分享给更多人!

世界模型从零讲起(三十一):世界模型懂因果吗——干预、反事实与结构因果模型如何描述它
https://pinghaoyang.com.cn/articles/insights/posts/world-model-causal-counterfactual-part-31/
作者
平昊阳
发布于
2026-11-19
许可协议
CC BY-NC-SA 4.0

评论区

访客信息
--°天气加载中

正在获取所在地区…

💨 风力--
💧 湿度--

正在读取天气

Profile Image of the Author
平昊阳
乘长风,破巨浪, 展鸿图于未央!
公告
欢迎来到我的个人博客!欢迎关注交流吖!
更多相关公告,见
「社交-留言」。
音乐
封面

音乐

暂未播放

0:000:00
暂无歌词
站点统计
文章
572
分类
29
标签
659
总字数
8,320,312
运行时长
0 天
最后活动
0 天前

文章目录