张江：第三代人工智能技术基础——从可微分编程到因果推理集智学园全新课程

自从1956年“人工智能”诞生于达特茅斯会议以来，已经经历了从早期的以符号推理为主体的第一代人工智能，以及以深度神经网络、机器学习为主体的第二代人工智能。而ChatGPT的横空出世，生成式AI的普及，以及AIforScience等新领域的突破，标志着第三代人工智能的呼之欲出。新一代人工智能将会融合第一代的符号推理与第二代的机器学习技术，通过生成式大模型实现可学习、懂因果、会推理的智能主体。

可微分编程、神经微分方程、自监督学习、生成式模型、Transformer、基于图网络的学习与推理、因果表征与因果推断，基于世界模型的强化学习……，所有这些脱胎于前两代人工智能的技术要素很有可能将构成第三代人工智能的理论与技术的基础。然而，这些技术要素大多散落在各大会议、期刊的海量论文之中，没有被系统的梳理与综合，因而不方便初学者学习。

系列课程4大模块

“第三代人工智能技术基础”课程导览

Diffusion师承Flow-based，结构上与Flow-based类似，也存在一定的可逆性。Diffusion中通过将噪声逐步扩散到数据样本中来生成样本，利用对数似然差分估计方法进行优化，相比于Flow-based，Diffusion对复杂数据集的处理能力更好，更不易崩溃。

1、为什么要引入因果？

在上一小结复杂系统自动建模中我带你学习了希望基于数据出发构建真实的复杂系统模型，然后要求学习到的模型不仅能对系统进行预测还能对系统进行优化与控制，对于控制任务来说，我们需要反过来操控这个系统，只有当系统学习到的规律足够贴近真实系统的规律才能进行有效的控制，才能使得学习到的模型能泛化到分布外的数据。同时由于变量间有时存在混淆因子，会存在辛普森悖论等，这时就需要引入因果。因果在数据与模型之间架起了一座最小的桥梁。

2、因果的三层阶梯

3、贝叶斯网络

4、因果图

为了回答干预问题，即如果让x发生，y会发生吗？我会介绍如何借助因果图模型。其中因果图可以根据常识构建，也可以从数据中自动发现因果图。区别于贝叶斯网络，因果图中边的关系表示因果关系，同时因果图中允许do操作(即干预操作)，该操作能判断两个变量之间的因果概率有多大。那具体do操作是如何实现的呢？例如，do(X=x)意味着对X的后门路径上的变量（Z）实施控制，具体在因果图中表示切断所有指向X的箭头，保持其他变量间的关系以及条件概率不变，从而得到新的因果图，然后基于新的因果图就可以计算变量间的因果效应进行因果推断。然而具体的干预实验成本是很高，我们能否从观测数据出发计算因果效应呢？答案是肯定的，在某些场合下，我们可以将do操作转换成普通的概率计算，具体包括两种准则，后门准则（已知混淆因子时）和前门准则（混淆因子未知时）。此外，Peral通过do-calculus给出了将do操作转换成条件概率的一般性方法。

5、结构因果模型

为了回答反事实问题，即如果让x没发生，而是x'发生，y'会是什么？我会介绍如何借助结构因果模型。其同样是一个有向无环图，但是区别于普通的因果图，这里每个节点存在一个额外的不确定变量U指向它，需要注意的是，每个节点的不确定变量彼此之间互相独立。此外，每个节点对应一个结构因果方程，是一个确定性函数。那么如何进行反事实的因果推断问题呢？包括三个步骤：1）溯因：根据证据确定U；2）作用：修改模型，对兴趣变量直接赋值；3）预测:使用修正模型计算新的待求的变量值。

因果机器学习是一类数据生成过程满足结构因果模型的机器学习方法。因果机器学习能学到传统机器学习方法所不具有的因果机制。那么因果机器学习方法为什么能解决分布外泛化问题，应对不同的机制？我会重点介绍两个原因，一是存在独立因果机制原理，即系统变量的因果生成过程是由许多互不影响的自动模块构成；二是存在稀疏机制迁移，即在迁移的时候，因果模块可以作为不变的组成部分，通过小的微调使得模型能适用更广的环境，而且局部的微调不会影响其他部分。因此，这也是所说的局部的因果机制。

2、因果发现

3、因果表示学习

与因果发现不同的是，因果发现侧重于从数据中推断出真实的因果关系，而因果表示学习侧重于从数据中学习因果模型以提高机器学习模型的因果推断能力，可以用来做很多下游的任务，如干预、反事实以及迁移任务等。我将带你学习因果表示学习是如何从高维的观测数据中学习到潜在的因果变量、映射函数、因果图以及因果机制的。同时学习这些任务是很困难的，我还会介绍如何把问题进行简化，比如绕过直接学习隐变量，而是学习不确定变量U，学习一种解纠缠的表示。

4、因果涌现与神经信息压缩

7、强化学习与控制/决策

从自动驾驶决策规划到智能交通信号灯控制，从组合优化问题求解到自动化药物设计，强化学习方法正逐渐走出实验室的仿真游戏平台，在越来越多的实际场景中得到应用。在最后，我将介绍一些强化学习方法在实际场景中的应用，并对未来强化学习的发展做出展望。