开通VIP,畅享免费电子书等14项超值服
首页
好书
留言交流
下载APP
联系客服
2021.03.03
作者:蔡心宇审校:龚鹤扬陆超超
为了回答这些问题,让我们从表征学习说起。表征学习RepresentationLearning是机器学习中的重要问题,良好的表征是机器学习算法成功的重要条件;正因如此,近十年来深度学习借助神经网络强大的表达能力、海量的数据以及强大的算力,自动地从数据中学习表征,取代了传统的人工制作的特征,取得了瞩目的成就。由深度学习三巨头之二的YoshuaBengio和YannLeCun牵头创办的深度学习顶会,即命名为国际学习表征会议InternationalConferenceonLearningRepresentations,足见表征学习的重要性。
尽管深度学习在近十年极大地推动了机器学习的发展,但是仍有许多问题亟待解决,例如将知识迁移到新问题上的能力。许多关键问题都可以归结为OOD(out-of-distribution)问题。因为统计学习模型需要独立同分布(i.i.d.)假设,若测试数据与训练数据来自不同的分布,统计学习模型往往会出错。然而在很多情况下,i.i.d.的假设是不成立的,而因果推断所研究的正是这样的情形:如何学习一个可以在不同分布下工作、蕴含因果机制的因果模型(CausalModel),并使用因果模型进行干预或反事实推断。
如果说微分方程是对物理系统全面详尽的表述,那么统计模型(StatisticalModel)可被看作表面的粗糙的描述。它无法预测干预的效果,但是的优点在于通常可以从观察数据中学习,而前者通常需要专家来提出。因果建模则存在于这两个极端之间,它期望能够像物理模型一样预测干预的效果,但同时可以在一些假设下,通过数据驱动的方法找到这样的模型,来取代专家知识。
因果科学与CausalAI读书会
1.Pearl,Judea,MadelynGlymour,andNicholasP.Jewell.Causalinferenceinstatistics:Aprimer.JohnWiley&Sons,2016.(本书中译版《统计因果推理入门(翻译版)》已由高等教育出版社出版)
2.Peters,Jonas,DominikJanzing,andBernhardSchlkopf.Elementsofcausalinference:foundationsandlearningalgorithms.TheMITPress,2017.