投资为什么会失败?——以量化投资为例 根据美国对冲基金AQR的统计,截止2017年,美国量化股票管理规模在共同基金的占比14%,对冲基金占比26%,机构账户占... 

中美量化对冲基金行业的表现的显著差异,引人深思,A股量化对冲基金对指数的超额收益,是一个短暂的套利窗口期,还是一个可以持续的例外情形?

尼德霍夫具有深厚的统计学和经济学、金融学学术功底(本科毕业于哈佛大学统计和经济学,博士毕业于芝加哥大学金融和经济学),他始终相信投机市场有“屠龙术”,人们可以找到“公式”,然后在市场上去证实这个公式。两次的失败,都因为不符合他的模型和世界观的”黑天鹅”出现。

以他为代表的,接受现代金融理论和计量经济学、统计学训练的量化对冲基金占了量化对冲基金的大多数,MarcosLopezdePrado在近年来的一系列论文和讲座中,对以计量经济学、统计学为代表的量化投资理论和实践进行了反思:

量化投资失败的第一个原因——经济学研究的停滞:

分类器,聚类,神经网络,机器学习

(classfier,clustering,neuralnetwork,machinelearning)

量化投资失败的第二个原因:计量经济学无法处理非结构化数据:

1、信息最丰富的数据集不适用于计量经济学。

高维数据集:变量的数量往往超过观测值的数量。

稀疏/噪声数据集:每单位信号中有很大比例的零值或噪声。

层级关系:经济系统往往涉及代理人网络(networksofagents)和聚类依存关系(cluteringofdependecies)image.png通胀估计从非结构化的网上价格而来并形成对年化通胀水平的准确预测.

2、标准计量经济学转换以牺牲平稳性为代价。具体详见:《AdvancesinFinancialMachineLearning:Lecture2/10》

3、计量经济学方法为无趣数据建模。

2、因此,大多数计量经济学研究得出的结论都是错误的,其依据是噪音,而不是信号!

量化投资失败的第四个原因——方差判定错误和因果关系谬误:

1、计量经济学规范试图判定(adjudicate){Xt,i}为{yt}的样本内方差,同时控制被判定为{Zt,j}的方差。

2、这带来了两个问题:

样本内判定对策略开发极少有用

模型也需要判定控制变量{Zt,j}的方差

3、相比之下,机器学习方法尝试使用{Xt,i}预测样本外的{yt},同时控制{Zt,j}(无论规范如何)

4、回归是错误的投资工具:计量经济学借用了生物学的工具包,但在生物学中,样本外预测不是一个关键目标。

因果谬误

根据论文《RegressionandCausation:ACriticalExaminationofSixEconometricsTextbooks》发现:在最具影响力的计量经济学教材中,有六本出现了基本的数学和统计错误:

1、混淆了因果关系

2、混淆预测与因果关系

3、混淆因果关系与格兰杰因果关系(用词不当,误称)

4、未能提供区分因果概念和统计概念的一致数学符号

量化投资失败的第五个原因——规范交互寻找(specification-interactionsearch)的问题:

考虑典型的计量经济模型:

1、这要求研究人员立即获得两项:

①预测变量:{1,2}

②函数形式:典型的线性规范,具有乘法交互作用

2、鉴于金融体系的复杂性,这些要求是不切实际的。

传统的计量经济学模型并不“学习”数据的结构。

除非我们提供确切的(未知的)规范(specification),否则我们将得出错误的结论。

量化投资失败的第六个原因——统计学中P值的滥用:

在p=0.05时,大多数策略是错误的假设一个经过回测的策略,盈利的概率是1%。

然后,在5%的显著性和80%的power的标准阈值下,研究员预计将在1000次测试中做出58项发现,其中8项为真阳性,50项为假阳性。

在这种情况下,p值为5%意味着至少86%的发现是假的!

在实践中,金融中的错误发现率远高于86%,因为:

1、由于多次测试,familywise的显著性水平远远大于5%

2、由于竞争,发现新策略的概率低于1%

3、策略的保质期很短。策略不会保持一直“正确”超过几个月或几年

4、规范错误和其他违反假设的行为进一步增加了错误发现率

计量经济学陷入了p<0.05的时代

1、尽管金融经济学的大多数研究结果都依赖于p<0.05的论点:

(2)在多元共线性回归量(multicollinearregressors)的一般情况下,p值不能被稳健地(robustly)估计。

2、通过p值发现的“统计显著”因素包括:

价值、动量、质量、规模、Carry,流动性、防御性等(Value,Momentum,Quality,Size,Carry,Liquidity,Defensiveness,etc.)

对p值的滥用如此普遍,以至于美国统计协会(AmericanStatisticalAssociation)已经不鼓励将p值作为统计重要性的衡量标准(Wasserstein等人[2019])。这使人们怀疑数十年的计量经济学研究。

量化投资失败的第七个原因——模型训练的过拟合问题:

1、统计模型可能在两方面过度拟合:

①训练集过度拟合:规范非常灵活,可以解释噪声(而不是信号)

②测试集过度拟合:根据测试集表现来选择模型(同时隐藏了其他表现较差的模型)

2、计量经济学正在很大程度上无法解决和量化这两个问题。

量化投资失败的第八个原因——金融研究的偏差问题:

金融机构如何进行研究:

1、假设你正在寻找一种投资策略。运行了许多计量回归模型,并找到实现高夏普比率的结果,其中一些高于3

2、你把这些结果展示给你的老板,他决定对策略进行几周的模拟测试。幸运的是,模拟测试表现似乎与回测一致,所以投资决策委员会批准策略的部署

3、给该策略分配了1亿美元,但不幸的是,不久后就出现了20%的亏损

4、这种策略从来没有像宣传的那样有效,而且它最终也会失效!

发生了什么?

1、最好的回测结果不能代表基本事实(选择性偏差)

2、将回测限制在一些规范内并不是一个解决方案(确认性偏差)

大多数计量(量化)投资之所以失败,是因为投资经理们和学术期刊无法控制选择性偏差和确认性偏差!

克服量化投资缺陷的方法:

MarcosLopezdePrado认为金融从业者和研究者可以使他们的研究方法更加现代化来克服量化投资的上述缺陷,比如量化投资的每个步骤的缺陷,都有一个相应的机器学习的工具包来辅助:

参考资料:

The7ReasonsMostEconometricInvestmentFail,MarcosLopezdePrado

《AdvancesinFinancialMachineLearning:Lecture2/10》,MarcosLopezdePrado

THE END
1.Starfish帮助驯服大量非结构化数据Farmer详细阐述了非结构化数据问题的本质,以及Starfish的解决方案。“我们要解决的问题是‘这些文件到底是什么?’”他说。“在文件管理方面,除非你有强大的工具,否则你无法处理数十亿个文件。你什么也做不了。”在桌面文件系统上运行搜索,需要几分钟才能找到一个特定的文件。尝试在由数十亿个单独文件组成的并行文件https://baijiahao.baidu.com/s?id=1797317209676947810&wfr=spider&for=pc
2.6款好用的数据分析工具推荐!有哪些好用的数据分析工具推荐?我之前已经写过非常多的关于数据可视化工具测评类的内容了,这篇主要整合了一些适合中小型企业的数据可视化工具。 里面大部分都是简单易上手的,并且允许自定义设计,比较灵活。 01 帆软FineBI——最适合商业智能 (BI) 综合指数? 适用人群:使用BI产品和服务并需要商业https://zhuanlan.zhihu.com/p/716814767
3.一款适合需要处理大量非结构化AI数据的工具来自AIGCLINK一款适合需要处理大量非结构化AI数据的工具:datachain,支持多模态API调用和本地AI推理并行处理 可以用它结合大模型一起使用,来完成复杂的数据分析任务,比如做,数据处理和清洗、LLM分析和验证、图像分割等 https://weibo.com/3894431038/OFb0Kp9kY
4.了解结构化数据与非结构化数据的差异有多种工具可用于处理和分析非结构化数据。这些工具有助于从各种数据格式中提取信息。突出显示处理非结构化数据的工具的最简单方法是根据它们处理的数据类型。 介绍 数据用途广泛,有多种形式,并且可以通过多种方式进行组织。一种常见的分类是结构化或非结构化数据,具有不同的存储、处理和分析方法。了解这些差异有助于https://www.51cto.com/article/789229.html
5.非结构化数据怎么用数据库分析帆软数字化转型知识库非结构化数据可以通过以下方式进行数据库分析:使用NoSQL数据库、进行数据预处理、借助大数据技术、使用数据可视化工具,如FineBI。NoSQL数据库特别适合处理非结构化数据。NoSQL数据库,如MongoDB和Cassandra,提供了灵活的数据模型,可以处理各种类型的非结构化数据,包括文本、图像和视频。通过NoSQL数据库,数据分析师可以更方https://www.fanruan.com/blog/article/507380/
6.非结构化数据采集ETL必备10种工具推荐我心飞翔非结构化数据是指那些没有特定格式和组织的数据,比如文本文档、邮件、音频、视频等。这些数据通常难以用传统的关系型数据库来存储和处理。然而,非结构化数据却蕴含着极其重要的信息,因此越来越多的企业开始重视非结构化数据的采集和分析。在这篇文章中,我们将介绍8种常用的非结构化数据采集工具。 https://www.iteye.com/blog/gaozzsoft-2539359
7.Hive如何处理JSONXML等非结构化数据问答Hive是一个用于在Hadoop上执行SQL查询的数据仓库工具,通常用于处理结构化数据。对于非结构化数据,如JSON、XML等数据,可以通过以下方法处理: 使用Hive中的内置函数:Hive提供了一些内置函数,如get_json_object()函数用于解析JSON数据,xpath()函数用于解析XML数据。通过这些函数,可以提取非结构化数据中的关键信息。 使用https://www.yisu.com/ask/45227883.html
8.什么是非结构化数据?-旧有工具缺陷:传统的数据处理工具和技术,如SQL等,无法处理非结构化数据的庞杂分析需求。 解决非结构化数据挑战的方案 为了有更好的应对非结构化数据挑战,我们可以从以下几个方面入手。 -自然语言处理技术:使用自然语言处理技术,将非结构化数据转化为可处理的结构化数据,方便进行数据分析。 https://www.filez.com/news/detail/faee08ab6bdc85c2d6216e4773bcc01f.html
9.人工智能资源浏览查阅19次。自然语言处理(NLP)是人工智能领域的一个重要分支,主要涉及对人类语言的理解和生成。NLP技术是解析和分析非结构化数据的关键工具,它使得计算机能够理解和应用人类的自然语言,从而拓宽了AI的应用范围。在NLP中,汉字的数量之多和中文的复杂性是其挑战https://download.csdn.net/download/qq_27595745/85227845
10.什么是非结构化数据?非结构化数据完整指南Elastic定义非结构化数据并探索数据示例以理解它与结构化数据有哪些不同。了解如何分析非结构化数据,非结构化数据的优点和带来的挑战。https://www.elastic.co/cn/what-is/unstructured-data
11.大数据一般用什么数据库大数据领域的数据库通常使用开源软件,如Hadoop、Cassandra等,相比于传统的商业关系型数据库,成本更低。 综上所述,大数据领域的数据库相对于传统的关系型数据库,具有更好的可扩展性、高可用性、更快的处理速度、更好的适应非结构化数据和更低的成本等优势。https://www.linkflowtech.com/news/2745
12.什么是大数据分析:定义优缺点应用机遇和风险大数据是非常庞大或非结构化的数据。它是最难分析的数据。为此,你需要先进的大数据技术和能够处理大量非结构化数据的大数据解决方案(工具)。 为什么要进行大数据分析?答案很简单:大数据中常常隐藏着丰富的信息,这些信息可以帮助你的企业或机构表现得更好。你会突然开始看到一些用常规数据分析无法发现的模式。你进行大数据https://www.jianshu.com/p/b9d679d7cd33
13.1+X大数据财务分析职业技能等级标准3.4 结构化数据 structured data 一种数据表示形式,按此种形式,由数据元素汇集而成的每个记录的结构都 是一致的并且可以使用关系模型予以有效描述。 3[GB/T 35295-2017,定义02.02.13] 3.5 非结构化数据 unstructured data 不具有预定义模型或未以预定义方式组织的数据。 https://www.scsw.edu.cn/kjx/info/1007/1309.htm
14.如何更高效传输非结构化数据?Zilliz推出全新数据迁移服务我们正不断努力,期望推动数据和 AI 技术发展,降低其使用门槛,提升这些技术的灵活性,满足真实应用场景的需求。我们邀请社区中的每一位成员加入这段旅程,为强大的非结构化数据处理工具做出贡献,并从中获益。让我们携手合作,塑造向量数据库的未来,共创一个更开放、高效和创新的 AI 生态系统。https://maimai.cn/article/detail?fid=1847841730&efid=QZItTZuoCOfFfXOU6j_aaQ
15.非结构化数据提取技术在统计工作中的应用摘要结构化数据和非结构化数据是大数据的两种类型,目前非结构化数据信息已达信息总量的85%以上,且每年以55%~65%的速度增长,统计工作受到大数据的冲击,日常总会遇到一些非结构化数据提取的难题,导致工作量加大,效率低下。本文对非结构化数据及其提取技术、大数据处理语言——Python语言进行学习研究,解决实际中遇https://tjj.changzhi.gov.cn/sjfx/202207/t20220704_2588893.html
16.中软国际四款审计产品入选“高质量智能审计工具目录”在中国信通院组织的智能审计工具能力验证权威评估中,中软国际智审工具、审计智搜、协同文书编辑工具、非结构化数据分析工具等四款审计产品顺利通过检验,以突出的技术能力成功入选首批“高质量智能审计工具目录”。 12月15日,由中国信通院主办的“2023 GOLF+ IT新治理领导力论坛”在北京召开,论坛以“筑牢治理根基,共建https://www.elecfans.com/d/2342579.html
17.海康威视:2023年年度报告股票频道智能物联领域存在大量的非结构化数据,数据规模巨大、信息密度低。 为此,海康威视从数据采集、数据存储、数据处理、数据分析、数据治 理、数据安全、数据应用等相关大数据技术维度入手,逐步夯实大数据 基础架构,建立起一整套完善的大数据技术体系,以更好实现智能物联 https://stock.stockstar.com/notice/SN2024041900050978.shtml
18.结构化数据vs.非结构化数据基础设施CIO时代网典型的人为非结构化数据包括: 文本文件:文字处理、电子表格、演示文稿、电子邮件、日志。 电子邮件:由于其元数据,电子邮件具有一些内部结构,人们有时将其称之为半结构化。但是,其消息字段是非结构化的,传统的分析工具无法解析它。 社交媒体:来自Facebook、Twitter和LinkedIn的数据。 https://www.ciotimes.com/Infrastructure/147367.html
19.IBMCloudObjectStorage在银行业非结构化数据存储嘲下的对象随着银行业IT技术的快速发展和业务的不断升级变革,业务应用系统产生的非结构化数据(包括文件、图片、音视频文件等)的规模也越来越大,银行业非结构化数据呈指数式爆发式增长。目前使用非结构化数据的主要系统包括内容管理平台、后督影像系统、身份验证、柜员办业务扫描件等需要用到影像图片,以及呼叫中心系统、电话客服的https://redhat.talkwithtrend.com/Article/242823
20.数据架构:大数据数据仓库以及DataVault按照数据处理方式进行划分的原因是,重复型非结构化数据几乎完全是通过一个管理Hadoop的固定设施来处理的。对于重复型非结构化数据而言,其重点完全集中在对大数据管理器(例如Hadoop)中的数据进行访问、监视、显示、分析和可视化。 非重复型非结构化数据的重点则几乎完全集中在文本消歧上。这里的重点在于消歧的类型、输出的https://www.ituring.com.cn/book/tupubarticle/11854
21.行政管理论文15篇这势必导致学生处理社会现实问题和交往能力的技能很难有所提升,他们的知识结构、能力结构和素质明显存在不平衡,很难适应信息社会高速发展的需要。操作性和实践性教学严重薄弱。虽然目前我国高校《行政管理学》课程内容体系一般都设置了教学实习、实训等实践环节,但由于其时间短、任务重,而且管理松散,缺乏常态化和规范化,https://www.ruiwen.com/lunwen/6220159.html