改进克里金模型辅助的双档案在线数据驱动进化算法ImprovedKrigingModelAssistedTwoArchiveOnlineData

改进克里金模型辅助的双档案在线数据驱动进化算法

高娜

河北地质大学信息工程学院,河北石家庄

收稿日期:2022年8月19日;录用日期:2022年9月16日;发布日期:2022年9月26日

摘要

在现实世界中,许多进化优化问题难以找到合适的评估函数或评估代价十分昂贵,这在进化优化算法求解现实中的优化问题时提出诸多挑战。近年来,为了解决进化优化算法评估代价昂贵的问题,数据驱动的进化优化应运而生。数据驱动的进化优化的基本思想,就是通过充分利用数据的作用,训练代理模型辅助进化优化过程。一般是将代理模型用于近似真实昂贵函数评估,实现廉价的评估过程,提升算法性能。根据KTA2算法,本文提出了一种改进克里金模型辅助的双档案在线数据驱动进化算法KTA2_addModel4。在KTA2算法中,由训练的三种克里金模型作为代理模型:全部数据集训练的敏感模型、无较大影响点训练的不敏感模型1和无较小影响点训练的不敏感模型2。在改进的算法KTA2_addModel4中,增加了一种同时去掉较小影响点和较大影响点训练的不敏感模型3。通过在测试函数上与KTA2算法和其他代理辅助的数据驱动进化算法对比,证明提出的KTA2_addModel4算法改进了代理模型的质量,提升了算法的性能。

关键词

在线数据驱动,进化算法,克里金模型,双档案

ImprovedKrigingModel-AssistedTwo-ArchiveOnlineData-DrivenEvolutionaryAlgorithm

NaGao

CollegeofInformationEngineering,HebeiGEOUniversity,ShijiazhuangHebei

Received:Aug.19th,2022;accepted:Sep.16th,2022;published:Sep.26th,2022

ABSTRACT

Keywords:OnlineData-Driven,EvolutionaryAlgorithm,KrigingModel,Two-Archive

ThisworkislicensedundertheCreativeCommonsAttributionInternationalLicense(CCBY4.0).

1.引言

2.KTA2算法

KTA2算法[12]是根据数据驱动进化算法的一般框架,选择克里金模型[3]训练代理模型,并结合双档案算法设计的在线数据驱动进化算法。

2.1.代理模型的训练

Figure1.KTA2algorithmmodel

2.2.代理模型的使用

2.3.代理模型的更新

在KTA2算法中,代理模型的更新是根据收敛性、多样性指标完成采样的。通过判断此时是收敛性需要阶段、多样性需要阶段或不确定性需要阶段,分别采用收敛性采样策略选择收敛性好的解提升种群的质量,采用多样性采样策略选择多样性好的解使种群更均匀地分布在Pareto前沿面上,采用不确定性采样策略选择不确定性解提升代理模型的全局精确度,详见[12]。

Figure2.ModelusageofKTA2algorithm

3.改进的KTA2算法——KTA2_addModel4算法

本文基于Song[12]等人提出的KTA2算法,对代理模型的训练作出改进,针对每个目标,由原来的三种模型近似真实函数评估改进为四种模型近似真实函数评估,提出了改进的KTA2算法——KTA2_addModel4算法,KTA2算法与KTA2_addModel4算法都是求解评估代价昂贵的多目标优化问题的在线数据驱动进化算法。

3.1.改进的代理模型

在原来KTA2算法中,代理模型包括由全部数据训练得到的敏感模型、去掉部分较大目标值的数据集训练得到的不敏感模型1和去掉部分较小目标值的数据集训练得到的不敏感模型2。在本文中,所有去掉的个体都称为影响点。将除去的目标值较大的个体称为较大影响点,将除去的目标值较小的个体称为较小影响点。在KTA2算法中,之所以训练去掉这些影响点后的模型,是考虑到这些影响点对代理模型质量的影响。因为在KTA2算法中,代理模型的作用是近似真实昂贵函数评估,所以在使用代理模型预测适应度值时,通常会有一定的近似误差。而这些影响点的存在,可能会降低代理模型的质量,产生较大的近似误差。

在改进的KTA2算法——KTA2_addModel4算法中,对代理模型作出改进,增加了第四种模型——同时去掉部分较大目标值和部分较小目标值的数据集训练得到的不敏感模型3。即在KTA2_addModel4算法中,增加训练了一种同时考虑较大影响点和较小影响点的模型。考虑影响点对代理模型的影响,可能降低训练得到的代理模型的质量,从而可能产生较大的近似误差。与传统只使用一个代理模型的数据驱动的进化算法对比,使用多个代理模型的数据驱动的进化算法的好处在于:

1)由多个代理模型共同完成近似真实昂贵函数评估任务,可以综合各个代理模型的作用,提升预测准确率;

2)等同于将一个代理模型细分、精确化,可以兼顾不同候选解适应度值的预测准确率。

Figure3.FlowchartofKTA2_addModel4algorithm

设种群规模为N,种群中的个体有m个目标,对每个目标的所有目标值进行升序排序,则根据每个目标,得到种群的升序排列。设置控制影响点数量的参数τ,τ表示取种群中训练数据的比例。针对每个目标,训练敏感模型时,取N个训练数据作为训练集;训练不敏感模型1时,取前τ*N个训练数据作为训练集;训练不敏感模型2时,取后τ*N个训练数据作为训练集;训练不敏感模型3时,取中间(1(1τ)*2)*N即去掉前(1τ)*N和后(1τ)*N个训练数据作为训练集。

Figure4.AgentmodelofKTA2_addModel4algorithm

3.2.改进代理模型的使用

在KTA2算法中,通过某种决策机制,使用敏感模型、不敏感模型1、不敏感模型2得到候选解的适应度值。在KTA2_addModel4算法中,由于增加了不敏感模型3,因此代理模型的使用也要发生改变。但是,代理模型的使用原理,即决策机制未作出改变。KTA2_addModel4中代理模型的使用如下:

Figure5.UseofKTA2_addModel4algorithmagentmodel

3.3.改进代理模型的更新

4.实验结果及分析

为了验证改进的KTA2算法——KTA2_addModel4算法的性能,本节首先将KTA2_addModel4算法与KTA2算法在11个测试函数CDTLZ2、DTLZ1、IDTLZ1、IDTLZ2、SDTLZ1、SDTLZ2、WFG1、WFG3、WFG5、WFG7、WFG9上作对比,然后再将KTA2_addModel4算法与4个代理模型辅助的昂贵多目标进化算法ABSAEA算法、CSEA算法、KRVEA算法、MOEADEGO算法在这11个测试函数上作对比。本文所有测试函数及对比算法参数均设置为默认值,KTA2_addModel4算法参数设置与KTA2算法默认值一致。CDTLZ2、DTLZ1、IDTLZ1、IDTLZ2、SDTLZ1、SDTLZ2、WFG1、WFG3、WFG5、WFG7、WFG9均为3目标测试函数。种群规模均设置为100,最大函数评估次数maxFE均设置为300。

本文实验选取反转世代距离IGD[13](InvertedGenerationalDistance,IGD)作为评价指标,IGD由真实Pareto前沿[13]中的个体到实验所求得的Pareto解集的平均距离表示,反映算法求得的Pareto解集逼近真实Pareto前沿的情况。算法求得的Pareto解集越逼近真实Pareto前沿说明算法的性能越好,即IGD值越小算法的性能越好。

4.1.与KTA2算法对比

Table1.ComparisonbetweenKTA2_addModel4algorithmandKTA2algorithm

4.2.与其他算法对比

Table2.ComparisonbetweenKTA2_addModel4algorithmandotheralgorithms

5.总结与展望

数据驱动的进化优化算法是近年来研究者针对昂贵进化优化问题提出的一种有效的解决方法。本文对在线数据驱动的进化优化算法KTA2进行改进,通过研究提升代理模型的质量以提升算法的性能。本文对代理模型作出的改进在一些测试问题上取得较好的效果,但是在其他测试问题上的性能仍有待提升。由于增加了不敏感模型3,降低敏感点对模型质量影响的同时,也增加了模型预测的不准确性,关于如何进一步解决这一问题,使其在更多测试问题上取得优良效果,仍有待研究。

THE END
1.AI系统计算图的调度与执行腾讯云开发者社区神经网络模型的整体训练流程,则对应了计算图的数据流动的执行过程。算子的调度根据计算图描述的数据依赖关系,确定算子的执行顺序,由运行时系统调度计算图中的节点到设备上执行。 实际上,计算图的执行方式,可以分为两种模式:1)逐算子下发执行的交互式方式,如 PyTroch 框架;2)以及整个计算图或者部分子图一次性下发到https://cloud.tencent.com/developer/article/2474347
2.算法流程图绘制方法,简单画算法流程图算法流程图是一种图形化表示算法解决问题过程的工具,可以把算法直观可视化地呈现出来。 算法流程图使用用途也较为广泛,例如写程序时可用于说明程序的算法情况;数学教学时用于逻辑运算,有利于学生整理学习思路;制作活动策划时用于展示创作者策划的逻辑思路,让参与者明白并跟上活动节奏等。 https://m.liuchengtu.com/tutorial/sflcthzjc.html
3.详情项目公示基于卷积神经网络的STIV流程如图5.4所示,将基于卷积神经网络的回归或模型代替传统检测算法,将时空图像输入到训练好的模型中即可检测出纹理主方向,进而计算出流速矢量。 图5.4 基于CNN的STIV流程 搭建ResNet50回归模型 ResNet50原始模型的全连接层用于分类任务,而该案例经过设计使其进行回归任务。图5.5显示ResNet50中每https://sjjx.hhu.edu.cn/hhu/CXCY/HHU/Item/Detail/e804030b-1d3b-466c-ab12-8cb0a9eb0faa
4.高二数学教案重点:算法的顺序结构与选择结构。 难点:用含有选择结构的流程图表示算法。 三、学法与教学用具 学法:学生通过动手作图,.用自然语言表示算法,用图表示算法,体会到用流程图表示算法,简洁、清晰、直观、便于检查,经历设计流程图表达解决问题的过程。进而学习顺序结构和选择结构表示简单的流程图。 https://www.fwsir.com/jiaoan/html/jiaoan_20221204150736_2117816.html
5.高中数学单元教学设计(精选5篇)对生活中的实际问题通过对解决具体问题过程与步骤的分析(喝茶,如二元一次方程组求解问题),体会算法的思想,了解算法的含义,能用自然语言描述算法。 2.算法的流程图教学过程分析 对生活中的实际问题通过模仿、操作、探索,经历通过设计流程图表达解决问题的过程,了解算法和程序语言的区别;在具体问题的解决过程中,理解流程https://www.ruiwen.com/jiaoxuesheji/8242675.html
6.图像细化深度学习方法图像细化算法流程图图像细化 深度学习方法 图像细化算法流程图 最近在实验室里遇到了一个问题,就是在有一张轮廓二值图的情况下,如何才能将轮廓进行细化,得到轮廓的骨架。 效果如图: 可以看到,右边图中的数字变瘦了,这就是细化算法的作用 下面我们来讲一下,Thining-Algorithm的算法原理。https://blog.51cto.com/u_13527/9029884
7.高中信息技术免费在线预览全文 教学设计一、教学目标: 1.知识与技能:了解算法的含义;了解算法的表示方法;学会用流程图表示算法用流程图解决一些最简单的实际问题。 2.过程与方法:通过剖析日常生活中的算法问题来了解算法在日常生活中的应用形式,并掌握运用流程图表示的分支模式进行绘制;通过用流程图表示寻找最大值的算法让学生掌握https://max.book118.com/html/2021/1107/6144123012004043.shtm
8.Python集成学习之Blending算法详解python三、Blending流程图第一步:将原始训练数据划分为训练集和验证集。 第二步:使用训练集对训练T个不同的模型。 第三步:使用T个基模型,对验证集进行预测,结果作为新的训练数据。 第四步:使用新的训练数据,训练一个元模型。 第五步:使用T个基模型,对测试数据进行预测,结果作为新的测试数据。 第六步:使用元模型https://www.jb51.net/article/212156.htm
9.MindSpore图7 MindSpore全场景协同 三大黑科技加速AI模型训练 黑科技一:二阶优化算法 常见的深度学习优化算法多为一阶算法,是否存在高阶的优化算法能够在不损失精度的同时,加速模型的收敛呢?常规的二阶优化算法虽然收敛速度快,但二阶矩阵求逆时间复杂。在深度学习模型中, 常常在数百万的量级,此时二阶信息矩阵的逆无法计算。https://www.mindspore.cn/news/newschildren/en?id=262
10.机器学习算法的整体流程(非常易懂)TheChosenOne(3)输入基础训练数据集利用scaler对其进行数据归一化处理 (4)对于归一化的数据集进行机器学习算法的训练fit过程; (5)输入测试数据集对其结果进行预测predict; (6)将预测结果与真实结果进行对比,输出其算法的准确率score(或者混淆矩阵) 2、机器学习的具体流程图如下:https://www.cnblogs.com/Yanjy-OnlyOne/p/11295980.html1
11.趣学算法(第2版)本书是用轻松有趣的方法学习算法的入门指南。按照算法策略分为8章。第1章以算法之美、趣味故事引入算法,讲解算法复杂度的计算方法,以及爆炸性增量问题。2~7章讲解经典算法,包括贪心算法、分治算法、动态规划算法、回溯法、分支限界法、网络流算法。第8章讲解实际应用中的算法和高频面试算法,包括启发式搜索、敏感词https://www.epubit.com/bookDetails?id=UB7d85fa69dcbd8
12.高中信息技术说课稿:《算法与程序设计其中任务一题目简单易读,算法确定,并且题中已给出循环次数,每个学生都能使用自然语言、伪代码和流程图描述该算法,此环节只是使用程序设计语言来实现它。其实这也是基础任务的一个延续,通过独立完成任务可以改正上一题的错误,加深对知识的理解。轻松地完成任务一可以激发学生的学习兴趣,保持学习热情。 http://www.wenwu8.com/article/6170.html
13.微服务数据库思维导图模板2021年从入门到精通java开发全栈知识体系架构学习总结知识脑图(学习使用于项目实战)前端、后台、服务器、Linux、性能优化、集群搭建、微服务、大数据、项目实战等内容https://www.processon.com/view/60504b5ff346fb348a93b4fa
14.基于子带包络和卷积神经网络的心音分类算法本文研究心音自动分类算法框架如图1所示,具体步骤如下: 图1 心音自动分类算法流程图 Figure1. Flow chart of automatic classification of heart sounds 图选项 下载全尺寸图像 下载幻灯片 (1)对PCG信号进行标注,将完成标注的数据分为训练集、验证集、测试集。 (2)对标注信号进行预处理,把一段完整的PCG信号分https://www.biomedeng.cn/article/10.7507/1001-5515.202012024
15.机器学习实战入门篇之二:kNN算法她是不是你喜欢的类型?如何使用kNN算法? 在前一篇博文机器学习实战入门篇之一:机器学习中必会的基础概念!中,我们介绍了使用机器学习算法解决问题的一般步骤,我们再一次回顾一遍流程图。 开发机器学习应用程序步骤.png 下面我们将一步一步来完成。 收集数据 为简单起见,已经提供txt文本数据。 https://www.jianshu.com/p/4cc0869f84b9
16.高二数学公开课优秀教案(通用10篇)重点:算法的顺序结构与选择结构。 难点:用含有选择结构的流程图表示算法。 三、学法与教学用具 学法:学生通过动手作图,.用自然语言表示算法,用图表示算法,体会到用流程图表示算法,简洁、清晰、直观、便于检查,经历设计流程图表达解决问题的'过程。进而学习顺序结构和选择结构表示简单的流程图。 https://www.oh100.com/kaoshi/jiaoan/637987.html
17.崖州湾实验室诚聘英才3.制定实验室AI技术研发方向和施工图; 4.制定AI技术标准,规范实验室模型开发、应用部署、监控和性能跟踪、风险管理的流程。 申报条件: 1.在AI算法、计算机科学、统计学或相关领域拥有博士学位,并在该领域产生了重要的学术贡献,或产业应用成果; 2.在深度学习和机器学习算法模型方面具备卓越的能力和经验; https://www.acabridge.cn/yxxw/zxzwtj/202307/t20230721_2453746.shtml
18.算法流程图教案(精选7篇)图10 解:算法如下: S1 计算a1=11=; 1?12S2 计算a2=a11?; 1?a13a21?; 1?a24a31?; 1?a35S3 计算a3=S4 计算a4=S5 输出a4.流程图如图10所示: 点评:这个问题实际上就是已知数列的递推公式和首项,然后依次求数列的各项的问题.由于数列的知识在必修5中出现,对于还没有学习必修5的学校,https://www.360wenmi.com/f/fileeyi644fh.html
19.吴恩达·机器学习第四章:详解人工神经网络:推理和训练人工智能·机器学习算法 专栏收录该内容 13 篇文章 0 订阅 订阅专栏 本文介绍了吴恩达教授机器学习课程中的高级算法,如神经网络、卷积神经网络和深度学习,探讨了神经网络的起源、发展、工作原理,以及TensorFlow在模型训练中的应用。作者通过Adam算法优化和卷积层的特性,解释了神经网络为何有效并对比了其与传统机器学习https://blog.csdn.net/Yaoyao2024/article/details/136279816
20.算法计算流程步骤图算法流程图 会员免费 使用模版 PSO算法流程图 免费 使用模版 pso的算法流程图 免费 使用模版 最小公倍数算法流程图简约完整 免费 使用模版 TOPSIS算法简约流程图 免费 使用模版 递归算法流程图 免费 使用模版 算法与程序框图 免费 使用模版 算法流程图 https://imiaoban.com/pic/3872.html
21.2023年,工业3D视觉或SLAM,我到底该如何高效学习?3D视觉工坊深度图补全 3D视觉相关书籍汇总 手眼标定原理与实践 无人机:滤波类算法汇总 自动驾驶学习路线 SLAM学习路线 3D目标检测 第四部分 公开课视频与课件汇总 链接:https://t.zsxq.com/VJEurBe 如何进行三维重建?从单帧深度估计到完整模型重建 视觉快速定位与实时稠密简图简介 https://www.shangyexinzhi.com/article/8944002.html