一种增强多样性的改进型NSGAⅡ算法

统一以最小化问题为例,将m个目标函数和n个决策变量,(p+q)个约束的MOP描述为

式中x∈XRn,y∈YRm,n是决策变量的个数,m是目标向量的个数,x表示决策向量,X是由决策向量x形成的决策空间;y表示目标向量,Y是由目标向量形成的目标空间;F(x)定义了由决策空间X向目标空间Y映射的函数,g(x)定义了p个不等式约束,h(x)定义了q个不等式约束。

定义1(可行解集)满足式(1)中约束函数的决策向量的集合,用Xl表示,Xl={x∈Xg(x)≥0∧h(x)=0}。

定义2(Pareto支配)存在x1,x2∈Xl是问题的解,当满足i∈(1,…M):fi(x1)≤fi(x2)∧j∈(1,…M):fi(x1)

定义3(Pareto最优解)当不存在其他解x∈Xl,使得x$\prec$xl,称xl为最优解,最优解也叫做非支配解。

定义4(Pareto最优解集)满足定义3的解的集合称为Pareto最优解集(Paretooptimalset,PS),表示为PS={xl}={x∈Xl|-x′∈Xl:x′$\prec$x}。

定义5(Pareto前沿)PS在目标空间的投影叫做Pareto前沿(Paretooptimalfront,PF),表示为PF={F(x)∈Rm|x∈PS}。

具体数学表示如公式(2):

其中f(x)=f1(x),f2(x),…,fm(x)T是解x的标准目标向量,PF是真实前沿面,λ是m维的方向向量。

算法中使用的Pareto支配满足反自反、反对称和传递性质。

①反自反性:种群中任一个体x,满足反自反性,即x-$\prec$x。

证明:如果x$\prec$y,则至少存在一个分量i=1,2,…,m:满足fi(x)

②反对称性:种群中任意两个体x,y如果满足x$\prec$y,则y-$\prec$x。

证明:假设x$\prec$y,根据定义3,则任意fi(x),fi(y),i=1,2,…,m:存在fi(x)≤fi(y)。所以不存在fi(x)>fi(y),故y不能Pareto支配x,即y-$\prec$x,满足反对称性质。

③传递性:x,y,z是种群中3个个体,如果x$\prec$y且y$\prec$z,则x$\prec$z。

证明:因为x$\prec$y,则满足i=1,2,…,m:fi(x)≤fi(y)∧j=1,2,…,m:fj(x)

其中,C代表参考点数量,M代表目标数量,H代表超平面上沿着每个目标考虑的划分数量。

算法:d2_NSGAⅡ算法

输入:种群规模N,决策变量数目D,MaOP问题的目标数目M,最大迭代次数Tmaxgen,沿目标方向划分H份

输出:最末代种群Pmaxgen

1.初始化

1.1初始化迭代计数器t=0;

1.2在MaOP问题的可行决策空间内随机产生N个初始点,形成初始化种群P0;

1.3计算P0中所有解的目标值向量F1(0),…,FN(0);

1.4产生参考点(M,H)→Set;

2.WHILE(t

3.构建交配池:Ptmating=Mating_selection(Pt);

4.重组运算:Ptrecombination=Recombination(Ptmating);

5.变异运算:Ptoffspring=Mutation(Ptrecombination);

6.合并子种群和父种群:Rt=Pt∪Qt;

7.计算最小向量值→Fmin;

8.计算最大向量值→Fmax;

9.归一化处理(Rt,Fmin,Fmax)→Rt;

10.保留Rt中边界解;

11.对Rt集合中的个体进行非支配排序;

12.确定最小的k值,使其满足|F1∪F2∪…∪Fk|≥N;//Fi表示第i层非Pareto支配层;

13.计算非支配层(Fk)个体的d2距离d2(Fk,Set);

14.关联Fk中个体与Set集合中的点;

15.IF|F1∪F2∪…∪Fk|>NTHEN

16.根据距离从非Pareto支配层Fk中删除(|F1∪F2∪…∪Fk|-N)个具有较大d2距离的个体;

17.ENDIF

18.Pt+1=|F1∪F2∪…∪Fk|;//获得规模为N的下一代种群;

19.更新迭代计数器t=t+1;

20.ENDWHILE.

21.输出最末代种群Pmaxgen。

算法的第1步为初始化,随机产生个体,并计算其目标值大小,同时产生参考点;第2步进入循环,进行重组变异,产生新的后代;第3步Mating_selection利用二元竞标赛法选取优秀的N/2个体;第4步对交配池中的个体进行仿二进制交叉(SBX),得到规模为N的种群Ptrecombination;第5步执行变异操作,得到后代Qt,规模为N。然后进行父种群以及子代种群的合并,生成规模为2N的新种群。为了便于目标值的比较,对目标值进行归一化处理。

归一化的目的是为了消除个体极端目标值,将数据标准化,便于比较,使实验数据更加可靠真实。首先,确定种群中个体每个目标分量fi的最小值fimin,构造向量Fmin=f1min,f2min,…,fMminT,同样构造目标最大值的向量Fmax=f1max,f2max,…,fMmaxT,其中fimax是种群Rt中fi的最大值。然后将Rt中所有个体目标值归一化,具体归一化公式如下所示:

同时,保留目标空间中的边界值,将在每个目标上的最大值与最小值的个体保留下来(边界值)。将边界个体的d2值设置为0,在迭代的时候将d2值为0的个体保留下来。与NSAGⅡ同样地进行非支配排序,确定最后的非支配层使得种群规模保持N,并在最后非支配层根据d2值由小到大筛选优秀的个体,使种群的规模保持为N,进入下一代迭代。

采用IGD指标测试新算法的性能。该指标反映了真实的Pareto前沿到近似Pareto前沿之间的距离,可以综合度量算法的收敛性与多样性。IGD指标具体工作机制如下:在真实的Pareto前沿上采用一组分布较为均匀的点,并计算他们到近似Pareto解之间的距离。IGD指标的值越小表明算法收敛性与多样性越好。具体的计算公式如下:

上述公式中,P是MOP问题的解集;Disti是目标函数归一化处理之后的最小欧氏距离;fmmax和fmmin分别表示P在第m个目标上获得的最大值与最小值。A为近似Pareto前沿,pi∈P,i=1,2,…,|P|;aj∈A,j=1,2,…,|A|。在对比实验中,实验进行30次,取结果平均值作为最后的实验结果;同时利用显著水平为0.05的Wilcoxon秩和检验分析所有对比算法结果的差异。

为解决NSGAⅡ在高维空间中效果不佳的问题,研究提出基于d2距离的NSGAⅡ算法,在保证算法收敛性的同时增加其多样性。通过实验数据验证,该算法在MaOP上取得了不错的效果,但是随着目标数目的增加,算法性能下降。究其原因,随着目标数目的增加,个体之间变得相互非支配,这是传统非支配方法面临的统一问题。未来可从支配关系以及距离度量方面进一步改进与探索,同时可以设计一些更加复杂的MaOP问题检验算法的有效性,使其效果更加优秀。

THE END
1.科技巨头推出新一代人工智能算法预计将彻底改变数据处理效率新算法的核心技术 人工智能领域的最新进展显示了一个重大突破:新一代的人工智能算法,其核心技术在于一种全新的神经网络架构设计。该设计能够显著提高计算机学习和数据处理的速度与效率。这意味着未来的人工智能系统将能够更快地分析大量复杂数据,从而在医疗、金融、交通等行业中发挥更大的作用。 https://www.vjvqxysd.cn/bai-jia-dian/512055.html
2.机器学习找不到创新点?三种特征选择的方法包你拿下顶会!3.提供了七个黑盒AI模型在合成和真实世界网络入侵数据集上的实证比较。 4.开源了基于XAI的特征选择框架,供社区使用和扩展。 轻量级特征选择 shap-select框架 文章解析 文章介绍了一种新的特征选择框架shap-select,该框架通过在验证集上对目标变量与原始特征的SHAP值进行线性或逻辑回归,并根据回归系数的符号和显著性水https://www.bilibili.com/read/cv40067807
3.深入探索神经网络反向传播算法是最基本的优化算法,每次更新参数都是基于当前样本的梯度计算。虽然收敛速度较快,但由于随机性较大,容易受到噪音的影响,收敛不稳定。 算法在SGD的基础上引入了动量项,可以加速模型训练,并且在梯度方向改变时有一定的惯性,有利于减少参数更新时的震荡。 算法根据参数的历史梯度调整学习率,可以自适应地调整各个参数的学习https://www.jianshu.com/p/2548f5df22f1
4.《光谱学与光谱分析》2023年,第43卷,第02期最后,利用所训练出的模型对太赫兹频域高频区域图像进行盲去噪,并用重建图像分别与原始成像结果和传统太赫兹去噪算法结果进行比较,分别从主观和客观两个方面评价了不同算法对太赫兹频域高频图像的去噪效果。实验结果表明,通过该算法实现了极限空间分辨率约为157 μm,去噪后图像极限空间分辨率处的瑞利判据鞍-峰比约为0.623,http://www.sinospectroscopy.org.cn/readnews.php?nid=97530
5.独家发布!10个2024年新算法跑10个测试集!2024新算法每个算法都是独立.m文件,高效管理,所有结果均可一键运行自动保存,可用于算法对比、学习、改进等等,趁现在知道的人少,先用先发,可定制改进算法和各种应用。 一、10个2024年新算法介绍 1.苦鱼优化算法(Bitterling Fish Optimization,BFO) 摘要:苦鱼是自然界中为了生存而表现出智能行为的典型例子。苦鱼用牡蛎产卵的https://blog.csdn.net/2301_82017165/article/details/136943200
6.几种现代优化算法的比较研究(通用7篇)【导语】下面是小编为大家整理的几种现代优化算法的比较研究(共7篇),供大家参考借鉴,希望可以帮助到有需要的朋友。 篇1:几种现代优化算法的比较研究 几种现代优化算法的比较研究 摘要:现代优化算法主要包括遗传算法、蚁群算法、禁忌搜索算法.这些算法主要是解决优化问题中的难解问题.由于这些算法在求解时不依赖于梯度https://www.hrrsj.com/wendang/qitafanwen/760240.html
7.2022下半年盘点:20+主流数据库重大更新及技术要点汇总在即将发布的新版本中,PieCloudDB Database将为用户带来内核和云原生平台多方位的大幅提升,包括极速vacuum、全新的缓存实现、极速Analyze、用户数据存储的分布式处理增强、HDFS/NAS支持,Kafka支持以及ETL/ELT增强等多个重大新特性。? 云原生、分布式发展如火如荼 https://www.51cto.com/article/744621.html
8.人教版三年级数学上《口算两位数加两位数》教学反思范文(通用10篇)在新知的教学上,我通过创设学生熟悉的跳绳场景,在生活情境中使学生经历提出数学问题——列出算式——探究算法——巩固算法的过程。其中探究算法这一部分,我们先研究不进位加法,我通过组织学生小组活动,让学生充分阐述自己的算法,在交流中不自觉的对算法进行比较,一方面使学生感受算法的多样化,另一方面寻找最优化算法。在https://www.ruiwen.com/jiaoxuefansi/3461381.html
9.一种边缘计算环境中功耗优化的负载任务迁移算法在边缘计算架构中,边缘节点处于远离云计算中心的地理位置,其对迁移时间的影响不可忽视,所以在边缘环境中的任务迁移调度算法必然要考虑到迁移时间对服务质量带来的影响。另外一方面,目前尚未存在针对边缘计算的功耗、CPU利用率和温度等度量指标对节点任务进行优化调度的算法,而边缘计算本身也是一个近几年来出现的新概念,https://wenku.baidu.com/view/5b4900a368d97f192279168884868762caaebba8.html
10.基础研究新进展和新成果非线性光学晶体、量子信息和通信、超强超短激光研究居国际前列;纳米材料和纳米结构、蛋白质结构与功能、脑与认知、动物克隆、创造新物质的分子工程学、古生物学、海洋科学等领域取得系列创新成果,整体研究水平显著提高,在国际上产生重要影响;数学机械化、辛几何算法等方面保持我国特色和优势。 https://www.most.gov.cn/ztzl/jqzzcxxqx/jqzzcxxqxxtp/200606/t20060612_33902.html
11.美颜技术近几年的数据图片分析怎么写帆软数字化转型知识库美颜技术在过去几年的发展中取得了显著的进步,其普及率、用户群体、技术多样性和复杂性都得到了极大的提升。未来,美颜技术将继续在算法优化、新功能开发和应用场景扩展上实现创新和突破。随着人工智能和深度学习技术的不断进步,美颜技术将更加注重个性化和自然化,通过深度学习算法实现更为精准的面部识别和优化调整。同时https://www.fanruan.com/blog/article/357819/
12.果蝇优化算法的加权策略研究AET关键词: 加权因子;果蝇优化算法;线性递减策略;先增后减策略 果蝇优化算法FOA(Fruit Fly Optimization Algorithm)是由台湾博士潘文超于2011年提出的,与蚁群算法和粒子群算法类似,是基于动物群体觅食行为演化出的一种寻求全局优化的新方法[1-3]。它不同于顺序执行的传统智能算法,而是以果蝇群体自组织性和并行性为基础,http://www.chinaaet.com/article/3000004316
13.科学网—[转载]进化集成学习算法综述【摘 要】进化集成学习结合了集成学习和进化算法两方面的优势,并在机器学习、数据挖掘和模式识别等领域被广泛应用。首先对进化集成学习算法的理论基础、组成结构及分类情况进行了概述。然后根据进化算法在集成学习中的优化任务,从样本选择、特征选择、集成模型参数组合优化、集成模型结构优化以及集成模型融合策略优化几个方面https://wap.sciencenet.cn/blog-951291-1312816.html
14.OpenAI公布强化学习新算法,可控制复杂机器人OpenAI公布强化学习新算法,可控制复杂机器人 近日,OpenAI 发布了一种新型的强化学习算法:近端策略优化(Proximal Policy Optimization,简称 PPO),这种算法不但在性能上比肩甚至超过当前最先进的方法,而且更容易实现和调试。由于 PPO 易于使用并且性能优秀,OpenAI 已将其设为默认的强化学习算法。https://cloud.tencent.com/developer/article/1109341