解线性方程组的几种迭代算法

2、paper,wefirstlysummarizesomeIterativealgorithmsofAnti-secessionlawsolutionoflinearequations.Basedonthese,twonewalgorithmsareputforwardbychangingthefissionformofcoefficientmatrixAandimprovingthealgorithmofSSOR,andtheconvergenceofthetwoalgorithmsisdemonst

3、rated.Comparedwithothermethods,thenewalgorithmacquiredbychangingthefissionformofcoefficientmatrixAispossessedofabetterconvergence.AndtheimprovedSSORalgorithmhasafasterconvergencespeed.Finally,somenumericalexamplesverifythatthetwoalgorithmscansolveproblems

4、moreeffectivelyinsomecases.Keywords:LinearequationsIterationmethodalgorithmConvergencespeed专心-专注-专业目录1.引言12.迭代法原理13.基本迭代法23.1Jacobi迭代23.2Gauss-Seidel迭代法33.3SOR算法33.4SSOR算法43.5收敛性分析44.几种新的迭代算法54.1基于矩阵分裂形式的新迭代算法54.2加权对称超松弛迭代法75.算法的不足与改进方法96.数值实例96.1渐进收敛速度96.2几种迭代方法的比较10附录11参考文献17解线

5、性方程组的几种迭代算法1.引言在工程技术、自然科学和社会科学中的许多问题最终都可归结为解线性方程组,因此线性方程组的求解对于解决实际问题是极其重要的.线性方程组的解法有很多种,主要的方法有直接法和迭代法.迭代法就是用某种极限过程去逼近线性方程组精确解的方法,该方法具有对计算机的存贮单元需求少,程序计算简单,原始系数矩阵在计算过程中不变等优点,是求解大型稀疏矩阵方程组的重要方法.目前,人们已经得到了一些较为成熟的线性方程组的迭代解法,从某种意义上讲它们都可归结为分裂法.但在解决具体问题时我们仍面临着许多问题,如:怎样设计出满足要求的求解算法;如何分析、区别算法的好坏;可否改进现有的算法使其更有

6、效;求解所给问题最好可能的算法会是什么,等等.针对这些问题,很多人都做过了大量的研究.文献2对迭代法的原理及一些常用的迭代算法进行了研究.文献1,3,4,5给出了一些基本的迭代算法并证明了其收敛性.文献6,9,10,13,16研究了一些特殊方程组的迭代解法.文献7,8,12,14,15都是针对不同的问题对超松弛迭代算法进行了改进.文献11主要讨论了迭代法解线性方程组的MATLAB实现.本人在求解线性方程组的问题时,通过对现有迭代算法的改进得到了两种新的算法.本文对这两种算法的收敛性进行了证明,并通过数值实例验证了其在解决某些问题时具有的优势.2.迭代法原理设线性代数方程组为(1)常常将系数矩

7、阵分裂成两个矩阵和之差,即(2)且用迭代(3)来解线性方程组(1).将(3)式表示为(4)其中,称此迭代方法为分裂法,而将称为迭代格式(4)的迭代矩阵.然而迭代法需要解决的首要任务是迭代格式是否收敛的问题,任取初始向量代入(4)中,计算可得迭代序列若迭代序列收敛,设的极限为,对迭代式(4)两边取极限可得:即,是方程组(1)的解,此时称迭代法收敛,否则称迭代法发散.我们有如下的结果:定理2.11迭代格式(4)收敛的充分必要条件是迭代矩阵的谱半径,而且越小,收敛越快.定理2.21若为矩阵的某范数,则总有.对于矩阵的分裂应该说是有很多形式,但并不是所有分裂形式产生的迭代格式都有意义.于是我

8、们有正规分裂的概念:定义2.12对于实方阵,若矩阵和满足,且则称是的一个正规分裂.那么正规分裂与其他分裂形式相比到底有什么优势呢我们有如下定理:定理2.32若为的正规分裂,且,则从而,此时相应的迭代格式(3)必收敛.如果针对矩阵给出两种正规分裂,如何来衡量它的好坏呢定理2.42若矩阵有两个正规分裂,设且,则有.3.基本迭代法下面给出常见的几种基本迭代格式.将分裂为(5)其中,3.1Jacobi迭代取(6)则(4)式中迭代矩阵和右端向量分别为迭代格式(4)的分量形式为称它为Jacobi迭代法,该迭代法具有和中分量的计算次序无关,容易并行计算等优点.3.2Gauss-Seidel迭代

9、法取(7)此时(4)式中迭代矩阵和右端向量分别为迭代格式(4)的分量形式为称它为Gauss-Seidel迭代法.和Jacobi迭代法相比Gauss-Seidel迭代法使用了最新已经计算的分量.3.3SOR算法取(8)此时(4)式中迭代矩阵和右端向量分别为迭代格式(4)的分量形式为其中,称为松弛因子(总假定是实数).迭代格式的矩阵形式为:称它为对应于松弛因子的逐次超松弛迭代法(SuccessiveOverRelaxation,简称SOR).它可以看成Gauss-Seidel迭代法与原向量的组合,但使用了最新已经计算的分量.也就是把取为Gauss-Seidel迭代法中与的某个平均值,即:

10、当时,它就是Gauss-Seidel迭代法.因此希望选取合适的使得它比Gauss-Seidel迭代法具有更快的收敛速度.3.4SSOR算法SOR迭代格式还可以写为将上式和的位置互换就得到一个新的迭代格式,具体表示为:若消去,就得到迭代格式(4),其中称为对称逐次超松弛迭代法(SymmetricSuccessiveOverRelaxation,简称SSOR).对一类椭圆微分方程离散后得到的线性方程组,Young3给出了最佳松弛因子,即为其中是Jacobi迭代法中的迭代矩阵.在实际问题中最佳松弛因子是很难计算的,但一般都在(0,2)之间.3.5收敛性分析定义3.13若实矩阵,满足或则称为

11、严格对角占优矩阵;若满足或且上述不等式至少有一个严格成立,则称为弱严格对角占优矩阵.定义3.23设为阶矩阵,.若存在阶排列矩阵,使得其中为阶矩阵,则称是可约的,否则称不可约.定理3.13若为阶严格对角占优矩阵或不可约的弱严格对角占优矩阵,则对任意的初始值,(1)式中的Jacobi迭代法、Gauss-Seidel迭代法和关于的SOR迭代法均收敛.定理3.24对所有均成立不等式当是实数时,SOR方法收敛的一个必要条件是.定理3.34如果系数矩阵是Hermite矩阵,则SOR方法收敛的充要条件是:正定和.4.几种新的迭代算法4.1基于矩阵分裂形式的新迭代算法上述几种基本迭代方法都是通过对

12、线性方程组(1)的系数矩阵进行分裂得到的,不同之处在于分裂成的形式时,和的取值不同.由(3),(4)可知此种格式下的迭代矩阵,所以当是一个很好的近似时,就会很小.再由定理2.1和定理2.2可知此时得到的迭代法收敛速度也更快.另一方面,我们构造的迭代格式为,由于每一次迭代都要解一个方程组,所以我们也要求非退化的矩阵的形式比较简单,如对角矩阵、下三角矩阵等.比较Jacobi迭代、Gauss-Seidel迭代及SOR算法中的取值,我们可以看到的形式都为对角矩阵或下三角矩阵,并且随着越近似等于,所得到的迭代方法的收敛速度也越快.满足上述两个条件,对取不同于这三种算法中取值的形式,我们可以得到下述新的算

13、法.4.1.1算法的建立取,(9)作为的一个新分裂,在此分裂的基础上可得到一个新的迭代公式(10)其中,.显然,当时就是Jacobi迭代法;当时就是Gauss-Seidel迭代法.4.1.2收敛性分析引理13可约的充要条件为存在非空子集,使得引理23若为阶严格对角占优矩阵或不可约的弱严格对角占优矩阵,则是非退化的.定理4.1若为阶严格对角占优矩阵或不可约的弱严格对角占优矩阵,则对任意的初始值,当时,(10)式表示的迭代格式收敛.证明:(10)式的迭代矩阵为我们有其中为的特征值.若为严格对角占优矩阵,则也为严格对角占优矩阵;若为不可约的弱对角占优矩阵,则也为不可约的弱对角占优矩阵.

14、由引理2,我们有所以令下面证明,用反证法.假设,由可知和的对应元素一定同时为0或非0.由引理1知,不可约推出也不可约.下面比较和的大小.当时,当时,由、知:当,时,.所以有:为弱对角占优矩阵时,也是弱对角占优矩阵;为严格对角占优矩阵时,也是严格对角占优矩阵.再由引理2,可以得到为非退化的矩阵.从而,.进而,.这与是的特征值矛盾,所以.进一步可得到,我们就证明了(10)式表示的迭代格式收敛.4.2加权对称超松弛迭代法4.2.1算法的建立考虑SOR算法和4.1给出的新迭代算法,其实质都是给矩阵分裂以后的因子一个权重后得到的,目的是使得迭代格式(4)的收敛速度尽可能快.按照这种思想,如果在SO

15、R和SSOR迭代中引入一个参数,就可以得到迭代格式(11)其中,分别为SOR迭代和SSOR迭代算法的迭代矩阵.此时的迭代矩阵.显然,当时,该算法即为SSOR迭代;当时,即为SOR迭代.若迭代格式(11)收敛到某个向量,则有所以不管在0,1内如何取值,当迭代格式(11)收敛时,它必定是原来方程的解.选取适当的,根据(4)式的定义,这样的解也是方程(1)的解.显然我们可以选择一个较好的,使得迭代格式(11)收敛的尽可能快.已知SOR迭代的核心部分为:SSOR迭代的核心部分为:将SOR迭代和SSOR迭代生成的向量进行加权平均,可得到改进的SSOR迭代算法,其核心部分为:其中,为权重,可以取0,1之

16、间的任意实数,在此称之为加权超松弛迭代法.4.2.2收敛性分析定理4.2加权超松弛迭代算法,满足迭代关系式(4),其迭代矩阵.其中,且(11)对任意的初始向量都收敛的充要条件为.证明:由4.2.1中的分析知该定理结论显然成立.5.算法的不足与改进方法上述两种算法本质上都是添加了一个加权因子,不同之处在于一个是对分裂后的矩阵添加的,而另一个是对迭代矩阵添加的.增加了加权因子之后,如何对其取值才最合理就变成了一个亟需解决的问题.像SOR算法中很难确定的值一样,我们很难找到一种通用的方法来确定所增加的加权因子的值.在下面的数值实例中,为了验证算法的优越性,我们可以让加权因子遍取0,1中的某些值

18、6.25称为迭代法的渐进收敛速度,简称迭代法的收敛速度.6.2几种迭代方法的比较下面我们用不同的迭代方法求解元线性方程组,其中方程的精确解为.取,初始向量为零向量.下表给出了几种迭代方法达到不同精度时所需的迭代次数.(程序见附录)表1不同的迭代算法达到某一精度时所需迭代次数的比较算法参数值迭代次数精度Jacobi迭代法21Gauss-Seidel迭代法13SOR算法15SSOR算法84.1中的算法134.2中的算法7Jacobi迭代法27Gauss-Seidel迭代法17SOR算法17SSOR算法104.1中的算法164.2中的算法8由上表可以看到,若合理的选取参数值,解系数矩阵为三对角矩阵

19、的线性方程组时,4.2中提供的方法收敛速度最快.根据6.2的定义,我们算出精度为时各种迭代算法的渐进收敛速度,见表2.(程序见附录)表2精度为时各种迭代算法的渐进收敛速度算法渐进收敛速度Jacobi迭代法0.7345Gauss-Seidel迭代法1.4690SOR算法1.6094SSOR算法1.91714.1中的算法1.35954.2中的算法2.0020结合表1与表2,我们可以看到:当迭代结果的精度达到时,表1显示的Jacobi迭代法、Gauss-Seidel迭代法、SOR算法、SSOR算法和对称超松弛迭代算法所需的迭代次数逐渐减少,4.2中给出的方法是收敛最快的,这与表2中给出的其渐进收

20、敛速度逐渐变大的结果一致.我们还可以看到,用4.1中的算法进行计算所需的迭代次数较SSOR方法的迭代次数多,但由定义6.2计算出的其渐进收敛速度却较小,这说明用该定义意义下的范数去度量4.1中的算法的收敛速度,并不是一个好的度量方式.考虑方程组其精确解为.求出各种迭代方法的迭代矩阵对应的谱半径,可以看到只有Jacobi迭代法和4.1中的算法是收敛的,其他方法均发散.下面我们比较Jacobi迭代法和4.1中的算法在达到指定精度时的收敛次数,见表3.(程序见附录)表3两种迭代法达到指定精度所需迭代次数的比较精度参数迭代次数/次Jacobi迭代法4.1中的算法Jacobi迭代法4.1中的算法10-50.862121510-60.842531910-70.852932110-80.863332210-90.8737424我们可以看到4.1中给出的方法解该方程组的收敛速度远远大于Jacobi迭代法.参考文献1张韵华,奚梅成,陈效群,数值计算方法与算法M.北京:科学出版社,2009:130-140.2邵新慧,大型线性

THE END
1.十大经典算法模型深度六、朴素贝叶斯:基于贝叶斯定理的分类算法 朴素贝叶斯是一种基于贝叶斯定理和特征条件独立假设的机器学习算法。它通过计算样本属于不同类别的概率来进行分类。朴素贝叶斯算法简单高效,适用于大规模数据集和高维数据。在垃圾邮件过滤、情感分析等领域,朴素贝叶斯算法有着广泛的应用。其基于概率的分类思想,为机器学习算法的https://baijiahao.baidu.com/s?id=1812266507161859923&wfr=spider&for=pc
2.常见的算法类型和适用领域10 递归算法(Recursion Algorithms) 某个函数直接或间接地调用自身,这样写的函数成为递归函数,实现这样的函数的方法叫做递归法。 以上是常见的算法分类,并且各自有一定的适用场景。但是实际问题可能涉及多个方面,需要综合运用多种算法才能解决。 后续对具体的算法逐一进行解析,并结合数据结构和LeetCode题目进行解析。 https://zhuanlan.zhihu.com/p/691250034
3.几种算法思想列举几种基于计算之问题求解思想和方法。几种算法思想 摘要由CSDN通过智能技术生成 1、递归法 所谓递归,就是指如果需要求解当前状态就需要求解其依赖的迁移状态。 一般来说,递归需要有边界条件、递归前进段和递归返回段。当边界条件不满足时,递归前进;当边界条件满足时,递归返回。 采用递归描述的算法通常有这样的特征:https://blog.csdn.net/wcyoot/article/details/6556088
4.最常用的五大算法分别是什么?常见问题常用的算法有:1、分治法;2、贪心算法,一种对某些求最优解问题的更简单、更迅速的设计技术;3、动态规划算法;4、回溯法,一种选优搜索法;5、分支限界法。 最常用的五大算法分别是:分治法、贪心算法、动态规划算法、回溯法、分支限界法。 什么是算法? https://www.php.cn/faq/415926.html
5.算法有哪些分类算法有哪些分类用生活展示人生 精选回答 算法的分类分为七类,分别是: 1、基本算法: 包括枚举和搜索两种,分为深度优先搜索,广度优先搜索,启发式搜索和遗传算法; 2、数据结构的算法数论; 3、代数算法; 4、计算几何的算法,求凸包; 5、图论算法:包括哈夫曼编码,树的遍历,最短路径算法,最小生成树算法,最小树形https://edu.iask.sina.com.cn/jy/2zfDKlME4hj.html
6.算法的特征有哪些算法的描述方法有哪几种①确定性;②逻辑性;③有穷性;④正确性;⑤顺序性;⑥普遍性。 二、算法的定义: 1、定义:通常是指按照一定规则解决一类问题的明确和有限的步骤。 2、算法的特征:①确定性;②逻辑性;③有穷性。 3、算法的描述:自然语言、程序框图、程序语言。 四、算法的描述: http://sx.ychedu.com/SXJA/GEJA/612268.html
7.算命有哪几种算法(算命的几种算法)算命术有几种算命的有几种算法,八字八字也称八字算命或者生辰八字算命是中国算命的一种算命方法。者认为一个人出生的年、月、日、时各有干、地支相配每项用两个字代替四项就有八个字。生辰八字的算法,生辰八字的算法生辰八字的算法,或称八字四柱,属于命理学中的其中一科,八字算命是以一个人的出生时的资料来推算https://www.16757.com/ysh/bazi/3643.html
8.搜索引擎有哪几种算法?SEO必知的搜索引擎九大算法解析网站优化如何利用搜索引擎结合转化页全自动赚钱?利用百度搜索引擎结合转化页全自动日赚千元 移动站点怎么做才能从搜索引擎获取更多流量?移动站从搜索引擎获取更多流量的技巧 以上就是对搜索引擎有哪几种算法及SEO必知的搜索引擎九大算法解析全部内容的介绍,更多内容请继续关注脚本之家!https://www.jb51.net/yunying/459656.html
9.常用的几种推荐算法介绍个性化推荐(推荐系统)经历了多年的发展,已经成为互联网产品的标配,也是 AI 成功落地的分支之一,在电商(淘宝/京东)、资讯(今日头条/微博)、音乐(网易云音乐/QQ音乐)、短视频(抖音/快手)等热门应用中,推荐系统都是核心组件之一。 今天给大家分享几种常用的推荐算法及其各自优缺点。 https://www.51cto.com/article/778534.html
10.什么是日本清关逆算法?日本物流方式有哪几种日本物流方式有哪几种 逆算是不可逆的,清关政策只会越来越合规,那么逆算到底是怎么回事呢? 距离日本逆算法实施已经快三年了,仍然对日本市场的卖家和物流商影响巨大。而且逆算是不可逆的,清关政策只会越来越合规,那么逆算到底是怎么回事呢? 对于卖家而言,逆算法执行后,需要缴纳更多的消费税,涉及空海运和快递,https://www.cifnews.com/article/148161
11.操作系统中几种最常见的调度算法(适用于软件设计师考试与期末考试优先级算法(Priority Scheduling):是目前操作系统广泛采用的一种进程调度算法,系统按一定规则赋予每个进程-个调度优先级,把处理机分配给就绪队列中具有最高优先级的进程。优先级算法平衡各进程对响应时间的要求,适用于作业调度和进程调度,可分成抢先式和非抢先式。 https://developer.aliyun.com/article/992848
12.函数逼近的几种算法及其应用.docx本课设中共有两章,第一章介绍了函数逼近的产生及研究意义, 基础知识,最佳 平方逼近法,曲线拟合的最小二乘法,有理逼近,三角多项式逼近的算法的几种函数 比较方式.第二章从函数逼近的应用角度,详细介绍了有理函数逼近在数值优化中的 应用和泰勒级数判定迭代法的收敛速度,以及几种函数逼近的计算实例 ? 关键词 最佳https://max.book118.com/html/2020/0910/5031123340002342.shtm
13.转详解AES加密算法Felix电子技术应用AET三、AES加密算法的几种模式 3.1、ECB模式 优点: 1.简单; 2.有利于并行计算; 3.误差不会被传送; 缺点: 1.不能隐藏明文的模式; 2.可能对明文进行主动攻击; 3.2、CBC模式 优点: 1.不容易主动攻击,安全性好于ECB,适合传输长度长的报文,是SSL、IPSec的标准。 http://blog.chinaaet.com/justlxy/p/5100052866
14.机器学习中常用的几种分类算法,如何选择合适的算法?今天和大家分享一下机器学习中常见的六种分类算法:K近邻、决策树、朴素贝叶斯、逻辑回归、支持向量机、随机森林、AdaBoost、GBDT、XGBoost。 下面,介绍了各个算法的概念及特点。 KNN 决策树 朴素贝叶斯 逻辑回归 支持向量机 随机森林 AdaBoost GBDT XGBoost https://www.wokahui.com/article/industry/2697.html
15.Java面试题大全(整理版)1000+面试题附答案详解最全面看完稳了5、Memcache 与 Redis 的区别都有哪些? 6、Redis 是单进程单线程的? 7、一个字符串类型的值能存储最大容量是多少? 8、Redis 的持久化机制是什么?各自的优缺点? 9、Redis 常见性能问题和解决方案: MySQL 面试题 1、MySQL 中有哪几种锁? 2、MySQL 中有哪些不同的表格? https://maimai.cn/article/detail?fid=1752437513&efid=uSgZIWSJqvkGwxf4vJW75w
16.几种常见的路径跟踪算法汽车技术几种常见的路径跟踪算法 一.路径跟踪简介在路径跟踪过程中,参考轨迹曲线与时间参数无关,跟踪轨迹时可以假设无人车以当前速度匀速行驶,以一定的代价规则形成行驶路径趋近于参考路径; 一.路径跟踪简介 在路径跟踪过程中,参考轨迹曲线与时间参数无关,跟踪轨迹时可以假设无人车以当前速度匀速行驶,以一定的代价规则形成行驶https://www.auto-testing.net/news/show-113541.html
17.AI作曲的诺亚方舟将去往何处就乐曲效果而言,Travis Bott对Travis Scott的模仿几乎以假乱真,完全融汇了Travis Scott作品以及人物魅力最主要的外部特征。同时,该项目也进一步验证了人工神经网络技术(Artificial Neural Networks)的蓬勃发展,有助于探索未来AI在音乐中的应用价值。 造船原理-几种算法模型https://www.cdstm.cn/theme/khsj/khzx/khcb/202010/t20201027_1036336.html
18.分组加密模式ECBCBCPCBCCFBOFBCTR在分组加密算法中,有几种不同的工作模式,分别是ECB(Electronic CodeBook,电子密码本模式)、CBC(Cipher-block chaining,密码块连接模式)、PCBC(Propagating cipher-block chaining,填充密码块链接模式)、CFB(Cipher feedback,密文反馈模式)、OFB(Output feedback,输出反馈模式)、CTR(Counter mode,计数器模式)。 https://cloud.tencent.com/developer/article/2055142
19.几种常见的算法2021-07-20 几种常见的分布_几种常见的不良学习习惯 1、 分心学习分心学习习惯是指有些学生在学习的时候同时还做别的事情,如听广播、看电视、上课补其他学科作业或者看小说等等。其实这种做法是违背心理学规律的。因为注意是学习的必要条件,在学习的时候做别的事学法指导 [阅读本文] 2023-06-13 八年级语文学法https://www.oubohk.cn/k/jizhongchangjiandesuanfa/