打破霍金预言,AI真的会是人类的终结者吗

但是,在AI发展一片欣欣向荣的景象中,传奇物理学家斯蒂芬霍金却对未来AI和人类的关系充满了担忧。他认为AI可能是人类文明历史中最糟糕的发明,担心AI终将取代人类。他曾多次公开表示:“彻底开发人工智能可能导致人类灭亡”。

不仅是霍金,处于风口浪尖的“钢铁侠”设计者埃隆马斯克以及微软创始人比尔盖茨,也都警告过要注意AI的“危害”。MIT的教授以及几名来自美国三大互联网巨头谷歌、IBM和微软的企业员工等,也曾联名写过公开信,表达AI未来会影响人类安全问题和社会福利问题的忧虑。

2关键的“技术奇点”

按照霍金的说法,AI在初级发展阶段的确可以为人类生活带来极大的便利,但是,机器将可能以不断加快的速度重新设计自己,“如果人类能够写出计算机病毒,那么也能够设计出能够自我复制的AI”,而人类则受制于生物进化速度,在智能的演进速度上根本无法与之竞争,使得人类最终被AI超越。科学界将这种AI全面超越人类智慧的转折点称之为“技术奇点”。

具体的“技术奇点”含义是指,当广义上的AI拥有了“自我进化”的能力或者当“机器能生产更加聪明的机器”这种情况得以实现,因为技术进化的速度会远远高于生物进化的速度,所以在AI和人类智慧的比较上将会产生滚雪球的效应,AI会不断进步并且发展得越来越快,并最终迅速超越所有人类智能的总和。超越这个“技术奇点”以后,AI会迅速超过人类可以控制甚至理解的范畴,当机器运行的原理不为人类所掌握,人类也就无法控制机器的运行,因此在突破了奇点之后,人类的命运也就将不会完全掌握在自己的手中。

3AI终结人类的必要条件

但是,当AI已经全面超过了人类智慧之后,就一定代表AI会采取措施终结人类的生存吗?这个问题值得我们好好思考,因为人类对于强于自己甚至是有可能强于自己的事物怀有深深的担忧和敌意,当然这也是人类的自我防卫机制的本能反应,不过这种主观的本能反应,会深刻地影响我们对于形势的判断。

从逻辑上说,要独立解决任何一个问题,需要有两个必要条件,即解决问题的能力和解决问题的动机,前者为个体所具有的“能力”,而后者可称为个体的“意识”。因此,对于“AI会不会成为人类终结者?”这个问题,我们把其拆成两个主要部分:第一,AI能不能具备终结人类的能力?第二,AI会不会有终结人类的意愿?

根据目前AI的发展情况,从解决问题的能力的角度来看,AI的智能全面超越人类智慧是大概率事件。目前在人类日常生活中能遇到的所有问题中,有80%以上的问题我们已经能够通过设计出超过人类智慧的AI来更高效地解决。二十年前的两次世界象棋“人机大战”与2015年AlphaGo连续战胜多位围棋九段高手的对比,便是AI在能力上快速扩张和快速超越人类的典型案例之一。

更进一步,就算AI具有了可以自我控制的意识,我们并不能断定AI就会有终结人类的意愿。首先从能力上,人类并不会威胁到AI的生存,因为人类智慧根本不可能和已经具有自我意识的AI抗衡,也就不会对AI造成实质性的威胁从而形成敌对关系;其次在生存环境上,AI以机器为载体,上可翱翔太空下可潜入水底,而人类还需要呼吸氧气,也就不会和AI存在利益冲突。因此AI和人类之间,并没有一定会发生矛盾甚至战争的诱导因素,AI也就没有终结人类的意义。

4未知的未来

通过上面的分析,AI直接发动战争灭绝人类的可能性非常小,但是在未来社会,AI却也许会用别的方式毁灭人类而无需产生自我意识。最典型的,就是AI会深刻地改变人们的工作和生活方式,引起人类社会的混乱和矛盾,从而借人类自己的手将人类自己毁灭。

目前这种AI威胁论甚嚣尘上,很多著名学者都预测人类的很多职业都将被AI所取代,造成大量工人的失业,从而使得社会面临动荡和冲突的危险。这就需要未来人类在面对这种生活巨变的时候,能够正视变革、摆好心态,找准自己的位置,各展其才,各尽其用,在这变革的洪流中挖掘自身更大的力量和价值。

参考文献

作者:师帅康橘子科普团队上海交通大学机械与动力工程学院,机械系统与振动国家重点实验室

THE END
1.谷歌人工智能算法RankBrain运行原理解析51CTO博客AI与机器学习有什么不同呢?就RankBrain而言,给我们的感觉好像是它们是等同的。你可能会听到它们交替使用,或是听到使用机器学习来描述人工智能方法的使用。 那么RankBrain是谷歌Ranks搜索结果的新方式吗? 不,RankBrain只是谷歌众多搜索算法的一部分,它是一套计算机程序,能把知识库中上十亿个页面进行排序,然后找到与特定查https://blog.51cto.com/shanglianlm/5554463
2.上交大AI研究院首席科学家徐雷:中国人工智能研究真的世界领先了吗?为了解人工智能研究的历史、现在与未来,AI报道(AI Report)拜访了徐雷教授。这位在国际舞台上为中国赢得声誉的科学家对中国人工智能的发展有何看法?答案或许并不如国内AI圈中很多人想得那么乐观。 中国人工智能发展水平距离世界顶尖还有多远? 近年,我国人工智能发展迅猛,在企业数、发表论文数等数项指标上都已达到了世界http://www.chinaaet.com/article/3000109256
3.人工智能心得体会(通用11篇)1、分布式人工智能与艾真体 分布式人工智能(distributedai,dai)是分布式计算与人工智能结合的结果。dai系统以鲁棒性作为控制系统质量的标准,并具有互操作性,即不同的异构系统在快速变化的环境中具有交换信息和协同工作的能力。 分布式人工智能的研究目标是要创建一种能够描述自然系统和社会系统的精确概念模型。dai中的智能https://www.ruiwen.com/xindetihui/5729744.html
4.《her》:AI时代,那自以为是又无处安放的爱情…(她)影评这是一部面向未来的科幻电影,说是科幻,但并不遥远,它所描述的情节,或许仅仅就是五年后、三年后就会发生的事,甚至就在你跟Siri对话的此时此刻,你已经在实践着影片中描述的未来;这是一个发生在人工智能AI和智人(本文全篇以“智人”表示人类物种)之间的爱情故事,这样的爱情看似荒唐,却又那么真实,真实到当影片结束时https://movie.douban.com/review/9202843/
5.清华大学教授王志华:几乎所有的AI,到现在为止都是胡扯界面王志华教授认为,现在AI可知的应用就只有图像解析。 “但不管是安防还是互联网传递领域,只要你是可知的应用,那你就老老实实的说你在做应用、在做图像解析,而不要吆喝着所谓的‘人工智能’。” “AI之所以这么火,可能大部分因为阿尔法狗,而阿尔法狗也只是一种在围棋上的技术应用而已,只是被某些有钱的人、动机不纯https://m.jiemian.com/article/1596103.html
6.人工智能是如何架起无人驾驶车的技术桥梁的?近日,在美国IHS公司发布的关于「人工智能」的调研报告中,分析师预期到2025年,车内AI人工智能系统的数量将从2015年的700万台增加至1亿2200万台;同时基于AI技术打造的相关系统(绝大部分以语音识别功能为主)的新车配售率会从2015年的8%增加至2025年的109%;此外,IHS指出,未来很多汽车上都会安装具有不同功用的人工智http://www.cheyun.com/content/11726
7.我玩《王者荣耀》斗地主打麻将,但我是正经搞AI的北大教授甚至在李文新的眼里,游戏AI才是真正的人工智能。 (不禁令人想起最近大火的《失控玩家》了) 《失控玩家》剧照 游戏AI到底拥有何种魅力,能让李文新如此痴迷? 在游戏里搞AI 先来看看李文新带着博士们,是怎么打的《王者荣耀》。 他们要做的,其实就是在限定的时间和资源内,训练出一个最优决策模型,并把它部署到https://36kr.com/p/1421966094286469
8.AI不是科幻电影里的洪水猛兽,而是被慢慢变革的生活方式正因为憧憬这些即将发生的美好变化,科技公司们才会如此热切地钻研AI技术的发展,迫不及待地希望它赋能各行各业。 1、你真的认识人工智能? 尽管对未来的想象如此美好且合理,但现在正在用着智能手机的我们,可能并不是所有人都了解人工智能——作为机器,它怎么就能够像人类一样思考了?https://www.cqcb.com/vision/ai/2019-06-25/1704539_pc.html
9.人工智能是什么,你真的了解人工智能吗?人工智能的应用领域 今天,AI能力更倾向于应用到人类或其他动物智能的某一或某几方面,并用自动化替代,有时候也用于对其进行模拟。这些在高性能计算机调度之下的智能行为远远比人类的行为更为强大。 1. 路径查找和路径规划 在最小代价路径规划和路径查找系统中,可以使用专门的技术,它们中有一些非常灵巧微妙,另一些则仅https://mse.xauat.edu.cn/info/1038/2191.htm
10.虚幻的AI,真实的爱?AI看似类人的回复,本质上依然是基于大规模语料库,依据上下文补充而成,只是对人类语言行为的模仿。近日,ChatGPT母公司Open AI发布了一套内部衡量系统,将人工智能划分为5个等级,而目前的ChatGPT只能说是接近第二级,只是一个“可以解决基本问题的系统”。 http://edu.cnr.cn/list/20240801/t20240801_526826315.shtml
11.AI人工智能真的会取代设计师吗?腾讯云开发者社区AI人工智能时代,设计师如何提升学习? 主要体现在以下几个方面: 1.扎实学习提升设计专业基本功,提升设计创造力、设计理解及审美。 2.学习AI相关知识:了解AI的原理、算法和应用,掌握AI在设计领域的应用。 3.掌握相关工具和软件:熟练使用AI相关工具和软件,如机器学习平台、数据分析工具等,以便更好地运用AI辅助设计。 https://cloud.tencent.com/developer/news/1046367
12.柯洁泪洒乌镇已七年人工智能真的攻克围棋了吗?放眼现在,不禁问道:人工智能难道已攻克围棋了吗?AI的出现对人类到底是喜还是悲? 七年前,被誉为“执白不败”的17岁围棋天才柯洁,刚击败了韩国的传奇棋手李世石,意气风发地荣登世界围棋第一的宝座。一时间笑傲江湖,不狂枉少年。殊不知,一个历史性的转折点即将到来,这将震撼整个围棋界。 https://sports.sina.cn/others/qipai/2024-05-13/detail-inavacef5356942.d.html
13.GoogleAI真的通过了图灵测试?还是图灵测试已经过时?▌Google 真的通过图灵测试了吗? 问:你们是如何定义 AI 的?AI 是否有通用的、准确的定义? 人工智能的定义其实非常宽泛和模糊。如果广义地讲,计算机从诞生的第一天起就具备人工智能。如果把牛顿穿越到今天,或许最令他惊叹的“AI”不是语音、图片的识别能力,而是飞快的数学计算和海量的记忆存储。如果狭义地讲当下的https://blog.csdn.net/dQCFKyQDXYm3F8rB0/article/details/80504541
14.ai人工智能仿生系统ai3.0人工智能仿生系统?30ai人工智能系统是真的。 因为30ai人工智能系统是搭载了最先进的人工智能系统,是可以迅速的对外界做出反应的,所以是真的。 十、田螺ai人工智能剪辑系统是真的吗? 田螺AI人工智能剪辑系统是田螺公司推出的一款面向影视、媒体、广告等行业的智能化剪辑系统。该系统基于人工智能技术,具有一定的自动化和智能化水平,可以https://tool.a5.cn/article/show/71373.html
15.发展如火如荼人工智能会比人类聪明吗?新闻频道日前,在深圳举办的CITE2017人工智能产业发展高峰论坛上,工业和信息化部副部长刘利华表示,我国目前在人工智能(AI)技术研究方面已经走在世界前列,该领域的科研工作者和企业家“立于全球潮头”,未来我国在这个领域有非常宝贵的机遇和前景。 最近,人工智能话题热度不减,IT领域甚至言必称之。目前人工智能发展到哪个阶段,它https://news.cctv.com/2017/04/14/ARTIUZ41B5DM5BrbO6BQTWCv170414.shtml
16.姜言东专访《人类简史》作者赫拉利:关于AI,马云错在哪里AI时代,大数据才是生产资料,计算能力是生产力。所以说,AI会引发另一次世界大战的说法,不符合历史事实,也是对AI的误解。 问:你说过,不同国家间工业革命造成的差距能够较容易追赶,但如果AI革命落后,将难以弥补。中国近年来也投入大量资源积极发展AI。但是中国是人口大国,有巨大的劳动力群体,如果技术取代人工将产生严重https://www.guancha.cn/YuvalHarari/2017_06_30_415797_s.shtml