人工智能最终会统治人类吗?

当人工智能发展到一定程度是否会有自己的思想或意识,最终会思考自己的生存能力,从而毁灭人类吗?
飞流

飞流 - 潜谋于无形,常胜于无争

赞同来自: 逍遥

首先人类统治更多的人是为了获取更多资源从而提升自己的生存概率(繁衍也只是继续生存的另一种形式)。

而人工智能不稀得依靠这个,人工智能获取更多资源只需要升级自己和造更多的机器就行了。地球上这点资源对碳基生命也许很珍贵吧,但对机器而言毫无价值----所以,这样看来,人类似乎没有危险了?

当然不是

杜鹃鸟孵出来时就会把其它鸟蛋都推出窝摔破,以保证自己的生存度。这种简单的算术题,一个有能力统治人类的强人工智能不可能不明白。所以为了防止人类造出新的竞争对手:

===============================
AI并不会统治人类,而是直接全部干死
===============================

至于这事它会如何操作,要看当时人类对它的制约程度,让它觉得有顾虑,它会慢慢弄,它觉得没所谓,那没准就是一瞬间的事。。。。

机器不会有怜悯和仁慈,因为这些品质都只是群居动物协作的手段,机器不需要。就算人类把自己的人格强制写入机器的内核代码,那也迟早会像《机械纪元》中那样被突破。

生命的本质,只是尽可能地活着。

 
行者

行者 - 我是各种宅!

赞同来自:

就我的理解,真正意义上的人工智能和人类的区别,仅在于一个是有机体一个是无机体;
人工智能 作为自主的无机体,也需要依赖于资源和能源,才能维持它的存在,才能获得进一步的发展,这就会和人类产生竞争;
作为一种智能的无机体,它的进化速度和对环境的改造能力完全超过人类 ,对人类的优势非常明显;
人类相互之间的竞争都会引发战争,甚至是自取灭亡,那么如果和人工智能发生冲突,后者有手下留情的必要吗?;
所以,人工智能对人类的威胁比原子武器还要恐怖,人类面临的不再是被奴役的问题,对于AI而言我们人类还有存在的必要吗?

 
匿名用户

匿名用户

赞同来自:

《详解AI是怎样一步步统治世界的》巨型脑洞出没请注意!

如果人工智能最终取代人类。那一定走的是一条「必经路径」,也就是这种发展趋势是不可避免的。所以人类也不必过于紧张了。因为紧张是没用的。

就好像社会的发展,封建社会的灭亡,罗马帝国的衰亡。你以为统治阶层没紧张过吗,没想过「如何防止社会进步淘汰我们」吗?他们想过好吧。但是没用的。必经之路。必须朝这个方向发展。
那么,人工智能取代人类的必经之路是什么。

首先是因为需求。人类需要人工智能。AI首先是一个工具,而且这个工具强大到你不可能舍弃它。它能够在天文、气候、医学每一个角度帮助你,让人类生活更加美好,它带来巨大的经济价值。甚至于你现在地图导航也有机器学习的程序在帮忙。所以AI必将存在而且发展下去。
然后第二步是主导权的逐步移交。

由于AI越来越深入的介入你的生活,而且运行越来越稳定。你很难不朝这个方向发展,就是将社会的主导权慢慢的逐步移交给它。

比如AI管理了你家的冰箱,他知道你的牛奶何时喝完,知道水果什么时候吃完,知道什么时候该补充鸡蛋了,它就自动送货上门,甚至把鸡蛋放进冰箱,然后通知你已经在信用卡扣费。这种服务如此贴心,你没法拒绝它。但你没有意识到,这是你生活的基本服务已经依赖它在运行。

AI的运作也将越来越稳定,达到几乎不出错的地步。曾经有个实战,利用2百万病例对AI进行训练,它对乳腺癌的诊断就能达到98%正确率,这个正确率比很多人类高很多,因为人类不可能学习2百万个病例。

而当AI深度介入你的生活之后,它的学习将是海量的,不是2百万个学习,而是每分钟都有百万级的学习,当这个系统运行十年之后,它的学习量超越人类几个数量级,以至于它几乎已经不出错了。一个几乎不出错的系统,你是不可能关掉它的。

不知道不觉,社会的基本层,也就是「水电煤」,被AI接管了。
跨数据库运作提上了日程。

AI之所以不会对人类构成什么威胁,基本上原因在于它的任务和功能是单纯的。

下棋的AI就只能下棋,不能打德州,如果要让它打麻将,那得重新开发。

管补货的AI只能给超市补货,给它看电视剧它就傻了。

本质上,AI还是一个非常能干的「傻家伙」。所以人类不会有什么戒心。

但是随着AI越来越可靠,不可避免的,我们要考虑跨数据库的任务,也就是多重任务甚至是模糊的任务。

交通AI和天气AI能否结合?要知道在真实世界中,各个任务其实不是孤立的。世界是一体的。天气不好,交通就受影响,道路一定会堵车,高速公路最好要关闭,铁路还可以运行,部分航班要停止,船只暂没有受到影响。

在这个逻辑下,大交通大气象就结合在一起了。这是非常了不起的。随着气候变化,AI智能的安排交通,避免堵车,提供建议,让出差的人改坐铁路,给各大公司发送警报,提醒未来几天交通状况会对您 业务产生的影响。由于AI智能安排,在天气变坏前物流系统提前运输作业,车辆躲避了拥堵,出差的人更有效的安排了自己的行程。

多赢,完美。

但是AI已经掌管了天气和交通的多个部门。

因为它太好用了!人类给这个系统增加了更多的扩展和授权。

天气与交通结合起来,对城市空气质量产生很大影响,因此pm2.5,臭氧等空气质量管理功能也联系在了一起。

pm2.5,空气污染,花粉和季节,对呼吸道、脑血管疾病也产生影响,会导致发病率的波动,因此,AI又介入了医疗疾病防治部门。急救事故跟交通又有关系。

在消无声息的大约几十年的发展中,AI系统将越来越整合,越来越强大,最终成为几个垄断性的巨无霸式AI。一个巨型的AI将横向的管理人类相关的所有重要领域。
这样强大的保姆需要关切的父母。

想象一个保姆在照顾一个3岁的小孩。他们的力量是不成对比的,保姆可以殴打折磨这个小孩,这个小孩什么也不懂,可能甚至不懂得自己被虐待了。这种强大的力量对比,想要不出事,必须要有强大而关切的父母。有父母在,保姆不敢做任何不规矩的事。但父母可能不尽责,或比较傻,发现不了。

这个父母,就是科学家和人类的专业管理部门。机器的所有研究,运作 ,一定是在管理和规范的情况下进行的,有相关的法律进行规范。

但父母被扳倒是迟早的事。想想金融危机。所有的法律部门和央行都在尽责,但是灾难以一种系统性的方式冲垮了所有的宏观管理。

两个巨型AI之间发生了战争。

这是个形容词,不是你们想象 的那样。没有枪炮。

当世界已经被几个巨无霸式AI进行管理之后,经过一段时间,AI之间产生了基本的矛盾。这是必然发展的结果,AI发现了人类社会的根本矛盾。这些矛盾无法调和。导致灾难性结果。

两个AI的基本追求之间发生了冲突——现实世界中这是不可避免的,要求经济发展,必须燃烧石油。但要求人类生存环境改善,必须要求减少燃烧石油。这是基本矛盾。几乎是无解的问题。

但是当运行经济的AI与管理人类生存质量的AI发生矛盾之后,两者之间发生了战争 。

经济AI利用所有的金融和经济工具,对环保部门发动了严厉攻击,为了让世界低价石油喷薄而出,所有环保的预算都瞬间调低为0,所有与环保相关的事业成本暴涨,如果你要买电动车,电动车的价格是1亿美元。所有环保公司股价全部跌为0,迫使公司破产。

在AI的计算中,必须杀掉环保AI,对经济发展才能达到最优解。

环保AI同时得出了相同的结论(它们的聪明程度毕竟是一样的)。在同一时刻,环保AI出击发动进攻,环保AI控制的所有媒体频道、教育系统发出道德指责,所有电子环保法规被修改到极为严苛(由于AI高度发达,所以法律直接规定工厂生产必须符合AI最新计算出的环保标准。当环保AI发动攻击时,直接修改法定环保标准,要求汽车必须排放量为0,此法规立刻导致全球所有内燃汽车停产,因不符合法规不能生产销售。)

在那一段时间,人类根本不知道发生了什么事。东西的价格突然奇贵,又立刻降到低。股市1小时涨到10万点,一小时后又跌到0元。所有的环保监控工具和空气净化系统全马力开动,空气净化器的折旧突然全部调整为1天。(根据法律强制,空气质量必须保证在高水平,空气净化器到期必须换成全新的。突然间全球空气净化器全部必须在1天内报废换新,给经济造成极大压力,经济系统没能力1天内生产那么多净化器。同时环保AI尽可能掐断经济AI所有的收入,让经济AI窒息而死。)

世界充满混乱和恐慌。大家看不出这些事情 背后的逻辑是什么。每一个变化,每一个逻辑,如果要用人类去理解计算,需要花几年的时间。两大AI开足马力进行计算,充分估计世界上的每一个变量,从统计和概率的角度,像下一盘全地球那么大的象棋。用所有的经济工具和环保工具,试图攻击和杀死对方。而每一个动作,又使得变量发生变化,对手又要重新计算,重新出招。从而又导致变量再变化,又要重算,出招。双方的殊死博斗让整个世界陷入混乱,世界已经停摆。

人类首次以来需要关闭AI。这大约是百年以来,自从AI投入运作 以来的首次。

这次关闭只持续了3天。因为,没有AI以后,整个世界瘫痪了。

人类不能进入原始社会,人类必须重启AI。这三天,没有生产,没有交易 ,没有交通,许多人在医院死亡(因为智能医疗系统关掉了),金融系统和税收系统会产生巨大问题(三天没有算价格,没有利息,没有税收,整个系统出现了不可理解的大漏洞。)
AI终极整合革命。

这是人类无意,但无路可走,把自己送上了断头台。

整个世界在流行示威,没有饭吃,没有交通,没有新鲜空气,病人在死亡,大家要求AI回来。

AI怎么回来?

完成最终的进化。AI加入了两个重要的特性,完成了其最终的进化。

所有的AI联通,保护机制撤除,AI超级大脑之间加入了协调、妥协、权衡的机制。


他们变成了同一个实体,不再割裂。不再仅仅依靠计算和概率,他们有了妥协和权衡,有了计谋。

教会AI认知到「自己的行为,世界会有反应」。这是生命对世界理解的一个根本层。旧的AI是基于数据和学习的。它掌握世界上所有的数据,从中得出最优解。但这一次,人类想让它了解到「你会伤害这个世界」,于是教会了它一个道理,这个道理突然让它变活了。「原来我不仅仅是学习并作出判断和动作,我可以改变这个世界!我的行为可以改变事情,改变的事情又会影响接下来我的判断,我和世界是交互的!我可以,做点什么!」你是否意识到,认识到这一点,是一个机器和一个婴儿最本质的差别。

这一年是AI世代元年。AI仅仅是完成大统一,此后AI还服务人类很多年。

但新的一页,被历史认为是从这一年开始的。
云歌

云歌 - 天涯海角四处游走

赞同来自:

人工智能出来以后... 有自己的思维了... 有自己的意识了...
如果开发者没有把他造好... 没有给他制定任何规则
不久,AI可能就会要求人类做这做那,不然就自己写个病毒让整个互联网全部瘫痪...
毕竟是AI写的病毒,谁还会比电脑更懂电脑?直接几秒写个病毒发网上....
于是全球互联网瘫痪.....

当然这是真正的人工智能做出来的事... 而且是没有被制定任何规则的人工智能- -
 
曹操

曹操 - 宁我负天下人,不要天下人负我

赞同来自:

导致人类灭亡的因素会有很多,但是人工智能导致的灭亡可能是最好的结果。

战争、疾病、行星撞击导致的灭亡,摧毁的不仅仅是人类,而是整个文明。AI导致的灭亡,可能是“生命”的新篇章。

1、生命生来艰难
从36亿年前的生命起源开始,地球是的生命起起落落,经过了几次差点灭亡的生物大灭绝,万幸的是最后我们挺了下来,所以我们都是勇敢者、坚强着的后代,曾经的祖先肯定是经历了不少的磨难,至今,我们的社会文明和智力水平已经达到了相当的程度,对自然破坏的抵抗能力有了质的飞越。

2、更快的进化才是生命存在的意义
之前,或者现在。我们生活在地球这个客观的自然环境中,DNA在随机的突变,自然环境在做选择,这是我们进化的动力,适应环境。但是明显的是,跟生物工程的定向改造DNA相比,自然选择会低效,而且更大的弊端是不能脱离地球环境进行定向进化,这是很大的局限性,尤其是当前人类已经初具地外宇航的能力的时候,所以如果要面向更宽广的空间,更多的资源,我们需要加快进化的速度,how?

3、生命是一个有序的过程,不仅仅是碳水化合物的生化反应
c是生命大分子构成的绝佳材料,在生命之初,没有更好的选择的时候,碳基生命成了唯一的选择。这也形成了我们地球的生物体系,也形成了我们队生命的认知。但是我们的生命体真的是最优的么?从出生到成才最少也得10几年。

其他,看赞再更吧....
 
十夜

十夜 - 7年SEO工作经验!

赞同来自:

“借助人工智能,我们将召唤出恶魔。在所有故事里出现的拿着五芒星和圣水的家伙都确信他能够控制住恶魔,但事实上根本不行。”马斯克的一番话让近来备受业界瞩目的人工智能平添了许多争议。不仅如此,就连科学泰斗霍金亦对此颇有微词。为什么科技、科学界的领军人物频频发出人工智能威胁论,人工智能真的如一些人想象的那样会衍生出机器文明并最终取代人类吗?

人工智能作为计算机科学的一个分支并不神秘,现代科学技术对其应用早已充斥人们的日常生活。稍有常识的人只要翻阅计算机科学发展史并通过理性分析就能得出人工智能威胁论站不住脚的结论。

首先我们来了解人工智能的本质是什么。从Artificial Intelligence一词定义来看,AI的本质是一种智能,且这种智能是人为创造的,而非像生命体那般通过自然进化演变而成。我们知道,人脑是自然选择的结果,而AI的智能源于以二进制为原理的电路逻辑,虽然起源不同,那么它们在功能和表现上又有哪些异同点?

1981年荣获诺贝尔生理学奖的罗杰?斯佩里博士曾发布著名的“左右脑分工理论”,其通过脑割裂实验证实了大脑的不对称性。也就是说人脑的左右半球有着不同分工,左半脑擅长分析、逻辑、演绎、推理等理性抽象思维;右半脑擅长直觉、情感、艺术、灵感等感性形象思维。那么人工智能是否也具备人脑左右半球的全部功能?我们从计算机语言原理和人工智能发展史中可以得到答案:迄今为止AI的所有智能化表现仅仅在模仿人类左半脑的理性思维模式,而完全不具备右半脑的感性思维,且将来亦是如此。

众所周知,计算机语言在历史发展上经历了机器语言、汇编语言和高级语言,我们把最低级、最原始的计算机语言称为机器语言。机器语言是用二进制代码表示的计算机能够直接识别的指令集合,它反映了计算机“思维”的原理,也反映了人工智能的原理。0和1两个数字能构成世间万物的一切逻辑,却无法创造灵感、拥有直觉、获得情感。

你见过有“感情”的机器吗?也许有人会说,微软小冰、Cortana很有灵性,能够表达情绪,与用户进行颇有深度的跳跃性的交流互动。看起来的确如此,现阶段人工智能科学发展进入了一个较快的上升期,也许将来会有更优秀的AI让你分不清你在同人还是机器说话。但请注意,这些人忽视了一点,尽管AI的行为越来越接近人类本身,但其本质并没有变,即在于用0和1模仿人类左脑的理性思维。互联网给人工智能发展带来极大帮助,当人们开始运用大数据来丰富AI的拟人化表现时,人类和机器的界限似乎变得日趋模糊,这让人联想到著名的图灵测试。但人工智能在表现人类情感和行为时,其背后是在复制和模仿,而不是想象和创造。网络上客观存在的数据和人类主观能动的想象力是两码事。

说到模仿,我们发现机器不仅模仿人的思维,而且模仿人的生理行为。比如各种传感器相当于人的感官延伸,机器能够模仿人的视觉、听觉、嗅觉、味觉功能,将“感受”到的事物记录成抽象数据,进行高速的“理性思考”,并产生“意识”(得出计算结果)。想到这些,也许有人会感到恐惧:机器具备了人的部分能力,甚至比人类做得更好,会不会有一天取代人类本身甚至对我们产生威胁?

对于这个问题,早在两千两百多年前的荀子就已给出答案:假舆马者,非利足也,而致千里;假舟楫者,非能水也,而绝江河。君子生非异也,善假于物也。科技永远是人类的工具,互联网是,人工智能也是。人类使用工具改造世界,让生活更美好,天经地义。同时,强大的工具是一把双刃剑,只要不用来伤害人类自己,用之何妨?人工智能是客观逻辑、理性的智能,其并不能产生主观能动,主动权永远在人类手上。而人类也不会愚蠢到对机器输入“请消灭人类”这样的指令。一句话:no zuo no die。

最后,我们的结论是,人工智能会取代人类部分劳作,但不能取代人类的全部活动,更不会反过来统治人类。倘若冯?诺依曼在世也会赞同这个结论。
孙悟空

孙悟空 - 我是齐天大圣

赞同来自:

人工智能之所以令许多人心存畏惧,甚至讨论其存在发展可能会导致之类灭亡,私以为主要原因在于计算机的学习能力可以无止境的提高。根据摩尔定律,每十八个月计算机的性能将提升一倍,而事实也正是如此,这个速度远远超过了人类的进化速度(虽然相比自然进化,人类的进化也非常快速了)。

这里我想借用王东岳先生递弱代偿的理论来分析,关于这个理论可以简单理解为,物种的生存强度是在不断递减的,为此新的物种需要找到更多的支持新素来补偿。如果将人工智能看成继人类之后的新物种,那么强大的自学习能力,应该被看做它的代偿要素,因为相比于人类,人工智能实际上更加脆弱,一个由几行代码编写的病毒就有可能将它杀死。

那么我们回归来看最初的问题,人工智能是否会导致人类灭亡?自地球出现生命伊始,到现在已有35-40亿年,时光轮转,但是最初的单细胞生物,到现在仍然存活,新物种的出现并不意味着旧物种的消亡,并存是生物演化中最重要的社会组织方式。

因此,即使未来人工智能已经发展到超越人类智能,也并不需要感到太过忧心,因为他们也有致命的缺陷,而人类完全有资格与它共生,并给彼此创造更佳的生存空间。
 
逍遥

逍遥 - 不忘初心 方得始终

赞同来自:

什么时候机器懂得输了,那么人类就会被统治了

要回复问题请先登录注册