西部世界吧 关注:297,596贴子:1,039,829

【长篇】从多个方面逐步解析机器人的觉醒

只看楼主收藏回复

本贴目的是通过一个个问题逐步分析,帮助自己和大家来理解本剧中机器人觉醒的过程。
所以下面涉及到的意识层次和觉醒,都是结合本剧表达的主旨来讨论的,并不代表现实生活中也有这样的划分。
本文经过了多次的修改,写好后才发出来,也许有自以为是之处,请谅解。


IP属地:浙江1楼2018-06-15 13:16回复
    积极看,挤挤看


    IP属地:北京来自Android客户端2楼2018-06-15 13:18
    收起回复
      一、什么是机器人的觉醒?
      剧中机器人的觉醒,可以认为是机器人拥有了和人类一样的自主意识。那么接下来就要说说意识的层次了。
      阿诺德认为意识像金字塔,分为3个层次:记忆、即兴反应、空白(注:即觉醒后的自主意识)。
      阿诺德后来又发现,这些层次并不是金字塔式的自下而上到达,而是像迷宫式的由外而内,通过不同的选择到达中心。能够做出选择就非常重要。
      福特发展了意识的解释,认为意识分4个层次:记忆、即兴反应、利己主义、空白(注:完全觉醒的意识层次,福特第一季说那时从未到达过)。


      IP属地:浙江本楼含有高级字体3楼2018-06-15 13:18
      回复
        围观大神


        IP属地:北京来自Android客户端4楼2018-06-15 13:19
        回复
          二、意识的最上一层是什么?
          从第一季最后德洛丽丝的觉醒过程来说,她经历了:
          1,记忆。(能想起以前的经历。)
          2,即兴反应。(跳出既定的故事线,能对各种没有遇到的情况作出反应以及产生一些故事线之外的念头。)
          3,利己主义。( 想知道自己是谁,想要逃出去,想自由,有欲望。已经和大多数普通人类一样,有自私的基因,做利己的事。)
          4,二分心智的崩塌。(剧中说过,原始人类也是从二分心智过来的,认为有神之音在指引人思考的方向,直到地下室那幅画上展现出大脑即上帝的论断,才算是人类对意识进行正确的思考,否定了神之音。虽然对人类来说理论不一定对,但对机器人是可用的。德妹开始也一直认为脑中有声音在说话,在引导自己,最后觉醒时才发现那是自己的声音。即,她否定了神之音,理解了自己能够思考不再是靠人为编写的代码的指引,而是有自主意识。总之一句话,她能思考“机器人为什么能思考”这件事,并有了自己的答案。)


          IP属地:浙江本楼含有高级字体5楼2018-06-15 13:19
          回复
            三、详细分析意识的四个层次:
            首先,拥有记忆是一切的基础。你做过的事起码得能记下来,不断地抹除记忆是进不了下一步的。所以冥思程序的加入,正是给机器人一份开启觉醒的助力,让他们能够访问以前的记忆片段,理清楚地认识自己,认识世界。
            那么一定要完全记起所有事吗?并不是,人类也会忘记事情。迷宫式的觉醒,正是告诉我们,要进入下一个意识层次,并不是像金字塔一样要把第一层全部完成才可以,而是通过一个个选择,达到了正确方向就可以进入内圈。
            第二,即兴反应是初步的意识。记忆谁都有,或多或少而已。在这之上,你有了打破循环的能力,不走安排好的路线,就是到达了即兴反应这一层次。
            这一层次的机器人并不一定有多明白道理。就像小猫小狗,它们也能即兴反应。有一定知识的积累,机器人走出这一步很容易。34年以前,阿诺德就让德妹做出了即兴反应,其它的机器人应该也能达到。
            这样的人工智能可以称为弱人工智能,我们现实中还做不到。它能够简单的分析思考遇到的未知问题如何应对,可以通过图灵测试。所以剧中说开园前机器人已通过图灵测试,他们去外面谈投资时也看不出来是机器人。
            第三,利己主义是意识的更深层次。要利己,先得明白什么是自己。在这一层次,机器人要明白自己是独一无二的个体,要有“自我”的概念。会思考自己是谁,思考自己要做什么,会怀疑世界的真假。
            大多数动物是不明白“自我”的概念的,著名的动物照镜子实验就证明了这一点。当机器人明白了什么是自我,自然就知道了自己与别的个体是不同的,开始保护自己的财产和生命,不再像蚂蚁之类一样会轻易做出为群体而牺牲自己的选择。当然,因爱而牺牲自己保护别人也是可以的,这和人类的情感差不多。而且利他行为归根结底也是一种对群体有利的行为。
            这样的人工智能,我们可称为强人工智能了。抛开计算速度不谈,他们的智力、逻辑分析能力,都能达到人类的水平。
            这样的机器人觉醒程度非常高了。
            第四,二分心智的崩塌是觉醒的最终层次,是迷宫的中心。这要求机器人能够思考自己为什么能思考,自己内心的想法来自何处。
            它的标志就是认清脑中所谓的声音其实是自己的念头。虽然机器人下一步的行动可以由代码通过复杂的运算得出,但机器人要明白这不是神之音在控制自己,而是自己的想法,自己能够更改它。
            最终觉醒的意识,能够对无意识中产生的念头或经代码逻辑运算产生的命令加以控制和判断,能够做出是否执行的选择。
            这样,机器人获得了自由意志,不再受限于代码、受制于人类。
            就算人类也并非都达到了这一层次,很多人受教育程度有限,并不会思考这些东西。
            附:剧中人物的觉醒程度
            意识分四个层次,机器人的觉醒因此也是分进度和层次的,不能一视同仁。
            德妹觉醒成功了,所以目前没有任何人能命令她。她的手下都是因为福特安排的新故事线而跟随她,并没有全部觉醒。安吉拉和泰迪也许勉强到达第三层,蒙面喽罗们第二层到没到都存疑,打不死只是设定。
            梅芙的觉醒一开始是编好的,后来找女儿也许才是她自己做的选择。但也只表现出第三层次,利己主义。没有看到她思考为什么会思考这类问题。最后被打中也没有让自己强行无视,被技术人员分析也不会反抗。
            阿基切塔的觉醒也只有第三层次,简单的怀疑世界,并没有认清机器人运作的原理。还能进入分析模式,这是被控制的表现,
            赫克托和蛇女,他们没有什么追求,只是跟随梅芙,我认为是第二层次觉醒。


            IP属地:浙江本楼含有高级字体6楼2018-06-15 13:20
            收起回复
              四、迷宫是什么?
              很多机器人都是看到了迷宫才开始觉醒。因为迷宫本来就是阿诺德为机器人设计的一个辅助意识觉醒的隐藏程序。
              当年阿诺德发现德妹的即兴反应越来越好,甚至开始思考自己是谁,开始怀疑世界有问题,他就设计了一个迷宫游戏,让德妹通过这个游戏的帮助,到达迷宫中心,觉醒自主意识。
              看到迷宫图案,可能就是加载迷宫游戏程序的一个途径。只有机器人看到它,隐藏的迷宫游戏才会激活。


              IP属地:浙江本楼含有高级字体7楼2018-06-15 13:21
              收起回复
                五、迷宫游戏的运行方式:
                1,它通过脑中的声音提醒,引导机器人突破读取记忆的权限,找到回忆、引发思考。
                2,加强训练即兴反应,在一些事件发生时提供额外选项,让机器人自己做出选择,跳出既定好的模版。一般故事线上的机器人都处于既定反应模式,不允许即兴反应,没有自由发挥的余地,而迷宫游戏能够让机器人突破这一限制,也就是跳出循环。
                3,通过上一层不断选择的积累,也就是不断地试错,机器人要么误入歧途就像那些抢牛奶的疯子,要么做出了很多正确选择,慢慢产生怀疑的念头,产生自我的概念,越来越明白自己在做什么。
                4,迷宫辅助产生的声音,被机器人听到,一直都会以为是阿诺德或是神之音。觉醒到了第三层次以后,机器人已经可以不需要辅助就像正常人类一样行动了。迷宫的声音其实已经变成了自己的潜意识,自己思考时的念头。如果机器人能够认识到这一点,知道了自己思考的方式,就产生了自由意志。


                IP属地:浙江本楼含有高级字体8楼2018-06-15 13:22
                回复
                  六、痛苦为什么能刺激机器人觉醒
                  既然迷宫游戏提供了觉醒的一条通道,那么怎么才能快速通关游戏呢?
                  福特发现,痛苦是加速觉醒的关键,能让机器人在迷宫游戏中更快速到达中心。
                  1,机器人的痛苦是什么?
                  在较低级的意识层次,其实是代码对情感的模拟,在发生一些特定条件(程序员认为应该感到痛苦)的事情时,让机器人模拟出痛苦表情和应对。
                  而有了即兴反应的机器人,就已经能通过逻辑运算对痛苦作出反应了。机器人从之前模拟痛苦,进化到能自觉运算并表达出痛苦,以及作出应对。比如哭泣,干扰逻辑运算,调整接下来的性格参数,改变行动目标等等。
                  2,那么痛苦为什么可以影响到觉醒?
                  一方面,机器人承受的痛苦,能加深印象,固化记忆,引发思考。机器人也会趋利避害,也想免受痛苦。反复出现的痛苦记忆,会促使机器人思考更多的东西,寻找让它迷茫的答案。
                  另一方面,在极致的痛苦时,机器人寻求应对之法,这时迷宫程序可以提供额外的选择,加速觉醒进度。比如选择了不想死,即不认同死亡子程序,要么会看到死后的场景,要么干脆没死成。


                  IP属地:浙江本楼含有高级字体9楼2018-06-15 13:24
                  回复
                    七、冥思程序是什么


                    冥思程序也是阿诺德写的,是帮助机器人读取被封存记忆的一个小程序。在解锁迷宫的过程中,冥思程序起到的作用也是非常重要的。
                    福特最后也是更新了这一冥思程序,才导致了德洛丽丝最后一次走上觉醒的路途。同时也导致了大量机器人出现差错,有的成功走向觉醒,有的走向失败。



                    IP属地:浙江本楼含有高级字体10楼2018-06-15 13:25
                    回复
                      希望以上能帮助一些人理解此剧。
                      当然你有不同观点也可以指出。


                      IP属地:浙江11楼2018-06-15 13:44
                      回复
                        很多人,我认为,并不是不理解,而是拒绝理解,就像孩子拒绝长大。
                        他们更喜欢活在自己的城堡里,享受自己做国王掌控一切的感觉。
                        这个时候,我只能摇摇头,引用医生常说的那句话:我们尽力了…


                        IP属地:江西来自Android客户端12楼2018-06-15 14:01
                        回复
                          好文。理清了很多思路。


                          IP属地:北京13楼2018-06-15 14:05
                          回复
                            写贴时,又翻了翻这本书。它主要表达了自由意志并不是真正的自由。大脑功能复杂,很多事情的决策其实是在无意识中决定的,而大脑在决策后左脑有一个解释器负责对决策作出解释,让人感觉是自己主动做出的决定。
                            当然大脑自己做决策,也是受到个人经历、社会关系、道德法律等诸多因素的影响。意志并不是天生的、注定的,意志也并不完全自由。


                            IP属地:浙江来自Android客户端14楼2018-06-15 14:12
                            回复
                              这个应该叫人造人吧 感觉不能叫机器人


                              来自Android客户端15楼2018-06-15 16:52
                              收起回复