从程序角度分析Gerty行为的合理性,二百四十五

日期:2019-10-13编辑作者:影视前线

很多豆友在分析时,认为gerty对sam产生了情感,所以做出了有如人类般的行为,即放弃了公司利益,保护朋友的性命,但我不敢苟同。

一部关于克隆人的科幻片,一家叫lunar的公司需要采集月球的能源供应地球,他们克隆了sam的无数个副本,每个只能用三年,每个从诞生的时候就被灌输了记忆,他们的合同是三年,在地球上有老婆和女儿在等着他们。第五个sam在最后两周的时候出了事故,第六个sam被激活,他救了第五个sam,然后他们最终发现了这个事实。最终,第五个sam因为时间到期而死亡,第六个sam重返地球。

这中间最令我感兴趣的就是gerty了,gerty在剧中不但向sam5,sam6透露了很多本应该算是公司高度机密的秘密,更是在最后为了保护sam6,奋然让sam6重启自己,以达到清理数据,防止公司获悉sam5,sam6曾经一起推测出真相及已经找到克隆人仓库的事实。

前大半段的节奏太慢了,都快看睡着了,最后还算精彩。

整篇电影的剧情是这样的:

这部电影的投资估计也忒小了,从头到尾只有一个演员,风格和我是传奇很像,一个人的孤独。想想也是挺可怕的,一个克隆人的所有的记忆,所有的快乐和痛苦,最后发现这一切却和自己无关。不过科幻片嘛,总是喜欢拿这些还没有实现的技术做文章。比方说,如果AI真的到了电影中的哪个水平,我实在看不出来还需要克隆人干什么,都让AI去搞得了。

但是,公司为了节省成本采用了sam克隆人以后,意味着在gerty的优先级系统内,月球工作人员的优先级需要做一番大改动。主要改动是, 有时候公司命令要置于工作人员命令之前(如,sam5事故后sam6被禁止出舱),但显然公司命令没有被赋予最高优先级,一个很明显的事例就是,sam6通过破坏内部管道,以修理外墙为理由,很容易绕开了公司的封闭命令优先级,这显然是AI命令优先级设计的重大缺陷,但对于真人来说这却不是缺陷(因为如果外墙真出问题,这是真正致命的),所以,推测出一开始设计AI时,并没有考虑到复制人的使用情况。第二,sam5在问gerty自己是否克隆人时,gerty诚实的回答了他,显然在gerty的程序里只设计了回避机制,没有设计撒谎机制,纵观全片,gerty在回答问题的时候,要么回避核心内容,要么诚实回答,很显然,这也是程序设计的故障,因为一开始设计的时候,服务对象是真人,又是商业公司,business上似乎完全没有撒谎的必要,回避似乎也足够了,而且还能显得gerty有时候很机智。此乃另一大败笔。最后一个败笔,就是gerty的help sam的优先级了,似乎help sam的优先级定义非常之前,以至于gerty告诉了sam5密码,告诉了sam5哪里焚毁了前几任sam,在sam5和sam6进入克隆人存储地下室也没有暴力阻止(这不像是邪恶组织的AI)。

——2016.07.13 20时,Kowloon·Hung Hom·PolyU,Hong Kong

-----------------分界线,以下涉及一个系统设计的优先级知识-------------

首先,lunar公司一开始送原版sam去月球前木有考虑用克隆人的事,否则原版sam大可不必干三年活,直接提供一段起始记忆和一段dna即可,所以我觉得,系统一开始是为人类工作所设计的。对于gerty来说,工作的人类优先级是大于公司大部分命令的。

注意,有大量剧透情节,so,看完电影再来看这篇影评。

首先,有一个人类sam,和能源公司lunar公司签订了一份三年的合约,合约的内容主要是,sam为lunar在月球上工作3年,在此期间不回地球,于是sam就在月球呆了3年,跟自己的妻子还有女儿利用实时视频交流,在此期间,跟妻子的感情也出了一定的问题。但总之,3年完了sam就回去了。

然后,lunar公司觉得每年派一个人过去太浪费公司经费,于是就复制了一打sam,植入sam的记忆,每三年放出一个来,在三年之期快满时将复制sam销毁,于是本剧开始就是sam5 的3年之期快到之时。sam5在一次出行中出了车祸,人工智能gerty认为sam5已经挂了,于是提前把sam6弄出来了,sam6出来后听到gerty和公司的对话,发现有一个雇员因为车祸滞留在外面,但gerty不让sam6外出,sam6于是就假装破坏公司管道,用修理外墙为理由,让gerty开了舱门出去查看,发现了sam5。 这时接到公司消息说已经派出救援队将在14小时后到达。 sam5和 sam6通过种种推理发现两人都是克隆人(sam6通过自己比sam5要迟出来,肯定了自己是克隆人,sam5直接问gerty, gerty告诉了sam5),又通过一番推理(主要是sam6),推理出公司救援队必然会在到达时干掉他们,于是sam6就建议把sam7放出来,放在事故现场代替sam5,然后让sam5乘坐运送产品的火箭回地球,但sam5身体已经不行了(大概是因为公司在克隆人基因中加入了时限),又不忍心伤害sam7,为了保护sam6,sam5又回去了事故发生现场,而sam6则决定乘坐火箭去地球揭发lunar公司的邪恶秘密。

那么这些东西反映出了什么呢? 我觉得主要是以下几点:
1。 gerty是外包的,或许是当时流行的ai平台稍作修改,lunar毕竟是一个能源公司,又一贯抠门,而且只有一个gerty的需求,所以外包不奇怪,而且外包的时候合同里估计也多为考虑真人为需求的。
2。 在决定用复制人代替真人后, gerty的升级不是交给原来的公司做的,所以优先级处理的一团乱,又没有引入谎言机制(说不定让ai撒谎要的经费比一打克隆人贵多了,lunar太抠,不肯做)。

这告诉我们什么道理呢?软件外包害死人啊。。。。

本文由小鱼儿30码发布于影视前线,转载请注明出处:从程序角度分析Gerty行为的合理性,二百四十五

关键词: 小鱼儿30码 小鱼儿30码资料

和儿女共同迸发追逐梦想的力量,为何那部电影

《疯狂动物城》那部影片从上一季度就热映了,看过的人都说,不错,值得一看。作者迟迟没有去看,原因有三:1...

详细>>

为灵魂和华夏影视的前景贡献点力量,雅观

看得出主要创作的勤学苦练,值回票价,不枉笔者特别在看第二部前一再了遍第一部。 听到效果很棒,保留了本连串...

详细>>

残疾的意义,楚乔传詹子瑜两只脚残废是假的终

看不见就被认作是什么都不知道,被质疑。看起好心痛女主。生活需要处处留心,因为健全的人,往往更容易忽视周...

详细>>

笔者代表果断弃剧,蜘蛛侠告诉大家的几点道理

本人不是考据派,小编也没看过蜘蛛侠漫画,作者正是叁个来看电影的老抽男。所以作者只能从那部戏里得出的一对...

详细>>