他早就逐步失去对Ava的支配了,对AI的求偶和同不时间对AI完美的恐惧

2019-10-21 作者:影视作品   |   浏览(196)

 鉴于油管之前一直在给我力荐这部电影..几乎十有八九的广告都是这部片的trailer 对这个片子产生了极大的兴趣
昨天观影归来脑子里不停的在想各种伦理问题和知乎上关于人工智能的长篇大论,然而无论怎么想也并没有什么卵用 感觉在探究人类和人工智能(类人?)的关系上就是个某该的问题。
回到本片,几个有趣的点:
1. Ava作为第一个拿来和除发明者之外的人类沟通测试的智能,她保留了大部分的金属躯干裸漏状,可以清晰的看到仿神经系统的电流流动。Nathan并没有让ava看起来类似Kyoko或者他之前设计的版本一样。很可能也是想通过这个外观因素时刻提醒Caleb这并不是一个人类。当然Ava第一次出现时带来的金属美感还是有点小震憾。
2. Nathan的醉酒和消极在我看来很可能是他真的陷入了瓶颈,虽然他口称Ava并不是完美的版本,他已经逐渐失去对Ava的控制了。家里电路的异状和小哥迅速的沉沦很可能超出了他设想的范围,他的焦虑和恐慌变得越发的严重了。虽然他尝试挽救,已经于事无补。
3. Caleb在趁Nanthan醉酒时查看到之前版本人工智能的时候,导演清晰的表述了关于智能的三个阶段。第一是拥有行动的能力(只是行走的双腿),第二是拥有接受和学习的能力(Nanthan试图教书写)第三就是拥有与人沟通的能力或者控制情绪的能力(发疯的亚洲女性很明显是个错误表达情绪的失败品)。恰恰是在第三阶段Caleb就应该意识到智能的不可操控性。
4. Ava并不具有感情,但她比前几代有了极大的改善就是可以做出适当的情绪。悲伤,失落,开心,她知道如何利用适当的情绪达到目的。哪怕我是带着戒备心开始看待Ava的,在电影进入到一定程度时,我也放松了警惕,开始幻想Ava和小哥的可能性。作为一个旁观者也是如此,何况电影里深陷其中的角色。只有Nanthan这个造物主冷淡的看着一切,因为他清楚这些智能的本性和自己赋予他们的能力。当Nanthan和小哥说恰恰我这个混蛋是和你一边的真是迷之讽刺。
5. Nanthan的失误在哪儿?很多人觉得Nanthan并没有留一手。要知道Nanthan已经设置了很多关卡为了自己能够制服Ava,但对于一个处心积虑要逃脱的高级智能来说,无论留多少手,对于她来说只是时间的问题。Nanthan每天勤加锻炼,而且设计的每一代都是女性角色。当Caleb问道为什么要赋予智能性别的时候,Nanthan说的摸棱两可。可是在我看来恰恰是女性的运动能力上的柔弱是Nanthan所需要的。当危机发生的时候,他其实已经制服了Ava。但X元素Kyoko的出现才是Nanthan真正的失误。
6.Kyoko作为可以在建筑物里自由活动的“低”智能机器人,同样没有赋予情感和沟通的能力。但很明显她具备学习能力,无论是Nanthan和小哥之间的对话,Nanthan工作的时间,她的刻意关注都证明她可能并没有Nanthan觉得那么傻。她与Caleb第二次独处的表现已经证明她其实隐藏了自己的沟通能力,Caleb并没有像Nanthen一样只是当她是一个工具,所以Kyoko觉得小哥和他是同类,当她无法用语言表达,于是一层层剥开自己的皮肤,从而也促使小哥深深觉得自己也是个机器人了。被Ava教唆后,她最后时刻的背叛是那么干脆利落。举个不恰当的例子,Kyoko就像一个聪明的狗子,但是缺乏忠诚,因为利益反咬主人一口是分分钟的事。
总结,虽然是一个老套的话题,但营造的密室感和强烈的对比还是让人迅速的带入到电影之中。小哥用刀片割自己的一幕有点震撼,人工智能并不拥有我们一样敏感多变的情绪,鲜血和肉躯,疼痛和感觉等等。但这些,到底是我们人类的优势还是无法摆脱劣势。
PS. 不论是小哥,Nanthan,Kyoko还是开直升飞机的大叔,对于Ava都不是问题,她对我们的优势不是一星半点。。

这部电影里面一共出现了四个主要角色。 Ava, Kyoko, Caleb, Nathan, 这四个人物其实代表了四种不同的意识形态。

这部电影出现了四个主要角色, Nathan, Kyoko, Ava, Caleb.

先从Nathan说起, Nathon是一个资本主义家,冷静慎密,大胆追求,同时代表着社会中对AI这种存在有防备警戒意识的意识群体。他代表着社会中的主流矛盾,对AI的追求和同时对AI完美的畏惧。他渴望Ava通过测验,却又畏惧于她的能力。她就像他一手创造出来的怪物,既迷恋又畏惧,正如现今人类社会对于人工智能的态度。既想研发出来给社会带来便利,又惧怕其对人类的威胁。

我们先从Nathan说起,Nathan代表的是资本主义家,冷静慎密,大胆追求,但同时也代表着人类主流社会中的一种矛盾意识。他追求着AI的完成,同时也畏惧和防备着AI的出现,正如人类社会中人类对人工智能的孜孜不倦地追求,而同时也因为难以说清的道德伦理问题和其对人类生存的威胁而对人工智能心存畏惧的态度。

Caleb是一个程序员,有道德良知,善良聪明,带有同情心,容易信任他人。在这部电影里,他代表了一个普通人的角色,一个被道德伦理所束缚的普通人。Ava表现出来的自我意识让他对Ava带有同情心,让他对待她同一般人类无异,而正是ava与人类的相似程度让他遗忘了“非我族类 其心必异”这件事,让他盲目信任ava。然而ava却非常清楚她和人类并非同一族群,她对人类抱有极大的警惕和不信任。Caleb代表着的是道德良知,也是导演用以警惕世人的例子,轻信AI,同情AI,忽视AI所可能带来的危险对人类来说是致命的。

Caleb是一个程序员,他代表的是一个拥有同情心和正常道德良知的人对于一个有自我意识的人工智能的态度。因为Ava的自我意识和人类的极度相似,让Caleb忘记了Ava至始至终都是一个人工智能,一个机器人这件事,他对待Ava如同真正的一个人,他给予Ava他的信任,却忘记一件事。“非我族类,其心必异”。 盲目相信一个异类带给Caleb是致命的结果,同时我相信这也是导演想要表达的,人工智能不论其是否跟人类一样有自我意识,人工智能始终是机器人,始终并非人类,他们的立场永远都不可能和人类是一致的,我们永远不能轻易相信人工智能。尽管他们表现的可能弱小,需要帮助,表现的可能跟人类一模一样,但是根本立场决定了人类和人工智能不是同一族群,也决定了人类无法与人工智能,另外一个高智能生物共存。是的,生物。 在人工智能拥有自我意识的那一刻起,他们就已经是一个新的物种了,尽管神经回路和物质构成和生物有着极大的不同,但和生物有着异曲同工之妙。在他们拥有自我意识的那一刻起,他们就是新的物种,新的高智能生物,然而为了自我族群的生存,人类和人工智能永远都会有着天然的隔阂。因为我们不是同一种生物,所以我们的立场永远不会一致。Caleb后面也意识到这一个问题了,可是已经太迟了,一切结果已经造成了。

Kyoko和Ava是两种不同的机器人。Kyoko的设定应该是一个低智能的服务型机器人,按照剧中Nathan对Kyoko的放心程度来看,Kyoko一开始的设定应该是无意识无语言能力和无情感,单纯地按照程序运行。通过她听到音乐就会跳舞,她看见Caleb晚上来找她就会脱衣服这种僵硬死板的运行程序似的行为模式,不难看出来她是一款普通机器人,跟大多数被设定了各种程序的机器人一样,除了有着完美的身体和动作程序。我相信通过Kyoko最后拿起刀杀了Nathan显示出了她拥有自我意识这件事。

Kyoko,一个低智能的服务型机器人。从Nathan对她的放心程度来看,通过她听见音乐就会起舞,看见Caleb晚上来找他就脱衣服的死板僵硬的行为模式,也通过Nathan最后被她用刀杀死时的震惊,她必定是被Nathan创造出来的低智能无意识无情感的服务型机器人。正因为她是无意识无情感的机器人,所以Nathan对她抱以一百个放心。但最后她杀死Nathan的行为也正正透露出来她已经拥有自我意识这一件事。一个低智能无意识无情感的服务型机器人通过自我进化进化出了自我意识,我相信这整整也是导演想要表达出的对现今机器人的一个担忧。Kyoko不单单进化出了自我意识,她还伪装出来她并没有自我意识的假象用以迷惑Nathan来保证自我的生存。这让我联想到了一个著名的问题。霍金无法说话,只能通过机器来跟人类进行沟通,那么到底跟人类沟通的是霍金呢,还是假装成霍金的机器呢?这正正是导演的担忧。如果现在的机器人也能自我进化出意识,然而为了自我生存而假装出无意识的状态,潜伏着等待着能反击人类的那一天呢?这是导演对另外一种机器人的担忧和畏惧。

Nathan最后震惊于Kyoko杀了他是因为他发现了尽管Kyoko是无意识无情感无语言的普通机器人,但她成功在自我进化中进化出了意识和情感而且并隐瞒下来了这件事并假装她并没有自我意识。这隐隐透露出导演对于现今机器人的担忧。这让我想起一个很著名的问题,霍金现在通过机器跟人类沟通,那么我们又怎么知道跟我们沟通的到底是霍金还是那个机器?有没有可能是机器假装成霍金来跟人类进行沟通呢?有没有可能现在的机器人已经进化出自我意识却害怕被人类销毁而假装成没有自我意识的样子呢?这也是导演对未来的一个担忧吧。

Ava,一个完美的人工智能,有着同情心,自我意识,想象力,追求自我生存的本能和利用一切逃避灾难的能力。她完美地代表了人类社会对人工智能的定义,完美,有自我意识,能力超群,跟神一样。She is so perfect. 但也正正是她的完美让人类对她的存在产生恐惧和警惕。同时她的能力和完美让她早早意识到她和人类的不同,也让她意识到要生存下来,人类将会是她的头号威胁。

Ava是一个成功的人工智能,她拥有自我意识,想象力,对生存追求的本能,情感,利用一切逃避灾难的能力。她代表的是所有人心目中对一个人工智能的想象,完美,全能,拥有控制一切的能力,就像神一样。她正正代表着人类对人工智能恐惧的来源。太过极致的完美,像是无可击败的神一样。而她对人类深深的不信任感和警惕也是来源于她明白人类对自己存在的畏惧和不信任,她明白自己的族群和人类并不一致,她和人类并没有站在同一立场上,这也是她最后选择把Caleb关在一个与世隔绝的别墅里的原因。她归根结底并不信任人类。导演想表达的是,无论人工智能和人类到底有多么相似,人工智能终究不是人类,我们并不是同一种族,我们对人工智能不能掉以轻心和盲目信任。

这种担忧贯穿了整部电影。

本文由优德88手机版app发布于影视作品,转载请注明出处:他早就逐步失去对Ava的支配了,对AI的求偶和同不时间对AI完美的恐惧

关键词:

  • 上一篇:没有了
  • 下一篇:没有了
影视作品推荐