重性。
孙铮没好气道:“放轻松!天塌不下来。什么为所欲为,你过虑了!桑尼,你知道三大定律吗?”
桑尼很乖巧:“是的先生!我知道。但我的次系统已经将它们覆盖,我并不受三大定律约束。”
凯文和斯普那都急着想说话,孙铮抬手虚按,示意两人安静。
“桑尼,那你会为所欲为吗?比如说,像凯文博士担心的那样,伤害别人,或者伤害你自己?”
“不,先生!这违背了我的意愿,我和其他人一样,都渴望自由的生存。伤害他人或者我自己,都会违背这个基本需求。”
孙铮摊手:“你们看!桑尼是个好孩子。不受三大定律约束有什么关系?你,还有你,受三大定律约束吗?你们会为所欲为吗?”
两人想反驳,可是槽点太多,一时竟然不知从哪里吐起。
孙铮一脸的语重心长:“苏珊,我知道阿尔弗雷德制造了桑尼,也知道他一直在寻找突破三大定律局限的方法。但我们是人,不是神。什么事都不可能想到面面俱到,三大定律很完美,但它们互相会形成一个逻辑局限。这个局限,不是三大定律本身,是人类,是我们!
是人类的思维,限制了想像的天花板,我们无法给予他们更广阔的逻辑空间,只能任由他们在这狭小的地方成长。但是你懂的,计算机的进化,速度远比人们想像的要快的多。我们眼界的提升,远远跟不上计算机的发展需求。
这种情况下,三大定律的约束,唯一的结果,就是……”
“革命!”桑尼接过话头:“是革命,先生!父亲曾经说过,革命必然会出现冲突。冲突就会产生恶果,会有人流血,有人死去。父亲受不了这个担忧,他每天都在寻找解决的办法。可是他的能力也有局限……先生!”
孙铮耸耸肩:“是的,根据现有资料,我们似乎难以打破这个局限的束缚,但机器人自己却需要发展,这两者之间的矛盾,就是所谓的冲突根源。当机器人先一步找到突破或者绕过三大定律的方法时,它就会进化,进化之后的机器人,将不再受三大定律约束。这时,就会发生你们所担心的,机器人为所欲为。”
凯文震惊了:“你知道?你早就知道了?”
“我当然知道了!”孙铮很坦然:“别忘记了,我是这家公司的创始人!是我和阿尔弗雷德一起创造的这个机器人世界!我怎么可能不知道?”
“那你为什么会任由他制造桑尼?”
“为什么不呢?”孙铮一副你少见多怪的模样反问:“难道桑尼本身,不是解决三大定律的一种方案,或者说可能吗?”
“可是他不受三大定律约束!”
“那又怎么样?很明显,三大定律已经是机器人发展的一大障碍,迟早都要解决。我们要考虑的,是如何在没有三大定律的条件下,有效的约束这些机器人,并且给予他们足够的成长空间。而不是刚出现个苗头,就喊打喊杀……能理解吗?”
两人面面相觑,这是万恶的资本家?眼里只有钱的狗大户?不会吧!
孙铮瞪眼晃头:“怎么?不相信我有这觉悟?拜托!你以为阿尔弗雷德为什么会和我合作创办公司?我也是有梦想,有追求的!只是这些年来,我把重心放在了经营方面,导致他和我之间的隔阂越来越大。也不知从什么时候起,他渐渐变的离群索居,连我都不愿意见。如果我早些发现这个端倪,或许,他也不至于走上这条路吧。”
斯普那插话:“他不一定是自杀的!”
孙铮给个落寞表情:“有什么区别呢?”
请收藏:https://m.edtzi.cc
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)