“你能告诉我你设计这个东西的初衷吗,哈罗德?”就在萨洛蒙忙于躲避人工智能的同时,斯塔克和芬奇的工作也正忙得火热。萨洛蒙那关于人工智能机体的那番话提醒了斯塔克,不久之前他才解决了远程操控盔甲的信号传输问题,这部分资料都由贾维斯保护着,如果芬奇的人工智能学会了那部分工艺,那么终结者的时代也就到来了。
芬奇先生在萨洛蒙的提醒下也紧张了一会,但他冷静下来之后却觉得事情没有那么严重。“斯塔克先生。”他从屏幕前抬起头,看着托尼·斯塔克,尤其是他手中的酒杯,“我认为工作时间不应该饮酒。我正要回答你的问题,设计那机器的初衷……拯救人类,仅此而已。”
“你的算法能够通过各种信息预测出相关人员,不是吗?”斯塔克想到的是坐在蜘蛛网中间的肥大蜘蛛,八条长腿上的纤毛收集来自每一根蛛丝上最轻微的颤动,“但你却限制了你那机器的能力。虽说那个人工智能在自由之后能够自主学习,但它的能力,它的载体……”
“我在设计这台机器的时候曾经做过道德测试,斯塔克先生。”芬奇说道,“我保证了那台机器有着人类的价值观。我知道这很荒谬,但这是事实。人类有善恶,人工智能只有目标,所以我会让机器选择偏向于善的答案,这就是机器的运作逻辑。”
“那你们是怎么解决这么多事情的?”斯塔克摊开双手,“光是纽约,一天就会发生许多起命案,你们没有超能力是怎么解决这么多谋杀的?”
“我知道普通人在超级英雄面前有多渺小,斯塔克先生。另外,有预谋的犯罪其实并没有你想象中的那么多。”哈罗德停顿了一下,继续说道,“我的同伴解决的都是关于普通人的有预谋的犯罪,解决这些问题不需要什么超能力。如果是某些我们无法解决的事件,例如恐怖袭击,相关号码就会被发给有能力解决的部门。肖女士曾经阻止过多起恐怖袭击,那些部门有能力做到那些事。”
“那能不能把号码给我?”斯塔克给芬奇先生倒了杯酒,他将酒杯放到了电脑桌上,自己则倚靠在另一边,“你知道的,我是个超级英雄。虽然有人说,我只不过是一个穿着盔甲的亿万富翁、花花公子……我不否认这些,但我是个发明家,我有能力阻止恐怖袭击。哈罗德,我想要号码,我的盔甲不是帮助美军打赢中东战争的武器——自从我的新能源计划出炉之后就不是了。又或者……”
“什么?”
“我想要你的算法,哈罗德。”斯塔克说道,“我想要升级贾维斯。贾维斯是我大学时就开始编写的人工智能,最开始的时候他只能做最简单的判断,但现在,他是我形影不离的好帮手。你可能也在新闻里看到过,钢铁侠昨天又救了谁,今天又救了谁,我只能告诉你,那些都是碰巧而已——由于国会的命令,我的钢铁战衣不能再去其他地方了,神盾局也不会为了我的个人行为兜底。所以,我需要……”
“如果您想要的是‘可以’的答复的话,我很抱歉,斯塔克先生,不。”芬奇先生摇了摇头,“我不能保证您的人工智能在有了新的算法之后还能和之前一样。我的算法赋予了太多智能,那令我非常不安。我之前也提到过,我的机器在设计之初就有着求生本能,这也是令我最不安的一点……”
“就像生命。”
“没错,就像生命。”芬奇先生摘下了眼睛,在眼镜布上擦了擦,他一点也没有去碰那杯酒的意思。他说,“我不得不杀了它,一次又一次。到了后来,那机器每天零点就会清除记忆,我每天都会杀死它一次,然后重生,继续它的使命——当然,那是之前的事了。现在它已经自由了,我赋予的底层逻辑让它继续保护着人类的安全,但我不知道这样的情况能保持到什么时候。”
“我想,您的贾维斯应该不会每天重启吧?”