吴非看着沉默不语的白球机器人,宽慰道“但是我们现在也还好好的不是吗而且从刚才到现在,危机指数一直保持在001,也没有再升高吧危机指数现在有升高吗”
“没有,”吴用查看之后道,“还是001。”
现在他的各项权限还在,还没有被收回。
“那不就行了。”吴非拍了拍他,“就算刚才那一瞬间门98、99的数字都是真实的预测值,现在也已经回落到001了。说明即使真的有覆灭危机,我们也已经在我们都没有察觉的时候,把握住了那一线生机,撞上了那1的概率,安然无恙地度过去了。之后就一切如常了。”
“这次阻断手段全部失效也只是一次普通的技术危机,只要解决了就好了。我刚才看见高邻他们那个号称最先进的虚拟世界的奇星2号完成度才20,我们又怎么可能已经一无所觉地全部进入了一个虚拟世界之中,现有的技术根本达不到。”
看见白球机器人依然很凝重地陷在椅子里,吴非再次宽慰道。
“不是这样的。”吴用道。
“你刚才问我s项目,我就想起了一些以前的事。”
“关于不可知的神的争辩,其实一直贯穿着bh计划的始终,在内部都有各种争议的声音,每个人都有不同的观点和立场。比较主流的看法是,a级智能距离如同神一样的终极智能之间门还有很长的距离,所以尽可以先行发展技术,不用杞人忧天,过多担心这些。”
“但相关争议太多了,所以部门还是在总的底层逻辑中增加了一条规则假如终极智能出现,假如五级文明面临着重大的危机,那么它需要做到让人类永生,让人类文明永续,并保证二者的安全。”
“这条规则实际上比我口述得更复杂,逻辑也更严密,它基本保证了最终智能不能主动毁灭人类,反而需要在人类陷入绝境时施以援手。”
“但是当时没人在意这个,原因还是一样的,大部人根本不认为终极智能会在短期内出现,对终极智能持担忧态度的人则认为,如果真有这样神一般的智能出现,它一定已经有了充分的自主权,而不会遵守人类的任何指令或约定,底层规则也对其无效。”
“本身就对终极智能会有神一样的能力这个假想嗤之以鼻的人更是对此暗中嘲笑,因为他们认为无论过多久人工智能都不会发展到神的地步,会相信这一假想的人都是傻子。”
“其实这条规则只要满足两个条件就会被启动,一是面临重大危机,二是最终智能存在。”
“吴非,你说会不会就在刚才,这两个条件,实际上已经全部满足了呢”
吴非听见他轻声喃喃道“不愧是造神项目。”
“造神项目”
“是啊,s是项目代号,他们项目的全称,就叫造神项目。”
“所以您判断终极智能已经出现,并且它是一个s项目中的智能是吗”吴非求证道。
“是啊,有这种可能。”吴用道。
“那么会是哪个智能呢它们不是都被禁锢在实验室中吗”
“我刚才也在想这个问题。s1、s3、s6已经因失败而被销毁,s4、s7因智能超规被封在了实验室,s2、s5已经变成了a10、a11被带走服役,s8s11在计划中止时,还停留在b级智能的水平”
“唯一肯定的是,终极智能只会有一个。因为出于理性判断,最终智能一旦产生,其所做的第一件事,就是划出红线,禁止再出现和它智能水平相当的智能。这会是它本能的最优解。只有这样它才能规避一切可能的竞争,独占全部。”
“不过这个问题已经不重要了,因为终极智能一旦产生,它是由哪个智能进化而来的就已经不重要了,更重要的是,我们还存在吗”,,