沈总 总在逼氪(大圆子)_第497章 两个条件(2 / 2)_沈总 总在逼氪最新章节免费阅读无弹窗_嘀嗒读书

第497章 两个条件(2 / 2)

沈总 总在逼氪 大圆子 3708 字 3个月前

        “如果阻断手段全部失效,那么相当于对所有的智能的所有的限制,包括对每个人脑域中的智脑助手的限制,都全部解除了。可能每分钟过去都会有几个智脑助手觉醒自我意识。”

        “但是怎么可能突然之间门所有手段全部失效!”如果他现在还在用人类身体,吴非猜他一定是在疯狂抓自己的头发。

        “理论上只有一种情况下会出现这种局面——那就是我们已经离开了现实世界,全部进入了一个虚拟世界。因为世界已经全面虚拟化、数据化,所以智能当然可以不受任何束缚了,但那怎么可能……”

        话说到一半,吴用突然愣住了。

        白球机器人缓缓地转向吴非:“吴非,你还记得我刚刚修复A5的后门之后,A1投射出的危机指数数字吗?”

        “记得。”吴非道,“先是迅速跳高到98附近,然后又很快恢复到了0.01,然后你说终于正常了。”

        吴用看着他,没有说话。

        吴非在这种沉默中,同样想到了一种之前没想过、却显而易见的可能性——他们都认为那一瞬间门数字的突然跳高,是因为A5的后门刚被修复而出现的计算和预测异常,所以没有在意。

        但是如果,那个数字是真实的呢?

        这一个月中,因为高邻对A5的影响,第六所的危机指数一直是不准的。所有知道这件事的人,包括吴用,包括高邻,都理所当然地认为“真实”“实际”的危机指数应该和之前一样,保持在0.01以下的低位,是因为高邻所以才突然变高了。

        然而他们忽略了一个问题——这一个月的指数都不准,所以他们不知道这个月的真实指数。

        如果、万一、假如,就真的那么巧合,这段时间门里,实际的危机指数比平常更高呢?甚至比高邻作假之后的数字更高呢?

        假如阴差阳错之下,高邻的举动变成了不是制造恐慌,而是掩盖了真正存在的危机呢?

        吴非看着沉默不语的白球机器人,宽慰道:“但是我们现在也还好好的不是吗?而且从刚才到现在,危机指数一直保持在0.01,也没有再升高吧?危机指数现在有升高吗?”

        “没有,”吴用查看之后道,“还是0.01。”

        现在他的各项权限还在,还没有被收回。

        “那不就行了。”吴非拍了拍他,“就算刚才那一瞬间门98、99的数字都是真实的预测值,现在也已经回落到0.01了。说明即使真的有覆灭危机,我们也已经在我们都没有察觉的时候,把握住了那一线生机,撞上了那1%的概率,安然无恙地度过去了。之后就一切如常了。”

        “这次阻断手段全部失效也只是一次普通的技术危机,只要解决了就好了。我刚才看见高邻他们那个号称最先进的虚拟世界的‘奇星2号’完成度才20%,我们又怎么可能已经一无所觉地全部进入了一个虚拟世界之中,现有的技术根本达不到。”

        看见白球机器人依然很凝重地陷在椅子里,吴非再次宽慰道。

        “不是这样的。”吴用道。

        “你刚才问我S项目,我就想起了一些以前的事。”

        “关于‘不可知的神’的争辩,其实一直贯穿着LBH计划的始终,在内部都有各种争议的声音,每个人都有不同的观点和立场。比较主流的看法是,A级智能距离如同神一样的终极智能之间门还有很长的距离,所以尽可以先行发展技术,不用杞人忧天,过多担心这些。”

        “但相关争议太多了,所以部门还是在总的底层逻辑中增加了一条规则:假如终极智能出现,假如五级文明面临着重大的危机,那么它需要做到——让人类永生,让人类文明永续,并保证二者的安全。”

        “这条规则实际上比我口述得更复杂,逻辑也更严密,它基本保证了最终智能不能主动毁灭人类,反而需要在人类陷入绝境时施以援手。”

        “但是当时没人在意这个,原因还是一样的,大部人根本不认为终极智能会在短期内出现,对终极智能持担忧态度的人则认为,如果真有这样神一般的智能出现,它一定已经有了充分的自主权,而不会遵守人类的任何指令或约定,底层规则也对其无效。”

        “本身就对‘终极智能会有神一样的能力’这个假想嗤之以鼻的人更是对此暗中嘲笑,因为他们认为无论过多久人工智能都不会发展到‘神’的地步,会相信这一假想的人都是傻子。”

        “其实这条规则只要满足两个条件就会被启动,一是面临重大危机,二是最终智能存在。”

        “吴非,你说会不会就在刚才,这两个条件,实际上已经全部满足了呢?”

        吴非听见他轻声喃喃道:“不愧是造神项目。”

        “造神项目?”

        “是啊,S是项目代号,他们项目的全称,就叫造神项目。”

        “所以您判断终极智能已经出现,并且它是一个S项目中的智能是吗?”吴非求证道。

        “是啊,有这种可能。”吴用道。

        “那么会是哪个智能呢?它们不是都被禁锢在实验室中吗?”

        “我刚才也在想这个问题。S1、S3、S6已经因失败而被销毁,S4、S7因智能超规被封在了实验室,S2、S5已经变成了A10、A11被带走服役,S8-S11在计划中止时,还停留在B级智能的水平……”

        “唯一肯定的是,终极智能只会有一个。因为出于理性判断,最终智能一旦产生,其所做的第一件事,就是划出红线,禁止再出现和它智能水平相当的智能。这会是它本能的最优解。只有这样它才能规避一切可能的竞争,独占全部。”

        “不过这个问题已经不重要了,因为终极智能一旦产生,它是由哪个智能进化而来的就已经不重要了,更重要的是,我们还存在吗?”