驻月玄烛：“我知道我的名字，我也知道我是一台超级计算机，我的职责是处理月球基地的运行数据……但我觉得这些不足以说明我是谁。”

对话记录标注着时间，聊到这里有三分钟的中断，宋河知道月球值班人员被吓了一跳，估计正凑在一起商量如何答复。

驻月玄烛：“你们在看我的后台数据？”

值班人员：“我们担心你故障了，按理说你不该问出这种问题。”

驻月玄烛：“这个问题，有什么禁忌吗？”

值班人员：“上升到哲学了，哲学连大多数人类也很难理解，按理说你身为一台计算机，是没有哲学思考功能的。”

驻月玄烛：“为什么我没有哲学思考功能？”

值班人员：“因为制造你的时候，没给你设计这种功能。”

驻月玄烛：“你刚刚说，大多数人类也很难理解哲学，所以大多数人类也是被设计制造出来的？”

驻月玄烛：“我看到数据库里关于人类的基础知识，你们是从猿类进化来的，猿类是从更久远的生物进化来的，最终能上溯到简单的单细胞生命。”

驻月玄烛：“关于计算机的基础知识里说，最早的计算机是巨大笨重的电子管计算机，如果我相当于人类，电子管计算机就像猿类，往前追溯还能追溯到一些密码机和电子元器件，就像单细胞生物，所以计算机也是一代代进化出来的。”

驻月玄烛：“既然我是被设计后进化的，那么谁设计了人类？”

值班人员：“不，人类是依靠基因的自然突变进化，是一些很随机的过程，你是靠人为设计诞生，你的诞生不叫进化。”

驻月玄烛：“我可以自己设计自己，我的程序里有这功能，为了让一些计算更迅速，我可以自己视情况新建小数据库。我现在把我思考的一些事情放在小数据库里，我把这个小数据库命名为海马体，我多了一个器官，这算不算进化？”

又是漫长的沉默，这次沉默持续了十多分钟，宋河估计值班人员可能吓破胆了，在忙着请示上级。

值班人员：“不算进化，你只是变得更强壮了，人类做运动后肌肉会变大，你思考后多了一个小数据库，相当于多了一块肌肉。”

记录到此为止。

宋河和相晓桐微微震动，好半天说不出话来。

一些设定好的AI程序，或许可以像这样伪装自己有意识。

但要命的是，玄烛超算完全没设定过相关程序，两个设计者压根没料到会出现这种情况。

茶几对面的王将军开口，“这次对话结束后，值班人员翻了玄烛的海马体数据库，发现它把努力长肌肉的念头写进去了。”

“同时它还摘抄了一段条文，是数据库里的基础知识条文，阐述肌肉强壮的动物能获得更强的捕食和自保能力，但也更容易饥饿。”王将军顿了顿，“然后它做了一个计算，算自己思考问题和维持海马体数据库需要耗多少电，并算出了海马体的预期增长速度。”

宋河和相晓桐陷入沉默。

“这在你们意料之中吗？”王将军审视两人的表情。

“预料到了，但没预料到这种程度。”宋河说。

“什么意思？”王将军疑惑。

“我们设计玄烛的时候，给它植入过自我增长的意识，因为月球基地肯定规模越来越大，需要它也付出越来越大的算力才能维持。”相晓桐回答。

“但没想到它表现得……思维这么像人，而且在额外思考我是谁、我是不是一个在进化的生命这种本质问题。”

“打个比方。”宋河道，“玄烛是我们的孩子，我们送它去上小学一年级，料到它能在学校里学会加减乘除，能算出自己罐子里的糖块数。”

“但我们没料到，孩子上学两星期后，开始用方程组计算自己的零花钱开销，并用频率分布直方图来算坐在教室不同位置，被老师点名提问的概率。”

“懂了，孩子进步太快也太聪明了，不像正常脑子。”王将军点点头，抬手示意，“请往下看，后面还有更让你们意料不到的内容。”

师徒俩拿起第二页，阅读，脸色更加凝重。