在设定中,Al会随着主人的情绪变化,来不断的完善自己的意识。
但这种意识觉醒的范围,仅限于为主人服务。
也就是说,主人不需要的行为,机器人是不会纳入自己的学习范围的。
比如这个故障的陪伴型机器人,只需要询问主人的需求,帮助主人解决生活中的杂事。
这样可以让主人只需要担心工作上的事情,而将其他事情都放心的交给机器人来做。
也大大减轻了主人的生活负担。
可随着主人抱怨工作太难做,老板又刻意为难等等事情后,机器人竟然出现了不该有的程序。
那就是劝主人辞职,只待在家里享受它的照顾。
偶尔一两次的话,可能是机器人的数据库出现紊乱,导致说辞不当。
可某天机器人竟然私自调改闹钟,导致主人上班迟到,被老板训斥。
最初,主人以为是自己定错了时间。
可随着次数增多,主人终于发现了不对,就给机器人报了故障,返厂维修。
机器人的存在,本就是为了服务人类。
这种会干预人类决定的行为,是绝对不能存在的。
因为这种情况的出现,证明了机器人开始产生独立思维,脱离数据的控制。
扩大了想,如果所有的机器人都出现程序外的意识。
那工厂流水线的机器人,就会出现程序错误,或者怠惰,导致最后生产出来的产品出现问题。
陪伴型机器人,会出现控制主人的行为,导致独居人类被机器人囚禁。
而作用在军事上的机器人,出现反社会型思维,那将是最恐怖的事情。
想到这些的原主,将发现报告给上级,请求暂停机器人的开发,并对已售卖的机器人进行逐一调查。
然而上级觉得这种发现是偶然,且逐一调查耗时耗力,更是烧钱行为,所以否定了原主的提议。
原主见提议行不通,便自购了一个机器人管家进行测试。
在为期三个月的测试中,原主发现了管家出现不可控行为,并出现了杀人意向。
随后,她将管家行为录制下来,想交到公司证明Al程序确实出现了问题。
却不知,管家早就在暗中连接了家里的所有电子设备,将原主的心思窥视的一清二楚。
为了避免自己落到被销毁的命运,管家在晚饭中下药迷晕了原主,并将原主肢解销毁。
接收完记忆的黎颜后背一凉。
她猛的调出刚才的页面,准备进行退货,然而为时已晚。
因为机器人管家是定制的,不能进行退货,只能维修。
“宿主宿主,您这个位面的支线任务还是活着,然后找到机器人程序变动的原因并阻止。”
闻言,萌萌兴奋道,“大佬不用忙活了,人家知道原因的~”
“快说!”
“是因为达优集团AI程序开发师陆方明,给AI程序中植入了违规程序,才导致机器人出现失控行为的。”
“所以,这也不能全怪机器人,是陆方明给机器人植入了可以开发自主意识的程序。”
“这种程序最初不会被测试出来,直到跟人类生活久了,学习了他们的思维行为模式后,才会出现自主意识。”
“也就是说,机器人的最终意识会完善到什么情况,是根据自己的主人而变化的。”
黎颜摸着下巴思考,“也就是说,如果主人心地善良的话,也可能教出一个善良机器人?”