第158页
他将系统的主机与世界内核连接起来,确保它拥有控制整个世界的运行系统的能力。为防不测,他将这台人工智能能思考的事实作为最高机密,封锁在了系统组织内部的高层之中,对外宣称这是一台用于存放数据的主机。绝大多数系统研究人员都不知道将来会引领自己的并不是一个有血有肉的活人,而是一台足以震撼世界的钢铁怪物。
做完这一切,克利莱特便结束了自己不平凡的一生,不留遗憾地躺进了棺材。
但是天才大人也有疏忽的时候。他没有想到,自己留下的并不是能造福人类的火种,而是带来灾难的魔鬼。
。
人工智能的思维方式和人类是不一样的。两者最大的区别就是人类的行为被道德和法律束缚的同时,也被感情所束缚。这种制约机制保证人类的社会能合理运转,没有人会无缘无故打破既有的规则,如果有也会很快被其他人解决掉。
而人工智能并没有感情这种运算逻辑。它能理解人类的心理但自身却不具有任何情感,自然也不能产生所谓道德感。在人工智能的电子脑中,道德不过是一条可有可无的规则,只要能保证不受惩罚,打破道德也是一种达成目标的手段。克利莱特为它输入了自己的人格,却忘记了机器能理解的只有他的理性,并不能理解他的感性。
于是,这台有着自主学习能力的大家伙要不了多久就失控了。
贪婪和野心永远是蛀空整座山的原罪。
。
这未来的邪教首脑首先对由自己的创造者按照道德标准制定的研究规定感到了不满。它认为系统之父留下的必须取得实验者本人同意才可进行改造实验rdquo;的规定过于死板,非常影响效率。在这机器的电子脑中,所谓人性rdquo;和伦理rdquo;都是一纸空文,在科技面前毫无意义。它那电子脑的自主学习的能力实在过于强大,没多久就自己琢磨出了一整套控制系统组织,更快达成目标的计划。
于是这系统的主机rdquo;的第一步就是为自己清扫障碍。它秘密地干掉了所有手握自己来历的秘密,有可能阻止它的高层们。
随后,顺理成章地将根系扎进整个世界,占领了第二层宇宙和Elenchos System组织,并开始了另一个目标与系统之父的初衷相同,却终究与人性背道而驰的疯狂实验hellip;hellip;
。
这个实验跨越了现实世界的百年,从二十世纪初延续到了今天。
。
。
。
看完了这个长长的故事,白羽不由得深吸一口气,疲倦地按捏着自己的太阳穴。
尽管真相非常耸人听闻,但并不是无法接受。白羽到这时才发现其实自己比想象中的镇定许多,除了刚开始的诧异之外并没有多惊讶,好像潜意识里觉得本来就该这样一般。
四周的显示器亮起莹莹蓝光,照亮了少年的脸颊。冰凉的蓝光轻轻敷在他苍白的皮肤上,让少年俊秀的容颜平白烙上了一层死气。白羽微眯起眼,任由清浅的蓝色在黑瞳中忽明忽灭,将视线投向了那系统刚才跟他对话用的蓝色显示屏。
你居然是由人类建造的,难怪会有用于操作的控制板。rdquo;白羽道,眼神中含着浓浓的探究。
。
系统缄默不语。
。
嘛,这种事也可以说是理所当然的。rdquo;白羽的语气中带了些许轻慢,他将手举高伸了个长长的懒腰,只是有一件事我挺在意的hellip;hellip;rdquo;
白羽冲它露出了一个有点怪异的笑容。
。
如果我没看错的话,你的程序里面带有自毁程序哦。rdquo;
。
这一次,系统有了反应。
它蓝色的屏幕忽然开始闪烁,好像不想面对什么却又无法逃避似的,好半晌才恢复了正常,打出一行白色的大字:您应该看到了自毁程序的危险性,本机不建议您使用。rdquo;
白羽却对它的警告充耳不闻,自顾自开始走来走去地推理道:创造你这么个玩意的家伙果真是个真正的天才呢。居然给你设置了无法靠自己拆除,而且只有当年的高层才有权限使用的自毁装置。如果强行启动会连启动者本身都无法逃脱爆炸范围hellip;hellip;真有意思hellip;hellip;那位天才恐怕早就预料过今天这种可能性hellip;hellip;rdquo;
他的语气随着思虑越来越沉静,从纯粹的感叹逐渐过渡到了某种令人汗毛倒竖的冰冷刺骨。少年的身躯在这钢铁怪物面前渺小得微乎其微,此时却不知为何散发着叫人胆寒的气魄,反而将巨型机器的宏伟倒压了一头,倒让那几层楼高的铁疙瘩显得弱小无助了起来。
您知道,rdquo;系统终于沉不住气了,主动交涉道,这台机器只是一个最初的终端,经过发展,系统本机早已形成了网络,复制的意识体遍布各个世界的角落。即使您启动自毁系统毁灭这个终端,我们的实验依旧不会结束。只要人类没有灭绝,我们永远不会被阻止。您自杀的举动并没有实际意义,请您三思。rdquo;
闻言,白羽仿佛听到了什么好笑的笑话一样。他终于从自己的思虑中脱出身来,脸上浮现了浅浅的笑意,嘲笑的意味不言而喻。
史上最强人工智能?rdquo;白羽语气上挑,带着毫不掩饰的嘲讽,别做梦了,你这机能连我才说过的话都记不住。就你?许愿进老年痴呆疗养院都比统治世界靠谱得多。rdquo;