设置

关灯

第491章 禁忌的绝对命令 (2 / 4)

《关闭小说畅读模式体验更好》

        “本身的悖论?”

        “帝国将人视为资源,但它的运转本身又需要人类思维的操纵;它的发展需要巨量的能量,但其逐步统治世界的战略又是需要打消耗战的长期计划;为了解决这些问题,他们做了许多尝试,作为探测器的原兽和对其施加影响的人工智能也正是因此而出现,但这已经脱出了它以人为基础的最初目的,进而直接否定了它所研究的科技本身。”

        “对于一个没有政治人文,完全建立在技术决定论上的存在来说,否定了技术就等于是否定了它存在的根基。帝国内部因此而分裂,支持与反对派的争论日益升级,正是这样的冲突最终导致了它的毁灭。能毁灭那种存在的只有创造了它的人,帝国破灭之后支持派的成员大多都选择了自杀。他们建立帝国是为了脱出人类的限制,但最终他们仍旧毁于人类的信仰。”

        江桦默然。他又想起了精神病院内那个疯疯癫癫的半山,当初他与其相见时还只认为那是精神病人的疯言疯语,但现在看来那恐怕就是幸存的帝国成员的模样。依旧坚守着虚构的蓝图,在脑海里坚持着那个被他们所统治的世界。他在帝国的时代是真正的天才,而在不属于自己的时代只能被当作疯子。

        “好消息是,这种矛盾似乎也同样存在于作为帝国产物的谢春儿身上。”甲话锋一转,“人工智能是为了取代人类生产力而被制造出来的,比起驯化人偶的繁琐,没有思想的机器当然更便于控制。但谢春儿却拥有着高度发达的自我思维,某种意义上太过趋近于真正的人类,这与她作为人工智能的力量有着很强的冲突。”

        “作为机器…却拥有着人类的思想。”江桦低声说,“这就是不被规则认可的部分么?”

        “如果它仅仅是拥有人类的逻辑思维能力的话,那象征着技术的进步,帝国没有不接受的理由。”甲缓缓道,“真正令他们恐惧和不满的部分,是谢春儿表现出了人类的‘感情’。”

        江桦一凛:“感情?”

        “这种事情很难解释,但遗留下来的记录中,0011100010001号曾经有过行为异常的记录。它很多次违背了人工智能的最优法则,有时甚至会为了一个人而牺牲掉一群人。这种行为无法被预判,也无法用常规算法去调整。他为此研究了许多年,但最终只能用‘感情’这个抽象因素去解释这些非理性行为。”

        “直到现在我们也不知道它的感情是从何而产生,只能认为是对人类行为学习能力的进化。创造了它的人无法删除这一属性,只能在网络内添加了一条针对所有机器的‘绝对命令’来禁止他们的感性行为,以防止重蹈覆辙…而那就是我们的突破口。”

        甲抬起眼:“以这个时代的电子战水平,是不可能跟现在的谢春儿对抗的。即使集合所有世界顶尖的黑客,在她面前也不过是高山前的一粒尘埃。她的强大来自于她本身由帝国网络组成,但这也就意味着当年的‘绝对命令’依然有效。只要能激发她的非理性行为,就能让网络进入自我矛盾当中,进而陷入全盘混乱,到那时候她自己就会被自己否定掉。”

        内容未完,下一页继续阅读