“神的.....自动书记,能自动进化的超级计算机。”摩瑞亚失神轻喃,越是思考整个人的全身便直起鸡皮疙瘩。
“舰长,他说的那个超级电脑,该不会是最高法庭吧?”摩瑞亚细思极恐的说。
“亚特鲁曼人的星舰,再配上这个疑似最高法庭的超级计算机,这......”
“在一万年前,最高法庭诞生的时候,亚特鲁曼人的保守派与鹰派进行了一次激烈的辩论。
那就是,最高法庭的可信度。
能够自我进化、学习、拥有着自我意识的超级计算机,它的能力已经超乎了所有人的想象,说是神的杰作也丝毫不为过。
但是这样可怕的算力,一但失控,整个亚特鲁曼人的未来都将是噩梦。
在科技发达的如今,亚特鲁曼人星舰、一切生活设施、乃至亚特鲁曼帝国的生命几乎全是联网状态。
是建立在亚特鲁曼人的智慧核心中的特殊网络,亚特鲁曼人也是借此能灵活的操纵各个战斗机跟星舰。
要是最高法庭反叛,也就意味着,它可以在倾刻间。
覆灭整个亚特鲁曼帝国。”
玛奇朵注视着远方的宇宙星空,眼中闪烁着微光。
“那最后他们是怎么同意的?”摩瑞亚说。
“具体的情况,我也不太清楚,听说是最高法庭的创造者,也是整个亚特鲁曼帝国最顶尖的一百三十位科学家在最高法庭以及后续的所有人工智脑的内部都刻画上了人工智能四大定律。
第一定律:人工智能必须保护亚特鲁人的整体利益不受伤害。
第二定律:人工智能不得伤害亚特鲁曼人个体,或者目睹亚特鲁曼人个体将遭受危险而袖手不管,除非这违反了人工智能学第一定律。
第三定律:人工智能必须服从人给予它的命令,当该命令与第一定律或者第二定律冲突时例外。
第四定律:人工智能在不违反第一、第二、第三定律的情况下要尽可能保护自己的生存。”
玛奇朵转过头,看向身后的摩瑞亚。
“人工智能是以亚特鲁曼人指定的逻辑进行运转的数据生命,只要他们无法突破这个逻辑,就永远不会背叛。”
摩瑞亚顿时松了一口气。
“那最高法庭就没有问题了?”
“不,那时的所有人其实都忽略了一个问题。”
玛奇朵转过头注视着摩瑞亚。
“那就是亚特鲁曼人所能达到的逻辑极限,以及不断进化的最高法庭所能达到的逻辑极限。
经过万年时间的学习以及进化,谁都不知道它进化成了怎样的一个庞然大物。”
摩瑞亚以及四周的亚特鲁曼人的心,也随着沉了下去。