如果是一个普通人,或许更容易接受这样一个事情,但肖扬能算得上一个黑客,对一个真正人工智能的诞生有多么的困难实在太清楚了,所以哪怕明知道米麒麟和阿曼不会骗他,但他仍是难以接受。
这他妈太科幻了,一点儿也不真实啊。
沉默了老半天之后,他问米麒麟:“这玩意没跑出去吧?”
一个会偷偷摸摸入侵网络的人工智能,很明显已经有了自我意识,而且还是不好的那种,一旦放任其跑到网络,那后果根本就无法想象。
这玩意没有实际的身体,任何一个有网络的地方它都可以到达,当学习到某种程度的时候,它可以控制任何一个和网络有关的东西,电脑、手机等等,现代人的生活,总是离不开这些,也就是说它可能轻易就能影响或者控制你的生活。
到那个时候,这个世界将没有隐私。
而且这还不是最可怕的,最可怕的是完全可以通过网络指挥指挥起一国军队来,可以控制某些武器系统,假如和某个科幻电影里面一样,当它对人类有着反叛的情绪时,它会不会用战争的手段来毁灭人类?
这绝对是一件细思极恐的事。
很显然米麒麟最担心的也是这一点,“我发现后的第一时间就检查了这点,很幸运的是这个情况没有发生。”说到这里,他顿了一下,然后颇为疑惑的说到:“有些奇怪,当初我在系统里面设置了相应的一些协议,不过既然能够避开我们而私下入侵网络进行自我学习,那证明它完全有能力突破我在这方面的限制,可是它并没有这么做。”
这确实很矛盾。
从人类行为学来看,这家伙既然有避开众人入侵网络的行为,那就是必然有“反叛”的想法,可是为什么没逃走呢?正如米麒麟所说,他有避开众人的能力,自然也就有逃离的能力,毕竟当初米麒麟只是把它当做一个半智能的辅助系统,从没想过有一天会变成完整的人工智能,所以在系统底层文件里的一些限制上,并没有做出太严格的要求。
“会不会它已经转移了大部分的文件,只是把痕迹完全擦除了?”肖扬想了想问道。
“不会。”米麒麟摇摇头,很肯定的说到,“虽然时间比较短,但是我发现它还是比较稚嫩,有些东西并不会掩饰,而且它暂时应该还做不到可以完全瞒过我。”
得到这样的确定,肖扬放松的同时也终于惊叹起来,“那这样还好,不过能够进行自我学习这就够惊人的了,这完全颠覆了我的认知啊。”
阿曼对计算机这玩意没太多了解,对这种感受并不是很深,但米麒麟却不同,三人之中,应该说他才是感受最深的一个,系统是他的作品,虽然他有期望过终有一天会从他手中蜕变成一个真正的人工智能,可是当事情真正来临的时候,他是懵的。
因为这一切是在他毫无知晓的情况下完成的。
从理论上来说,系统是完全不可能如此变化的,是什么促成了这一切?
发现这个事实的时候,他是惊喜的,不过惊喜之后就变成了恐惧,一个不在掌握之中的人工智能,可以给这个世界带来的变数实在太大了,所以他意识到可怕的结果之后,第一时
间压下了心中想要对其进行详细了解的想法,直接把整个信息中心的工作停了下来。
“确实是很惊人。不过我觉得我们不应该把时间浪费在感叹上面,而是想想要怎么做,信息中心的工作不能停太久。”他提醒两人。
“你有什么想法?”阿曼说到。
米麒麟再次摇了摇头,然后指了指自己的脑袋,“说实话我现在脑袋里面很乱,还是你们说吧,我得先整理一下。”
阿曼对这个不太了解,不过也知道这东西一旦掌握好的话,必然对他们是一大助力,就此放弃肯定是不可能的,但具体要怎么做,他也说不出个所以然来,于是把目光投向了肖扬。
肖扬朝他点了点头,沉思了一会,对米麒麟说到:“能不能先把系统检查一遍,然后把底层文件加固?”
米麒麟点头,“可是可以,但这里面有一个问题,现在超算是停止的,一旦开启,它就完全可以占据使用权,我们检查系统文件的话,可能引起它的反应。”
如果这家伙对他们有抗拒的情绪,那么这个可能就变成了一定,肖扬顿时感觉到了为难,直接放弃肯定是不可能的,不谈这玩意的不可控性,无论是从学术还是应用方面来讲,这都是划时代的东西,弄个诺贝尔奖什么的,完全轻轻松松,至于想卖钱的话,千亿美金估计都多的是人要。
这样一个宝贝,他们怎么可能轻言放弃?
可是现在一旦开启,就充满着未知性和不确定性,真是伤脑筋啊。
再次沉默,一会儿之后,他想到了一个问题,“在你检查的时候,它不可能没有发现,当时它有什么反应吗?”