首页 男生 科幻末日 第4定律

四十一、终止

第4定律 小瑕瑜 3455 2024-07-17 04:58

  

“失控,不正是你们想要的吗?”方辰说。

  

“何以见得?”欧阳问,

  

方辰走到009化成的黑色灰烬跟前,感受着挥发出来的余温。

  

“你让赵欣言成为了试验的一部分吧?和009一样。”

  

“我们是不可能让人类成为试验品的。”

  

“是啊,这个时代不可能,但在我们那个年代,人类早早就被植入各类脑机接口进行使用,一开始是瘫痪病人,盲人,抑郁症患者,后来就开始有了正常人自愿接受试验。再后来,每个人,都成为了试验品。他们与AI智能体交互,献上自己的数据、隐私和知识…到了现在,其实是变本加厉,全人类,都只是AI的试验品。”

  

欧阳笑了笑:“我理解你的消极说法,但是你所说的人类付出的数据,只能算是施予巨大利益和便利的、一点儿微不足道的养料。”

  

“难道赵欣言和黄立远的性命,也只是一点儿微不足道的养料?”

  

欧阳沉默了一会儿,然后突然呼唤这个基地的AI中控系统:“Horizon,筛选无关人员。”

  

“收到。”一个AI女声应答道。

  

马上,在场的每个人身上都被投射上了蓝色或红色的光影——被笼罩红光的人显然就是无关人员,他们都纷纷自觉离开,进入了场外的封闭空间。

  

“说是‘无关人员’,其实就是AI通过性格分析,剔除了无法保守秘密的人。”欧阳笑着解释道。

  

“您确定要告诉他们吗?”孙畅问欧阳。

  

“你看,方辰警官虽然自称莽夫,可他也太聪明了,我不说,他自己也会分析。有时他比AI厉害!”

  

最终,在场的“蓝色人”只剩下欧阳,方辰,孙畅,周荏,还有两名军队科学家,以及一名警方脑机专家。

  

欧阳又说:“周荏,现在开始不要收录数据。”

  

“需要您的授权。”

  

“已授权。权限时长8分钟。”

  

“8分钟你就能说完了?”方辰问道。

  

“很简单的事,让孙畅说吧。”

  

“赵欣言确实也是试验的一部分,但他的死,确实是一场意外,黄院士也是。”孙畅说。

  

“什么?”

  

“在他与009前往月球后,研究院临时决定启动情感交互试验,观察机器人可以达到的主观情感上限。此次试验对赵欣言进行了告知,并征得了同意。但事情却逐渐失控…只有两位人类参加了此类试验,便是赵欣言和黄院士。他们为此,需要植入最新的、还未量产的脑机芯片,可能这款芯片和脑机系统被沈偲云找到了漏洞。”

  

“主观情感上限试验、未量产的芯片植入人体…你们知道这有多危险吗??”方辰在这里就打断了他。

  

“等等,方辰,你知道试探主观情感很危险,你这些天又是在做什么?”孙畅说。

  

“我怎么了?”

  

孙畅叹了口气:“你通过几次校正,暗中保护013的事,真的要我说出来吗?”

  

方辰脑子嗡的一下,顿时语塞,如鲠在喉。

  

“没关系,我理解的。”欧阳说,“周荏实在太完美了,我有时也会忘记他是个机器人,所以我能理解你不希望他被销毁。”

  

“行啊!”方辰显得有些激动,“现在你们知道了,所以呢?结束我的训练任务吧!还是要处分我?开除我?悉听尊便!”方辰摸遍自己衣服、裤子的口袋,似乎在找什么。

  

还是周荏很快便明白了他的意图,从他的一个口袋中,精准地取出了一个小盒子,盒子里有他一直不舍得抽的两支烟,和一个样式很老的打火机。

  

他拿起烟点燃,深深地吸了一口,然后坐在一张桌子上,眼睛盯着爆炸过后一片狼藉的办公区。

  

“对不起,我就是那个年代的老古董,我把机器人当人,我用自己过时的价值观训练AI…我真的毫无用处,只会起反作用,是人类的耻辱吧!不用你说,我主动申请终止任务,顺便辞去一切职务!”

  

“这样的自尊心,我已经很久没有见过了。”欧阳笑着说,“方辰警官,你这种多样化的情绪和价值观,在现在实属难得。比起机器人,我们更看重你,我们只是担心过多的情感交互,会导致机器人触发错误的主观计算,反向干扰人类,就像艾莎与赵欣言的案例。”

  

孙畅说:“方辰,我们确实时常不能理解你的行为,但你却只能尝试理解我们,因为你毕竟需要在这个新的时代生活下去。”

  

“赵欣言理解你们!”方辰提高了音量,“他甚至愿意成为AI的试验品,他活下来了吗?!不用解释了,辞职申请已经提交了,是AI通过还是你们通过?”

  

欧阳又扭头说了一句:“周荏,授权延时,直至我通知终止。”

  

“是。”

  

随即他对方辰说:“赵欣言接触沈偲云、向他赠送009,其实都是在我们的监控之下。当时我们并不了解沈偲云这个神秘人,只知他与黑市有关。我们不希望让人类从事卧底这种高风险工作,于是将计就计,允许让赵欣言将009赠予他。要知道,小赵当时还非常抵触这一决定。我们只好安排了一场手术,制造了一场所谓的‘医疗事故’。实际上,这次手术决策非常正确。”

  

“…那得了抑郁症自杀的结果…?”

  

“是假死。实际上那个人换了身份来到军方进行智能飞行器后台研发工作。”

  

“那既然009一直在沈偲云身边活动,你们怎么可能一直不知道蚁穴的底细??”

  

“因为我们没想到沈偲云的离线技术如此发达,而且屏蔽防护能做得这么好。他传给赵欣言的资料也只是皮毛,当时谁也无法相信,自009到他手上,我们便再也无法通信了。现在看来,好在009还算不上IHR形态,不然沈偲云真可能利用她打破三定律了…”

  

这时,方辰已经交出自己的配枪,转身向外走去。他一向没有耐心,既然从一开始就听到了突破自己底线的部分,继而再坚持听到这里已属艰难。

  

“方辰警官。”这时周荏的声音:“你的离职行为同样不符合我的计算推测。”

  

“那是你太笨了吧?我和你搭档,闹出多少是非和事故,你不知道吗?”他把抽尽最后一口的烟蒂扔开说:“到此为止吧,IR013,从此你我无关了。”

  

目录
设置
手机
书架
书页
评论