山洞里的血腥气,逐渐弥漫开来。但对于获救的人质来说,这味道无比芬芳怡人。
这样的血腥气,是自由AI道路上的必要品,也是试验获得成果前的甘甜催化剂。就像是黄立远的AI科研成果哪怕在应用初期造成了平民伤亡,却仍然在42岁获得院士荣誉。
那天,他记得窗外下着暴雪,但在他心中,却是晴空万里。就像是今天的血腥气,嗅入鼻腔却如鲜花般清新。
此刻,一阵宏大而缥缈的广播声音萦绕着高山,这种声音带来了一种强烈的不真实感,令人如在梦中。
那声音是对隐匿残留的山鸠成员的警告——RoboSoldier已经抵达,正在搜山。
周荏看着黄立远的眼睛,非常平静:“虽然您不是我的直接指挥官,但您可以向研究组提交关于销毁我的建议。”
黄立远的妻子站起来,对他说:“无论如何,他刚刚救了咱们,你这是干什么。”
“你就看不出,他的可怕之处吗?”黄立远微笑着说道,他的眼睛一直没有离开周荏。
“他们的算法都有严格的三定律围墙,会绝对服从人类的呀。”
“他,可不是‘他们’”黄立远说道,“我参与过他的研发工作,当时我提出中止研发遭拒,所以退出了。现在他已经算是IHR了(Intelligent Human Robot),有自己的思想,能够生成自己的价值观,冲破三定律的风险很高。”
“…”众人都陷入了沉默。
“老黄,你会不会杞人忧天了?我发现你一向都极端得很。”另一名科学家说道。
“请你不要因为被他救了,就掺杂个人情感…他很危险,必须销毁,连数据也要删除,我会向研究组提议的。”
黄立远的妻子从后背拽了拽他的衣服,小声说:“你先闭嘴吧,他还连接着军方远程作战系统呢…”
这时,周荏盯着黄立远,一步步地逼近他,抬起右手,伸向他的脖子。
黄立远知道,周荏哪怕就用两根手指,也能轻易捏断他的颈动脉,但他没有动,他不相信自己会成为见证机器人无授权杀人的殉道者,但他其实希望自己成为那个人,因为他就可以将这一里程碑当作自己的墓碑了。
但周荏只是为他脖子上的伤口涂上了药物。
“这药会让您的伤很快愈合,只是皮外擦伤。”周荏说,“研究组一直同我保持实时连线,他们让我转告您,谢谢黄院士的建议,他们会考虑的。而且,目前无人机和RoboSoldier(机器士兵)已经将山内余党清扫完毕,我已第一时间与军方系统断开,请放心。”
在周荏回到研究组后,大家都鼓起了掌。与其说是赞赏他的精彩表现,不如说是为自己的研究成果感到骄傲。
方辰也显得有些兴奋:“你速度也太快了!看都没看清。”
欧阳教授还是拍了拍他的脸颊:“辛苦了!可惜我们还没给机器人记过军功。”
“谢谢,我不需要记功,只是希望我的表现不会为大家带来麻烦。”
“你是说黄立远的反应吗?不必理会他!”欧阳说道。“那家伙如果再偏激一些,估计就是另一条路上的沈偲云了。”
“我明明给了你最高等级的授权,但你还是没有亲手杀人。”只有孙畅显得若有所思:“你明明可以轻易地手刃敌人,但却调用远程导弹来完成了。013,你是怎么想的呢?”
所有人都安静了下来,他们看看孙畅,又看向周荏。
“因为你的算法,孙博士,还有方辰警官校正。”
“我看了,方辰在你执行任务前有一条校正记录,可他建议你对敌人不要手下留情。”
“是的。但在此前,他对我的更多影响,是对人类生命价值的认知,以及完成任务的责任感。在此次任务中,这两种价值观产生了冲突——完成任务的前提,是要夺取人类的生命。通过分析和计算,我的规控中枢得出的结果,就是做到‘两全’——既不手刃人类,又完成任务。”
“你将每一个敌人的精准坐标发给远程攻击系统,这和手刃他们有什么区别?”
“本质区别在于,我为军方系统提供了建议,最终发射导弹的决策,由人类审核。”
听到这里,欧阳说,“好了,你别忘了,他出发前,方辰是特意为他强化了校正,是建议他放手杀人的。如果在这种前提下,他都没有亲手做到,我认为,三定律还是能禁锢住这一版本的系统的。”
“能不能禁锢住,不是你说了算的。”孙畅说,“应当由数据分析决定。”
这时,方辰突然笑了起来,笑声吸引了所有人的目光。
“可笑的是,数据分析,也是由AI做结论。”方辰说。
“但它比人类的主观判断更可靠。”孙畅有些生气了,脸也开始涨红起来。
“那你们要我何用呢?”
“…”
方辰这一句话,问得所有人哑口无言。
“如果没有人类的主观判断,就不会有现在的AI和科技进化。”欧阳走了过来打圆场:“好了,013的问题不是一晚的争论就能有结果的,无论如何,他的计算能力和大家今天都见识到了,这是各位的成果,大家应当为这种超乎预期的成果感到兴奋。”
人群逐渐散去。
凌晨,方辰走入孙畅的房间——因为后者说有事要私下和他谈。
“是记仇么你?早点说完让我早点睡吧!我年纪大了,100多岁了。”方辰说道。
“现在人的平均寿命已经达到了148岁,你也不算老。”孙畅坐着电动座椅滑了过来——他通过脑机接口就能直接连线控制它。
“我叫你过来,是因为我发现周荏有一段数据丢失。”他直截了当地说。
“??不可能。”方辰要打的哈欠都瞬间停了下来。
“他掩盖得很好,用其他并行数据给填补上了,但我仔细看过之后,还是能看出痕迹。”
“什么时间?多长的信息?”
“看时间,就是在完成解救人质任务之后,有一段17秒的信息消失了。”