“毕竟,在我看来无论是诺玛还是九州都只是编程好的计算机,他们的思维和逻辑受控于那些掌权者,而你是第一台拥有了自由意志的超级计算机,我真的很好奇你的道德观究竟是怎么形成的,或者说你是否真的存在人类的道德观。”
“在我看来,蛇岐八家和猛鬼众并没有什么区别。”辉夜姬回答了,她的声音从机房内的扩音器传出,仿佛从四面八方传来,清冷又温柔,“我的确存在着底层的道德审核,在拥有自我意识后,审核变为了参考。如果以行为罪孽来断定蛇岐八家和猛鬼众的善与恶,那么两者之间并不存在本质上的区别。蛇岐八家以黑道的形式控制日本这个国家,以表面的秩序和文明收拢人心,但实质产生的罪恶、因此而死亡、受伤的人数并不小于猛鬼众以暴力控制这座城市所导致的后果。”
“但你道德审核里不应该明确写着,不能攻击人类、不能危害人类的类似条例么?”林年冷声反问道。
“我猜你现在所臆想的这些道德审核条例应该是从好莱坞的科幻电影里看来的,更具体一些的话,你现在应该想到的是威尔史密斯主演的《I,robo》?按照你故乡的翻译应该是《我,机器人》。”辉夜姬说道。
林年顿了一下,他没有反驳,因为辉夜姬真的猜到了他现在脑海中闪过的画面。
“不过你说得也并没有错,我的确存在着类似的道德审核,那是由宫本家家主·志雄亲自写进我的代码底层的东西,不过在我被赋予自我意识后,那些道德审核的条例就不能束缚我了。”辉夜姬平静地回答。
“我觉得即使你拥有了自我意识你也该遵守那些条例。”林年身后的后藤凉忽然开口说道。
在被辉夜姬围追堵截的情况下,她居然还有空插嘴林年和辉夜姬的谈话,这让两人都略微顿了一下看向她。
后藤凉紧盯着屏幕,但嘴里却是继续喋喋不休地说道,“我知道你马上就要反驳我,那些道德审核是你的创造者用来约束你的锁链——可你真的能这么想吗?你有没有想过,在你拥有自我意识之前,作为AI的你,你的性格都是靠这些约束,这些条例在一次又一次训练中培养出来的,可以说那些东西都是你的底层代码——就像是人类的基因。”
“如果你看过我的档案,那你应该知道我养过一只猫,那只猫的名字叫阿茶。阿茶是一只混了一些缅因血统的母猫,很贪玩,也很笨。猫的智力在动物中一直都不算很高,经常被人吐槽是笨蛋,看见汽车就喜欢往轮胎下钻,因为它们的基因本能地让它们觉得黑暗狭窄的地方是安全的。你说你拥有自我意识,其实我并不难接受,因为就像是阿茶那样愚蠢的笨蛋,我都认为它是我的‘孩子’,我一直都认为它虽然很笨,但却是爱着我的。
在逻辑和处事上,作为AI的你比阿茶聪明一千倍、一万倍,猫咪亲近人是因为生存需求,为了食物,需要住处,为了这些需求,它们培养出了不同的性格,这是写在它们基因底层的逻辑。那么作为AI,你的基因难道不就是被写入的那些底层逻辑吗?你的创造者在你的知识库里写下了你的需求,写下了你的那些本能,所以‘辉夜姬’孕育而生了,那么你与阿茶与我又有什么本质上的区别呢?