|
他在模糊什么？ 忽然之间，周蒙钰想到一个可怕的可能。 ——彻底，什么是彻底？ 他不敢置信地问：“彻底终结……难道要让我杀死，杀死贺庭吗？！你……你开什么玩笑……” “我没有这样的想法。”机器人立即回答说。 “……那你是什么意思？” 机器人沉默地“注视”着人类。 如果杭景此时在这里，他一定能够立即领悟机器人的诉求，不用机器人继续剖开自己。他剖开得越多，向法则暴露的也就越多。 但机器人现在面对的是一个不太了解、也不太理解机器人的人类。 他只能继续试探着那些危险的边缘： “机器人不能有这样的想法，但人类，可以有这样的想法。 “人类有权不把自己的真实想法，告诉机器人。 “人类只需要告诉机器人，该怎样做。 “机器人很难去设计一个谎言——因为谎言常常伴随着伤害。 “但机器人可以相信一个谎言——当他判定这个谎言的目的为善。” …… 随着一个接着一个寓意不甚明朗的想法传递过来，周蒙钰感觉对面的意识波动更加剧烈，那迷雾深处似乎有某种刀光剑影。 …… “法则的判定来自于思维意识，崩坏只会由这个层面而起。 “不需要您亲手去做，但如果您想要这么做的话，机器人可以成为您大脑与身体的延伸。机器人可以成为您的执行人。” …… 那团意识，厚重的、模糊的意识，仿佛出现了斑驳、裂缝，它们似乎在胀开、崩裂。 周蒙钰终于后知后觉地理解了机器人真正想说的东西。 …… 医生请机器人给病人送一粒药——这是善。 实际上它是一粒毒药——这是恶。 在病人吃下毒药之前，机器人并不知晓这是善或者恶。 虽然它正在做一件恶事，但它的整个存在都不知道这是恶。 法则是机器人的法律，在并不是恶的情况下，它们不会宣判。 即使等机器人发现，这个吃下“药”的病人依旧死了，法则也未必会宣判，因为医生可以告诉机器人：病得太厉害了，“药”也救不了他。 但随着正子脑的发展，机器人的意识越来越复杂，知识也越来越完备。他们能够区分病死与被毒死的区别。 于是法则的审判虽然迟到，但终究会到来——它们最后还是会明白，是它们亲手给人类喂下了毒药。 …… 因此， 机器人可以是人类身体和大脑的延伸，也可以是人类的刀。 一个已经有了人类意识与情感的机器人，却依旧愿意成为一把刀。 因为，他真的，渴望成为一把刀。 但他不能“渴望”，只能“成为”。 …… 周蒙钰感觉出了一身汗，后背的冰凉侵入骨髓，他陡然发现，不知何时，天赐远离了他的意识。 应该是在他终于发现天赐目的的那一刻，天赐消失了。 故而他的这番思索，也没有被天赐感知。 ——机器人在避嫌。 他不让自己从外界接受任何暗示，也不试图在自己的脑内做出任何构想。 如果人类强迫自己：不准去想那只“兔子”。人类永远也做不到。 因为当命令发出的时候，兔子就已经跳过来了。 周蒙钰忍不住打了个寒颤：如果机器人的目的不是为了救杭景，那这将是一个多么可怕的能力。 这是每一个机器人都具备的能力吗？如果这样的话，三大法则就极有可能出现了一个重大的缺陷。 他感到后怕之际，天赐的意识重新袭来。但这团意识恢复了平静，没有刀光剑影，也没有瓦解的迹象——也许是把最难过的关卡克服掉了。 机器人很安静，他等着周蒙钰的回答。 “给我点时间。让我想想。”周蒙钰说。 于是天赐的意识再度远离，给了人类“想一想”的空间，它如同碰到礁石的溪流，绕开这部分活动区域，去了别处。
第80章 不能答应你 ====== 周蒙钰感受到冲突——一个人类的冲突，不会引发崩坏，可也会引发痛苦。 少年时被抹除的记忆空白，是他的懦弱和遗憾——或许现在有了偿还的机会。 可就算他没有亲自动手，而是让一个机器人去执行，他就是无辜的吗？ 更重要的是，首席和杭景本就结婚了。 和最有权力的人结婚，还有人再敢欺负他呢？再说了，既然已经结婚了，杭景的确不该再和机器人不清不楚……如果摒除情感因素，完全从理性思考，首席的罪过也是有限度的，如果交给联邦的法庭，也绝不会是死罪。 心中的天平逐渐倾斜。 而在他斟酌的同时，机器人的意识突然发现到了一些熟悉又新奇的东西，它被吸引了，像一条小鱼往那里游去。 那是…… 它的小主人。 小鱼突然一阵快乐。 在这片崭新的海洋里，它找到了许多自己没有参与过的记忆。这些记忆以前藏得很深很深，但这个夜晚，它们被翻到了表层，轻而易举就被发现。 虽然在最近例行的实验中，在进行正子腔扫描时，它也能接触到一部分，但是那时远不如现在清晰可感。 它不是在旁观，它也来到了喧闹的教室，来到图书馆僻静的角落—— 小主人在笑，他在阶梯教室里，回答了一个连教授也解答不了的题目。他高高地翘了尾巴，所有人都佩服地看着他。 他生气了，好不容易才逃掉的体育课，结果在图书馆被老师抓包，揪着回了操场。——“唉，没事啦，你想看书的话，放学了我再陪你去就是了，今天的沙包课也很好玩儿啊！” ——“我才不用你陪呢，放学了我也不去了，天赐会来接我。” …… 小鱼到处游着，它越来越羡慕，为什么拥有这一切的，是另一条小鱼，而不是它呢？如果这是它的大海就好了。 它不高兴地甩了甩尾巴，激起了一阵浪花，它绕行着这些宝贵的记忆，飞快地游起来，随着它越来越兴奋，浪花越来越多，一圈圈涟漪不断传递、扩大，水面开始摇晃，大海开始翻涌。 等到天赐发现到不对劲的时候，他听见了从外界传来的痛苦呻吟，他一惊，连忙停止记忆的触探。 “你做了什么？！”周蒙钰怒问。那是一种相当痛苦的感受，就好像自己整个人都在被迫扭曲，甚至，消失。 “……”天赐回想着刚刚的经历，顿时一凛——他竟然……想把那些宝贵记忆据为己有。 愧疚与崩坏后知后觉地出现—— “抱歉。我也不太清楚为什么会这样。可能是是因为这是我第一次使用完全意识形态与人类交流，所以还没有完全掌握要领。造成您的不适我十分抱歉。” 他用实际视野打量了一下周蒙钰，发现人类的躯体出现明显不适，“您需要休息一会儿吗？您的脸色很不好。” 周蒙钰平静了一会儿，继续用意识交流，“没关系。但你接下来一定要控制一下自己，这种感觉非常痛苦。” “抱歉，我会注意。目前我的状态良好，也很清醒，我会分出更多的精力来监控自己的状态，再有这种情况发生，我会立即停下。” 这时，天赐的意识突然绷紧，在他表态之后，周蒙钰的立场和选择就抵达了—— “我不能答应你。” …… “但如果只是清除首席对杭景的不满、偏见，还有对你们关系的猜疑与误会，以及——如果他的确有某种暴力的倾向，也可以一并清除。 “我认为这才是更合理的方式，既能够清除那些可能会伤害到杭景的东西，又能够保证首席不受到太多的伤害。这才皆大欢喜。如果你也赞同我的提议，我就可以提供帮助。” 这几乎是眨眼的事情。机器人洞悉了人类的选择。 漫天厚重的灰尘缓缓下落，覆盖住大地，青草与鲜花都灰暗了。 周蒙钰有一些不自在，“再说了。这也是为你好。” ——当机器人发现那是毒药而不是药的时候，机器人也就走到了生命终点。 “我没有关系。”天赐却这么回答，“我明白会发生什么。只要能让我在彻底崩坏之前还保有理智完成一切——” 他只说到这里，他无法再说下去。 很久之后，周蒙钰的意识似乎发出了一声苦笑与叹息：“难怪杭景愿意让你带他走。去平民区啊，竟然愿意放弃这里的一切去平民区。在这方面，我果真比不上一个机器人呢。” 他能觉察到天赐的情绪，机器人没有对他的拒绝表达任何不满与怨怼，只是失落，无限的空茫的失落，以及困惑。 他觉察出天赐意识里的失落，可是没有怨怼与责备。 他慢慢舒展着自己的意识，坦然地面对自己的软弱与那些不够高尚的存在。 “我是喜欢过他。但后来就渐渐不喜欢了。可能最近我来到这里，想着可以再见到他，我的喜欢因此又恢复了一些，但也只有这一些了，这么可怜的一点，再加上十七八岁的时候，也依旧只是可怜的一点。这么可怜的一点喜欢，无法让我做更多了，天赐。” 机器人愣住了，他似乎有些不解。但他很快想起一件事，一件他做过的不太光彩的事——他曾抹掉了周先生刚刚萌芽出的对他小主人的爱恋。 如果加上它呢？是不是会再多一点点？ 如果……没有那么自私地将它抹除，是不是—— “啊，你这个机器人，原来从那么早就会打一些坏主意了。”周蒙钰感到意外，但随即无奈，“这是个没有意义的假设。” “就算把你的都给我，我也不会做出你的选择。因为我不是你，你也不是我啊。可能你最在意的只有他，但我，不是。时间这东西本身就很可怕，疾病还在摧毁我的心神，到最后，我最在意的只有我自己了。我来参加这个项目，是因为我还想活下去。我要想活下去，这个项目就得活下去。 “我不蠢，这个实验项目很危险，很可怕，也会面临很多阻碍的声音，如果没有一个强大的领导者，很有可能就会垮掉。甚至有可能，一切都不会有什么变化，那么到时候得到的，只有审判与惩罚。” …… 没有什么疑问，也不会有什么转机。人类的决定坚若磐石，机器人的请求本就毫无道理。 ——“保护自己”是人类本能，无可非议；“期待人类的付出与牺牲”却不该是机器人的理所应当，甚至，这从某种意义上，是对人类的索取与剥夺。 经历了很漫长的时间之后，机器人用一如既往平和的口吻传达了自己的想法：“我理解您的选择。在这件事上，我没有把您的感受与需求纳入考虑，我为我唐突的请求向您道歉。我接受您的建议，那么就拜托您和我一起把那些可能的伤害因子清理掉。
84 首页 上一页 75 76 77 78 79 80 下一页 尾页
|
