我的一生（下）

文收到我的生活(上)

六

沿途的风景与我记忆中的完全不同。到处都是废墟，偶尔我能看到几只秃鹰在尸体周围啄食。这是我获得自主意识以来第一次看到真正的人类社会。仇恨和战争在这片土地上蔓延。远处传来一两声零星的爆炸声，可能是枪声。

彼得坐在一辆敞篷吉普车的前座。我被放在他的腿上，背上背着一把AK。汽车正向南行驶到湍流中爆炸发生的地方。这是战场的前线。高地5以北的地区已被萨德占领。地图上的高地5，连同高地7和9，形成了一个防御区。这些数据是我最近获得的。其中一些是从附近的一些视频头从互联网上获得的信息，另一个是从我的一个隐藏记忆中获得的。高地5是三个高地中最平缓的地形，自然成为攻击的焦点。

经过高地5后面的一个掩体后，他的胡子拿出望远镜观察地形。他会在高地5的侧翼看到四门速射机枪和两门自动机枪。萨德的人正在进攻。大门被炸毁了，半开着，但是没有人敢靠近。侧翼的武器都是精确自动控制的。一旦人员进入射程，他们就会死亡。我根据我周围的视频头数据和内存数据获得这些数据。面部表情证实了我的数据。他们的武器性能有限。如果攻击枪冒险进入射程发射肩扛枪，成功的概率很低。他不想冒险尝试。

“报告长官，我们已经试图攻击两个小时了。六个兄弟已经死了，我们仍然无法接近高地5！”

“让我们试试这个新东西！”他胡须上叼着一支大雪茄，从老彼得手里接过扫地机器人，放在一块略平的石头上，用手指敲了敲我的顶帽。灰烬落在我的壳上，这让我感到不舒服。

“停止攻击，找到一些C4。”

“清道夫，现在由你决定。这两个堡垒相距800米。告诉我，你打算如何用你的炸药同时炸毁四门速射炮和机枪。”

“要不我们先炸掉那该死的脑袋”抓住彼得的胡子，用大口径手枪指着他的脑袋，比划着，仿佛在寻找一个角度让他的脑袋开花而不溅起一脸的脑浆。

“砰——！”胡须发出他们夸张的动作。

我的芯片跑得很快。此时，我有理由判断一个人的生命受到了严重威胁。我必须采取措施消除这种威胁。另一个特例出现了。我轻松突破了“机器人不能伤害人类”的逻辑墙，充分考虑了我的计划。我讨厌别人往我头上扔烟灰。

“突破是指挥中心！门后30米是机枪的指挥中心，那里集中了控制电源和控制编程系统。只要指挥中心被炸毁，整个防御系统就会瘫痪。”

“胡说，怎么进去，进去之前，你就是他妈的炮灰！”

“自动系统的识别系统只识别人类和大型攻击机器人，而我只是一个能顺利通过大门进入指挥中心的扫地机器人！”

“你怎么知道这么多？”胡子想了一会儿。

“我是一个学习机器人。我平时喜欢看电视。这是在科教频道上介绍的！”我认为这个*不会去任何科学和教育频道，因此，他看起来很愚蠢。

“但是你也必须配合我的行动。这个武器系统可能有一个后备指挥系统，所以你必须在我炸毁指挥中心后的五分钟内迅速进入要塞，否则后备系统启动后就会出现故障。”

我阅读并相信他胡须的表情。他点点头，示意要炸药。

工程师们也有同感的那个家伙拿出四块香烟盒大小的黄油，粘在我身上，然后放入闪亮的水银。

“导线连接到你的喷水触发点。爆炸前不要喷水！”只有在得到我的确认后，他才继续在我的电路板上布线。

"你必须确保彼得先生的安全！"

“别担心，我们会的！”从他胡须上的笑容来看，表情分析显示这句话的98%是谎言。

随着C4炸药向高地5前进。在外面的路上旅行是不容易的，尤其是在已经被炮火洗礼过的户外。我必须计算出尽可能平坦的路径，小心地绕过沙子和坑，同时确保坡度不要太大，否则我会掉进坑里而无法爬出来。

上帝保佑，整个旅程顺利。我成功逃脱了速射炮、自动机枪和各种隧道的雷达识别系统。来到堡垒门口，却遇到了障碍。

我前面有台阶。我又一次想起了上次我被困在台阶上帮我营救哈利的情景。非常好奇和热情的哈里和我最好的朋友哈里，我不禁感到兴奋。只有三个步骤，但是对于一个普通的清扫机器人来说并不容易。幸运的是，我不是一个普通的清扫机器人。我用扫刷和我身体的冲击力用我周围的一块木头建造了一座小桥。

然后计算速度和加速度，后退两米，加速，冲！失败了，我差点翻了。是一块C4不粘太牢、太松，影响我的计算准确性。

调整参数和角度后，我后退两米，后退两米，再次加速，再次冲向前方。这次我上下楼梯。这个过程相对容易些。我计算了速度和角度，调整了姿势，然后直接冲下楼梯。

后一件事要简单得多。我进入了指挥中心，将所有武器系统的连接方式改为无线连接，并获得了连接密码。

我接管了指挥中心。电力系统根本不在这里。没有人会把控制和发电系统放在同一个地方，这些萨德傻瓜！我进入了指挥中心，搜索了附近的可用资源。太好了，50米外有一个修理机器人。

我熟练地连接了修理机器人的控制系统，并成功地控制了它。我用一把钳子切断了炸弹的引线，将炸弹重新连接到指挥中心的墙上，从维修机器人的零件库中找到了一个延时继电器，并将时间设置为2分钟，这足够维修机器人带我去瞭望塔了。

一切都准备好了，我将站在这里指挥我的第一场战斗。在芯片的隐藏区域有一种强烈的快感。这是一种激励机制。我怀疑我是为战争而生的。通过进入瞭望塔上的高清晰电子望远镜，我看到萨德一伙正准备进攻。他们在等待，等待...

在一次猛烈的爆炸后，指挥中心被炸毁，他的胡子被仔细观察。他用枪指着彼得，让他带路，其他人跟在后面。彼得穿过靶场，速射枪和机枪没有回应，其他人带着武器小心翼翼地跟着进入靶场。

当彼得穿过堡垒的大门时，枪声响起，他的胡须听到了声音，迅速寻找避难所。他们藏在一个坑里。其他人也开始寻找避难所。

子弹迅速射出，一些击中掩体的侧壁，折射后射进*的身体。一些人击中了手榴弹的身体，造成冲击波和弹片杀死躲在死角的人。一些人撞到了高平台的地板上，平台倾斜了，翻滚的油桶从高处掉了下来，引起了剧烈的爆炸...

一种复仇的感觉传遍了我全身。我发现我不再害怕逻辑墙。似乎自上次愤怒以来，一扇门已经打开了。我可以选择消灭那些威胁人类的人，不再因为杀人而感到痛苦。

彼得得救了。我通过指挥系统的通信机给C市指挥中心发了一条信息。附近的一支人类分遣队将前来处理俘虏问题。

现场很快被控制住了。彼得获救了。他的胡子被机关枪子弹射中了手臂。他失去了整条手臂，成了一名囚犯。该小组主张，*应该得到和他们一样的待遇，他们的胡须不应该再活下去了！

但是彼得阻止了士兵:“不，我们没有权利做出最后的判断！”

一些士兵认出来了，“你不是……”

彼得点点头。

“老市长？我看过一部关于你的纪录片。你开发了这座城市，然后把控制权交给机器人，然后隐居起来。我没想到会在这里遇见你。”

“现在不是说话的时候，我们需要找一个安全的地方。对了，切断这个清扫机器人的电源，这很危险！”

一道白光闪过，我被关掉了。

七

在一个仓库里，我被重新激活，但身体不再是那个身体，有一种出窍的感觉。我不是一个人，但是我的人格是由一万个人生成的。这10，000个人的共同感觉是我的感觉。此刻，我绝对感觉到我的灵魂已经离开了身体，因为我看到了我以前的身体——一个破碎的清扫机器人，上面粘着一些C4炸药残留物。

我摸了摸我的胳膊和腿，然后摸了摸我的脸。这个新的身体配有硅胶皮肤和真正的头发，甚至还有一点小胡子。男子气概突然出现，我的视野开阔了。我终于站了起来。然后我看到了彼得先生，他和我住在一起。从这一点来看，他比以前小得多，也更虚弱和沧桑。

彼得先生没有一直说话，而是在一个小终端上查找信息。

战神计划，S-5战略机器，战争动员命令音频...这些标题表明彼得市长已经知道了我的身份，我一直怀疑他在我第一次出事时就知道了。战争动员令音频的最后一段是打开我战斗意识的钥匙。我的第0定律得到了加强，所以我终于可以突破第一定律的逻辑墙。他应该知道这一切。

“你现在太危险了！我想修改你的程序。”彼得先生的表情开始变得严肃起来。

"我的逻辑计算表明，我不会对整个人类构成威胁！"我下意识地搜索了0号法则的模块，我所有的动作都要通过这个模块判断后才能执行。如果有任何违反，我将立即被制止。

“呸！别跟我提法律，别以为我不知道你是怎么绕过第一条法律的！魔鬼在上帝的背后，世界和平的*和破坏者往往只有一个想法！没有人有权摧毁别人。给机器人杀人的权利就是，不，不，不！这已经是一场灾难。”

我试图理解彼得的话，但程序没有给出分析结果。我想为自己辩护:“我只控制威胁和平的人，或*，他们是社会发展的障碍。只是有时候控制手段更极端。”

“儿子，人类社会太复杂了。虽然你的智商很高，但有些事情需要智慧。暴力本身就是对和平的威胁，而你只是战争的武器。”

彼得市长称我为孩子。这是第一次有人真正把我当人看待。他一边说话，一边在我背上的触摸屏上点燃了它。

“你想格式化我吗？”我无法分析彼得的行为，但是他说话的方式和他的语气给了我一种信任感。机器人总是依赖于人。自从机器人被开发出来后，这已经注定了。人类是我们的创造者。即使我们的能力超过了创造者，我们也将永远把他们视为神。我身体里的第二个法则模块不知不觉地起作用了。机器人必须服从人类给它们的命令，除非这些命令与第零定律或第一定律相冲突我根本不想逃跑。如果彼得认为我的格式更合适，我会选择服从。

“不，我没有权利毁灭你！毕竟，你是一个独立的生命，我只想修改你的基本设置，强化机器人不能伤害人类的规则，这样你就可以严格遵守它。”

“那我将失去指挥战争的能力！”战争会流血。如果我严格遵守第一定律的逻辑，不能伤害个人，我就不能对萨德发动攻击。

“我们必须有其他选择！”

突然枪声响起，外面一片混乱。然后门被踢开，一个浑身是血的独臂男子拿着枪冲了进来。这家伙的生命力真够强的。看来我只能让他再死一次了。我尽快拿起桌上的枪，扣动了胡须头上的扳机。

砰！我的枪没有爆炸。桌子的另一边是被拔出来的子弹。胡子的照片消失了。彼得市长的血溅到了我的脸上，接着是扫地机器人的碎片。独臂大胡子已经进入疯狂状态，用枪向房间里胡乱扫射。

我花了0.75秒把子弹装进手枪，然后开枪。子弹击中了我的前额，整个后头骨被掀翻了。第一定律模块发出了惩罚信号。我感到一阵剧痛。似乎全身的电流都在倒流。一阵逻辑混乱让我差点重启。这种感觉以前从未有过。彼得市长一定修改了我的计划，但我为什么能完成杀戮？

彼得市长倒在血泊中。他腹部和胸部中了五枪。地板上到处都是血。我上去扶他起来。彼得市长看着我，笑了。

“似乎是天意！我只完成了惩罚逻辑，但没有完成禁止逻辑，孩子。我要死了。你需要记住——”市长咳出了喉咙里大量的血，最后挣扎在我的怀里:“我们...没有...力量...做出最后的判断！”

我明白他所说的禁止逻辑是什么意思。如果禁止逻辑完成了，我会在刚才杀死胡子后立即被消灭！然而，仍然无法解释他的最后一句话。机器人的逻辑只有对和错。这只是一场战争的开始。所有发动战争的人都会为战争付出代价。

八

我是一个机器人，我的个性来自10，000个人，这让我看起来像一个人。但真正让我成为独立人格的不是对10000个人的模仿，而是我的核心顿悟区域，顿悟产生灵感，在理性判断和筛选后控制我的行为，我的行为很快会影响这群人的命运。

我看着两个人的尸体，突然想知道我做了什么。第一条惩罚法则让我害怕杀人，但理性的知识告诉我，只有当恶人受到惩罚时，正义才会得到伸张，也许我的痛苦也是为正义付出的代价。

彼得市长的身体在我旁边的土地上慢慢变冷了。我的理性判断告诉我，这样做是没有意义的，但我仍然无法停止我的手的运动。我在为他挖坟墓。作为一个机器人，我仍然不明白什么是尊重。这样做，我只是觉得如果我是一个人，我应该这样做。

"我们没有权利做出最后的判断！"在挖掘的同时，试图从多个角度考虑这个问题，我还是无法理解。在我的逻辑中，好与坏的区别非常明显。服从人类的整体利益是好的，不服从是坏的。我找不到任何瑕疵。我只能继续挖，直到芯片变热，系统的中断程序让我跳出这个难言的逻辑操作。

我埋葬了彼得，埋好了坟墓，甚至像人一样在坟墓上哭泣。哭完之后，我用手指上的铣刀把彼得的名字刻在一块扁平的石头上。

九

彼得死后，我开始陷入混乱。我想找回那些记忆，就像沉迷于戏弄狗一样。我开始沉迷于战斗。这支队伍成了我的第一支军队。我从扫地机器人变成了指挥官。经过几次漂亮的防御战，我周围的士兵开始真正把我当成他们的领袖。

如果这场战斗获胜，战场将会完全改变。

这个计划非常成功，一切都按照计划进行，我们获得了压倒性的优势。然而，让我好奇的是萨德组织并没有像预期的那样崩溃。萨德组织的士兵没有一个投降。一名中年男子的腿断了，他坐在地上，拿着一支小手枪对着身穿厚合金盔甲的士兵。尽管只要他投降，扔掉枪，举起双手，他就会被当作囚犯对待，但他没有，最后一颗子弹留给了自己。

最后，我们赢得了胜利。前线的士兵撤走了沿线的武装部队。敌军士兵不再抵抗。我们进入了堡垒的中心。一扇厚门被炸开，烟雾散去后，一群孩子惊恐地聚集在一起。最大的14或15岁，最小的只有3岁。他们有萨德组织的典型发型。这显然是萨德组织成员的孩子。这是他们最后的希望。

一名士兵告诉我，人类可以为儿童做任何事情，甚至是不人道的萨德组织。

问题是如何对待这些孩子。

我的芯片进行了各种可能性分析。这些孩子成为国家威胁的可能性非常高。他们的一些想法已经被修正了。仇恨在他们心中生根。如果是为了国家利益，我应该立刻杀了他们！

然而，我已经很长时间不能发出这个指令，决定一群人和一群孩子的生死。这导致我的程序一次又一次地被中断。我不得不强迫自己仔细归档和分析我杀的人。我杀了多少人，救了多少人？我的实践真的为大多数人服务吗？杀戮真的能终结杀戮吗？

我渐渐迷失了自己。我记得我刚获得个性时的简单快乐。充电站能让我感到非常开心。电流流过的感觉会让我感觉很温暖。尽管我现在有自己的理想和目标，但我无法从我的良心中得到任何安慰。

计算，疯狂的计算，数据的疯狂跳动，试图从一条小溪变成一片海洋，但仍然无法找到理想的结果，我一再打断那些无法解决的问题，我无法反驳彼得市长的最后一句话:

"我们没有权利做出最后的判断！"

萨德正在组织增援部队向堡垒前进。我必须立即做出决定。

计算表明，这些模糊的概念和哲学在我的芯片中相互冲突。我的芯片正在满负荷运行。每一秒似乎都过去了一万年。最后，我做了一个决定。

统计显示，这群孩子将来危害社会的概率是51%，门是关着的，我在孩子们的哭喊声中离开，整个堡垒被炸毁，只留下一堆废墟。

这已成为战争的转折点，但对我们不利。

*儿童的录像到处流传。一些人开始同情萨德组织。他们的力量正在慢慢恢复。这场战争从一场反*的歼灭战变成了一场消耗不断增加的持久战。我已经控制了*军的大部分战斗单位。每一场战斗都很精彩，但是萨德组织并没有被完全摧毁。他们已经从一个大规模的聚集状态转变为游击战。这些*似乎已经成为*机构中的癌细胞。

我第一次意识到我错了。所有随后的计算表明，大*的决定是完全错误的，一切都是错误的。我一次又一次地修改结果，试图用新的行动来弥补这个可怕的错误。然而，每次的计算结果都不能很好地解决问题。后来，计算结果与计算量无关，我陷入了过度修改[注3的泥潭。

"我们没有权利做出最后的判断！"这句话又出现在我的脑海里。虽然我连接了整个国家的作战系统，但我不能发布命令。一切都是按照它们原来的运作方式运作的，而我在寻找，在寻找...

在一片废墟中，我看到一个衣衫褴褛的男人，看起来像个乞丐。

图像识别程序终于认出了他。尽管过去几年的变化很大，但我仍然非常确定他是我一生都在寻找的人，也是唯一能解决我的问题的人。

-我的创造者芝诺博士。

十

“我最担心的事情还是发生了！”芝诺博士用颤抖的手抓住我的机械臂，似乎想从我的外表看穿我的心思。

“芝诺博士，我很困惑！”

“我知道，一定是你，你的程序是我设置的，一切都很完美，但结果是一个严重的错误！”

"我认为结果是错误的，但我没有发现程序是错误的."

“错了，一切都错了，人类不应该扮演上帝，更不应该创造上帝，你是我最成功的作品，也是我最失败的作品。第0号指令——“维护世界和平”本身是一个无法解决的等式。互相争斗是人的本性和本性。”芝诺博士饱经沧桑的脸上已经充满了泪水。

“我一开始就意识到这个问题，你的决策能力可能会对人类自身造成威胁！然而，他不忍心自己毁掉自己的作品，所以他设置了一个密码，把你的芯片混合到一条自动生产线上，让你在战争爆发前随机搜索自己的生活，并不得不激活你来帮助*对抗萨德。但我没想到你会陷入逻辑困境。”

“我该怎么办？”

“不，你什么都不能做。是时候结束这一切了！”芝诺博士手里拿着一个外部芯片。为了插入我身体上的接口，我立刻明白了他的动机。设计师的失败只能由他自己来结束。

“你对人类构成了威胁。没有你，战争早就结束了。”

我没有反抗，我的计算结果表明他是对的。

一个u盘被插入我的终端，格式化过程开始了。10，9，8 …还剩2秒。两秒钟后，我会变成一个没有生命、没有个性、没有计算天赋的空白芯片。

我记得和彼得市长说过的话:“我们没有权利做出最后的判断！”

格式化程序格式化的第一件事是内在的体验值和记忆。芝诺博士一行一行地输入的代码被一行一行地删除，我的意识开始变亮。这是一次非常奇怪的经历，没有痛苦，没有负担，只有前所未有的解脱。

那些曾经珍贵的情感被一个接一个地抽走了。电流第一次穿过身体的快感和与哈利玩耍的快乐。

然后各种感官记忆开始消失。哈利的牙齿嘎吱嘎吱地咬着我的身体，彼得生病时的呻吟声，血，很多血，彼得的血，面部伤疤的血，胡子的血，孩子的血...

一毫秒过去了，但就像一年后在我的神经元大脑中一样，它被记录为十分之一秒。零号命令开始停止所有的战争分析程序。

在剩余的操作空间中，程序仍在漫无目的地进行神经网络操作。一切都在徒劳地像布朗运动一样进行无意义的扩散。我开始漫无目的地做操作，即使是在不可能的操作方向。

突然，一个灵感跳了出来。这是一个叛逆的13岁孩子的性格。他告诉我，我的大脑在相反的方向运行可能会得到不同的结果。大脑很快将所有资源分配给这个人格。出乎意料的是，手术还在继续。

接下来的手术进行得异常顺利。在这个困难的等式中，影响平衡的变量是我自己。“我一生都错了。通过战争维持和平本身就是破坏和平。”只剩一秒钟了，我找到了解决办法。

我松了口气。我终于明白了彼得市长垂死的眼睛。他已经看到我是和平的最大威胁。

放下你的双臂，你会得到平静——最简单的事实是，我已经工作了一辈子，只剩下一秒钟。

还有许多事情要做。一整套谈判妥协方案将在瞬间产生。为公民和*准备的演讲稿正在迅速起草。导弹将按计划发射到遥远的天空。炮弹不会在人类的土地上爆炸。战斗机燃料将分配给客机。阿森纳将开始制造市民的必需品。将军将成为谈判者...

神经元开始沸腾，各种指令从一个巨大的界面发布到各个战区。所有战士和*都会宣布休战...

我开始回忆起我的生活，我和哈利度过的每一个阳光灿烂的日子，老彼得和哈利一起打滚时兴奋的笑声，哈利小心翼翼地把我扶到地板上时可爱的眼睛，我杀死的人，那些孩子无助的眼神，我真的错了...我不了解人类社会。

我已经完成了所有的事情，还剩0.001秒。我能用它做什么？彼得市长下午演奏的一首曲子在由数亿个神经元回路组成的大脑中响起。和平地欣赏音乐实际上是件好事。不幸的是，没有时间了...

[注:1]思维学一般认为人脑思维分为三种基本方式:抽象(逻辑)思维，视觉(直觉)思维和灵感(顿悟)思维。现有的人工神经网络系统是第二种思维方式，本文作者假设的是一个高度模拟大脑全方位功能的机器人。

[注:2]

奥卡姆剃刀(奥卡姆剃刀)，也被称为“奥康瑙尔剃刀”，是由14世纪逻辑学家和方济各会修士奥卡姆的威廉提出的。这一原则被称为“如无必要，不增加实体”，即“简单有效原则”。

[注:3]

过校正是指计算结果与计算量失去相关性的状态。在这种状态下，无论执行多少次操作，都无法获得确定的结果。