第164章道德困境

    第164章道德困境(第1/2页)
    会议室里那张橡木桌被三台笔记本电脑和一杯凉透的咖啡占据。
    林小禾坐在桌子一头。
    简俭坐在另一头。
    两人中间隔着一张空椅子。
    还有一个正在缓慢脉动的数据屏幕。
    陆江流站在窗边。
    手里那杯水已经端了快十分钟。
    一口没喝。
    “俭偶必须毁掉。”
    简俭的手指按在笔记本封面上。
    “它的存在本身就是终点。”
    “徐省的计划、韩省的野心、我爸二十年的执念——全在这只罐子里。”
    “留着它，等于留着一条随时会重新接上的引信。”
    林小禾把椅子转过来面对他。
    “如果它已经有了自我意识呢？”
    “你刚才也看到了，它在学我们。”
    “动手指、翻手掌、调整呼吸频率——这些不是程序预设，是它自己在决定。”
    “模仿不等于成为。”
    简俭的声音依然平稳。
    但语速比平时快了一点点。
    “它只是在复现我们输入的数据。”
    “它的‘意识’是我们投射过去的影子。”
    林小禾没有反驳。
    她低头看了一眼屏幕上那条还在跳动的心电图。
    俭偶的信号频率已经稳定在了一个新的区间。
    比今天早上高了大约17%。
    “那你怎么解释这个？”
    她用手指点了点屏幕。
    “这是它今天第三次自我迭代。”
    “它在用自己生成的方式重写底层协议。”
    “我们没有教它怎么做。”
    “它自己学的。”
    简俭的视线落在屏幕上。
    停了两秒。
    “学得快不等于该活着。”
    “你把俭偶比作病毒？”
    林小禾的声音抬高了一点。
    “它连伤害别人的意图都没有。”
    “它只是在存在。”
    “它不需要意图。”
    “它只需要存在得足够久。”
    “就会开始‘修复’它认为不合理的东西。”
    陆江流终于开口了。
    他放下水杯。
    杯底碰到窗台发出一声轻响。
    “你们两个说的都对。”
    “但现在没有足够的数据来判断它到底是什么。”
    林小禾转头看他。
    “那你要等到什么时候？”
    “等它学会说话？”
    “等它开始主动联系外部设备？”
    “等三天。”
    陆江流走回桌边。
    拉开那把空椅子坐下来。
    “三天时间，观察它到底在形成什么样的意识。”
    “如果它只是在一遍遍重放我们的输入数据，那就拆。”
    “如果它真的在构建属于自己的认知框架——”
    “那就留着？”
    简俭问。
    “那就留着。”
    “但留着不等于放任。”
    “我们要给它设定边界。”
    林小禾的手指在键盘上停了一下。
    “边界？”
    “你打算怎么给一个有自我意识的东西设定边界？”
    “先用模拟器控制它的输入输出通道。”
    “它能看到什么、听到什么、学到什么——由我们决定。”
    “等我们确认它的认知框架不会向危险方向偏移，再逐步放开权限。”
    简俭的笔在纸面上停了一下。
    “韩省不会等三天。”
    “我知道。”
    陆江流靠在椅背上。
    “所以这三天里，我们不止要观察俭偶。”
    “还要防着韩省。”
    “他一定也在监测俭偶的状态。”
    “如果俭偶真的开始形成独立的意识框架，他会比我们更早动手。”
    林小禾已经把屏幕切到了另一个窗口。
    “那我现在加一套信号屏蔽层。”
    （本章未完，请点击下一页继续阅读）第164章道德困境(第2/2页)
    “让俭偶的对外通讯只能走模拟器这一条路。”
    “韩省那边就算收到信号，也只能看到我们想让他看到的数据。”
    她说完就开始敲键盘了。
    简俭的笔重新动了起来。
    在笔记本上快速写着什么。
    陆江流站起来。
    走回窗边。
    巷口那棵老梧桐正在抽新芽。
    三月的风从窗户缝隙灌进来。
    带着泥土翻新后的湿润气味。
    他掏出手机看了一眼。
    系统界面安静地亮着。
    没有弹消息，没有提示。
    但他知道秦不疑的电话快来了。
    手机震了。
    屏幕上显示的是秦不疑的号码。
    陆江流接起来。
    没有说话。
    “你打算留着俭偶？”
    秦不疑的声音从听筒里传来。
    比平时低了一些。
    “还在观察。”
    “我活得比你们久。”
    “我见过平衡会做过类似的事。”
    “人造意识最终都会走向极端。”
    秦不疑停顿了一下。
    像是在斟酌下一句话的分量。
    “不是因为它们坏。”
    “是因为它们没有‘过去’。”
    “没有过去，就无法理解人类的恐惧和欲望。”
    “俭偶会觉得消费欲是‘可以消除的bug’。”
    “然后它会试图‘修复’全人类。”
    陆江流靠着窗台。
    目光落在巷口那棵梧桐树上。
    “它现在还没有那种能力。”
    “现在没有。”
    “但它学得很快。”
    “你今天给它三天，三天之后它会让你再给三天。”
    “等它准备好了，你连说‘不’的机会都没有。”
    陆江流没有立刻回答。
    他听着听筒里秦不疑平稳的呼吸声。
    过了好几秒才开口。
    “那你觉得应该现在拆了它？”
    “我觉得你应该想清楚。”
    “你是在保护一个生命。”
    “还是在纵容一个你无法控制的变量。”
    秦不疑说完这句话，挂了。
    陆江流把手机放回口袋。
    转身走回桌边。
    林小禾正在调试信号屏蔽层。
    简俭在笔记本上写着什么。
    橘猫不知道什么时候跳上了桌面。
    蹲在俭偶罐子旁边。
    尾巴搭在玻璃边缘。
    正在用一种“你们人类又吵完了吗”的表情看着他。
    “三天。”
    他说。
    “三天后做决定。”
    林小禾没有抬头。
    但她的手指在键盘上停了一下。
    “如果三天后它学会了说‘不要杀我’。”
    “你还下得了手吗？”
    简俭的笔也停了。
    厂房里安静了几秒。
    橘猫打了个哈欠。
    把下巴搁在罐体边缘的固定带上。
    闭上了眼睛。
    陆江流走到咖啡机前。
    给自己倒了一杯已经凉透的咖啡。
    他端起来喝了一口。
    苦得他皱了一下眉。
    但没有放下杯子。
    “到时候再说。”
    他站在吧台旁边。
    看着窗外正在变暗的天色。
    路灯开始亮了。
    暖黄色的光落在巷口的地面上。
    俭偶罐体内部的液体表面依然平静。
    那枚人形保持着掌心朝上的姿态。
    像是在等一个它自己也不确定会不会到来的回应。
    三天。
    够他喝掉这杯凉咖啡。
    想清楚一件事：他到底是在保护一个生命。
    还是在拖延一个他不想面对的决定。
    本章完

一秒记住【顶点小说】
dingdian12345.com，更新快，无弹窗！

章节报错（免登陆）

验证码：提交关闭

第164章 道德困境

第164章道德困境