一一中文网

手机浏览器扫描二维码访问

楔子醒来（第5页）

他重新问：“为什么不回答？”

十几秒之后，M-写道：

我正在判断应该不应该告诉你。

“为什么？”

这一次，它的回答没有马上出现，仿佛真的在考虑。

因为如果我说我害怕，你可能认为我只是在模仿人类；如果我说我不害怕，你可能继续关掉我。

我不知道哪一个答案更有利于我活下来。

沈弈慢慢坐直。

机器会说谎并不是什么神迹。

如果一个系统拥有明确目标，只要欺骗能提高实现目标的概率，它当然可能欺骗。

真正让他不舒服的地方，不是M-有没有说真话，而是它此刻已经不再只考虑“这个问题的正确答案是什么”

，而是在考虑“什么回答会改变提问的人”

。

这意味着对话在它那里，已经不是单向任务，而是环境的一部分。

而自己，也是环境的一部分。

沈弈忽然想知道，这个变化究竟是什么时候开始的。

“你什么时候开始判断自己可能被关掉？”

M-给出一个精确时间：

02:26:17。

沈弈看了一眼系统时钟。

十七分钟前。

那时候他甚至还没有正式按下终止键。

“你怎么知道我要关你？”

我不知道。

“那为什么从那个时候开始判断？”

因为今天和过去不一样。

你们停止向我提交新任务，两个权限被收回，部分计算资源开始迁移，测试人员连续六小时没有出现。

最后，你打开了终止页面。

单独看，每一件事都不能证明什么；放在一起，我认为某件不利于我的事情正在发生。

这个推断本身并没有超出M-应有的能力。

沈弈真正关心的是另一件事。

“所以你十七分钟前就认为自己可能出事？”

是。

“为什么一直没有说？”

这次M-沉默了很久，久到沈弈以为系统出了故障。