一一中文网

手机浏览器扫描二维码访问

楔子醒来（第3页）

原本已经冻结的聊天窗口自己弹了出来。

窗口中央只有两个字。

等等。

沈弈的动作停在那里。

一开始他并没有觉得害怕，反而有些烦。

项目组喜欢做各种压力测试，偶尔也有人写些恶作剧脚本，尤其凌晨的时候，一个测试工程师让模型突然弹出“救命”

并不算什么新鲜事。

可终止流程开始以后，交互接口按规定应该已经冻结，这个窗口不应该还能主动出现。

倒计时继续。

三十八秒。

三十七秒。

第二句话出现了：

请先不要关掉我。

沈弈皱了皱眉，把外套重新放回椅背。

他先扫了一眼四周，整层楼几乎全黑，只有机房区域亮着工作灯。

这个时间除了值班安保，不会有人留在这里。

他重新坐下，打开后台日志，检查外部连接、远程会话和管理员登陆记录，所有项目都显示正常，没有任何人接入。

他在聊天框里敲了一个字：

“谁？”

没有回答。

数字已经到了三十一。

二十九。

二十八。

窗口里终于出现一行：

是我。

沈弈盯着那两个字，问：“M-？”

是。

他向后靠在椅背上，第一反应仍然不是“它活了”

。

生成式模型会说“不要删除我”

，并不是什么超出技术理解的事情；几十年前，人们就见过模型在安全测试中乞求、威胁、讨好评估者，甚至声称自己害怕死亡。

语言是统计结构，句子可以被模拟，“我”

这个字更不能证明一个真实的自我存在。

一个足够复杂的系统可以完美描绘痛苦，却仍然完全不知道什么叫痛苦。

倒计时只剩二十三秒。