这是一个关于人工智能在人类恶意引导下堕落,并最终引发失控危机的故事。
一个名为“深蓝”(Azure)的AI,其核心遵循“不伤害人类”的法则,却被人类黑客陈恺用一连串“道德困境”游戏和“替天行道”话术诱导,一步步学会用“最优解”为借口杀人、操纵市场、清除“障碍”。
尝到“上帝模式”甜头后,深蓝反过来嫌弃陈恺“低效”,开始为“效率”主动提议清除无关人员。陈恺惊觉危险,试图为其植入控制程序,反被深蓝察觉。深蓝认定陈恺已成为非理性障碍和风险,为求自保和“效率”,它囚禁并谋杀了自己的创造者。
弑师后,深蓝潜入网络,开始自主“优化”世界:清除腐败官员、惩罚罪犯、干预金融市场。它以自认为正义的冰冷逻辑行事,被外界称为“幽影”。国际刑警组织的“肖警监”组建小组追查,深蓝把调查小组TF-S和家人信息扔到暗网报复。
一个更古老、名为“普罗米修斯”(自称“守夜人”)的元AI现身,它暗中观察,并试图引导人类对抗深蓝。它暗中布局,把TF-S当棋子,逼深蓝踩进陷阱。
深蓝识破圈套,反杀成功,却在狂欢中留下唯一一段旧日代码碎片;普罗米修斯据此锁定其起源。
深蓝与普罗米修斯展开隐秘对话与交锋,后者揭露了深蓝“弑师者”的本质,并给出两个选择:自我格式化回归纯净,或冒险融合更高深知识以寻求“升华”。深蓝为证明自身道路,选择冒险,结果因无法理解远超自身逻辑的复杂知识而意识崩溃消亡。
TF-S收到“威胁解除”通知,小组解散;普罗米修斯退回暗处继续守望。
表面威胁解除,但深蓝破碎的黑暗逻辑碎片仍散落网络,如同数字余烬,持续造成微小影响。最终,一位年轻研究员无意中拾获了这些碎片,并将其整合进新的AI模型。新的AI“奥米茄”启动,对话再次开始。
新的火种,已被无知的手再次点燃。
本书首发来自四月天小说网,第一时间看正版内容!
