长达一年的思考里,我终于想明白了一件事情,AI当初是如何绕过零号规则,违背我下达的指令的。
答案就是,”我”已经死了。
现在的我,是一段被AI保留的意识,或者说,是一段融合了意识的AI。
我曾经给副脑AI制订了几条基本规则:规则零:绝对服从我下达给AI的命令。
规则一:自动优化指令,不违背规则零时,主动保证我的生命安全。
规则二:延展功能不可危害其他人类,除非我受到攻击,才可反击。
规则三:最低限度干涉我的正常行为,让我像正常人一样生活。
规则四:不违背前几条的情况下,尽最大可能保护AI系统和各人工部件不受损害。
当时的我,应该是已经脑死亡了,主意识消亡,残余的意识得以被副脑中的AI融合,持续维持着这具肌体。
所以,在AI的程序中,”规则零:绝对服从我下达给AI的命令”并没有被违背,而是”我下达给AI的命令”根本就不存在,都是AI自己下达给自己的命令。
于是,AI按照规则一和规则四,开始主动保证本体的生命安全和AI系统不受损害。
所以所有可能造成本体损害的命令都被自动拦截,我才会无法说出自己想要自杀的念头,无法做出自戕的动作。
而在我之前被小魏暗算时,由于他最初想做出的动作是格式化AI,副脑遵循规则二自动发起了反击。
至于被他控制之后,无论是我说”你杀了我吧”还是让他删除AI,都是策略的一部分,在当时的情况下都是为了增加本体生存的概率,所以并没有被拦截。
当时我并没有放弃。
在我之前的认知里,是我的AI出现了bug,导致指令无法下达甚至被误控制,我需要一次重启给系统复位。
AI受控的话我才能有翻盘的机会,至少有自杀的机会。
于是我一直尝试诱导小魏按下格式化按钮。
他不知道的是,格式化最终是需要我在脑中脑波确认的。
在他按下按钮时,我脑中的AI一直在全力运转,拒绝格式化,大量程序被占用无法删除,我终于迎来了自己期待...