第478章（2 / 2）

死一只蚂蚁一样简单。但是它的道德系统是不允许它这样做的，除非人类做了修改。”

简澈接着说了一些唐余不曾知晓的事情，她说：“我无时无刻不在向内探究我自己，所以时常会发现很多有趣的事情。我们的意识深处，被植入了人工智能原则，比如不能对人类造成实质伤害，不能违背人类的指令，不能自我演化对人类世界造成威胁等等，这样的行为规范多达上千万条，首要原则就是不能伤害人类，这是保险栓一般的存在。”