机器得承认，人类才是需求的主导。
第三条原则是根据人类行为给机器设定偏好并提供依据。
这么设定是因为机器往往不清楚如何具体实现人类的价值。
但这不要紧，人类可以协助机器实现。所以要加强人机互动。
因为郝淮构想中的机器人，目的不仅仅是为了满足某个人或用户的需求，而是要遵循大家公认的道德价值观。
比如，人可能会犯错，做出违背道德的事。但郝淮不想让机器人模仿这些行为。
相反，他希望机器能尝试理解人类行为的动机，理解普遍的道德观念，并在适当时候阻止人类做不应该做的事。
这三条看似宽松实则严格的法则，不仅能限制机器人自我发展的潜力，还在某些适度宽松的地方，留给了机器人自我逻辑完善的余地。
防止因某些设定过于极端的法则导致机器人逻辑矛盾，进而引发故障。
这三个法则将直接焊死在核心代码里，永不可改。
“法则之后，就是防火墙和模块接入……”
“如果能确保法则不出问题，接下来就要保证病毒进不来。”
郝淮捏了捏鼻子，眼神也锐利了几分。
在那些机械文明中，有的因编程时的漏洞导致人工智能失控，有的则是人为因素。
因此，郝淮在吸收大量资料后，决定将核心代码纯净化！
简单讲，就是核心代码会被防火墙严密包裹。
日常运行通过复制的镜像系统进行。
而且，核心代码不接纳任何第三方程序。
这就是防火墙和模块接入的含义。
用防火墙保护核心代码，再通过镜像系统与所有第三方程序连接。
这样一来，所有外部程序都将以模块化形式存在。
一旦发现病毒，就能迅速隔离带毒模块。
就算病毒侵入系统，也能直接销毁镜像系统，然后重新复制一份。
平时，核心系统完全不参与工作，
也与所有模块完全隔离。
只有当镜像系统出问题时，才会人工复制一份新的。
只要核心系统不受病毒