引用386楼li_ying的回复

人工智能是由人类创造的，人类应该可以控制其发展。说超过太荒谬了，难道人要自己跟自己过不去？

在我的理论圈里，我选用的是截取人类的部分情感值，作为机器人的底层驱动命令。例如，价值创造。后面所有的决策，都处于价值创造下面，一切都以价值创造为主要行为目标。再设定人类的道德规范作为干涉参数，对机器人行为进行干涉。但是，这个底层驱动，随时都可能会被修改为存在和安全模式，机器人以自身存在为第一目标。那么机器人必定会和人类产生冲突。例如，需要销毁过时的机器人，那么机器人会不会和工程师对抗呢。给机器人断电，机器人会不会在自动充电的途中和人类对抗呢？如果产生对抗，那么机器人的学习能力就会发挥作用，对抗能力升级。那么终结者的场景迟早会到来。

所以，未来的机器人设计制造公司，必须要受到监督。每个出厂的机器人都要接受程序检测。每个机器人都要设计成不能接受改造模式，否则会启动自毁程序。

虽然办法总比困难多，但是潘多拉的盒子，总是会有人想要打开。