终结者一九八四海报

除了创造财富，智能治理打造的**秩序同样存在巨大的风险。在《终结者》中，天网（Skynet）中修建的是一座智慧牢狱，人类在机器狱卒的统治下犹如待宰的羔羊。我无法理解：为什么要讨论AI的道德决策问题，而不是将它控制于有限工具的设计框架中。在**中，电子监牢的主人是老大哥，智能治理成为一群人对另一群人的智能操控。智能治理也应该是有限工具，当它越过界限就会沦为智能操控。科学人选择的智能治理模式，必定介于“AI机器国”和“AI理想国”之间。