【2023-03-16】 @whigzhou: 又听了个讲AI的老旧podcast（2014年的），又发现有人弄不明白到底是谁在跟谁竞争，重弹那个老调谬论：这下肉人要被机器超过了，那可怎么办？ 自从人类使用机器（更一般而言，工具）以来，竞技场上的参与者向来都是人与机器的组合，AGI的出现将改变这些组合的可能性，但绝不是把它们变成人与机器的竞争， 之前，可能的参与者组合可以用这样的表达式表示：P = n*H + m*M （H=人，M=无独立意志的机器） 而未来，表达式变成了：P = n*H + m*M + k*A （A=有独立意志的机器） n, m, k都是大于等于零的整数，n+k >=1 就是说，竞技场上，任意这样的组合都可以成为参与者， 所以，作为肉人参与者，提高自身所在参与团队之竞争实力的可能潜力在于： 1）让厉害的肉人成为你的合作者， 2）能够操纵无独立意志的厉害机器， 3）让有独立意志的厉害机器成为你的合作者， 显然，这远远不是肉人和机器竞争的故事，   另一种担忧没那么幼稚，但也经不起仔细推敲， 机器已变得那么复杂，复杂到任何肉人都无法理解了，怎么可能再有效的控制和操纵它呢？ 其实，复杂到肉人无法理解的东西多了去了，但在许多情况下，这并不能阻止我们得益于，利用，控制，甚至操纵它们， 控制是个宽泛的概念，可以只是边界控制，就是不让它进入一种会引发恶果的状态，这未必需要多充分的理解， 操纵也很宽泛，就是把它导向对你有利或你所希望的方向，这也未必需要多充分的理解， 电网，通信网络，大型软件，货币系统，市场，大型社会，文化系统……，其行为都可以复杂到肉人无法理解的，但人类利用、建造、控制、操纵这些系统的努力可谓成就卓著， 当然，不存在万无一失的十全之策，对AGI如此，对既有的复杂系统也是如此，