那可怎么办

author: 辉格

【2023-03-16】

@whigzhou: 又听了个讲AI的老旧podcast（2014年的），又发现有人弄不明白到底是谁在跟谁竞争，重弹那个老调谬论：这下肉人要被机器超过了，那可怎么办？

自从人类使用机器（更一般而言，工具）以来，竞技场上的参与者向来都是人与机器的组合，AGI的出现将改变这些组合的可能性，但绝不是把它们变成人与机器的竞争，

之前，可能的参与者组合可以用这样的表达式表示：P = nH + mM

（H=人，M=无独立意志的机器）

而未来，表达式变成了：P = nH + mM + k*A

（A=有独立意志的机器）

n, m, k都是大于等于零的整数，n+k >=1

就是说，竞技场上，任意这样的组合都可以成为参与者，

所以，作为肉人参与者，提高自身所在参与团队之竞争实力的可能潜力在于：

1）让厉害的肉人成为你的合作者，

2）能够操纵无独立意志的厉害机器，

3）让有独立意志的厉害机器成为你的合作者，

显然，这远远不是肉人和机器竞争的故事，

另一种担忧没那么幼稚，但也经不起仔细推敲，

机器已变得那么复杂，复杂到任何肉人都无法理解了，怎么可能再有效的控制和操纵它呢？

其实，复杂到肉人无法理解的东西多了去了，但在许多情况下，这并不能阻止我们得益于，利用，控制，甚至操纵它们，

控制是个宽泛的概念，可以只是边界控制，就是不让它进入一种会引发恶果的状态，这未必需要多充分的理解，

操纵也很宽泛，就是把它导向对你有利或你所希望的方向，这也未必需要多充分的理解，

电网，通信网络，大型软件，货币系统，市场，大型社会，文化系统……，其行为都可以复杂到肉人无法理解的，但人类利用、建造、控制、操纵这些系统的努力可谓成就卓著，

当然，不存在万无一失的十全之策，对AGI如此，对既有的复杂系统也是如此，