那可怎么办

【2023-03-16】

@whigzhou: 又听了个讲AI的老旧podcast(2014年的),又发现有人弄不明白到底是谁在跟谁竞争,重弹那个老调谬论:这下肉人要被机器超过了,那可怎么办?

自从人类使用机器(更一般而言,工具)以来,竞技场上的参与者向来都是人与机器的组合,AGI的出现将改变这些组合的可能性,但绝不是把它们变成人与机器的竞争,

之前,可能的参与者组合可以用这样的表达式表示:P = n*H + m*M
(H=人,M=无独立意志的机器)

而未来,表达式变成了:P = n*H + m*M + k*A
(A=有独立意志的机器)

n, m, k都是大于等于零的整数,n+k >=1

就是说,竞技场上,任意这样的组合都可以成为参与者,

所以,作为肉人参与者,提高自身所在参与团队之竞争实力的可能潜力在于:
1)让厉害的肉人成为你的合作者,
2)能够操纵无独立意志的厉害机器,
3)让有独立意志的厉害机器成为你的合作者,

显然,这远远不是肉人和机器竞争的故事,

 

另一种担忧没那么幼稚,但也经不起仔细推敲,

机器已变得那么复杂,复杂到任何肉人都无法理解了,怎么可能再有效的控制和操纵它呢?

其实,复杂到肉人无法理解的东西多了去了,但在许多情况下,这并不能阻止我们得益于,利用,控制,甚至操纵它们,

控制是个宽泛的概念,可以只是边界控制,就是不让它进入一种会引发恶果的状态,这未必需要多充分的理解,

操纵也很宽泛,就是把它导向对你有利或你所希望的方向,这也未必需要多充分的理解,

电网,通信网络,大型软件,货币系统,市场,大型社会,文化系统……,其行为都可以复杂到肉人无法理解的,但人类利用、建造、控制、操纵这些系统的努力可谓成就卓著,

当然,不存在万无一失的十全之策,对AGI如此,对既有的复杂系统也是如此,

相关文章

标签: | |
9127
【2023-03-16】 @whigzhou: 又听了个讲AI的老旧podcast(2014年的),又发现有人弄不明白到底是谁在跟谁竞争,重弹那个老调谬论:这下肉人要被机器超过了,那可怎么办? 自从人类使用机器(更一般而言,工具)以来,竞技场上的参与者向来都是人与机器的组合,AGI的出现将改变这些组合的可能性,但绝不是把它们变成人与机器的竞争, 之前,可能的参与者组合可以用这样的表达式表示:P = n*H + m*M (H=人,M=无独立意志的机器) 而未来,表达式变成了:P = n*H + m*M + k*A (A=有独立意志的机器) n, m, k都是大于等于零的整数,n+k >=1 就是说,竞技场上,任意这样的组合都可以成为参与者, 所以,作为肉人参与者,提高自身所在参与团队之竞争实力的可能潜力在于: 1)让厉害的肉人成为你的合作者, 2)能够操纵无独立意志的厉害机器, 3)让有独立意志的厉害机器成为你的合作者, 显然,这远远不是肉人和机器竞争的故事,   另一种担忧没那么幼稚,但也经不起仔细推敲, 机器已变得那么复杂,复杂到任何肉人都无法理解了,怎么可能再有效的控制和操纵它呢? 其实,复杂到肉人无法理解的东西多了去了,但在许多情况下,这并不能阻止我们得益于,利用,控制,甚至操纵它们, 控制是个宽泛的概念,可以只是边界控制,就是不让它进入一种会引发恶果的状态,这未必需要多充分的理解, 操纵也很宽泛,就是把它导向对你有利或你所希望的方向,这也未必需要多充分的理解, 电网,通信网络,大型软件,货币系统,市场,大型社会,文化系统……,其行为都可以复杂到肉人无法理解的,但人类利用、建造、控制、操纵这些系统的努力可谓成就卓著, 当然,不存在万无一失的十全之策,对AGI如此,对既有的复杂系统也是如此,


暂无评论

发表评论