@whigzhou: 又听了个讲AI的老旧podcast（2014年的），又发现有人弄不明白到底是谁在跟谁竞争，重弹那个老调谬论：这下肉人要被机器超过了，那可怎么办？

自从人类使用机器（更一般而言，工具）以来，竞技场上的参与者向来都是人与机器的组合，AGI的出现将改变这些组合的可能性，但绝不是把它们变成人与机器的竞争，

之前，可能的参与者组合可以用这样的表达式表示：P = n*H + m*M
（H=人，M=无独立意志的机器）

而未来，表达式变成了：P = n*H + m*M + k*A
（A=有独立意志的机器）

n, m, k都是大于等于零的整数，n+k >=1

就是说，竞技场上，任意这样的组合都可以成为参与者，

所以，作为肉人参与者，提高自身所在参与团队之竞争实力的可能潜力在于：
1）让厉害的肉人成为你的合作者，
2）能够操纵无独立意志的厉害机器，
3）让有独立意志的厉害机器成为你的合作者，

显然，这远远不是肉人和机器竞争的故事，

另一种担忧没那么幼稚，但也经不起仔细推敲，

机器已变得那么复杂，复杂到任何肉人都无法理解了，怎么可能再有效的控制和操纵它呢？

其实，复杂到肉人无法理解的东西多了去了，但在许多情况下，这并不能阻止我们得益于，利用，控制，甚至操纵它们，

控制是个宽泛的概念，可以只是边界控制，就是不让它进入一种会引发恶果的状态，这未必需要多充分的理解，

操纵也很宽泛，就是把它导向对你有利或你所希望的方向，这也未必需要多充分的理解，

电网，通信网络，大型软件，货币系统，市场，大型社会，文化系统……，其行为都可以复杂到肉人无法理解的，但人类利用、建造、控制、操纵这些系统的努力可谓成就卓著，

当然，不存在万无一失的十全之策，对AGI如此，对既有的复杂系统也是如此，

有一门生意可能不久后便会出现（或者已经有了？），比如你想去伦敦街头逛逛，又懒得跑那么远，或者不想花这钱，好办，通过某个交易平台，从某位伦敦人那里租个机器人，这机器人不需要多聪明，会走路就行，头上有一部全景摄像仪，其指向随你的头部转动而变，而行走方向与速度则通过一个手柄控制（要求不高的话键盘控制也无妨），速度可以分步行、脚踏车和汽车三档，同理，如果你想从空中游览，就租个无人机（不过这个目前信号覆盖可能有点困难），简单说就是远程旅游。

要点是（1）操控感，2）实时性，3）偶遇机会，没有这些就不会有亲临现场的感觉，评论中提到的替代方案都还差的很远。

通过控制步行机器，你还可以用你的真实语音跟路人搭讪

这两天又听到一些人在高谈阔论火星殖民，烦死了，所以我决定报复一下社会，也烦上几句：

1）现阶段往火星送人毫无意义，除非把这当作豪华葬礼，

2）不过送些机器过去，看看能让它们做出点什么有意思的事情，甚至为遥远未来送人做点铺垫，倒不是不可能，

3）考虑到巨大的通信延迟，这些机器必须有相当高的自我维护、自主行动和自行探索能力，

4）为了最有效的探索可能性空间，事先最好不要对它们的行动模式和任务做太多限定，只设定一些粗略的大目标，比如，去找找新矿石，挖个洞，凿几块立方体石头，砌堵墙，修座塔，诸如此类，

5）控制主要以激励反馈和成本约束的方式进行，谁表现好就奖励，多分配资源给它，

6）这就要求它们最好具有自我组装，自行改动和自我复制的能力，也就是适应性进化的潜力，

7）考虑到这些机器不可能没有芯片（否则恐怕做不出什么有意思的事情），上述自我复制的起点不能太低，不可能要求就地取材，因为你不可能把整套地球工业体系搬过去，想都别想，

8）所以自我复制的起点应该是一些模块化的通用组件，组件设计的原则是小型，廉价，易装配，可互换，小步迭代更新，批量制造，

9）组件将作为定期补给品从地球发过去，比如每月几吨，就好比粮食，据说目前到火星的运费大概是$5000/kg，常规化之后还会低不少，几吨组件能装出不少东西了，

10）组件到达后可按市场竞价机制分配，

11）因为组件量大且廉价，地球端可以有大批人参与，各自经营自己的机器殖民团，分头并行探索，就像一大批人各自玩自己的 iRobot 一样，总能找出一些有意思的玩法，

（我觉得这事情还是用对话体更容易表达清楚）

M：就像你在那篇文章里说的，随着机器智能与生产率提高、成本下降，到某个点之后，人类（或者可以更安全的说，大部分人类）的劳动在经济体系中将变得没有雇佣价值，那时候失业率岂不是会很高？

W：嗯，好像是这样。

M：这些失业者没有了收入，但手里仍然握着选票，所以到时候福利制度的大幅扩张就是不可避免的，对吧？

W：那倒不一定，失业者没有了工资收入，但可以有其他收入，只要他还拥有一些在当前经济体中租得出去的要素便可，或者更简单的说，只要他持有一份（比如）谷歌的股票便可。

M：可是我们没有理由认为，多数失业者恰好都持有足以维生的股权或其他资产，要点在于，劳动力要素是每个人生出来就自动拥有的，但其他资产则有很大偶然性，重要的是没有什么机制确保每个人自动带着它。

W：嗯，有道理，不过其实劳动力资本也不是人人自动带着的，比如很多类型的残疾人可能生来就不自动带着在市场上租得出去的人力资本，所以你的问题其实是：未来社会能够应付（比如）80%的残疾人比例吗？对此，历史经验确实无法告诉我们什么。

M：所以并不能排除这样的可能：半数以上的人失业且无产，因而大规模福利制度不可避免，对吧？

W：但我们还可以考虑另一种可能性。假设80%的人失业了，但这些失业者还拥有一些土地（先别管这土地是怎么来的），这些土地和他们的劳动力一样，在当时的经济体系中已经没有出租价值，那么，这些人能否在这块土地上重新建立起一个自己的经济体系（姑且称为系统B）呢？

退一万步讲，即便他们采用18世纪的技术和生产模式，似乎也没有理由认为他们不能维持一个自足的经济体，尽管因为效率太低，系统B的产品在那个主流经济体（姑且称为系统A）中完全没有销路，但只要系统A的人不把阳光遮起来，系统B便可以存在，就像18世纪的世界（或者14世纪的美洲经济体）可以存在一样。

M：嗯，而且留在系统A里的人总会有一些慈善家，只要他们向系统B捐赠一些现代玩意，系统B的日子就会比18世纪的好得多。

问题是，为什么他们恰好有这块土地呢？

W：或许系统A的人会大发善心，向系统B捐赠一块土地，让他们自己玩去，毕竟，这么做的代价要比一套巨型福利制度低多了，而且，现在不是也有自然保护区吗，他们难道不想保留几个文化公园？

M：要是他们不发善心呢？这不仍是诉诸偶然性吗？和假设他们恰好拥有其他值钱要素有何不同？

W：但是考虑到国家边界的存在，就没那么偶然了。当系统A的自动化程度不断加深，逐渐排除人类劳动力时，被排除者并非均匀分布于各国，考虑到人力禀赋、资源禀赋和制度条件的巨大差异，总会有一些国家被完全排除出系统A，于是它们便组成了系统B。

M：所以世界经济体在未来将发生两极分化，最终变成两个孤立的体系？

W：看起来是这样，当然两个系统之间还是会有一些贸易，但贸易量微不足道，不具有系统性重要性，系统A基本上用不着系统B的任何资源，而系统B基本上买不起系统A的任何东西。

M：那留在系统A里的失业人口呢？不是仍然要福利制度养活？

W：好像也不一定，理论上，若没有福利制度，这些失业者的较优选择是移民到系统B，当然搬家也有成本，所以系统A为了避免福利制度造成的代价，可以为他们支付船票和安家费。

M：嗯……不过以我对现实政治的经验，搬家的恐怕不是他们。

W：对！留在系统A里的显然将是少数派，而且他们是最有能力迁移的。

M：嗯嗯，实际上系统A的运行大概不需要太大的地方，实在不行漂在公海上都可以。

W：对，所以他们未必需要拼选票，只要有处可逃就行。

M：这一点又如何保证？

W：依我看，只要仍然存在众多分立国家即可，那些坚持福利制度的国家，似乎更可能最终留在系统B里，所以千万别有全球统一政府。

M：就是说，就算美国再好，也不能只剩一个美国？

W：没错。

@whigzhou: 阿西莫夫三条（Three Laws of Robotics http://t.cn/h3WHw ）弱爆了，还是窝老来拟三条吧：

@whigzhou: 1）除非其民事主体资格在法庭上被认可，否则机器人不具备该资格，其行为的法律责任由其所有人或监护人承担；

@whigzhou: 2）有能力在室外自主行动且不具备民事主体资格的机器人，其所有人有责任为其购买第三方责任保险；

@whigzhou: 3）当机器人的所有人死亡且没有其他继承人继承对该机器人的监护责任时，该监护责任由其保险公司继承。

@whigzhou: 为机器人认定主体资格的主要麻烦在于：他们的“天性”太容易被修改了，而人类主体资格之所以可以被默认的认定，是因为我们相信遗传的可靠性，而被遗传的天性也已经历长时间测试

@whigzhou: 将转基因技术运用于人的伦理问题也在这里，一旦这种技术流行，每个人的主体资格都要被个别认定了，那就麻烦大了

@cypherV:回复@whigzhou:保险公司破产了呢？

@whigzhou: 那就相当于走失的驯养动物，其法律地位相当于日耳曼习惯法中的狼头（wolf’s head），不受法律保护，人人得而诛之

@whigzhou: 关于wolf’s head，参见 http://t.cn/8keGVZ4

@cypherV:其实关键是，如果机器人某条和人类的智商一样的时候，是否有机器人人权？甚至走得更远。

@whigzhou: 当然可以啊，见第一条，法庭认可其民事主体资格后，就和普通成年自然人一样了，可以拥有各种权利，区别在于认定程序，因为有遗传可靠性，自然人很容易认定，机器人则麻烦得多

@wenkino:辉总的 “其所有人有责任为其购买第三方责任保险” 有责任依据是什么，强制性的吗？

@whigzhou: 依据是对危险的恐惧，当你制造/拥有的一件东西对他人可能造成的伤害远远超出了你的责任承担能力，旁人就有理由基于恐惧而向你施加可以矫正这一状况的额外责任，这是事先矫正的一种

@whigzhou: 把高危传染病人强行隔离起来也是基于类似的原则

@科学与自由比翼:禁止毒品是否也是依据相应原则呢？

@whigzhou: 吸毒会把吸毒者变成高危物体吗？即便是，这也只是惩罚吸毒的理由，而不是禁毒（禁止制造/销售毒品）的理由啊

@whigzhou: 因染上毒瘾而犯罪者确实不少，这是因为毒品太贵，而毒品这么贵正是禁毒的结果

@喂羊的月亮熊:吃喝什么说老实话还真轮不到政府管

@whigzhou: 我说的是法律，法律不一定和政府有关系:)

@whigzhou: 旧#饭文#机器会将人挤出劳动市场吗？ http://t.cn/zQxHVEY ……常见的乐观说法是，机器在一些岗位上取代人时，因为提高了生产率，将抬高总产出，从而在别处创造出新的就业机会；这没错，问题是，上述过程所创造的新就业机会是否足以弥补它所消灭的呢？没有任何经济学原理能够保证这一点，具体效……

@慕容飞宇gg:如果过了临界点会发生什么？我能想到的就是绝大多数人都去做自耕农…?…另外，如果机器能够自动制造机器……

@whigzhou: 如果他有一块自己动手种就够养活自己的土地，他坐着收租大概也够养活自己……也就是说，很大一部分人将靠劳动力以外的要素的租金生活

@飞洒过:单纯的体力劳动和脑力劳动都可以被机器代替，所以人们可能必须更多的从事具有创造性的工作。

@whigzhou: 未来的机器也会从事创造性工作

@abada张宏兵:极多人都失业了，没有收入了，那么开动机器生产的大量产品又卖给谁呢？可能：机器产的东西十分便宜，以至于人每周工作几小时就可买到比以往更高质量的生活。这几小时的服务业工作，机器暂无法替代，例如广告创意、工业或时尚设计、美容

@whigzhou: 失业≠没有收入，可以有非劳动要素的租金收入

@abada张宏兵:可能：机器产的东西十分便宜，以至于人每周工作几小时就可买到比以往更高质量的生活。这几小时的服务业工作，机器暂无法替代，例如广告创意、工业或时尚设计、美容、为人按摩或洗脚，等等等等

@whigzhou: 对，可能永远会有一些消费者介意服务者是否真人，届时洗脚之前会要求先看出生证明？

@西风独步2012:有不动产者生存？人口怎么变化

@whigzhou: 也可以是机器奴隶或谷歌股票啊

@Stimmung:长期来看收入都是地租？房地产才是唯一有前途的行业啊

@whigzhou: 我们图灵教徒认为更可能是算法:)

@月光疾风_玄间雷同:因为生产力提高而担心的失业率其实是杞人忧天。生产力不足才是担心的，而担心生产力太高很奇怪 。如果高到很多人不用工作，吃喝不愁，这有什么不好呢？即使就业不充分（这个其实也不一定，人的需求不断变高会不断创造新的行业

@whigzhou: 如果我让你看出我担心了，那是我表情肌没控制好:)

@喂羊的月亮熊:我们意面飞天教认为是美食～

@whigzhou: recipe也是算法

@_dailu_:可能我们又到了一个大的转型期，要开始面对少数人工作即可养活全世界、多数人无工可干的社会，这在政治上，可能意味着回到精英政治（相对现在的民主政治），文化上，恐怕就不会再以劳动、自立为荣，而树立新的价值衡量标准了。

@whigzhou: 嗯，我想的比较近，至少，继续把失业率作为一个重要政策指标是很过时的做法了

@I__人__I:拥有了智能的新物种-AI还会傻傻的为满足人类的需求而工作吗，到时候大概是人类和AI之间的生存竞争了。给人类看的电影黑客帝国满足人类的意淫，人类救世主拯救人类，现实一点的话我

@whigzhou: 人类的优势是有机会在机器强大到能够无视人类意志之前加以阻止，不过这确实不容易，可能比防止核扩散更难

@衰尾道人秦假仙:劳动产值提高了，大家生活水平提高了，自然欲望和需求就增多了，文化产业和消费行业会进入更鼎盛的阶段。就业率担忧只看到了增长的物质生产，却没有看到人们也不断增长的物质需求。50年前的人能想象现在软件业的规模吗？

@whigzhou: 问题是多数肉人在未来“文化产业和消费行业”也未必有优势

@whigzhou: 至少理论上，自动化确实可以将失业率提高至100%，此时，所有人都靠非劳动力要素的租金收入生活。

@whigzhou: 所以，除非改变“就业”的定义，使之越来越难以与“生活”相区分，否则充分就业政策将显得越来越滑稽

@whigzhou: 这一点我以前想的不对，刚刚想清楚

@whigzhou: 尽管离100%还很遥远，但这一前景意味着就业率在富裕国家越来越不是一个值得考虑的宏观指标，这是毫无疑问的

@whigzhou: 这一点甚至在马尔萨斯极限上仍可成立，当自动化生产的效率达到某个水平后，获取生存资料的能力将完全取决于个人所占有的非劳动要素的份额，与劳动投入的关系小到可以忽略，此时，即便处于极限边缘的最贫困阶层，也不会劳动

@sw小橘子：哈哈，这样的话，按照马尔萨斯理论，机器人数量该在边界上存在负反馈机制了。至于人口极限，嗯，我想不出来怎么应用马尔萨斯了。。

@涐的桃花村: 怎么可能。你的意思是自动化了人就不用干活了

@whigzhou: 对，假如他们都对已有自动生产系统满意、不想再改进它的话、或对它的自我改进能力表示满意的话，为何不可能？

@涐的桃花村: 你这要等永动机发明出来才行

@whigzhou: 这跟永动机有啥关系？劳动力和机器人一样消耗负熵

@涐的桃花村: 因为热力学第二定律使机器自然磨损，无法自我维持。除非机器有生命，而无法通过改变自己形式来改变自己实质的无法成为生命，也不会有智能

@whigzhou: 相互或自我修复/复制的机器人嘛，生命又不是永动机