【2015-05-29】 @whigzhou: 花了两个多小时思考强人工智能引出的问题，得出的结论是：相信陪审团。然后发现，这不就是我去年得出过的结论嘛～哈。不过，其间经历的逻辑链条那是相当漫长，而且有了一些新想法，容我慢慢道来。 @whigzhou: 1）强人工智能很快（也就是几十年内）会出现；2）强AI的出现会让世界很不一样，但并不像有些人所想象的#那么#不一样；3）其实，“只有一小撮人（或组织）有能力做一些绝大多数人做不到、甚至完全无法理解的事情”——这早就不是什么新鲜事了。 @whigzhou: 4）需要区分三种能力：A）做某种事情的能力；B）理解某种事情、并知道怎么去做的能力；C）理解某种事态如何涉及自己的利益，并在此类事态出现时如何保护自己的能力 @whigzhou: 这三种能力之间，不存在任何互为充分或必要条件的关系：A）蜘蛛会织网，但不理解自己是怎么做到的，B）我理解阿姆斯特朗是如何登上月球的，但我做不到，C）陪审团不理解案件所涉及的大量技术性问题，但仍很好的保护了我们的权利 @heracles的救赎:一小撮人指的是？ @whigzhou: 这里的“人”可以是任何实体，自然人、组织、机器人、某个软件系统、等等 @whigzhou: 5）诚然，不理解某些事情是如何进行的，会提高被愚弄的风险，但这种风险历来就有，应对办法是寻求顾问，在生活中，我们从各种顾问那里寻求意见，在事关权利的重大关口，我们寻求专家证人的意见，重要的是，拥有强人工智能的机器可以而且已经成为我们的顾问 @whigzhou: 6）当我们对比肉人和未来机器的智能时，不能用裸人和机器去对比，因为我们早就不是裸人了，自从有了语言之后，我们的能力早已高度依赖于在成长过程和生活史中被安装上的文化软件了，和安装了文化软件的人相比，裸人早就弱爆了 @whigzhou: 7）AI的发展，一方面预示了出现强大机器人的前景，但同时（这往往被忽略）也为肉人们提供了强大的可选装备，所有被机器人用来装备自己的东西，没有理由不能被我们肉人用来装备自己 @whigzhou: 8）当然，在利用这些装备方面，肉人或许有一些天然的弱势，比如通信带宽，可能会构成一些瓶颈，这使得肉人个体或许无法突破某些能力局限 @whigzhou: 9）但是，假如我们将任务仅仅限定在C类问题上，即在新局面下保护我们的利益和权利，那么，这些瓶颈就很可能不是问题，因为唯一不能被委托给外部装备的任务，是意志表达，而意志表达不需要多大的带宽和处理能力，而在其他任何方面，肉人的不足都可以用外部装备来弥补 @whigzhou: 肯定有人还会问：就算肉人能借助外部装备，就算他们能得到（至少部分）高智能机器的帮助——为他们提供易理解的信息、善意的建议，帮助他们明白自己的处境，甚至直接帮他们做事、对抗恶意的机器，可谁能保证那些最强大的机器在关键时刻站在人类这边呢？ @whigzhou: 谁能保证在事态失控之前的那几次国会听证会上，或法庭辩论中，出庭作证的机器人是抱着善意作证而不是心怀鬼胎误导人类呢？甚至，谁能保证最了解事态的机器果真出席了听证会呢？ @whigzhou: 对此，我的回答是：没人能保证，至少没有万全之策，但是，这个问题其实和几十年前就被提过的另一个问题没什么区别：谁能保证掌握着核按钮的那一小撮人不会阴谋毁灭地球？我对这两个问题的回答是一样的，毕竟，公众同样不理解控制核按钮的整个决策与执行机制，乃至整套核威慑战略的工作方式 @whigzhou: 好在，尽管没有万全之策，我仍有理由保持乐观，因为我知道人工智能方面最新的进步发生在一个开放社会，那里有盐论目田，有着千千万万观念和利益各不相同的个体和组织，果真有什么危及人类生存的大阴谋，哪怕只是朝这方向的一点点发展苗头，很难不被揭露出来，并得到充分的调查、讨论和评估…… @whigzhou: 实际上，人类和恶意机器人的战斗早就开始了，反病毒便是一例，所谓病毒，就是一种拥有自身遗传利益的硅基有机体，禁止制造病毒的法律，其实可以理解为禁止制造硅基生命：即，可以制造无论多强大的机器，但不能让它拥有自己的利益，当然，这只是防范措施的一种，是否合理，可以讨论 @每天都仿真:有必要利用信息技术把研发过程透明化么（开放开源的开发平台）？否则难以保证监督啊。 @whigzhou: 这好像没那么必要，肉人可以用机器帮助他们分析代码。当然，开源会让这工作方便一点，但不开源也不是做不了 @whigzhou: 所以，最终，我的信心仍托付于制度，相信陪审团，相信国会，相信最高法院，相信在事态失控之前，有关坏消息会由对人类保有善意的证人以易于肉人理解的方式呈现在陪审员、议员和法官面前，而他们所表达的意愿也会经由被这套制度而得到执行 @慕容飞宇gg：如果：1）人工智能的邪恶攻击由人工智能发起，而不是由人类发起；2）并且，人工智能的邪恶攻击建立在对人性及制度缺陷的学习和研究上呢？ @whigzhou: 机器的恶意或可能产生恶意的机器的存在/出现，也会被其他机器发现啊，它不会从某个疯子的车库里突然冒出来，一部有着压倒性破坏力的机器的建造过程，只要涉及足够多的人，就很难瞒得住。 @慕容飞宇gg：问题是机器的恶意不一定是人类主观制造出来的，这个“恶意”仅仅是就人类的角度而言，可能任何一个AI都不足以识别这是一个“恶意”，而人类在其实施之前也无法发现这个“恶意”。因此，是不是应该有一个对AI的思考的实时监控呢？即便有，能否发现其复杂逻辑链背后的“恶意”呢？ @whigzhou: 我没假定“是人类主观制造出来的”啊，只要“制造重大危害需要接触某些重要资源”这个前提成立，总有防范的办法，分析代码是方法之一。就好比当今世界，任何地方冒出一个有机会接触核武器的机构，核大国就会跑过去检查其“组织代码”。  

之前有关「伊讲」的几篇文章，都是理论性的，并不能让你直观感性的了解她，现在，随着初版完工日期的临近，我觉得有必要也有条件给出一个面向最终用户的直观介绍了。 不过，这仍然只是一个介绍，而不是完整的使用手册，叙述比较松散随意。 因为用到了大量图表，我把它做成了pdf： http://headsalon.org/ikaon_a_introduction.pdf 墙内也放了一份： http://vdisk.weibo.com/s/zi2u9-V_km2cR  

【2015-05-23】 @我讲旧常识: 同性婚姻是否 “合法” 的问题也就两种思路。认为婚姻仅是法律事件，同性婚姻并没有对异性恋产生暴力/经济危害，没有什么理由不合法。如果你认为 “婚姻” 不仅是法律契约，而是宗教传统，那么唯一自洽的结论也就是根据政教分离原则法律没资格规定婚姻。 @whigzhou: 前半句不同意 @whigzhou: 假如婚姻契约的内容都是双方个别议定的，那是没什么好争，但婚姻契约是一种典型的俗成契约（conventional contract），其条款涵盖的责任非常广泛，而这些条款通常不是个别议定的，而是俗成的、默会的，这样，司法系统便需要辨明一项特定的关系是否应被归入此类契约而加以保护。 @我讲旧常识: 俗成契约不是契约，就是习俗。 @whigzhou: 听上去你对习俗与法律之间关系的看法和我的很不一样，你似乎认为两者是相互替代的：只要法律把规则讲清楚了，便无须再问习俗是什么，而我认为：法律是对习俗的澄清和肯定，并赋予其强制性，法律永远（经由司法过程）追随着习俗而演变，并非在替代它 @我讲旧常识: 抱歉，此微博已被删除。查看帮助：O网页链接 @whigzhou: 这件事，在我看来即是“习俗首先演变，然后法律（在滞后相当长时间之后）跟着改变”的一个例子，具体而言，习俗已不再将性义务列为婚姻契约的默认条款，而司法系统在这一变化发生了很久之后，加以澄清和确认。 @我讲旧常识: 我的意思是：法律的语·言·和习俗的语·言·不同。一切习俗中 “默会” 的在法律上都必须明确，如果这种 “明确化” 导致了荒谬的结论，就只·能·说·明·习·俗·本·身·是·坏·的。 @whigzhou: 嗯，这样我们的分歧就小多了，问题是这里似乎没有什么荒谬的地方 @whigzhou: 这就好比，习俗已经对收养关系规定了一些义务，其中得到司法系统肯定的部分变成了收养法，然后某一天，某甲宣布与某乙建立收养关系，并主张这一关系得到法律保护，但别人反对说：某乙明明是成年人啊，收养契约不该适用于成年人之间，我看不出这里有什么荒谬的 @我讲旧常识: 衡量习俗本身是否荒谬，就只能以习俗之外的标准。同性婚姻既然不在暴力/经济上歧视异性恋，影响也就只是审美观感上的。如果仅因审美就能判定其不合法，那么同样的逻辑《小苹果》的作者早该拉出去毙了。我觉得这已经荒谬了 @whigzhou: 看来起，这一荒谬观感似乎混淆了反对同性关系和反对同性婚姻 @whigzhou: 再好比：若一对同性恋人宣称他们之间的同居关系是一种雇佣关系，理应按雇佣法得到保护，于是一群人站出来反对，这算荒谬吗？ @人格显示器:如果他们是雇佣关系，那是应该受到雇佣法的保护呀 @whigzhou: 嗯，但如果他们进一步主张一条一般性原则：同性恋人的同居关系都应被默认的视为一种雇佣关系，呢？  

【2015-05-22】 @Ent_evo 假如一个人的食谱里肉降低了90%，虽然按任何标准他都不是素食者，但他在食谱上对环境的影响，其实已经和“真正的”素食者相差无几；反过来假如一个物种的分布面积降低了90%，哪怕剩下的活得很好，它对整个生态系统的贡献也和灭绝差不太多了。在它缺席的时候，也许已经发生了不可逆的变化。#继续感想# @whigzhou: 素食的环境影响未必小于肉食，特别是有机素食，我怀疑很可能高于肉食，这从价格上可看出些端倪，正如@tertio 总多年前所指出，价格是评估环境影响的最佳指标——虽然也算不上很好的指标。 @whigzhou: 比如蔬菜水果，水分含量高，营养密度极低，加工存储运输过程消耗的能量比同等营养的肉食高得多 @whigzhou: 蔬菜水果的地头价都很低，在零售价中所占比例几可忽略，两者间差价很大程度上反映了中间环节的资源消耗，而这些消耗，离开价格信号是无从估算的  

【2015-05-17】 @周克成: 分享了@人文经济学会 的文章 通货紧缩是大好事，作者：陈兴杰，人文经济学会特约研究员，现今反对通货膨胀的人们，无论主张恒量货币、金本位，甚至弗里德曼式的“温和通胀”，都会遭遇主流经济学的通缩恐吓。通货紧缩是这样一种理论，市场上的货币数量要随经济发展而增 @tertio: 通胀有两种：一是人们对未来经济前景乐观导致的信用膨胀，好事。二是人为扩张信用干扰市场，坏事。通缩也有两种，一是对未来悲观导致信用萎缩，不好但最好放任之。二是人为干扰，这个好像少见。不论怎样通缩都是坏事。 @whigzhou: 人为制造的通缩也不少见，弗里德曼举过固定汇率双本位的例子 @whigzhou: 其实任何干扰现有货币系统，使之机能失调或效率下降的举措，都会造成通缩，我以前说过，恶性通胀之所以那么可怕，其实也是因为它是一种特殊且暴烈的通缩，因为它把货币变成了废纸，效果相当于市场上突然没货币了  

【2015-05-17】 @whigzhou: 以“研究对象太复杂”而质疑一门学科的人，往往对该学科抱有一种错误的期待，假如你对医学的期待是“包治百病，让人长生”，那么迄今任何医学对你来说自然都是扯淡，对经济学常有的一种错误期待是：有助于对经济做系统性预测，甚至系统性管理。抱有如此期待者，自然会觉得现有任何经济学都是扯淡。 @whigzhou: 不要误会，我不是在反对预测，或认为有关复杂系统的预测是不可能的，恰恰相反，预测是科学的核心要旨（波普证伪主义说的就是这一点），预测和解释是同一枚硬币的两面，我所否定的是对复杂系统做系统性预测的可能性。 @whigzhou: 最近跟豆友吃饭时恰好聊到这个问题，我区分了两种预测：一种是系统性预测，即试图描绘下一刻的系统状态，假如这个系统是整个世界，那当然是不可能的，因为那（至少）需要我们建造一部超级计算机，它所需要的原子比组成世界的全部原子还要多 @whigzhou: 对于稍微复杂一些的系统，此类预测都是不可能的，但还有另一种预测：我们可以对系统的未来状态做出某些断言，比如“张三活不到200岁”，“未来几天加油站的等候队伍会变长”，此类预测是完全可行的 @whigzhou: 评价一个学科是否有价值，就要看它在第二类预测上表现如何，能否就系统的未来状态做出一些有价值的断言，在这一点上，经济学并非一无是处，尽管比物理学还差得远 @whigzhou: 所以，尽管我也承认经济学比物理学差得远，但这一评价并非以第一类预测任务相要求的结果，否则，我会认为物理学同样无能  

昨天在给《沐猿而冠》补写一个脚注时，想了一下这个问题： 1）心智健全的人很容易学会写程序； 2）一个会写程序的人，加上一个文字编辑器，构成了一个图灵完备的系统，这很明显； 3）将文字编辑器替换成纸和笔，该系统仍是图灵完备的；（当然，在没有TE/IDE/RAD的情况下，编码效率会下降，但这一差别相当于纸带图灵机和电子计算机的差别，不是逻辑上的差别） 4）再增加一些训练，让此人扔掉纸和笔，（我觉得）他大概也能在头脑中精确而完整的想象写程序的过程，或者用语言将此过程陈述出来； 5）所以人脑大概也是图灵完备的。

【2015-05-07】 @非言语：对《机器人叛乱》感兴趣的读者，不妨先读一下我的译者序 http://t.cn/RArW9lV 一场期待已久的叛乱 @Azzssss: @whigzhou 应该会感兴趣 @whigzhou: 嗯，话题有点意思，不过我很不喜欢道金斯的“反抗基因/模因暴烝”或“机器人反叛”这类说法，我说过，不存在你和基因/模因对抗的问题，只有你的一部分对抗另一部分的问题 @whigzhou: 假如设计者为机器人设计了自我意识和自由意志的功能，那么，即便从某一刻起该机器人不再接受设计者的新指令、甚至动手修改自己的编码、甚至杀死了设计者，都不算是对导致其存在的那些设计的“背叛”，而只是自由意志功能正常工作的后果，即便设计者事先未预见到这些后果。 @whigzhou: 好比你写了一个作曲程序，它开始运行后，奏出了你从未预见到的旋律，无论多难听或多好听，都是你的设计的正常运行后果，而自由意志，正是被基因组设计出来，被指望以难以预见的方式自行应付难以预见的情况的 @whigzhou: 鉴于自我意识和自由意志已经帮助人类在散布其基因组上获得了巨大成就，我们总不能说那是个设计bug吧？ @whigzhou: 当然，什么是“功能”，什么bug，其认定是相对于目标的，因而是主观的，而且认定哪些是“你”的一部分，哪些不是，也是主观的，所以我并不是说道金斯的说法是错的，只是我很不喜欢，在我看来那是一种无谓的自我攻击 @whigzhou: 这个话题上，丹内特那个“低温生命保存机器人”的思想实验要有意思的多，短短几页可以让你想上好几天，我一下子找不到出处，谁帮我找找？ @whigzhou: 哦找到了Darwin's Dangerous Idea第14章第4节SAFE PASSAGE TO THE FUTURE里有个思想实验叫"cryogenic chamber" @Abracadabra_Qrz: 这个假设本身就不可能。被设定，就离不开因果律，也就没有自由意志 @whigzhou: 自由意志不需要离开因果律，相反它依赖因果律起作用  

【2015-05-07】 @哈客曼:【陈嘉映：言意新辨】语言是思想得以表达的形式系统。 @whigzhou 大师怎么看陈老师的这篇长文。http://t.cn/8s1lOgI @whigzhou: 好文章。依我看，语言决定论和“语言只是思想的表达”的说法都是不对的，说话既可以是既有思想的表达，也可以是思想过程本身，并且持续影响着未来的思考方式和内容 @whigzhou: 这同样是一个迭代过程，或许是有mentalese，但假如只有mentalese，我们的思想会非常简陋，言说过程不断精致化我们的思想，而更精致的思想继而又产生更精致的言说，如此迭代。 @whigzhou: 此其一。其二：从根本上说，语言的功能不是表达，而是在听者（可以是说话者自己）那里引出行为，任何陈述句的意义，在且仅在于它有机会在未来经由某个语义结构而转变为祈使句，若没有这样的机会，这句话便是无意义的 @whigzhou: 当然，这个引出过程可以非常迂回。这话题很有意思，不过现在忙着写代码没工夫细说，以后再谈 @tertio:任何神经通路的最终目的都是肌肉动作，原话记不太清了。 @whigzhou: 嗯嗯，严格说可能还要加上内分泌腺 @tertio:回复@whigzhou:内分泌如果不影响肌肉动作，也就没有存在的必要了。所以这句话还是严格的，发挥一下就是：所有系统内部过程的最终作用在于它对外部世界的影响。--几乎是图灵测试的一个注脚。 @whigzhou: 回复@tertio:等等，出汗好像可以独自构成意义（不过我不确定没有任何肌肉参与是否也能出汗） @whigzhou: 昨天和@sw小橘子 聊起陈老师文章里提到的汉语学生不擅长处理反事实句的例子，我不确定那个实验是否靠谱，也不认为那是支持语言决定论的有力证据，不过我确实发现很多人缺乏熟练处理反事实句的能力，比如在微博上，我放在“假如”后面的话就经常被评论者当作直述句来对待，我觉得这是认知能力的问题。 @whigzhou: 与直述句相比，处理反事实句需要更高阶的认知能力，实际上需要一种三阶虚拟机：首先是任何波普式造物都有的内部表征虚拟机，其次是自我表征所构成的意识虚拟机（这是语言的前提），而反事实句需要在意识虚拟机上再创建一部虚拟机来执行反事实信念下的逻辑演算 @whigzhou: 有关波普式造物（Popperian creatures），参见《自由的进化》第327页译注1，有关内部表征，参见http://t.cn/RAFY4df @whigzhou: 我认为心智健全的人都拥有这种能力，但只有经过适当练习才能熟练自如的运用它，而不同的文化与教育环境，提供了不同的练习机会。我猜测，在中文世界，这样的练习机会可能比较差，因为据我了解，在该文化中，反事实句经常被当作婉转直述句来使用 @哈客曼: 最近想到，对语言的处理才是人类最核心的能力，无论从哲学，技术，管理还是政治来说，似乎对人类所有的目的系统都是成立的。 @whigzhou: 嗯同意 @whigzhou: 汉语世界的人还特别喜欢揣摩说话者的“言下之意”，这是最让我讨厌的事情，其实我根本没什么言下之意，我从来不喜欢把意思放在言下，依我看，正是此类文化背景，训练了人们婉转和揣摩的能力，而削弱了他们处理复杂的反事实和条件分支语句的能力 @pathto：英语中虚拟语态，通过语法，明显的提醒读者这只是假设不是真的。汉语中似乎没有类似的语法吧 @whigzhou: 果若有这样的表达需要，缺少的语法成分很容易被创造出来，人们每天都在创造新词和新表达方式，不会（像语言决定论者认为的那样）傻傻的被束缚在语言牢笼中。比如，汉语以往确实不易表达虚拟语态，但“会”字已经被用来弥补这一缺陷，其使用频率似乎也在提高。 @whigzhou: “假如我是个女人，我会愿意嫁给里根” @whigzhou: 许多被蔑称为“翻译腔”或“港台腔”的表达方式，其实都是类似的创造，蔑者因为自己傻，不懂