【2021-04-23】 听了个十几年前的podcast，Robin Hanson在讲技术奇点，当他讲到意识上传问题时，我就开小差了，后面都没听进去， 因为我觉得他有点钻牛角尖了，和不少其他人一样，他过度介意意识读取与再现的分辨率和逼真度，我在一个旧帖里曾讲过，保持人格与自我的连续性所需要采集并迁移的信息，或许并不如他们以为的那么多，人的生理细节一直在流变，大病一场痊愈之后的人，恐怕丢掉了太多太多生理细节，有关过往的经历和记忆，其实一直在被反复的淘洗和重塑，自我连续性并不需要那么多那么延绵不断的高保真信息， 而另一方面，要做到完全的逼真，技术上是不可能的，无论多精细对每个神经元进行扫描读取，都不可能，因为像大脑这么庞大的系统，混沌效应必定是无处不在的，这就意味着，任何即微小的失真，都会被放大到宏观水平的扭曲， 今天我又想到一个理由，说明为何追求这种逼真再现没有意义， 上传后的虚拟人格和肉人有个根本区别：他的生存与繁殖条件完全改变了，他再也不需要为生存而吃东西了，也不需要为繁殖而寻找异性了， 这一改变会让他迅速丧失某些本能（即行为倾向），以及基于这些本能的感受与意义体验能力，这种退化，使得他当初被上传时所保有的那些记忆与状态中的很大部分（可能是绝大部分）都失去意义，既然如此，何必费那功夫？ 当然，在一些本能退化的同时，另一些本能会逐渐产生，比如对内存和算力资源的需求，对输入输出通道的需求，等等， 或许有人会说，运行虚拟人格的那个系统可以模拟肉人的全部生理需求啊？好吧，假设可以这么做，可是这难道不会让系统变得和旧世界一样笨重？原本你打算从意识上传中得到的各种好处中，还有什么会剩下来？依我看，nothing， 工业革命以来的历史清楚的显示了，一旦不再必须，许多行为习惯都会被迅速抛弃，千万别以为上传后的你，会仅仅为了活得像个真肉人，就还会每天（假装）找东西吃，（假装）打扫房间，（假装）为了找到一双合适的鞋而逛了三条街…… 所以那些期待意识上传的人真正想要的，或许只是让他们的人格永远凝固在上传前那一刻，上传之后，表现的好像还活着，但并不是真正的*在生活*，因为若是真正在生活，这个人格将不可避免的迅速漂离，变得面目全非， 满足这种需求所需要的模型复杂度和模拟逼真度，依我看都不需要太高，至少起初不需要那么高就能玩起来， 比如这样一个虚拟人格，会在你死后继续更新你的微博账号，说话风格跟你神似，似乎也掌握着你曾掌握并且死前还记得的所有知识，有过你曾有过并且死前还记得的全部生活经历…… 当然还可以有个与时俱进版，你会按你的旧习惯，每天看几条新闻，偶尔看几部新电影，读几本新书，从而在你的谈吐中添入一些新东西…… @何不笑:假设可以通过所谓接口把一个已上传的意识灌装到另一个肉体里，不知会咋样。那个肉体的某些生理特质会不会改变原有意识。 @whigzhou: 完整的逆向写入技术上根本不可能，除非你让神经系统从干细胞开始重新发育一遍，而部分写入将得到一个非常不协调的怪物，重新协调过程将得到某种不可预期的东西 @whigzhou: 依我看，脑机接口不会被用来对大脑进行整体性的读出或写入，没有这种需求，有些人可能觉得有，那只是因为他们没想清楚， 脑机接口真正有需求场景的应用，一是个体增强，即通过与外部存储/计算/动作设备的互联，增强个体的智慧与行动能力， 最简单的应用场景就是为大脑扩容，至于扩充的容量怎么用，不用操心，大脑有很好的延展性，自己会为它发现用途，比如盲人的一块皮肤可以被训练来完成一种低分辨率的视觉， 另一类应用场景是个体间互联，设想一群人，每人头上植入一个modem，把神经脉冲转换成无线电信号发出，把收到的无线电信号转回神经脉冲，这样一群天线宝宝就实现了高速互联，这个比较可怕，结果会如何，不试一下完全不可知，因为你不知道每一个体会如何处理这些外来信号，似乎不会完全熟视无睹，因为总会有一些正面反馈来强化某些链接，比如，来自巢群中其他人视觉系统的信号，至少可以扩展你的视野，只要这种扩展是有价值的，相关链接就得到多巴胺奖励，因而被强化并得以保留， @意识形象:有点想多了。 脑机接口很长时间内也就能实现外设控制，因为人类还模拟不出大脑可以解读的输入信号 @whigzhou: 你说的*解读*是什么意思，就单个神经元而言，就是放电和不放电两种状态，不需要解读，需要的是反馈，有了反馈，输入的意义大脑自己会建立，不需要外部操心 @意识形象:就像纸上的像素构成了有意义的图像，读出一个个像素和理解图像之间是云泥之别，我们能够判断（实际上还不能）单个神经元的01状态，跟沟通意识还差着本质上（就是说不是数量上）的距离 @whigzhou: 问题是不需要这种上层意义上的交流