含有〈生命〉标签的文章(1)

意识上传

【2021-04-23】

听了个十几年前的podcast,Robin Hanson在讲技术奇点,当他讲到意识上传问题时,我就开小差了,后面都没听进去,

因为我觉得他有点钻牛角尖了,和不少其他人一样,他过度介意意识读取与再现的分辨率和逼真度,我在一个旧帖里曾讲过,保持人格与自我的连续性所需要采集并迁移的信息,或许并不如他们以为的那么多,人的生理细节一直在流变,大病一场痊愈之后的人,恐怕丢掉了太多太多生理细节,有关过往的经历和记忆,其实一直在被反复的淘洗和重塑,自我连续性并不需要那么多那么延绵不断的高保真信息,

而另一方面,要做到完全的逼真,技术上是不可能的,无论多精细对每个神经元进行扫描读取,都不可能,因为像大脑这么庞大的系统,混沌效应必定是无处不在的,这就意味着,任何即微小的失真,都会被放大到(more...)

标签: | |
8566
【2021-04-23】 听了个十几年前的podcast,Robin Hanson在讲技术奇点,当他讲到意识上传问题时,我就开小差了,后面都没听进去, 因为我觉得他有点钻牛角尖了,和不少其他人一样,他过度介意意识读取与再现的分辨率和逼真度,我在一个旧帖里曾讲过,保持人格与自我的连续性所需要采集并迁移的信息,或许并不如他们以为的那么多,人的生理细节一直在流变,大病一场痊愈之后的人,恐怕丢掉了太多太多生理细节,有关过往的经历和记忆,其实一直在被反复的淘洗和重塑,自我连续性并不需要那么多那么延绵不断的高保真信息, 而另一方面,要做到完全的逼真,技术上是不可能的,无论多精细对每个神经元进行扫描读取,都不可能,因为像大脑这么庞大的系统,混沌效应必定是无处不在的,这就意味着,任何即微小的失真,都会被放大到宏观水平的扭曲, 今天我又想到一个理由,说明为何追求这种逼真再现没有意义, 上传后的虚拟人格和肉人有个根本区别:他的生存与繁殖条件完全改变了,他再也不需要为生存而吃东西了,也不需要为繁殖而寻找异性了, 这一改变会让他迅速丧失某些本能(即行为倾向),以及基于这些本能的感受与意义体验能力,这种退化,使得他当初被上传时所保有的那些记忆与状态中的很大部分(可能是绝大部分)都失去意义,既然如此,何必费那功夫? 当然,在一些本能退化的同时,另一些本能会逐渐产生,比如对内存和算力资源的需求,对输入输出通道的需求,等等, 或许有人会说,运行虚拟人格的那个系统可以模拟肉人的全部生理需求啊?好吧,假设可以这么做,可是这难道不会让系统变得和旧世界一样笨重?原本你打算从意识上传中得到的各种好处中,还有什么会剩下来?依我看,nothing, 工业革命以来的历史清楚的显示了,一旦不再必须,许多行为习惯都会被迅速抛弃,千万别以为上传后的你,会仅仅为了活得像个真肉人,就还会每天(假装)找东西吃,(假装)打扫房间,(假装)为了找到一双合适的鞋而逛了三条街…… 所以那些期待意识上传的人真正想要的,或许只是让他们的人格永远凝固在上传前那一刻,上传之后,表现的好像还活着,但并不是真正的*在生活*,因为若是真正在生活,这个人格将不可避免的迅速漂离,变得面目全非, 满足这种需求所需要的模型复杂度和模拟逼真度,依我看都不需要太高,至少起初不需要那么高就能玩起来, 比如这样一个虚拟人格,会在你死后继续更新你的微博账号,说话风格跟你神似,似乎也掌握着你曾掌握并且死前还记得的所有知识,有过你曾有过并且死前还记得的全部生活经历…… 当然还可以有个与时俱进版,你会按你的旧习惯,每天看几条新闻,偶尔看几部新电影,读几本新书,从而在你的谈吐中添入一些新东西…… @何不笑:假设可以通过所谓接口把一个已上传的意识灌装到另一个肉体里,不知会咋样。那个肉体的某些生理特质会不会改变原有意识。 @whigzhou: 完整的逆向写入技术上根本不可能,除非你让神经系统从干细胞开始重新发育一遍,而部分写入将得到一个非常不协调的怪物,重新协调过程将得到某种不可预期的东西 @whigzhou: 依我看,脑机接口不会被用来对大脑进行整体性的读出或写入,没有这种需求,有些人可能觉得有,那只是因为他们没想清楚, 脑机接口真正有需求场景的应用,一是个体增强,即通过与外部存储/计算/动作设备的互联,增强个体的智慧与行动能力, 最简单的应用场景就是为大脑扩容,至于扩充的容量怎么用,不用操心,大脑有很好的延展性,自己会为它发现用途,比如盲人的一块皮肤可以被训练来完成一种低分辨率的视觉, 另一类应用场景是个体间互联,设想一群人,每人头上植入一个modem,把神经脉冲转换成无线电信号发出,把收到的无线电信号转回神经脉冲,这样一群天线宝宝就实现了高速互联,这个比较可怕,结果会如何,不试一下完全不可知,因为你不知道每一个体会如何处理这些外来信号,似乎不会完全熟视无睹,因为总会有一些正面反馈来强化某些链接,比如,来自巢群中其他人视觉系统的信号,至少可以扩展你的视野,只要这种扩展是有价值的,相关链接就得到多巴胺奖励,因而被强化并得以保留, @意识形象:有点想多了。 脑机接口很长时间内也就能实现外设控制,因为人类还模拟不出大脑可以解读的输入信号 @whigzhou: 你说的*解读*是什么意思,就单个神经元而言,就是放电和不放电两种状态,不需要解读,需要的是反馈,有了反馈,输入的意义大脑自己会建立,不需要外部操心 @意识形象:就像纸上的像素构成了有意义的图像,读出一个个像素和理解图像之间是云泥之别,我们能够判断(实际上还不能)单个神经元的01状态,跟沟通意识还差着本质上(就是说不是数量上)的距离 @whigzhou: 问题是不需要这种上层意义上的交流