含有〈常识〉标签的文章(1)

常识感

【2022-05-29】

@whigzhou: AI 的当前状况是,在它弄对的地方,可以对的很高级,而在它弄错的地方,往往错的很低级,

这其实是缺乏常识感的一种表现,类似情况在不同程度上在人类中也可以看到,比如常有一些领域顶尖专家,当他越出自己专业领域谈论其他事情时,往往表现的极度无知和愚蠢,

这个困难不容易克服,像人类这样层次丰富、面相多元的常识感是很难建立的,不仅需要一个完整的成长经历,一套良好的通识教育,还需要健全的动机与激励(more...)

标签: | |
9081
【2022-05-29】 @whigzhou: AI 的当前状况是,在它弄对的地方,可以对的很高级,而在它弄错的地方,往往错的很低级, 这其实是缺乏常识感的一种表现,类似情况在不同程度上在人类中也可以看到,比如常有一些领域顶尖专家,当他越出自己专业领域谈论其他事情时,往往表现的极度无知和愚蠢, 这个困难不容易克服,像人类这样层次丰富、面相多元的常识感是很难建立的,不仅需要一个完整的成长经历,一套良好的通识教育,还需要健全的动机与激励系统,因为许多常识是无法被动习得的,需要主动探索和尝试,而探索尝试需要动机,而从探索尝试中习得有用经验需要恰当激励与反馈,为AI系统设定这样的学习情境很不容易,当前研究者可能还不知道如何下手,门都还没摸到, 而且这种探索性学习还需要某种元认知能力,就是能不断对自己的学习经历进行反思,时不时 jump out of box, 路还很长,