自我确认与变异的习得模式

摘要:符号是思维的载体,知识需在使用中形成回路,才能被神经回路真正习得。理解驱动的自我重塑——尤其是推理中遭遇矛盾后的认。

智能涌现理论 · 第 2 / 3 篇 开始阅读

摘要:符号是思维的载体,知识需在使用中形成回路,才能被神经回路真正习得。理解驱动的自我重塑——尤其是推理中遭遇矛盾后的认知重构——才是智能提升的根源。当前大语言模型虽能瞬时预测输出,本质上却是对不完备语料的先验压缩,参数冻结后无法在实践中修正。它缺乏交互式学习能力,用户上下文只能被压缩或封装。LLM的成功依赖硬件规模效应,无法为每个用户动态调参,这暴露了机制之外的工程约束。因此,需在LLM架构中引入交互式实践机制,并设计分布式结构:保留集中计算优势,为每个用户构建私有模块,实现共享与分离相结合的弹性运算,且须满足可分布式、增量成本可控的工程条件。最终目标,是让机器在“想明白”那一刻完成回路重构,而非停留于静态记忆。

正文: 一个具有生物智能的个体,会利用符号作为思维的载体从而降低思维负担,因此习惯于使用符号作为思考的载体。

智能的自我进化,在于理解,并把这种理解体现为对神经元回路的重构。这没有问题。但是知识不是单向的。知识往往需要出口来形成回路。符号又是思考的载体。

所以我们往往是先把知识放在短期记忆里面,然后再短期记忆区间里面不断用语言表达(不管是物理的还是脑内的符号操作)或者身体表达进行使用,然后被神经回路所习得。

我觉得这个机制所带来智能的提升,是更加有帮助的。就是解决上下文问题。变得聪明这个方向,个人认为LLM已经非常聪明了。但是它并不智能。

第一方面,因为它目前除了大规模计算这种“出生时刻”,就很难作为一个交互性的个体进行学习,用户的上下文要么压缩,要么包装成skil,或者写到memory文件里面;

第二方面,LLM的聪明在于,它能够讲明白很多知识,这些知识确实是它从语料中学习到的,但是智能的机制告诉我们,一个单向的知识始终也是本质上是先验的知识,而LLM只不过是通过大量的经验压缩为了先验知识(即函数),而这个先验知识过于强大使得它接触事物的一瞬间(输入一个token序列)就能反应(预测下一个token)。

但是知识之所以成为知识,是因为知识是实践的知识,它在实践中被确定,它才能在下一次实践中变得更加准确——以上,我没有质疑LLM目前的架构和当前智能的产生的机制,但是我怀疑先验知识的准确性,因为人们能够利用的语料只是所有知识的一部分,所以这是不完备的先验知识。

所以我们需要一个机制,这个机制,能够在不断的语言表达和对于知识的使用的过程中,神经回路不断的自我重塑,这里重塑的动力是来自于思考的自我明晰性。

让我们考虑一个背景。目前LLM的成功其实有一个非理论因素,就是现代化硬件体系能够形成规模效应,能够通过大规模训练进行LLM的生产,大厂能够提供api,就是因为它能够生产LLM,能够提供LLM的计算,但是几乎不可能为了每一个api用户去调整参数。

所以我目前正在想,是否存在这样的一种情况,就是一种我们前面所谓交互式与实践性的机制增添,并且开发LLM架构的某种分布式结构,从而为每一个api用户提供一个私有模块,机房里面的运算有的一起算,有的分开算,有的先分后合算,保持和利用规模效应。如果这种情况成立,那么就达成了机制之外的第二必要条件。具体而言,并不是说理论上设计一个所谓私有模块,而是说,这种机制,它必须能够具备工程上可被分布式计算且增量成本可控,才能具备现实可行性——LLM的成功并不是它机制多么优秀,只是它能够利用大规模算力而已——所以我们需要考虑可被分布式算力点进行分布运算的约束。

就相当于,人类学习了一个知识点,它往往自认为自己掌握了某种知识,他认为他遇到类似的题目能够直接借用记忆和对于知识的先验认知来处理题目,但事实上,当他在推理的时候,他会发现推理的过程中会产生矛盾,可能来自于这个新的知识点和以前知识点的矛盾,或者是内部矛盾,或者是知识细节的遗忘,因为推理本身是会产生经验的,这个经验会与自己产生矛盾,因此就发生了认知重塑,在想明白一个事物的时候就会“真的想明白”,它的神经回路被部分重构,而不是目前的参数冻结。

全文完

回到文章开头 ↑

从写作、创作和记录中寻找。