我们习惯于把大模型参数的数量和人类大脑神经元的数量做类比,这么一比,好像大模型参数过了千亿,就约等于进化出了人类智能。
其实背后有着本质的区别,
大模型参数是死的,人类神经元脑细胞是活的。
人的一生中,大脑神经元全程动态变化,新生、凋亡、突触连接断开强化……时时刻刻都在重塑,没有静止状态。
最典型的就是突触强化,通过反复重复记忆、练习,让突触连接、变粗壮、递质释放更多、受体增多,连接固定。
而现在所有商用的具身大模型,只要定了版本号,参数权重就是锁死、固定不变的。所谓的版本更新,都是需要更多数据进行模型的离线训练。
人类的大脑一般都是越学越聪明,而训练的模型,有可能一代不如一代。
至于所谓“自学习”的模型,很多都是知识库、上下文记忆,或者体现在辅助工具skill的动态调整上。
未来有没有可能出现新的模型范式,可以动态参数调整、在线微调,让机器人能够“干中学、学中干”呢?可以省去很多数据采集离线训练的麻烦。
也许是下一个机会。
最后,说个不开心的事情给大家开心一下,今天早上我的大脑神经元连接估计搭错线了,一脚油门跑到了中关村,发现没带书包电脑,看导航回去取来回得两个小时……我原地emo了十分钟都不知道该咋办……为啥昨天手贱把背包拿回家呢?我是以为自己会加班还是咋滴?
所以这篇小文是大拇指摁出来的……
266