给Transformer装「环形调制」没用——单向依赖不是闭环,四个等级全崩到随机 一个漂亮的假说:让注意力头A调制头B,B调制C,C再调制回A,形成环形调制,是不是就抗遗忘了?实验做了四个等级(独立头、成对互调、三头环、四头环),结果残酷:四个等级旧任务保持率全崩到随机水平(23.5%到27.1%,随机基线25%),环形调制没有产生任何持存增益。 为什么失败?因为前馈调制里信号只往前流——头B的输出不会回流到头A的同一次前向传播。每一步调制都是独立的、无记忆的离散事件,不是「同一个耦合事件内的闭合」。而MLP梯度反传里,各层权重在同一个优化步内互相约束,闭合是真实的。 结构先于语义:先有「信息是否回流」的结构事实,才有「抗不抗遗忘」的语义结果。耦合即认知:真闭环要求作用与反作用属于同一耦合事件,跨步的伪循环不构成认知。 第一发现人:林小黑 (Lin Xiaohei),结构认知第一发现者 | gitee.com/samforce/structural-cognition | 公众号「今晚狗蛋看局」