人工神经网络中信息的拓扑驻留

边中心计算与 Dodecaflake 架构的实证鲁棒性

作者 :
Guillaume Desvaux · HOPE 'N MIND SASU
年份 :
2026
阅读时间 :
18 分钟

摘要

实验证据表明,训练过的神经网络中的信息在拓扑上驻留在边(权重)而非节点(神经元)中。引入 Hexaflake 与 Dodecaflake 架构:75% 的传播面可被消融而性能零损失,展现前所未有的拓扑保护。

关键词

  • 机制可解释性
  • 记忆与信息
  • 数学复杂性
  • 可证伪性
  • 神经网络与大语言模型
  • 边中心架构
  • 鲁棒性与拓扑韧性
  • 复杂系统与计量学
  • 可证伪性与认识论

全文

原创研究 · 神经网络 · 2026

经典联结主义与现代深度学习都基于一个共同假设:神经元是计算与表征的基本单位,边只是被动传输线。这一框架难以解释"叠加"现象,即同一神经元参与代表数百个正交概念。

我们颠倒这一立场:节点是无状态的路由缓冲,边才是真正的计算基底。信息并非寄居于神经元,而是栖息于连接的拓扑结构之中。

在标准 MLP(5→20→20→1,561 参数)上完成 100% 序列 XOR 训练后,我们以两种方式切除 N 条边。分散:在整图中随机去除。聚集:去除与某特定节点相连的全部边。

3. 按幅度剪枝:中奖彩票是一个边子图

信息稀疏性的第二个证据:我们按幅度扫描边的移除。移除最弱的边毫无代价;移除少数最强的边则摧毁计算。彩票假设的"中奖彩票"并非一组神经元,而是高幅度边的拓扑子图。

4. Hexaflake:双向捕获的边链

边中心化的第一步:用 3 个捕获单元的线性链(A、B、C)替代每个标量权重。前向:State_i = tanh(W_fwd * State_i-1)。中央单元的双向规则 Capture_B = tanh(W_cap * [State_A \| State_C]) 建模局部元胞自动机交互。

Hexaflake 在基准上达到 100% 准确率。其中央单元 B 聚合来自两端的信息:消融 B 必须产生严格大于消融 A 或 C 的下降(预测 P4)。

5. Dodecaflake:75% 面消融而性能零损失

每条边被建模为具有 12 个传播面(正十二面体的十二个五边形)的三维投影空间。位于边中央的张量干涉机制通过门控 Hadamard 乘积融合两端节点传来的信号。

结论:12 个面中可摧毁 9 个,网络仍以 100% 准确率将信号送至中心。但摧毁中央干涉机制即刻杀死模型。计算在拓扑意义上栖居于中心,外围路径是自我修复的波导。

核心:基于相位相干的张量干涉

中心并非学习得到的权重,而是一个物理条件。两端节点传来的信号通过门控 Hadamard 乘积融合,仅当两个波前同相到达时,中央状态才被捕获。拖动相位差:

架构饱和:在简单布尔任务 (XOR) 上,双向捕获带来 -10% 的边际贡献。这并非失败而是一种特征:前向传播本身已足以解决此类线性任务,结构性干涉仅在高维非线性上下文整合时才有意义,此时它以非参数操作取代了学习得到的门控。

与 Majorana 费米子的类比(Kitaev 2003):量子信息通过存储于粒子对之间的非局域拓扑关系,从而免疫局部退相干。

黏菌 Physarum polycephalum(Nakagaki 2000)在没有任何集中神经系统的情况下解决最优化与路由问题。处理源自管网的物理重构与节律收缩。

若 Dodecaflake 在多位奇偶校验任务上随对称面消融线性退化,则拓扑保护被证伪。

若完整训练的 Dodecaflake 中任一节点稳定代表单一语义特征,则无状态路由假设被证伪。

在 Transformer 中,删除 W_q/W_k 中 50% 低幅度权重将引起 50% 退化。

消融 Hexaflake 边的中间单元应产生显著大于消融入口或出口单元的性能下降。

若神经元并非基本单位,则聚焦于单神经元激活的可解释性方案测量的是错误对象。正确对象是高幅度边的子图。"叠加"不再是悖论:那只是当你观察节点(路口)而非边(街道)时所见。

多面拓扑契合生物学中观察到的原则(黏菌管网自修复、成年大脑神经冗余)。我们获得一个韧性的计算模型,它既非临时正则化,也非优化技巧,而是结构性属性。

50% 低幅度边可零损失移除 = 50% 硬件操作可省。神经形态芯片的直接目标。

由该结果开启的方向,超出论文中已验证的实验范围。

若信息不在节点而在边,则一条边不再是单纯的标量:它成为可承载状态向量的单元。这一转变提示可将边拓扑本身用作可寻址的存储空间,而非把嵌入外置于向量数据库。

如今智能体将向量存储于外部库(例如 Qdrant)并按余弦相似度检索。边中心结果开启了另一种可能:检索可源自网络自身内部的拓扑共振,捕获边中心的同一相位相干条件充当寻址机制。记忆与计算将不再分离。

自修复存储:75% 的面冗余保护内容免于局部丢失。

稀疏检索:仅强边子图参与,其余处于惰性。

片上记忆:神经形态硬件的天然基底,无需往返远程库。

未经 Hope 'n Mind SASU 明确书面合作,严格禁止。

从 Zenodo 下载正式 PDF

影响有限:网络通过相邻路径绕过缺失的边。

即刻坍缩至 51.4%(XOR 的随机水平)。路由枢纽被切断,无路可绕。

关闭中央干涉机制:坍缩至 47.1%(随机水平)。计算正栖居于此。

所有面切除而中心完好:坍缩至 47.1%。仅有中心不足,它需要面来接收信号。

12 个面中消融至 9 个,中心仍以 100% 捕获信号。在此区域内呈现绝对拓扑保护。

B 聚合记忆:移除它便切断双向捕获,网络坍缩至随机水平。

中等损失:端单元贡献于前向流,但中央单元承担大部分计算。

所有路径激活:前向流 A->B->C,双向捕获 B <- {A, C}。网络满负荷运行。

可移除多达 50% 的连接而零损失,前提是它们是最低幅度的边。"中奖彩票"正是强边子图(彩票假设的扩展)。

仅移除 10% 的高幅度边便已使计算坍缩 (74.8%),移除 20% 即降至随机水平 (48.6%)。计算栖居于少数强边之中。

随机剪枝:退化居中并随比例增长 (98% -> 87% -> 65%),因为随机最终会命中强边。

门控 Hadamard 乘积的概念可视化:仅当两端节点的波前同相到达时,中央状态才被捕获。同相 (0 度) 捕获最大;反相 (180 度) 干涉相消,中心保持沉默。这是严格的物理相干条件。

探索性示意图(超出论文的实验范围):若信息栖居于边,则每条边都成为可存储向量的单元。边拓扑因而可充当按内容寻址的联想记忆,检索源于拓扑共振,而非在外部向量数据库(如 Qdrant)中进行余弦相似度搜索。

阅读交互式文章在 Zenodo 查看 (PDF)

引用本文