2025_NIPS_Neural Functional Transformers

文章总结与翻译

一、主要内容

该研究聚焦于神经泛函（neural functionals）领域，旨在解决高维权重空间对象的高效处理问题。神经泛函是一类能够直接以其他神经网络的权重空间为操作对象的模型，但现有方法在表达能力或对称性适配方面存在不足。

研究核心是提出了神经泛函Transformer（NFTs），这是一种基于注意力机制的深度等变模型，通过设计两种关键层——等变权重空间自注意力层（最小等变于神经元置换对称）和不变权重空间交叉注意力层（实现神经元置换不变性），并结合层归一化、残差连接等组件构建成可堆叠的网络块。

为验证NFTs的有效性，研究开展了三类实验：

1. INR分类任务：基于NFTs提出INR2ARRAY方法，将隐式神经表示（INR）的权重映射为紧凑的置换不变 latent 表示，在MNIST、FashionMNIST、CIFAR-10数据集上，分类准确率较现有方法最高提升17%；
2. INR编辑任务：在图像腐蚀、膨胀、边缘检测、对比度调整等任务中，NFTs修改INR权重的效果优于现有NFN系列方法，测试误差更低；
3. CNN泛化预测任务：在Small CNN Zoo基准上，NFTs能从CNN权重中预测模型泛化能力，性能优于手工设计特征方法和部分NFN变体。

同时，研究通过消融实验验证了权重空间自注意力层各组件的必要性，证实最小等变性设计对任务性能的关键作用。

</