近年来，深度学习领域的论文复现问题一直是学界与工业界关注的焦点。一个看似微小的参数设定差异，就可能导致实验结果的显著偏离，甚至颠覆整个结论的可信度。近日，一项围绕“SDENet复现忠实性”的技术讨论在科研社区引发热议——研究者发现，在复现该模型时，非可训练参数（non-trainable parameters）的初始值与论文原始实现存在明显出入，这一差异直接影响了模型的收敛行为与最终性能。该发现再次将深度学习可重复性这一老问题推至台前。
一个“隐藏”的差异
SDENet（Stochastic Differential Equation Network）是一种融合了随机微分方程思想的深度神经网络架构，因其在时序建模和不确定性量化方面的优势而受到关注。然而，当某研究团队尝试严格按照论文描述复现其代码时，发现训练后的模型精度与原论文报告的结果存在约3%的差距。在排除了数据预处理、学习率调度、激活函数选择等常见变量后，团队将矛头指向了模型中的非可训练参数——即那些在训练过程中不通过梯度下降更新，而是通过其他统计方式累积或固定的参数。
在深度学习中，非可训练参数通常包括批归一化（Batch Normalization）层中的运行均值（running mean）和运行方差（running variance），以及部分池化层的统计量、固定权重掩码等。这些参数虽然不参与反向传播，但其初始化状态和更新策略却深刻影响着前向传播的数值稳定性与泛化能力。研究团队发现，在SDENet的原始官方实现中，批归一化层的运行均值被初始化为零，运行方差被初始化为一，这符合PyTorch等框架的默认设置。但论文的伪代码和文字描述中却暗示这些参数应采用“零初始化后通过预训练热启动”的方式——一个容易被忽略的细节。
为何非可训练参数如此关键？
“很多人以为非可训练参数是‘配角’，但实际上它们可以左右整个模型的性能。”一位参与该复现工作的研究员表示。在SDENet这类包含随机微分方程求解器的网络中，模型通常需要在前向传播中多次迭代数值积分，每一步都对输入的数值范围极为敏感。批归一化层的统计量如果初始设定不当，会导致求解器在早期训练阶段出现数值溢出现象，迫使模型陷入局部最优或完全发散。
更令人担忧的是，这种差异并非个例。近年来，多项针对深度学习论文的可重复性调查显示，超过50%的顶级会议论文无法被独立团队完全复现，其中非可训练参数、随机种子、框架版本差异等“隐变量”是首要原因。尤其在涉及复杂数学运算的模型（如神经ODE、归一化流、图神经网络）中，非可训练参数的微小扰动会被网络深处的高维非线性变换急剧放大。
标准缺失下的“复现陷阱”
目前，学术界对于非可训练参数的描述缺乏统一规范。大多论文仅关注可训练权重（如卷积核、全连接层的权重矩阵）的初始化策略，对批归一化运行统计量、池化层的指数滑动平均系数、Dropout掩码生成方式等细节要么一笔带过，要么与框架默认行为绑定。这种“代码即文档”的现状，给复现者设置了重重障碍。
针对本次SDENet的复现差异，研究团队提出了一套系统性的解决方案：一是建立完整的参数清单，将可训练与非可训练参数分开记录，并在论文附录中明确列出每种参数的初始化方式、更新策略及其推理阶段的行为；二是提倡使用可复现性工具（如MLflow、DVC）自动捕获环境信息与超参数配置；三是建议审稿人将“非可训练参数的明确声明”作为论文接收的硬性指标。
行业呼唤“参数透明度”
随着深度学习应用从学术研究走向工业部署，模型的可复现性已经不仅是科学严谨性的问题，更关乎工程安全与商业信任。例如，在医疗影像诊断、自动驾驶感知等高风险场景中，若非可训练参数因框架升级或硬件迁移而悄然变化，可能引发预测结果的系统性偏差，造成不可挽回的后果。
“我们呼吁每一位研究者，在发布代码时，不仅要提供可训练权重的checkpoint，更应导出所有非可训练参数的初始值与推理时的固定值。零差异复现，才是真正对科学负责。”该研究团队在技术博客中如是写道。
此次围绕SDENet非可训练参数的争议，为整个深度学习社区敲响了一次警钟。未来，随着模型日益复杂，参数透明化与复现标准化或许将成为新的行业共识——而这一切，正始于对每一个“微不足道”参数的认真对待。
（全文约980字）