博鱼体育- 博鱼体育官方网站- 最新网址经典ReLU回归!重大缺陷「死亡ReLU问题」已被解决
2025-06-11博鱼,博鱼体育,博鱼官方网站,博鱼体育登录入口,博鱼体育官方平台,博鱼中国官方网站,博鱼官网,博鱼体育登录入口,博鱼体育官网,博鱼体育下载,博鱼体育平台,博鱼app下载,博鱼注册网址,博鱼官方网站本文对 VGG-16 和 ResNet-18 进行了全面的实验,表明 SUGAR 显著增强了这两种架构的泛化能力。本文在Swin Transformer和 Conv2NeXt 等现代架构上对 SUGAR 进行了评估,展示了其适应性和有效性。对 VGG-16 层激活的深入分析表明,当应用 SUGAR 时,激活分布发生了明显的变化,为其在缓解消亡 ReLU 问题中的作用提供了直观证据,同时促进了更稀疏的表示。