在国家重点研发计划和风云气象卫星应用先行计划等项目的支撑下，北京大学地球与空间科学学院遥感与地理信息系统研究所遥感时空大数据实验室在地表降雪率反演算法方面取得了新的进展，硕士研究生颜松昆近期以第一作者在地学领域重要刊物《Geophysical Research Letters, GRL》发表了题为“PCSSR-DNNWA: A Physical Constraints Based Surface Snowfall Rate Retrieval Algorithm Using Deep Neural Networks With Attention Module”的研究成果。
该成果综合将被动微波、红外和物理变量等数据应用于带注意力机制的深度学习神经网络中，进行地表降雪率的反演。通过集成基于辐射传输模型得到的物理变量，该方法显著降低了不同地表下地表降雪率反演过程中的不确定性；注意力机制的引入，使得算法能够动态调整变量权重，不仅提高了反演结果的准确性，同时也增强了模型的可解释性。
研究背景
降水是水文、能量和生物地球化学循环的关键组成部分，其中降雪是高纬度和高海拔地区占主导地位的降水类型。目前，由于气象站、海洋浮标和天气雷达的覆盖范围有限，利用卫星遥感反演是全球降雨和降雪数据的主要监测方式之一。尽管被动微波传感器高频通道（90-190 GHz）对冰水混合物的辐射散射作用具有更强的灵敏度，但是基于高频被动微波遥感数据反演地表降雪率（Surface Snowfall Rate, SSR）仍然存在诸多挑战。
深度学习技术的不断革新为地表降雪率的检测和反演带来了新机遇，其中带有注意力机制的深度学习算法拥有能够在预测因变量时对多个独立变量中的特定部分进行更高效关注的能力。本研究创新性地将注意力机制引入地表降雪率反演中，并耦合使用带注意力机制模块的深度神经网络（DNN），构建了基于带注意力机制深度神经网络的地表降雪率反演算法（PCSSR-DNNWA）。
研究方法
本研究匹配了微波数据、红外数据、雷达数据以及地表物理参数等变量，综合各个传感器的数据，并引入由辐射传输模型得到的物理参数，通过带注意力机制的DNN模型来动态调整各参数的权重，最终得到精度更高的地表降雪率反演结果。同时，我们还将反演结果与传统的机器学习方法（支持向量回归SVR, 梯度提升回归GBR和随机森林RF）进行对比，并深入探究注意力机制对于变量权重的调整效果，进一步深入揭示该新方法的优势。
图1. 基于带注意力机制深度神经网络的地表降雪率反演算法（PCSSR-DNNWA）流程图
结果和分析
01
反演结果评估
相比于传统的机器学习方法，深度学习方法DNN具有更高的精度。加入注意力机制后，DNNWA的精度有显著的提升，CC能够达到0.71；加入了物理约束后（PCSSR-DNNWA），算法的精度得到了进一步提升，CC能够达到0.76，显著优于其它模型。总体来说，PCSSR-DNNWA在不同季节和不同地表类型上都更具有优势，特别是在冬季的海洋上。
图2. 不同算法反演结果精度对比
02
权重分析与对比
带注意力机制的DNN模型的独特优势之一在于能够动态调整各变量的时空权重。图3(a)为PCSSR-DNNWA所揭示的各自变量在地表降雪率反演中的权重贡献，其中，通过微波变分反演算法得到的变量GWP（霰水路径）所占权重最大，说明其在地表降雪率反演中具有更大的贡献。
带注意力机制的模块在率定权重时，能够考虑到变量间的线性关系。共线性较强的几个变量在DNNWA中会突出其中一个主要变量，而随机森林等经典机器学习算法对于同质化的变量会赋予相似的权重，无法识别其中的共线性关系。如图3(b)所示，在权重的整体趋势上，相比于随机森林的权重分配，DNNWA能够较好地辨别变量中的线性关系，在几个频率相似的波段中突出其中一个关键变量。
注意力机制能够动态调整自变量的权重，适应不同的地表条件。图3(c)为变量Emis16（NPP-ATMS 16通道的发射率）RF和DNNWA权重的空间分布图，随机森林方法无法动态调整各自变量的权重，在不同的时空条件下，自变量的权重保持不变；而DNNWA的权重则是自适应于实际建模需求，能够在时间上和空间上动态调整，这种动态调整权重的能力，使其在反演地表降雪率时具有更强的鲁棒性和可解释性。
图3. PCSSR-DNNWA与RF算法中个自变量的权重时空分布与对比
作者信息：
颜松昆，北京大学遥感所21级硕士研究生，研究方向为卫星遥感降雪反演方法（Email：skyan@pku.edu.cn）。
Yan, S., Ma, Z., Li, X., Hu, H., Xu, J., Ji, Q., & Weng, F. (2023). PCSSR-DNNWA: A physical constraints based surface snowfall rate retrieval algorithm using deep neural networks with attention module. Geophysical Research Letters, 50, e2023GL103923. https://doi. org/10.1029/2023GL103923
