用于高温次季节预报的深度学习方法_邓敏.pdf

第 39 卷 第 2 期 福 建 电 脑 Vol.39 No.2 2023 年 2 月 Journal of Fujian Computer Feb.2023 本文得到国家重点研发计划“重大自然灾害监测预警与防范”专项（No.2018YFC1505805）、福建省引导性项目“福建省前汛期持续性强降水过程延伸期预报的人工智能技术研究”（No.2021Y0057）、福建省引导性项目“基于深度时空多尺度交叉注意力的华南前汛期极端降水延伸期预报研究”（No.2022Y0008）资助。邓敏，男，1998 年生，主要研究领域为人工智能应用。E-mail:。游立军（通信作者），男，1974 年生，主要研究领域为延伸期预报、气象信息技术。E-mail:。翁彬，男，1981 年生，主要研究领域为人工智能理论与应用。E-mail:。郑子华，女，1976 年生，主要研究领域为人工智能、信号处理。E-mail:zh_z_。叶锋，男，1978 年生，主要研究领域为人工智能应用。E-mail:。用于高温次季节预报的深度学习方法 邓敏1,2,3 游立军4 翁彬1,2,3 郑子华1,2,3 叶锋1,2,3 1(福建师范大学计算机与网络空间安全学院 福州 350117)2(数字福建大数据安全技术研究所 福州 350117)3(福建省公共服务大数据挖掘与应用工程技术研究所 福州 350117)4(福建省气象科学研究所 福州 350007)摘 要 高温是一种比较常见的气象灾害，对人们日常生活和健康以及国民经济都有一定的影响。准确地预报未来 10-30 天（次季节）的每日高温天气状况，有助于人们及早地做出对应的决策和降低财产损失。本文设计了一种深度学习模型，通过对两个 Encoder 提取的大气环流和地表高温的特征进行延迟融合，并结合 Decoder 逐日输出高温预报结果。实验结果表明，本文的方法有较好的预测效果，相较于单个 Encoder 的深度学习方法，均方根误差降低了 2.12%，异常相关系数提高了 2.72%，决定系数提高了 0.04。关键词 高温次季节预报；深度学习；气象预报数据 中图法分类号 TP389.1 DOI:10.16707/ki.fjpc.2023.02.001 A deep Learning Method for Sub-seasonal Forecast of High Temperature DENG Min1,2,3,YOU Lijun4,WENG Bin1,2,3,ZHENG Zihua1,2,3,YE Feng1,2,3 1(College of Computer and Cyber Security,Fujian Normal University,Fuzhou,China,350117)2(Digital Fujian Institute of Big Data Security Technology,Fuzhou,China,350117)3(Engineering Technology Research Center for Public Service Big Data Mining and Application of Fujian Province,Fuzhou,China,350117)4(Fujian Institute of Meteorological Sciences,Fuzhou,China,350007)Abstract High temperature is a common meteorological disaster that has a certain impact on peoples daily life and economy.Accurate forecasting of daily high temperature weather for the next 10-30 days(sub-seasonal)can help people make early decisions and reduce damage.In the paper,a deep learning model was design by late fusion the futures of atmospheric circulation data and surface high temperature extracted by two Encoders,and combining with Decoder to output day-by-day high temperature forecasting results.The experimental results show that the proposed method has better prediction effect,with a 2.12%reduction in root mean square error,a 2.72%improvement in anomaly correlation coefficient and a 0.04%improvement in coefficient of determination compared to the deep learning method with a single Encoder.Keywords Sub-seasonal Horecast of High Temperature;Deep Learning;Meteorological Forecast Data 1 引言 目 前 的 天 气 预 报 依 赖 于 数 值 天 气 预 报（Numerical Weather Prediction,NWP）模型1。但数值模型初始条件的不确定性和大气本身的混沌2 邓敏等：用于高温次季节预报的深度学习方法 第 2 期 性质导致数值预报的结果存在偏差2，需要进一步处理。其中，受大气中的风速、湿度和垂直速度等环流要素的影响，地表高温和环流要素的预报偏差存在非线性关联。次季节预报通常是指在 10-30 天的时间尺度上进行天气预报。由于严重依赖于当地天气和全球气候变量的变化，次季节预报一直被认为是“可预测性沙漠”3-4。但是在公共卫生和水资源管理等许多部门的决策中，需要关于这些时间尺度的可靠的和可操作的预测3,5。高温是一种比较常见的气象灾害，对人们日常生活和健康以及国民经济各部门都有一定的影响。中国气候变化蓝皮书（2022）指出中国升温速率高于同期全球平均水平6，是全球气候变化的敏感区。提前 10-30 天的高温预报有助于人们更早地制定决策和降低生命财产损失。随着人工智能的快速发展，人们对基于统计机器学习的天气预测方法的兴趣正在迅速增长，且获得了不错的预测结果，例如天气预报、次季节预测和气候预测等7-11。因此，将深度学习应用在次季节时间尺度上对高温进行预报具有巨大的研究意义。其中，Jin W 等人验证了深度学习在次季节高温预报方面的有效性10。但该工作仅考虑纯地表高温，并没有在预报过程中考虑大气环流要素。本文基于 UNet 网络12，将大气环流和地表高温这两类数据进行融合，并对中国大陆东部地区的夏季未来 30 天内的日高温进行逐日的确定性预报。本文的创新点如下：（1）基于 UNet 设计了一个融合多种气象数据进行次季节高温预报的基础模型。它用同一个编码器（Encoder）同时提取大气环流和地表高温的特征，为后续高温次季节预报研究提供基础。（2）针对大气环流与地表高温的不同物理特性，提出了 CTUNet。它利用两个编码器分别提取大气环流特征和地表高温特征，并将这两个特征进行延迟融合。实验结果表明，基于深度学习的高温次季节预报的方法均优于传统的天气预报方式。其中，相较于 UNet 模型，本文提出的 CTUNet 在均方根误差（Root Mean Square Error，RMSE）上降低了 2.12%，在异常相关系数（Anomaly Correlation Coefficient，ACC）上提高了 2.72%，在决定系数（Coefficient of Determination，R2）上提高 0.04。2 相关工作 目前，天气预报在很大程度上依赖于基于物理的动力学模型的集合预报13。但与气候态相比，在次季节到季节（Sub-seasonal to Seasonal，S2S）的时间尺度上集合预报显示了有限的预测技能14-16。为了了解导致提高 S2S 预报可预测性和改善的条件，已经建立了 S2S 和 SubX 等项目17-18。机器学习（Machine Learning，ML）已经被应用于各种预测系统中，有助于提高不同时间尺度上的预测技能。尤其是深度学习的发展，使得 ML 模型的性能在天气预报和季节预测等方面比动力学模型更具竞争力7,11,19,20。特别是，ML 模型已经开始应用于提高预测次季节时间尺度的温度、降水和其他气候变量的预测技能8,9,21-27。He 等人在次季节时间尺度上对一套现代 ML方法进行了比较28，包括非参数 AutoKNN、多任务 Lasso、梯度增强树和深度编解码器网络，表明ML 模型平均在 SSF 上优于动力学模型，并且探索通过使用动力学模型的预测来增强 ML 模型，这也为本文的研究提供数据可行性分析。3 数据和方法 本文提出一种高温次季节预报模型，对中国大陆东部地区未来 30 天的每日最高气温进行确定性预报。模型结合动力学预报模式的环流要素场和高温要素场，经深度学习网络 CTUNet 后给出特定日期的距地面 2m 的高温预报。3.1 数据 本文使用两个数据集。来自欧洲中期天气预报中心（European Centre for Medium-Range Weather Forecasts，ECWMF）的次季节到季节预测项目（https:/www.ecmwf.int/en/forecasts/dataset/sub-seasonal-seasonal-prediction）提供的全球范围的回报数据作为输入数据集。本文选取覆盖中国大陆东部地区（19.5N45N，105E132.0E）的 6 个环流要素（Q700，U200，U850，V200，V850，W500）和高温要素（TMAX）。标签数据集为由中国气象台 提 供 的 全 国 日 高 温 站 点 插 值 数 据（http:/ 342 个网格点。这些数据的时间范围为 1998-2014 年每年的 6-9 月。其中，1998-2008年为训练数据，2009-2011 年为验证数据，2012-2014年为测试数据。2023 年 福 建 电 脑 3 3.2 算法流程 高温次季节预报流程如图 1 所示，包含模型构建和模型评估两部分。首先，对 S2S 项目和中国气象局提供的气象数据进行数据预处理操作，根据实验要求分别提取出覆盖中国大陆东部地区的环流输入数据、高温输入数据以及高温观测数据。这些数据都需要经过归一化处理来映射到同一尺度上，才能送入 CTUNet 网络。然后，将得到的数据输入到 CTUNet 网络进行模型训练，输出高温预测数据。最后，本文将 CTUNet 网络和其他基准进行比较评估分析，包含总体误差评估分析、误差的空间分布评估以及预报个例检验。图 1 高温次季节预报流程图 3.3 CTUNet网络 图 2 UNet 网络结构 深度学习网络UNet的Encoder-Decoder结构可以很好地处理不同数据之间的非线性关系。首先基于 UNet 设计一个深度学习模型应用在次季节预报中。如图 2 所示，该 UNet 网络由 Encoder、Decoder和跳跃连接构成。Encoder 由 1 个输入模块和 4 个下采样模块构成。每个输入模块含有两层 33 卷积层，下采样模块包含两层 33 卷积层和 1 层 22 最大池化层。Decoder 由 4 个上采样模块和 1层 11 卷积层构成。每个上采样模块含有 1 层上采样的卷积层和 2 个 33 卷积层。跳跃连接将Encoder 的特征融合到 Decoder 对应的特征中。该UNet 模型输入数据是大气环流数据和地表高温数据的通道拼接，并没有将两种类型物理数据的特征提取进行分离。为了更好地拟合环流数据和地表高温之间的非线性关系，本文在 UNet 的基础上提出 CTUNet模型。它的网络结构如图 3 所示，用两个 Encoder分别提取环流数据和高温数据的特征，并采用延迟的方式将这两个特征进行融合（相加），最终由Decoder 输出高温预报。其中，跳跃连接只将高温的 Encoder 和 Decoder 联结在一起。CTUNet 避免了环流数据与高温数据过早的特征融合，更有利于两种不同类型物理属性要素的特征之间的深度融合。图 3 CTUNet 网络结构 4 实验和分析 4.1 评价指标 使用均方根误差（RMSE）、异常相关系数（ACC）和决定系数（R2）作为评价指标。设Y?(n)表示真实观测值，Y(n)为对应的预测值，Y?(n)为气候态，表示对应日期过去 30 年的高温平均值。如公式（1）所示，RMSE 衡量真实观测值与预测值之间的差异，差异越小，表明预测的准确性越高。RMSE(Y?(n),Y(n)=1hw(L(i)(Y?i,j(n)Yi,j(n)2wj=1hi=1)(1)其中，预报日n=1,2,30，h和w表示数据的高和宽，L(i)=cos(lat(i)1Nlatcos(lat(i)Nlati具有消除气象数据在不同纬度上带来的误差的作用。ACC 量化了预测数据偏离气候态的差异与真实观测数据偏离气候态的差异在空间模式上的一致性。其表达如公式（2）所示。ACC(Y?(n),Y(n)=L(i)(Y?i,j(n)Y?i,j(n)(Yi,j(n)Y?i,j(n)wj=1i=1L(i)(Y?i,j(n)Y?i,j(n)2wj=1i=1L(i)(Yi,j(n)Y?i,j(n)2wj=1i=1 (2)R2表示相对于最佳常数预测值（气候态）的相对预报技能。其表达如公式（3）所示。Relatie R2(Y?(n),Y(n)=1 L(i)(Y?i,j(n)Yi,j(n)2wj=1i=1L(i)(Y?i,j(n)Y?i,j(n)2wj=1i=1 (3)4.2 实验设置 4 邓敏等：用于高温次季节预报的深度学习方法 第 2 期 ECWMF 的 S2S 项目是传统天气预报中最先进的次季节预报项目之一。他们提供的高温次季节预报数据集含有 1 个控制预测数据和 10 个成员的扰动预测数据。现提取控制预测（EMC）、10 个扰动预测的平均值（EMO）和中位数（EMM）作为基准，与 UNet、CTUNet 两种模型的预测结果进行比较。使用 RMSE、ACC 和 R2对 ECWMF 的 S2S 项目和两种深度学习方法在未来 30 天的次季节预报性能分别在时间和空间上进行评估。高温次季节预报模型训练默认 200 轮，每轮训练批量大小为 32。使用 Adam 优化器和余弦退火学习速率调度器，学习率为 0.0001，均方误差（MSE）作为损失函数。4.3 总体误差评估分析 表 1 RMS、ACC 和 R2 EMO EMM EMC UNET CTUNET RMSE 4.277 4.220 4.683 3.104 3.038 ACC 0.094 0.106 0.131 0.294 0.302 R2-0.919-0.863-1.391 0.040 0.080 未来 30 天的 RMSE、ACC 和 R2的平均得分如表 1 所示。在整个预测期间内，所有的基于深度学习的预测模型都要好于传统方法（EMO、EMM 和EMC）。相比于传统方法中综合表现最好的 EMM，UNet 和 CTUNet 在 RMSE 上分别降低了 26.44%和28.01%，在 R2分别提高了 0.903 和 0.943，而在 ACC上，相对于 EMC 分别提高了 124.43%和 130.53%。在预测期间，相较于 UNet 方法，CTUNet 在 RMSE上平均降低了 2.12%，并且在 ACC 和相对 R2上平均提高了 2.72%和 0.04。结果表明，CTUNet 方法可以获得更加接近真实的高温次季节预报，大气环流和地表高温这两种类型物理量之间深度特征的延迟融合更有利于高温次季节预报。4.4 误差空间分布 如图 4 所示，子图（a）、（b）、（c）分别为 RMSE、ACC 和 R2在预测期间平均空间分布（每个小子图是覆盖中国大陆东部地区的平面图，横轴表示为经度，范围为 105E132.0E；纵轴表示为纬度，范围为 19.5N45N，横轴和纵轴的刻度都为 1.5。同理，图 5 也是相同的空间布局）。图 4 表明：深度学习方法有效改善了中国大陆东部地区高温次季节预报效果，其中 UNet 和 CTUNet 能够降低RMSE，尤其是在子图（a）红色方框区域中，下降效果十分明显；UNet 和 CTUNet 能够提高 ACC 和相对 R2，尤其是在子图（b）和子图（c）红色方框区域中表现得十分明显。这些红色方框区域都是中国夏季经常发生高温的地方。图 4 RMSE、ACC 和 R2的空间分布 4.5 预报个例检验 如图 5 所示，第一行（子图（a）为 2014 年 7月 26 日开始第 1 天、第 6 天、第 11 天、第 16 天、第 21 天、第 26 天的高温真实值，第二行（子图（b）为对应日期的 CTUNet 的预测值，第三行（子图（c）为预测-真实之间的差异（预测结果减去真实值）图。在整个预测区域中，CTUNet 预测与真实值差异大部分为正负 2-4，只有个别区域差值较大，可能是因为这些地方的气温真实值较小，而 CTUNet 更擅长于对气温高的区域做预测。这也符合人们对于高温预测的需求。通常气温越高的地区越需要准确的高温预测。图 5 起于 2014 年 7 月 26 日的高温预报检验 5 结论 本文提出的一种基于不同物理属性的双编码器的 CTUNet 高温次季节预测模型，并通过实验数据验证了其有效性。在中国大陆东部地区夏季高温次季节预报方面，CTUNet 模型的预报效果不仅优于传统方法，也优于单编码器的 UNet 模型。本文提出的模型还为基于深度学习的次季节高温预报的后续研究提供了比较基准。在未来的工作中，将尝试研究融入更多的大气环流要素的方法，以期望2023 年 福 建 电 脑 5 取得更好的预测结果。参 考 文 献 1 A.C.Lorenc.Analysis methods for numerical weather prediction.Quarterly Journal of the Royal Meteorological Society,1986,112(474):1177-1194 2 Edward N.Lorenz.Deterministic nonperiodic flow.American Meteorological Society,1963(20):130-141 3 Vitart F,Robertson A W,Anderson D.Subseasonal to seasonal prediction project:Bridging the gap between weather and climat,https:/ 4 Mariotti A,Ruti P M,Rixen M.Progress in subseasonal to seasonal prediction through a joint weather and climate community effort.Npj Climate&Atmospheric Science,2018,1(1):4 5 Christopher J.White et al.Potential applications of subseasonal-to-seasonal(S2S)predictions.Meteorological Applications,2017,24(3):315-325 6 中国气象局气候变化中心.中国气候变化蓝皮书（2022）.北京:科学出版社,2022 7 Shi X,Gao Z,Lausen L,et al.Deep learning for precipitation nowcasting:a benchmark and a new model/In Proceedings of the 31st International Conference on Neural Information Processing Systems(NIPS17).Curran Associates Inc.,Red Hook,NY,USA,2017:56225632 8 Weyn,J.A.,Durran,D.R.,Caruana,R.,&Cresswell-Clay,N.Sub-seasonal forecasting with a large ensemble of deep-learning weather prediction models.Journal of Advances in Modeling Earth Systems,2021(13):e2021MS002502.9 He,S.,Li,X.,DelSole,T.,Ravikumar,P.,&Banerjee,A.Sub-Seasonal climate forecasting via machine learning:challenges,analysis,and advances.Proceedings of the AAAI Conference on Artificial Intelligence,2021,35(1),169-177 10 Jin Wei et al.Using the residual network module to correct the sub-seasonal high temperature forecast.Frontiers in Earth Science,2022,9 11 Abby Stevens et al.Graph-guided regularized regression of pacific ocean climate variables to increase predictive skill of southwestern U.S.Winter Precipitation.Journal of Climate,2021,34(2):737-754 12 Olaf Ronneberger and Philipp Fischer and Thomas Brox.U-Net:Convolutional networks for biomedical image segmentation.CoRR,2015,abs/1505.04597.13 Barnston A,Tippett M,Lheureux M,et al.Skill of real-time seasonal enso model predictions during 2002-11:Is our capability increasing?.Bulletin of the American Meteorological Society,2012(93):631-651 14 Vitart F.Monthly forecasting system at ECMWF.Monthly Weather Review,2004(132):2761-79 15 Frdric Vitart.Evolution of ECMWF sub-seasonal forecast skill scores.Quarterly Journal of the Royal Meteorological Society,2014,140(683):1889-1899 16 Weigel,Andreas P et al.Probabilistic verification of monthly temperature forecasts.Monthly Weather Review,2008,136(12):5162-5169,5171-5172,5174-5182 17 Vitart,Frdric et al.The subseasonal to seasonal(S2S)prediction project database.Bulletin of the American Meteorological Society.2017(98):163-173 18 Kathy Pegion et al.The Subseasonal Experiment(SubX):A multimodel subseasonal prediction experiment.Bulletin of the American Meteorological Society,2019,100(10):2043-2060 19 Aditya Grover,Ashish Kapoor,and Eric Horvitz.A deep hybrid model for weather forecasting.In Proceedings of the 21th ACM SIGKDD International Conference on Knowledge Discovery and Data Mining(KDD 15).Association for Computing Machinery,New York,USA,2015:379386 20 Peter D.Dueben and Peter Bauer.Challenges and design choices for global weather and climate models based on machine learning.Geoscientific Model Development,2018,11(10):3999-4009 21 Jessica Hwang,Paulo Orenstein,Judah Cohen,Karl Pfeiffer,and Lester Mackey.Improving subseasonal forecasting in the western U.S.with machine learning.In Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery&Data Mining(KDD 19).Association for Computing Machinery,New York,USA,2019:23252335 22 Srinivasan V,Khim J,Banerjee A,et al.Subseasonal climate prediction in the western US using Bayesian spatial models.Proceedings of the Thirty-Seventh Conference on Uncertainty in Artificial Intelligence.Proceedings of Machine Learning Research,2021(161):961-70 23 Mayer Kirsten J.and Barnes Elizabeth A.Subseasonal Forecasts of Opportunity Identified by an Explainable Neural Network.Geophysical Research Letters,2021,48(10)24 Judah Cohen et al.S2S reboot:An argument for greater inclusion of machine learning in subseasonal to seasonal forecasts.Wiley Interdisciplinary Reviews:Climate Change,2019,10(2)25 Akio Yamagami and Mio Matsueda.Subseasonal forecast skill for weekly mean atmospheric variability over the northern hemisphere in winter and its relationship to midlatitude teleconnections.Geophysical Research Letters,2020,47(17)26 Wang Cen et al.Improving the accuracy of subseasonal forecasting of china precipitation with a machine learning approach.Frontiers in Earth Science,2021,9 27 WatsonParris D.Machine learning for weather and climate are worlds apart.Philosophical Transactions of the Royal Society A,2021,379(2194):20200098-20200098 28 He S,Li X,Trenary L,et al.Learning and Dynamical Models for Sub-seasonal Climate Forecasting:Comparison and Collaboration.Proceedings of the AAAI Conference on Artificial Intelligence,2022(36):4495-4503