基于Transformer算法的园区综合能源需求预测.pdf
《基于Transformer算法的园区综合能源需求预测.pdf》由会员分享,可在线阅读,更多相关《基于Transformer算法的园区综合能源需求预测.pdf(9页珍藏版)》请在咨信网上搜索。
1、第 45 卷 第 10 期2023 年 10 月Vol.45 No.10Oct.2023基于Transformer算法的园区综合能源需求预测Integrated energy demand forecasting for the park based on the Transformer algorithm尹宇晨1,刘宇杭1,马愿谦1*,雷一2YIN Yuchen1,LIU Yuhang1,MA Yuanqian1*,LEI Yi2(1.浙江理工大学 信息科学与工程学院,杭州 310018;2.清华四川能源互联网研究院,成都 610200)(1.School of Information Sc
2、ience and Engineering,Zhejiang Sci-Tech University,Hangzhou 310018,China;2.Tsinghua Sichuan Energy Internet Research Institute,Chengdu 610200,China)摘 要:准确的综合能源需求预测是区域综合能源系统调度和能效评估的基础。在综合能源需求预测方面,影响因素众多、设计参数复杂、计算效率较低,且在长序列预测上仍有较大优化空间,因此提出了一种基于Transformer算法的园区综合能源需求预测方法。建立了园区冷热电负荷影响因素的筛选模型,为数据预处理后筛选适当
3、的影响因素提供基础;建立了基于欧氏距离的综合相似度的相似日选取方法,为综合能源的预测奠定了基础;建立了基于Transformer算法的冷热电负荷预测模型,以实现园区综合能源需求预测;以中国东部某园区为对象进行算例分析,预测园区综合能源需求。结果表明,所提预测方法能有效提高预测精度,具有较高的准确度和实用性。关键词:园区综合能源;Transformer算法;能源需求预测;相似日;冷热电负荷中图分类号:TK 01 文献标志码:A 文章编号:2097-0706(2023)10-0061-09Abstract:Accurate forecasting on integrated energy dema
4、nds will be the basis for the scheduling and energy efficiency assessment of regional integrated energy systems.Integrated energy demand forecasting is infected by multiple factors.And being hampered by complex design parameters and low calculation efficiency,there is plenty of room for the optimiza
5、tion of current long series prediction method.Therefore,an integrated energy demand forecasting method based on Transformer algorithm is proposed.Firstly,influencing factors are screened from pre-processed data by the influence factor selection model for the cooling,heating and electricity loads in
6、a park.Secondly,similar days are categorized based on the Euclidean distance,which lays a foundation for the integrated energy prediction.Then,a forecasting model for cooling,heating and electricity loads based on Transformer algorithm is established to predict the integrated energy demand in the pa
7、rk.Finally,the proposed forecasting model is tested on a park located in eastern China,and the results verified its prediction accuracy and effectiveness.Keywords:integrated energy in parks;Transformer algorithm;energy demand forecasting;similar day;cooling,heating and electricity loads0 引言 随着全球经济的快
8、速发展,人们对多元能源的需求持续增加,如冷热负荷需求。因此各国电力消费和需求呈现不同程度的快速增长1。但由于电能的存储特性,目前仍无法长时间储存电力资源,所以既要满足生产生活所需的电能,又要避免产生不必要的浪费。提高电力企业供电保持动态平衡的能力,否则居民日常生活、工业生产将受到严重影响。所以综合能源需求预测2在现代电力系统安全稳定经济运行中发挥愈来愈重要的作用。有效的综合能源需求预测可为一个地区电力系统发展规划做出指导,实现综合能源的高效生产及利用3-4,同时保证电网的可靠运行和安全稳定。伴随着园区多种能源形式耦合互补方式的不断成熟,关于综合能源需求预测的研究逐渐得到关注。短期负荷预测中,受
9、气象变化、社会活动和节日类型等各种随机因素5-6的影响,在时间序列上,实际负荷的波动表现出较强的随机性,对预测精度的影响很大。综合能源需求预测主要包括冷热电负荷预测。目前,电负荷预测的研究比较深入且已有大量的研DOI:10.3969/j.issn.2097-0706.2023.10.008基金项目:浙江省自然科学基金项目(LQ22E070009);浙江理工大学科研业务费专项资金资助项目(23222130-Y)The Natural Science Foundation of Zhejiang Province(LQ22E070009);Fundamental Research Funds of
10、 Zhejiang Sci-Tech University(23222130-Y)第 45 卷 究成果,主要集中于物理方法7及统计方法8。物理方法根据用电负荷的区域范围、实时运行情况及四季变化等外界因素构建预测模型,模型复杂程度较高,实现难度大。统计方法通过深入挖掘输入与输出间的内在联系,利用关联函数建立预测模型,对外界因素依赖程度明显降低,模型数学化程度更高,易于实现。例如,通过构建与时间相关的模型,即自回归(AR)模型9、滑动-平均模型(MA)、自回归积分滑动平均(ARIMA)模型10预测电负荷需求,上述模型对样本数据的需求较少,要求数据序列平稳;利用最小二乘法构建模型,搭配Kmean聚类
11、算法改进的蝙蝠算法去优化最小二乘法支持向量机,提高预测精度11,以及一些现代预测方法,如反向传播(Back Propagation,BP)神经网络12、随机森林算法13、基于专家预测和模糊贝叶斯14-15的预测方法等。其中,BP神经网络通过将误差从输出层BP到隐藏层和输入层,根据误差来更新网络参数,以逐步提高网络的性能。在深度学习领域具有广泛的应用,能够处理复杂的非线性关系,但容易陷入局部最优解并且对初始参数较为敏感。又如随机森林算法,虽然具有鲁棒性、高准确性、可解释性和对高维数据的处理能力等优点,但随机森林算法的缺点也包括训练时间较长、占用较大的内存空间和难以解释单个决策树的预测结果等。由于
12、冷热负荷受到季节变化和气象变化的影响程度更大,与用户用能数据更为密切相关,以上的电负荷预测方法不能直接应用于冷热负荷预测,因此,一般通过构建时间序列模型或构建回归预测模型,采用自适应卡尔曼滤波等方法 实 现 预 测,缺 少 外 界 因 素 对 负 荷 间 影 响 的考虑16-18。综上所述,本文提出一种基于Transformer算法的综合能源需求预测方法,对冷热电负荷进行预测。考虑到冷热负荷受诸多因素共同影响,采取Pearson相关性分析、最小误差理论筛选影响因素进行筛选。其次,建立基于欧式距离的相似日选取方法作为相似度的度量标准。然后,将相似日负荷、历史负荷、已筛选3维影响因素相关数据作为输
13、入数据,采用 Transformer模型进行负荷预测。最后,以中国东部某园区为例进行实证分析,验证了基于Transformer算法的园区综合能源需求预测方法的正确性、合理性和可行性。1 冷热电负荷的影响因素 1.1冷热电负荷的影响因素短期冷热电负荷预测中,受气象变化、社会活动和节日类型等各种随机因素的影响,在时间序列上实际负荷波动的随机性较强。适当的输入变量直接与模型的预测性能相关,影响因素的合理选取有利于提高预测模型的有效性和可靠性。气象因素对冷热电负荷影响很大,为降低模型的复杂程度。本文拟选取温度、湿度、风速3个气象因素,以及各气象因素的最大值、平均值、最小值,共计9维影响因素,作为预测模
14、型的影响因素来考虑,表示为H=h1,hi,hn,(1)式中:H为影响因素集合;hi为第i个影响因素向量;n为影响因素个数,文中n=9。影响因素选取如图1所示。1.2数据预处理由于各种随机因素的影响,使采集到的冷热电负荷需求的影响因素数据出现缺失或异常值(例如0或空值)。若使用带有缺失或异常值的数据,将一定程度上使得预测结果出现误差,准确性较低。因此,进行负荷预测前,需要对数据进行预处理和修正,采用平均插值法对缺失或异常数据进行修复和补齐,平均插值法计算式为xi=(xi-1+xi+1)/2,(2)式中:xi为经过修复或补齐后的数据;xi-1和xi+1为缺失或异常数据前后的数据。对数据进行规范化处
15、理是负荷预测流程中的前提,考虑到不同影响因子的量纲不同。利用最值法对影响因素进行归一化处理,以除去量纲差异对预测结果所带来的影响,归一化计算方法为xi=(x i-x min,j)/(x max,j-x min,j),j=1,2,n,(3)式中:xi为归一化后的数据;x i为原始数值;x min,j,图1影响因素的选取Fig.1Selection of influencing factors62第 10 期尹宇晨,等:基于Transformer算法的园区综合能源需求预测x max,j分别为第j个影响因素向量的最小值和最大值。1.3基于Pearson系数的综合能源需求影响因素相关性分析基于上述的负
16、荷影响因素的分析,短期冷热电负荷预测中,易受气象变化、社会活动和节日类型等各种随机影响因素的影响。为了简化建模难度和模型复杂程度,本文基于Pearson相关性分析18对初步选取的9维影响因素进行相关性筛选,利用误差最小原则选择冷热电负荷对应的3维影响因素用以相似日的选取。基于Pearson系数的冷热电负荷影响因素的相关性,定义影响因素和负荷之间的 Pearson 系数,如式(Xi,Xj)=cov(Xi,Xj)/XiXj,(4)式中:cov(Xi,Xj)为变量Xi,Xj的协方差;Xi,Xj分别为Xi,Xj的标准差;(Xi,Xj)为2个变量Xi,Xj之间的相关系数,其取值范围为-1,1。Pears
17、on相关系数描述相关性强弱如下:(1)当Xi,Xj 2个变量无关时,=0。(2)当Xi,Xj 2个变量正相关时,0 1。(3)当Xi,Xj 2个变量负相关时,-1 0。2 综合能源需求相似日选取 复杂的气象状况使得负荷预测的难度极大提升,因此合理地选取预测相似日是提高负荷预测模型预测效果的有效途径。相似日的选取在负荷预测算法中起到了特征提取和负荷波动分析的重要作用,能够显著提高负荷预测的准确性和可靠性。通过分析相似日的负荷模式和特征,可以帮助提取与负荷相关的特征。通过设定阈值并选取相似度最大的某日作为相似日,将相似日的负荷数据作为影响因素的相关输入数据,可以有效地提高负荷预测模型的准确性和性能
18、。此外,选取相似日还可以用于负荷波动的分析和预测。相似日的负荷数据提供了有用的参考,能够帮助我们理解负荷的季节性、周期性以及特殊事件对负荷的影响,从而更好地进行负荷预测。欧氏距离是最常用的距离计算公式,衡量的是多维空间中各个点之间的绝对距离,当数据很稠密且连续时,这是一种很好的计算方式。设 待 预 测 日 的 影 响 因 素 为W=W(k)|k=1,2,3,z,其他日期的影响因素为E=Ek(j)|j=1,2,3,m;k=1,2,3,z。计算不同影响因素与对应待预测日的气象因素之间的欧氏距离为dk(z)=Ek(j)-W(k)2,(5)式中:dk(z)为待预测日的第k个影响因素与日期z对应的影响因
19、素之间的欧氏距离。同时,考虑到不同的影响因素对冷热电负荷影响程度不同,故结合Pearson相关系数综合计算。将计算出的欧氏距离分别与得到的各影响因素的Pearson相关系数对应相乘,并将同一天的结果进行累加,得到一个每天的综合分数dj=k=1ndk(z)rk。(6)式中:rk为Pearson相关系数。综合分数表示某日与待测日之间的相似程度。将综合分数从低到高排序,分数越低的日期与待预测日的相似度高。本文选取待预测日之前5个分数最低的日期作为相似日。通过上述 Pearson相关性分析筛选的 3维影响因素及待预测日与各样本日对应影响因素的综合相似度,设定阈值选取相似日,其中相似度最高的某日即为相似
20、日。阈值设定方法为y=1,0 dj 0,dj。(7)3 园区综合能源需求预测 3.1基于Transformer算法的综合能源预测结构综合能源需求预测需对冷热电负荷进行并行预测。Transformer算法是一种基于全连接层和自注意力机制的结合体,是一种避免无意义循环的模型结构,完全依赖于其注意力机制对输入输出的全局依赖关系进行建模。主要通过编码器-解码器的形式进行时间序列预测,并行性好,可有效得到最优结果。考虑到 Transformer 算法在时间序列预测中也有很好的结果。利用 Transformer 进行综合能源需求的预测优势在于突破了RNN等预测算法模型不能并行计算的限制19。相比其他算法,
21、计算2个位置之间的关联所需的操作次数不随距离增长20-24。Transformer网络结构如图2所示。自注意力机制是 Transformer 算法的核心。自注意力可以产生更具可解释性的模型。可从模型中检查注意力分布。即给输入的数据编入位置向量后通过3个权值矩阵WQ,WK,WV转换成自注意力机制所需要的 Q,K,V 向量,并计算自注意力机制值。Transformer仅通过自注意力机制算法得到综合能源的预测结果之一,同时Transformer的多头注意力机制可将算法重复多次,得到一个更均衡、更贴63第 45 卷 合目标的结果。在训练预测过程中,Transformer内部可以通过对给出的数据进行学习
22、与训练,有效地提取数据内在信息,并在进行预测训练时对原有的数据进行遮掩,以让算法的预测更具有说服力。通过Transformer的注意力机制和编码器-解码器的形式,可以有效提升算法在长时间序列预测的速度,同时避免陷入循环,有利于快速准确得到预测结果。Transformer算法是一种强大的序列建模方法,在自然语言处理领域取得了重大突破。此算法同样适用于其他序列预测任务,如能源需求预测。本文中运用 Transformer 算法来捕捉能源需求与各种相关因素之间的复杂关系。具体而言,通过将历史能源需求数据作为输入序列,并结合其他相关数据以及时间信息(如季节性、节假日等)构建一个综合的输入表示。接下来,将
23、详细描述Transformer算法在能源需求预测中的应用过程。使用Transformer的编码器-解码器结构,其中编码器将输入序列映射到1组高维向量表示,解码器根据编码器的输出生成目标序列的预测结果。采用自注意力机制,使模型能够同时关注输入序列中的不同位置,并捕捉序列中的长期依赖关系。为了将 Transformer 算法与能源需求预测相结合,本文将预测任务定义为回归问题,并使用均方误差(MSE)作为损失函数,然后通过对模型进行训练和优化,调整模型参数以最小化预测结果与真实能源需求之间的差异。Transformer 算法在能源预测中的具体作用如下。(1)输入表示:Transformer结构的输入
24、由历史能源需求数据及其他相关数据(如天气数据、人口统计数据等)组成。这些数据构成了模型的输入序列,用于捕捉能源需求与各种相关因素之间的关系。(2)编码器:Transformer结构中的编码器负责将输入序列映射到一组高维向量表示。编码器通过自注意力机制,使模型能够同时关注输入序列中的不同位置,并捕捉序列中的长期依赖关系。编码器的输出被传递给解码器进行下一步处理。(3)解码器:解码器接收编码器的输出,并根据其生成能源需求的预测结果。解码器通过自注意力机制和对编码器输出的注意力机制,对输入序列进行动态加权,并生成与预测相关的上下文表示。最终,解码器利用这些上下文表示生成能源需求的预测结果。(4)损失
25、函数与优化:能源需求预测模块使用预测结果与真实能源需求之间的差异作为损失函数。常用的损失函数是MSE,用于衡量预测结果与真实值之间的平均平方误差。通过BP和优化算法(如随机梯度下降),模型调整参数以最小化损失函数,从而提高预测准确性。Transformer结构通过编码器和解码器的组合,将输入序列映射到能源需求的预测结果。编码器捕捉输入序列的特征表示,解码器根据这些表示生成预测结果。能源需求预测模块通过优化过程,使预测结果尽可能接近真实值,从而实现对能源需求的准确预测。综上所述,基于Transformer算法的园区综合能源需求预测步骤如下。(1)将数据按照时间序列排序并导入编码器中,并添加位置编
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 Transformer 算法 综合 能源需求 预测
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。