阿里提出时序预测新模型 论文入选顶会ICML2022

云计算
阿里巴巴达摩院近期提出一种长时序预测的新模型FEDformer,精准度比业界最优方法提升14.8%以上,模型已应用于电网负荷预测。相关论文已被机器学习顶会ICML2022收录。

给定一段时期的历史数据,AI能否准确预测天气变化、电网负荷需求、交通拥堵状况?这是个时序预测问题。阿里巴巴达摩院近期提出一种长时序预测的新模型FEDformer,精准度比业界最优方法提升14.8%以上,模型已应用于电网负荷预测。相关论文已被机器学习顶会ICML2022收录。

ICML是机器学习领域的顶级学术会议,2022年度会议将于本周日(7月17日)开幕。达摩院决策智能实验室的论文《FEDformer: Frequency Enhanced Decomposed Transformer for Long-term Series Forecasting》关注了机器学习领域的经典问题:时序预测。

时间序列预测(Time Series Forecasting),通俗理解就是利用历史数据预测未来信息。预测可分为短期、中期和长期预测,需要预测的时间窗口越长,预测难度就越大。这项技术在气象、电力、零售、交通等诸多行业有广泛应用。

传统的时序预测模型一般采用LSTM、CNN等方法,精准度和使用场景都较为有限,无力处理大规模数据。近些年来,研究人员开始将transformer模型引入长时序预测,但效果仍不够理想,简单地说该模型核心中的注意力机制模块对时序数据不够敏感。

达摩院提出的长时序预测模型FEDformer,融合transformer和经典信号处理方法。比如,利用傅立叶/小波变换将时域信息拆解为频域信息,让transformer更好地学习长时序中的依赖关系。FEDformer也能排除干扰,具有更好的鲁棒性。其中专门设计了周期趋势项分解模块,通过多次分解以降低输入输出的波动,进一步提升预测精度。

达摩院FEDformer模型架构

实验证明,达摩院新模型在电力、交通、气象等6个标准数据集上均取得最佳纪录,预测精准度较此前业界最佳模型分别提升14.8%(多变量)和22.6%(单变量)。值得一提的是,该模型已走出实验室,在区域电网完成概念验证,明显提升电网负荷预测准确率。

达摩院FEDformer模型在6个数据集均取得最佳纪录

据了解,达摩院决策智能实验室旨在用数学建模来解决真实世界的复杂问题,其重点研究方向包括时序预测,今年刚在ICASSP'22 AIOps Challenge获得冠军。基于自研的时序预测、优化求解器MindOpt、安全强化学习等底层技术,达摩院打造的绿色能源AI,已逐步落地全国多家电网和发电企业,促进绿色能源消纳和电网安全运行。


责任编辑:赵立京 来源: 阿里云
相关推荐

2022-07-12 14:45:54

达摩院模型

2022-05-20 15:28:25

3D算法

2022-07-08 15:40:11

网络清华模型

2020-06-19 10:33:16

阿里AIICML

2022-06-23 12:12:31

达摩院自动驾驶

2022-08-29 11:44:20

网络阿里云数据中心

2021-09-02 10:15:50

计算平台MaxCompute 阿里云

2022-06-16 19:53:51

AIAI模型

2022-06-13 16:55:28

腾讯云数据库

2017-10-31 10:17:06

阿里

2020-07-21 15:58:21

阿里网络通信

2022-12-19 14:39:29

机器人论文

2023-05-11 11:53:35

模型评测

2021-07-29 18:01:27

ICML机器学习格物钛

2023-10-17 09:47:24

智能驾驶

2021-10-21 09:15:09

计算机互联网 技术
点赞
收藏

51CTO技术栈公众号