多尺度目标预测&多尺度表征学习，提升长周期时序预测效果

今天给大家介绍一篇最近东南大学发表的长周期时间序列预测工作。这篇文章的侧重点也是多尺度建模，但和以往工作侧重对输入进行多尺度处理不同，本文的核心是引入多尺度的预测，并对不同尺度预测结果进行变量粒度个性化的加权融合。

论文标题：A Multi-scale Representation Learning Framework for Long-Term Time Series Forecasting

下载地址：​​https://arxiv.org/pdf/2505.08199​​

1、研究背景

多元长周期时序预测是时间序列预测中比较有挑战性一个问题，其中多尺度信息的利用是目前研究的一个重点。不同尺度下，时间序列体现出的规律性不同，通过多尺度信息的融合可以提升预测的效果。

之前多尺度的工作，基本都是在输入维度上做的，对输入序列进行不同尺度的融合，构建多尺度输入。而本文则从输入维度进行多尺度建模，进行不同尺度的预测，再进行不同尺度预测结果的分变量个性化的融合。

2.建模方法

本文的核心模型结构如下图所示，对于输入序列使用ReVIN、趋势季节项分解、分Patch Embedding等方式进行处理。在模型结构方面，核心使用MLP、Linear进行趋势项和季节项的建模，并进行不同尺度的预测。最终的预测结果，使用各个尺度的预测结果进行个性化的权重融合得到。

在输入层面，首先对原始序列使用ReVIN进行归一化。接下来，使用基础的季节项、趋势项分解，生成季节项序列和趋势项序列。对于两个序列，分别使用分patch的方法生成patch embedding，拼接上position embedding，输入到后续模型中。其中季节项使用MLP网络建模，趋势项使用线性模型建模。

对于季节项和趋势项两路模型，均使用多尺度的预测方法。使用多个head，将编码结果映射到多个尺度的预测结果上。这里每个head主要是映射到的维度不同，粗粒度的映射到的维度小，细粒度的映射出的维度大。具体每个尺度的计算逻辑如下，最后生成趋势项、季节项多个尺度的预测结果。

为了将多个尺度的输出结果进行融合，文中采用了一种从粗到细的层次融合方法。每一层的预测结果是当前尺度的预测和上一层累积预测结果映射后的求和。最终的预测结果由趋势项和季节项各自的结果加和得到。

不同的变量可能需要进行不同尺度预测结果的个性化融合，文中采用一个Gate网络实现。将序列的趋势项、季节项进行pooling作为Gate网络的输入，生成每个变量使用各个尺度预测结果的打分。同时，由于各个尺度预测长度不同，使用插值的方法扩展到同一长度，然后基于上述产生的权重进行多尺度的加权求和。

在损失函数方面，一方面是整体的预测效果作为拟合目标，另一方面是不同尺度都通过相应的序列聚合生成对应尺度的label，每个尺度的预测有一个对应的拟合目标。

3.实验效果

在和多个SOTA模型的效果对比中，本文的方法取得了预测准度上的提升。

同时，文中也对各个模块进行了消融实验：

本文转载自​​​圆圆的算法笔记​​​，作者：Fareise