AI.x社区

前言在时间序列预测任务中，像EMD（经验模态分解）、CEEMDAN（完全集合经验模态分解）、VMD（变分模态分解）等分解算法的使用有可能引入信息泄露，具体情况取决于这些方法的应用方式。信息泄露的主要风险在于：将未来的信息泄露给了模型，使得模型在实际应用中表现得比应有的好。为了防止信息泄露，我们在分解之前，首先对数据集进行划分。然后使用滑动窗口的方法来制作数据集标签，最后逐步滚动分解时间序列窗口！注：没有错误...

前言本文基于前期介绍的电力变压器，介绍一种基于TCNSENet+BiGRUGlobalAttention并行预测模型，以提高时间序列数据的预测性能。电力变压器数据集的详细介绍可以参考下文：1模型整体结构模型整体结构如下所示:分支一：通过基于通道注意力机制(SENet)的TCN模型网络，来自适应地调整通道特征的权重，使模型能够自动学习到不同通道的重要性，提取了多特征序列中与预测目标相关的重要空间特征；分支二：多特征序列数据同时通过基于Gl...

1创新模型效果：1.1模型评估：1.2风电功率预测可视化：1.3电力负荷预测可视化：2模型创新点介绍2.1结合Informer和BiGRUGATT的优势Informer：擅长处理长时间序列，能够并行计算，提高了计算效率和预测性能。Informer在Transformer的基础上进行了改进，使其更适合时序数据，特别是具有长时间依赖的序列数据。BiGRUGlobalAttention：通过双向门控循环单元（BiGRU）同时从前向和后向对序列进行建模，以更好地捕获序列中的依赖关系，...

1模型创新点介绍1.1时间编码输入信息编码参考Informer论文，我们把源码和数据集制作进行了优化，方便任何带有时间特征列的数据集进行输入信息的编码。Informer在原始向量上不止增加了Transformer架构必备的PositionEmbedding（位置编码）还增加了与时间相关的各种编码：日周期编码：表示一天中的时间点。周周期编码：表示一周中的时间点。月周期编码：表示一个月中的时间点。在时间序列预测任务中，不同时间节点可能蕴藏着重要...

SwinTransformer是一种通用视觉任务的Backbone而存在的模型，以替代CNN：（1）层次化设计：SwinTransformer引入了层次化特征表示的概念，类似于CNNs中常见的金字塔结构。这使得它在处理高分辨率图像时更加高效，能够逐步聚合信息，并以多尺度特征应对不同的视觉任务。（2）滑动窗口机制：SwinTransformer通过滑动窗口的方式计算注意力，使得每个窗口内部的注意力计算复杂度大幅降低。这种局部注意力机制有效地解决了ViT在高分辨...

SwinTransformer是一种通用视觉任务的Backbone而存在的模型，以替代CNN：图片（1）层次化设计：SwinTransformer引入了层次化特征表示的概念，类似于CNNs中常见的金字塔结构。这使得它在处理高分辨率图像时更加高效，能够逐步聚合信息，并以多尺度特征应对不同的视觉任务。（2）滑动窗口机制：SwinTransformer通过滑动窗口的方式计算注意力，使得每个窗口内部的注意力计算复杂度大幅降低。这种局部注意力机制有效地解决了ViT在高...

提到Transformer，大家就会联想到位置编码、注意力机制、编码器解码器结构，本系列教程将探索Transformer的不同模块在故障诊断等信号分类任务中扮演什么样角色，到底哪些模块起作用？前言本期基于凯斯西储大学（CWRU）轴承数据，进行Transformer中位置编码（PositionalEncoding）的详细介绍，同时探索位置编码对故障分类任务的影响力。1位置编码相关介绍1.1数据中的顺序信息在任何一门语言中，词语的位置和顺序对句子意思表达都...

前言本文基于凯斯西储大学（CWRU）轴承数据，使用特征提取和机器学习方法进行故障识，然后基于XGBoos模型介绍一种参数搜索策略，并通过SHAP模型可视化技术对结果进行分析。可视化结果图：十分类混淆矩阵全局特征重要性图：十分类ROC曲线和AUC值：​标签真实值和预测值对比：1数据集和特征提取1.1数据集导入参考之前的文章，进行故障10分类的预处理，凯斯西储大学轴承数据10分类数据集：数据的读取形式以及预处理思路；1.2故障信...

今天分享一篇来自慕尼黑工业大学的文章，Title:"NLPKG:ASystem)forExploratorySearchofScientificLiteratureinNaturalLanguageProcessing"。传统的文献搜索工具例如googlescholar在学术资源的搜索上做的并不是很好，其大多利用关键词来进行搜索。而本文提出的NLPKG方法，借助了大量自然语言处理的工具，对现有的文章进行概念抽取，综述分类等，提供层次化的结构图，方便用户快速定位到相关领域和paper。同时结合LLM提供文章chat...

前言本文基于凯斯西储大学（CWRU）轴承数据，先经过数据预处理进行数据集的制作和加载，最后通过Pytorch实现优化的KAN模型和KAN卷积模型对故障数据的分类。1、KAN网络介绍1.1KAN网络三大特征数学上有据可依准确性高可解释性强1.2传统MLP的本质多层感知机（MLPs），也称为全连接前馈神经网络，是深度学习模型的基础构建块。MLPs的重要性不言而喻，因为它们是机器学习中用于逼近非线性函数的默认模型，其表达能力由普适逼近定理保...

前言本文基于Kaggle平台——洪水数据集的回归预测（文末附数据集），介绍一种基于CNNLSTM网络的回归预测模型。以下是数据集中各列的描述（包括功能名称的含义）：MonsoonIntensity（季风强度）：这一特征可能衡量该地区季风降雨的强度和频率，较高的值表示降雨强度更大，可能更频繁，这可能会导致更高的洪水风险。TopographyDrainage（地形排水）：反映地形的自然排水能力。更好的排水能力（可能由更高的分数表示）可能表明，由...

模型整体介绍：1.时空卷积网络（TCN）：TCN是一种卷积神经网络结构，用于捕捉时序数据中的时序关系。它由一系列的1D卷积层组成，每个卷积层都具有相同的卷积核大小和步长。TCN中的残差连接（ResidualConnections）和空洞卷积（DilatedConvolutions）用于增加网络的感受野，以便更好地捕捉时序数据中的长期依赖关系。TCN可以同时处理多个时间步的输入，这使得模型能够在多个时间步上进行并行预测。2.短期和长期依赖关系的捕捉：T...

模型整体介绍：1.时空卷积网络（TCN）：TCN是一种卷积神经网络结构，用于捕捉时序数据中的时序关系。它由一系列的1D卷积层组成，每个卷积层都具有相同的卷积核大小和步长。TCN中的残差连接（ResidualConnections）和空洞卷积（DilatedConvolutions）用于增加网络的感受野，以便更好地捕捉时序数据中的长期依赖关系。TCN可以同时处理多个时间步的输入，这使得模型能够在多个时间步上进行并行预测。2.短期和长期依赖关系的捕捉：T...

​包括完整流程数据代码处理：单步多步、单变量多变量预测数据集制作、数据加载、模型定义、参数设置、模型训练、模型测试、预测可视化、多步预测、模型评估模型整体介绍：1.时空卷积网络（TCN）：TCN是一种卷积神经网络结构，用于捕捉时序数据中的时序关系。它由一系列的1D卷积层组成，每个卷积层都具有相同的卷积核大小和步长。TCN中的残差连接（ResidualConnections）和空洞卷积（DilatedConvolutions）用于增加网络的感受野...

​前言本文基于前期介绍的电力变压器（文末附数据集），介绍一种基于TransformerBiGRUGlobalAttentionCrossAttention并行预测模型，以提高时间序列数据的预测性能。电力变压器数据集的详细介绍可以参考下文：​​电力变压器数据集介绍和预处理​​1模型整体结构模型整体结构如下所示，多特征变量时间序列数据先经过基于多头注意的Transformer编码器层提取长期依赖特征，同时数据通过基于GlobalAttention优化的BiGRU网络提取全局...

前言本文基于凯斯西储大学（CWRU）轴承数据，先经过数据预处理进行数据集的制作和加载，最后通过Pytorch实现1DCNN2DResNet并行模型对故障数据的分类。1轴承故障数据的预处理1.1导入数据参考之前的文章，进行故障10分类的预处理，凯斯西储大学轴承数据10分类数据集：trainset、valset、testset均为按照7：2：1划分训练集、验证集、测试集，最后保存数据上图是数据的读取形式以及预处理思路1.2数据预处理，制作数据集2基于Pytorch...

前言本文基于前期介绍的电力变压器，介绍一种基于CNNLSTM网络的多步预测模型。1、电力变压器数据预处理与可视化1.1导入数据1.2多步预测预处理2、基于CNNLSTM的多步预测模型2.1定义CNNLSTM网络模型2.2设置参数，训练模型50个epoch，MSE为0.000311，CNNLSTM多步预测模型预测效果显著，模型能够充分提取序列的时空特征，收敛速度快，性能优越，预测精度高，适当调整模型参数，还可以进一步提高模型预测表现。注意调整参数：可以适...

前言本文基于凯斯西储大学（CWRU）轴承数据，进行快速傅里叶变换（FFT）和变分模态分解VMD的数据预处理，最后通过Python实现基于交叉注意力BiTCNBiGRUCrossAttention的时空特征融合模型对故障数据的分类。凯斯西储大学轴承数据的详细介绍可以参考下文：Python凯斯西储大学（CWRU）轴承数据解读与分类处理1模型整体结构1.1模型整体结构如下所示：一维故障信号分别经过FFT变换、VMD分解处理，然后把变换分解后的结果进行堆叠，通...

​前言本文基于凯斯西储大学（CWRU）轴承数据，进行快速傅里叶变换（FFT）和变分模态分解VMD的数据预处理，最后通过Python实现基于VGGSENetBiGRUGlobalAttention的时空特征融合模型对故障数据的分类。1模型整体结构预处理:一维故障信号分别经过FFT变换、VMD分解处理，然后把变换分解后的结果进行堆叠。分支一：通过基于通道注意力机制(SENet)的改进VGG模型网络，来自适应地调整通道特征的权重，使模型能够自动学习到不同通道的...

前言本文基于Python仿真的电能质量扰动信号，进行快速傅里叶变换（FFT）的介绍与数据预处理，最后通过Python实现基于FFT的CNNBiLSTMCrossAttention模型对电能质量扰动信号的分类。部分扰动信号类型波形图如下所示：模型整体结构模型整体结构如下所示，一维扰动信号经过FFT变换的频域特征以及信号本身的时域特征分别经过CNN卷积池化操作，提取全局特征，然后再经过BiLSTM提取时序特征，使用交叉注意力机制融合时域和频域的特征，...