论文链接：link
2020年雷亚国西交团队

翻译文档整理为了一个word文档， 下载链接

1 介绍

 故障诊断(Fault diagnosis)
——目标：有一种自动的方法来缩短维护周期，提高诊断的准确性；期望故障诊断过程智能化到能够自动检测和识别机器的健康状态的程度。
 智能故障诊断(IFD)：是指将人工神经网络(ANN)、支持向量机(SVM)、深度神经网络(DNN)等机器学习理论应用于机器故障诊断。
具体来说，IFD旨在构建能够自动连接收集的数据和机器健康状态之间关系的诊断模型。
 将IFD的研究大致分为三个阶段，如图：

1. 过去：（1980s~2010s）许多传统理论在这一时期被发明，如ANN 、SVM、k近邻(kNN)和概率图模型(PGM)。

• 在这些方法中，采集到的数据进行手工地提取故障特征，然后选取敏感特征训练出诊断模型。

2. 现在：（2010s~2020s）深度学习理论对IFD进行了改革。为了解决两大问题：手工特征提取仍然依赖人工；传统模型面对日益增长的数据诊断性能较低。

• 深度学习代表性算法如自编码器(AE)、受限玻尔兹曼机 (RBM)、深度信念网络(DBN)、卷积神经网络(CNN)等，这些理论进一步启发了IFD的发展。
• 深度学习模型从采集的数据中自动学习故障特征，并尝试在处理日益增长的数据时提供端到端诊断模型。这些模型将直接将原始监控数据连接到它们相应的机器健康状态，从而进一步释放IFD中人类劳动的贡献。

3. 将来：（2020s~2030s）迁移学习将推动工程情景下IFD的研究，因为工程中往往缺乏足够的标记数据。

• 之前的模型前提假设会不切实际主要因为：首先，实际运行会收集大量健康数据，而故障数据却不足；其次，获取收集数据 (即数据标签)往往费工费时。所以往往收集的数据不足以训练出可靠的诊断模型。
• 迁移学习(Transfer learning)将从一个或多个任务中学习到的知识应用到其他相关新任务。其代表性的模型有：转移成分分析(transfer component analysis, TCA)、联合分布适应(joint distribution adaptation, IDA)、TrAdaboost等；CV领域：转移去噪自编码器(transfer denoising autoencoder, TDA) 、联合自适应网络(transfer denoising autoencoder, JAN)
• 迁移学习理论有望克服缺乏标记样本的问题，最终扩大IFD在工程情景中的应用。

2 过去：基于传统机器学习理论的IFD问题

2.1 概述

 故障诊断需要引入智能方法的动机
传统的故障诊断过程主要是通过人工检查机器的健康状态来进行的，这增加了劳动强度，降低了诊断的准确性；即使引入一些先进的信号处理方法能够帮助分类哪些类型的故障。然而这些方法都依赖于专业知识，并且这些方法的诊断结果过于专门化，无法被用户所理解。
 基于传统机器学习的IFD诊断步骤

2.2 Step1:数据采集

在数据采集步骤中，传感器安装在机器上，不断地收集数据。

• 通常采用不同的传感器，如振动、声发射、温度和电流互感器。其中，振动数据被广泛应用于轴承和齿轮箱的故障诊断。声发射数据有潜力检测轴承和齿轮的早期故障和变形，特别是在低 速运行条件下和低频噪声环境下。瞬时转速数据是发动机故障诊断中常用的数据，具有很强的抗干扰能力。电流数据在电动机械的故障诊断中起着重要的作用。
• 此外，来自多源传感器的数据具有互补的信息，与仅使用单个传感器的数据相比，可以将这些进行信息融合，实现更高的诊断准确率。

2.3 Step2:手工特征提取

人工特征提取包括两个步骤。
1、 从采集的数据中提取时域、频域特征和时频域特征。这些特性包含反映计算机运行状况状态的运行状况信息。
2、 其次，特征选择方法。如过滤器、包装器和嵌入式方法，用于从提取的特征中选择对机器健康状态敏感的特征。这有利于消除冗余信息，进一步提高诊断结果。
下面详细介绍这两个步骤。

2.3.1. 特征提取Feature extraction

常用的特征可以从时域、频域分析或时频域中提取。
1、 时域特征可分为维度特征和无维度特征。前者包括平均值、标准差、幅值根、均方根、峰值等(mean, standard deviation, root amplitude, root mean square, peak value, etc.)，受机器速度和负荷的影响。后者主要包括形状指示器、偏度指示器、峰度指示器、波峰指示器、间隙指示器、脉冲指示器(shape indicator, skewness, kurtosis, crest indicator, clearance indicator, impulse indicator, etc.)等，对机器的运行条件具有鲁棒性。
2、 频域特征是从频谱中提取的，如平均频率、频率中心、均方根频率、标准差频率(mean frequency, frequency center, root mean square frequency, standard deviation frequency, etc.)等。它们包含了在时域特征中无法找到的信息。
3、 时频域特征如能量熵(energy entropy)等通常采用小波变换(WT)、小波包变换(WPT)或经验模型分解(EMD)等方法提取。这些特性能够反映机器在非平稳运行条件下的健康状态。

2.3.2. 特征筛选Feature selection

从时域、频域和时频域提取的特征包含了冗余信息。它们可能会加重计算成本，甚至导致维度灾难(Curse of Dimensionality)。为了削弱这个问题，需要从收集的数据中选择对机器健康状态敏感的特征。它们可以分为三类。

2.3.2.1 基于过滤器的方法 Filter-based

过滤器直接对收集到的特征进行预处理，这些特征独立于分类器的训练。下面简要介绍一些过滤器。
1、 Relief和Relief- f通过构建一个相关指标来确定特征对机器健康状态的敏感性
2、 信息增益和增益比，也是两种常用的特征选择方法。选取信息增益和增益比较大的特征对诊断模型进行训练，提高诊断结果。
3、 最小冗余最大相关性(Minimum Redundancy Maximum Relevancem, RMR)，旨在选择具有最大不相似性的特征。
4、 Fisher评分，被视为特征选择的距离度量，其目标是选择一个能使类间距离最大化而类内距离最小化的特征。
5、 距离评价(Distance evaluation, DE)通过距离度量选择特征集，其中敏感特征受类内距离小、类间距离大的影响。
2.3.2.2 包装器方法 Wrapper-based
与基于过滤器的方法不同，包装器关注特征选择与训练分类器的交互。换句话说，分类器的性能被用来评估所选择的特征集。如果所选的特征子集不能产生最优的分类精度，则在下一次迭代中重新选择另一个子集，直到所选的特征使分类器的性能达到最优。拉斯维加斯包装器(Las Vegas wrapper, LVW)被广泛用于特征的选择，其中Las Vegas算法用于搜索特征子集，并考虑分类器的误差作为特征评估的度量。
2.3.2.3 嵌入方法 Embedded
嵌入式方法将特征选择融入到分类器的训练中。一般情况下，它们在分类器的优化对象上施加正则化条件，并在分类器训练完成后自动选择特征。通常考虑两个正则化术语。一个是L1正则化另一个是L2正则化。这两种方法都可以缓解在少量样本的训练中出现的过拟合问题。而L1项更倾向于获得稀疏参数，这样可以在分类中抛弃冗余特征，进一步增强分类器的分类性能。

2.4 Step 3: 健康阶段诊断

健康状态识别使用基于机器学习的诊断模型来建立选定特征与机器健康状态之间的关系。为了达到这一目的，首先使用标记样本对诊断模型进行训练。在此之后，当输入样本未标记时，模型能够识别机器的健康状态。
我们将在接下来的小节中简单介绍四种使用传统机器学习的IFD方法。

2.4.1. 基于专家系统的方法

2.4.1.1 专家系统简介

专家系统被认为是一种能够提供专家级诊断知识来解决机器诊断任务的方法，而不是大量的人工劳动。基于专家系统的诊断模型由知识库、数据集、推理引擎、用户界面和解释系统五部分组成，各部分简述如下：

• 知识库包含了关于诊断任务的专家知识。此外，它还进一步包含故障特征，为推理引擎提供健康信息。
• 一个动态数据集收集解决诊断任务的各个部分产生的数据，并作为推理引擎操作的存储器。
• 推理引擎利用知识库中输入的健康信息和推理知识（设计的规则和策略）与动态数据集和解释系统进行交互，进而推断诊断结果。
• 用户界面是一个功能集成的界面，用户可以在其中与系统进行数据传输、参数配置、结果采集、问题定义和咨询等交互。
• 解释系统响应用户推理对推理过程的咨询，并进一步解释专家系统做出给定诊断决策的原因。

2.4.1.2 专家系统在IFD中的应用

根据推理引擎的不同，基于专家系统的诊断模型可分为基于规则推理、基于模糊逻辑推理、基于神经网络推理和基于案例推理四类。

基于专家系统的诊断模型将专家的诊断知识转变为推理算法，自动识别机器的健康状态。然而，诊断模型的性能很大程度上依赖于专家知识，专家知识难以获取和表达。不正确和不完整的知识可能会降低诊断的准确性。此外，专家系统缺乏自学习能力，导致诊断知识库难以扩展和修正。

2.4.2 基于ANN方法

人工神经网络(Artificial Neural Network)模拟了人脑在信息处理中的活动。

2.4.2.1 ANN简介

反向传播神经网络(BPNN)是一种有监督学习的多层感知器，由前向传播和反向传播两部分组成。在正向传播中，输入样本通过多个隐藏层(layers)进行处理,最后通过输出层将样本映射到目标类中。

2.4.2.2 ANN在IFD中的应用

• 在方法上，BPNN、径向基函数网络(radial basis function network, RBFN)、小波神经网络(wavelet neural network, WNN)以及自组织映射神经网络(self-organizing feature map neural network)被广泛应用于完成诊断任务。
  基于ANN的诊断模型具有很强的自学习能力，能够从输入数据中自动学习诊断知识，最大限度地降低经验风险。此外，它们可以很容易地识别机器的多种状态。
  然而，ANN有两个缺点。首先，随着监测数据输入的增加，诊断模型的复杂性会大大提高。模型参数的增加降低了训练效率，进而导致过拟合，降低了诊断模型的诊断精度。其次，基于人工神经网络的诊断模型缺乏严格的理论支持，存在黑盒现象。因此，它们的可解释性很低。

2.4.3 基于svm的方法

支持向量机是一种有监督学习方法，在分类任务中受到广泛关注。

2.4.3.1 SVM简介

2.4.3.2 SVM在IFD中的应用

SVM在健康状态识别中是一种广泛使用的机器学习方法，尤其适用于滚动轴承、齿轮、电机、发动机、转子系统和液压设备的故障诊断。对于这些诊断对象，基于支持向量机的诊断模型期望能识别多种状态，而不仅仅是健康和故障的二元状态。

• 与人工神经网络不同，基于支持向量机的诊断模型是通过最小化结构风险minimizing the structural risk来训练的，由于理论严谨，有利于提高模型的可解释性。支持向量机的优化目标解为凸二次优化，使诊断模型易于获得全局最优解，从而获得较高的诊断准确率。
• 基于支持向量机的诊断模型需要考虑三个缺点：
  1）这种诊断模型能够有效地处理少量的监测数据。但由于数据量大，拟合难度大，导致计算量大
  2）基于支持向量机的诊断模型性能对核参数kernel parameters敏感。不适当的核参数甚至不能产生可靠的诊断结果
  3）支持向量机算法最初是用来解决二值分类任务的。对于IFD中的多类分类任务，往往需要使用复杂的体系结构，如one-against-all strategy (OAA) 和 one-against-one strategy (OAO)，来集成多个基于SVM模型的结果。

2.4.4 其他方法

2.4.4.1 kNN

经典的分类任务算法。利用距离度量在给定的未标记样本附近搜索k个样本。将k个样本的大部分标签分配给未标记的样本作为其预测结果。kNN在滚动轴承、齿轮和电机的故障诊断中。然而，kNN算法的性能存在一些问题，如邻域边界难以区分和邻域参数选择困难等。

基于kNN的诊断模型易于实现。然而，处理大数据量的数据集需要大量的计算。特别是收集到的数据分布不均衡，会降低这类诊断模型的诊断准确率。此外，k参数难以确定，极大地影响了诊断模型的性能。

2.4.4.2 PGM

PGM(Probabilistic graphical model)是一种概率模型，通过图形架构来表达变量之间的关系。在模型中，note表示一组随机变量，note之间的联系表示变量之间的概率关系。PGM可分为两类，即Bayesian贝叶斯分类器和Hidden Markov隐马尔可夫模型。

基于PGM的诊断模型可以很容易地对机器的多个健康状态进行故障诊断，它们可以简便地分析类别之间的差异。然而，这种诊断模型由于数据拟合能力较低，往往难以表达复杂的函数关系。此外，如果变量之间的概率关系不明确，则很难构建诊断模型。

2.4.4.3 决策树

决策树也是分类中常用的监督学习方法，它通过树形结构建立类与属性之间的关系，如图8所示。在提出的方法中。C4.5算法被广泛应用于归纳决策树进行分类，并获得满意的准确率和易于理解的分类规则。在IFD中，决策树和扩展随机森林已经应用了几十年，并取得了一些成果。
基于决策树的诊断模型具有自然解释的特点，不依赖于专家的解释，易于转换为诊断规则。此外，它们还可以完成数据缺失的诊断任务。然而，此类诊断模型容易陷入过拟合，泛化性能较差，降低了模型在诊断任务中的诊断性能。此外，树型模型大多是根据专家知识构建的。

2.5 结语

本节回顾了传统的IFD，将诊断过程分为三个步骤，即数据收集、人工特征提取和健康状态识别。

• 这种诊断方法有两个缺点：首先，手工特征提取的步骤需要人工劳动，工程师需要设计强大的算法来提取机器健康状态的敏感特征。但是，由于人工成本巨大，工程师通过专家经验从海量的监测数据中提取专业特征仍然是不现实的。其次，传统诊断模型的泛化性能和自学习能力较差，无法有效地衔接海量采集数据与健康状态之间的关系，降低了诊断准确率。
  因此，研究能够同时从原始采集数据中提取特征并自动识别机器健康状态的诊断模型是当务之急。

3 现在：基于深度学习方法的IFD问题

3.1 概述

随着互联网技术和物联网(loT)的快速发展，收集的数据量比以往任何时候都要大。日益增长的数据为机器故障诊断提供了更充分的信息，从而更有可能提供准确的诊断结果。遗憾的是，以往基于传统机器学习理论的故障诊断并不适用于这样的大数据场景。有必要发展一些先进的IFD方法。深度学习源于神经网络的研究，采用深度层次结构自动表示抽象特征，并进一步直接建立学习特征与目标输出之间的关系。基于深度学习的诊断流程如图所示，包括大数据采集和基于深度学习的诊断两个步骤。

3.2 Step1:大数据收集

大数据通常包含四个特征，即容量、速度、多样性和准确性。相反，监控机器的大数据则具有这些特征，并进一步扩展到专业化程度更高的特征。其特点归纳如下。
 大容量。在机器的长期运行过程中，收集的数据量持续增长，特别是对于大型机器，如风力涡轮机在风场。
 低价值密度。在收集的大数据中，健康信息不完整，而且低质量信息比例较高。质量数据混杂在海量数据中。
 多源异构数据结构。多源数据将由不同类型的传感器采集。此外，由于不同的存储结构，数据是异构的。
 监控数据流。高速传输通道能够立即从机器上收集数据。
这些特征是由以下条件造成的:
1)在现代工业中，大多数生产活动是由一组机器完成的。因此，故障诊断往往集中在机器组上。例如，一个风场的监测系统需要监测数百个风力涡轮机。在这些机器的长期运行中，监测系统不断地获取数据。特别是需要采集采样频率高的数据，如来自变速箱的振动数据，因为健康信息大多隐藏在高频频段。因此，收集的数据量有增加的趋势。
2)虽然监测系统可以获取大量数据，但只有少数数据是有价值的。首先，机器长期运行的大部分是健康状态，很少发生故障。因此，收集健康数据比收集错误数据更容易。其次，收集到的数据质量并不总是令人满意的，因为其中一些数据可能会遭遇突发事件，如传输中断和测量设备异常。
3)为了收集足够的机器健康信息，机器上有很多监测点。此外，多源传感器用于收集不同类型的数据，收集的数据以不同的数据结构存储。例如，风力发电机组的监测数据不仅包括状态监测系统(CMS)的振动和转速数据，还包括监测控制和数据采集系统(SCADA)的控制参数。
4)传感器技术和数据传输的蓬勃发展，特别是随着深度学习源于神经网络的研究，采用深度层次结构自动表示抽象特征，并进一步直接建立学习特征与目标输出之间的关系。

3.3 Step2:基于深度学习的诊断

基于深度学习的诊断模型从输入的监测数据中自动学习特征，并根据学习到的特征同时识别机器的健康状态。主要包括特征提取特征和分类特征。该模型首先利用SAE、DBN、CNN和ResNet等层叠网络对抽象特征层进行分层学习。此外，输出层被放置在最后一个提取层之后进行健康状态识别，通常使用基于ANN的分类器，因为它具有较强的多类分类能力。在训练过程中，利用BP算法更新诊断模型的训练参数，使实际输出与目标之间的误差最小。本节回顾了四种典型的深度学习方法及其在机器故障诊断中的应用。

3.3.1 基于堆栈自动编码器SAE的方法

3.3.1.1 AE和SAE简介

3.3.1.2 SAE的应用

一些文献将AE及其常见变种引入机器故障诊断。其中，Jia等[310]利用叠加AE从频域数据中自动学习特征，进而完成滚动轴承和齿轮的诊断任务，这是叠加AE应用最早的研究之一。所构建的诊断模型包含三个叠加的AE，可以自动分离无用的健康信息并压缩有用信息，而不像传统的IFD那样需要人工提取统计特征。结果表明，该方法能够处理大量的监测数据，获得较高的诊断准确率。此外，Liu等[317]和Lu等[319]分别将叠置稀疏AE和叠置去噪AE用于轴承故障诊断，研究结果比SVM和ANN等其他方法诊断准确率更高为了提高基于AE的诊断模型的性能，研究人员进一步研究了AE的优化算法。它们主要关注AE在常见AE的基础上的特殊变种。例如，Jia等[331]提出了一种归一化稀疏AE，可以从输入的振动数据中自动学习有意义和不同的特征，这是最早构建端到端诊断模型的工作之一。针对原始振动数据的移变特性，他们进一步提出了基于归一化稀疏AE的局部连接网络，构建端端网络，鼓励直接连接原始监测数据与机器健康状态之间的关系。参考文献[332]提出了一种基于AE的机器故障诊断模型。其中，通过最大相关熵重新设计AE的优化对象，采用人工鱼温算法对AE参数进行优化。Liu等[333]利用AE构建了用于电机轴承故障诊断的递归神经网络。Ma等[334]提出了一种深度耦合AE，可以在高层融合多源数据的习得特征。Shao等[335]讨论了激活函数对基于原子力的模型诊断性能的影响，并使用高斯小波函数作为激活函数来设计小波AE。他们进一步整合了一组由不同激活函数构建的叠加AE的诊断结果13361。在参考文献。[337,338]，分别引入收缩AE和卷积AE，构建旋转机械故障诊断模型。文献[339]提出了联合多重构AE，从多尺度信号中联合学习具有鉴别性和鲁棒性的特征。此外，研究人员还致力于开发与AE等方法相结合的混合诊断模型。例如，使用极端学习机构建基于人工智能的诊断模型，其中参数是随机确定的，而不是采用BP算法。该训练策略提高了传统基于人工智能模型的泛化性能和收敛速度，混合诊断模型已成功应用于电机轴承[340,341]和风电机组[342]的故障诊断。DBN是另一种利用叠加AE构建混合诊断模型的方法[343.344]。诊断模型中。堆叠AE用于从输入的监测数据中学习特征，DBN用于根据学习的特征识别机器的健康状态。将批处理归一化算法转化为层叠AE算法，解决了多层网络训练中存在的内部协变量移位问题，加快了收敛速度。Saufi等[346]利用RProp算法和差分进化算法优化了基于人工智能的诊断模型的性能。
堆栈自动编码器诊断模型能够从输入的监测数据中自动表示健康信息，在特征提取上不依赖太多的专家知识，是一种无监督学习方法。堆叠的AE不能直接用于识别机器的运行状况状态。因此，通常在模型体系结构的顶部添加一个分类层，并对所构建的诊断模型进行足够的标记训练样本。

3.3.2 基于动态贝叶斯网络DBN方法

3.3.2.1 DBN简述

RBM是一种包含可见单元和隐藏单元的生成型随机神经网络，

3.3.2.2 DBN应用

略
与SAE不同，基于DBN的诊断模型通过预先训练一组叠置的RBMs，可以从输入数据中自动学习特征，解决了BP算法对深层网络进行精细调整时存在的梯度消失问题。为了识别机器的健康状态，DBN通过添加分类层将学习到的特征映射到标签空间中。但是需要使用足够的标记数据来训练所构建的诊断模型来获得可靠的诊断结果。

3.3.3 基于卷积神经网络CNN方法

3.3.2.1 CNN简述

3.3.2.2 CNN应用

根据CNN的架构，可以将其分为基于二维CNN的诊断模型和基于1D CNN的诊断模型。最初，2D-CNN作为图像识别的标准版本，输入图像为2D数据。然而，对于机器的故障诊断，2D CNN无法处理1D信号，如振动数据。为了构建基于CNN的诊断模型并获得高性能，研究者采用了一些有效的方法，归纳为三种类型。

1. 信号处理方法：如the wavelet packet [369–371], the continue wavelet transform [372,373], the dual-tree complex wavelet transform [374,375], and the synchrosqueezing transform [376] ；这些都被用于将输入的1D数据进行预处理，将信号从时域转换为时频域。之后CNN就可以用二维时频谱来处理监测数据了。
2. 一些文献[377-382]人工改变了输入数据的维度，使其适合于基于CNN的诊断模型。在这些成果中，数据预处理大多来源于一些简单巧妙的操作，而不是先进的信号处理，几乎摆脱了专家知识的帮助。
3. 进一步发展用于机器故障诊断的图像数据，如灰度图像[383,384]和红外热图像[385,386]。因此，基于CNN的诊断模型就像图像识别的分类任务一样，能够很好地直接处理世界。此外，1D CNN开始处理受变挡特性影响的振动数据，成功构建了滚动轴承[387-391]、齿轮[392-398]、电机[399]和液压泵400]的端到端诊断模型。其中，诊断模型的输入是未经预处理的原始数据。
   与SAE和DBN相比，基于CNN的诊断模型可以直接从原始监测数据中学习特征，无需频域变换等预处理，因为CNN能够捕获输入数据的移位变特性。此外，采用权值共享的方法减少了诊断模型中训练参数的数量，加快了收敛速度，抑制了过拟合现象。与其他基于深度学习的模型相似，基于CNN的诊断模型的诊断性能取决于标记样本充足的训练。

3.3.4 基于ResNet方法

3.3.2.1 ResNet简述

3.3.2.2 ResNet应用

3.4 结语

本节回顾了目前深度学习在机器故障诊断中的应用，并将诊断过程分为数据采集和基于深度学习的诊断。这种诊断体系结构有望构建端到端诊断模型，该模型可以直接连接原始监控数据和机器的健康状态之间的关系。尽管已经取得了一些成功，但它们大多取决于一个常见的假设：标记数据是足够的，并且包含关于机器健康状态的完整信息。然而，在工程场景中，这种假设是不现实的，因为从真实案例机器中收集的数据有两个特点：
1）这些数据很难包含足够的信息来反映完整的各种健康状态。事实上，机器大部分是在健康状态下工作的。而故障很少发生。因此，收集健康数据比收集错误数据更容易。结果，收集的数据严重不平衡。
2）大部分收集的数据未进行标记。由于巨大的经济代价，经常停机检查健康状况是不现实的。根据上述两个特点，未来有必要针对工程场景训练可靠的诊断模型。

4 未来：基于迁移学习方法的IFD问题

4.1. 工程情景中IFD应用迁移学习的动机

IFD的成功主要依赖于足够的标记数据来训练基于机器学习的诊断模型。然而，收集足够的数据并进一步标记它们需要花费很大的成本，这对于工程场景中的机器是不现实的。所以，引入这一思想是十分合理的：如何使诊断知识可以在多个相关机器上重复使用？例如，来自实验室使用的轴承的诊断知识可能有助于识别工程场景中轴承的健康状态。在这种情况下，可以模拟不同的故障，并从实验室使用的轴承中收集足够的标记数据。如果诊断知识可以重用，用它们训练的诊断模型也可以用于工程场景下的轴承故障诊断。
迁移学习可以达到上述目的，即一个或多个诊断任务中的知识可以被重用到其他相关但不同的任务中。在迁移学习理论的帮助下，收集足够的标记数据是必要的，这就绕开了基于机器学习的训练诊断模型的常见假设，通过这样的方式，IFD预计将从学术研究扩展到工程场景。

4.2 IFD中迁移学习的定义

4.2.1 IFD中的迁移问题

在IFD的迁移学习中，诊断知识被期望从一个或多个诊断任务(源领域source domain)再次用到其他相关但不同的任务(目标领域target domain)。该域表示为 ，包含数据集 ，边际概率分布P(X). 诊断任务 由标签空间 和诊断模型 组成。任务通过观察标签空间中的运行状况状态来获得机器的运行状况信息。诊断模型 可以用标记的数据 训练。然后，进一步赋予模型诊断知识，即输入数据与其对应的机器健康状态之间的关系。给定：源域 ，目标域 。IFD中的诊断任务 和 迁移问题的目的是应用任务 的诊断知识来提高诊断模型 对相关任务 的性能。考虑到 和 。具体来说，源域和目标域的详细描述如下：

4.2.2 IFD中的迁移场景

IFD中的传输场景可以分为两类，即同一机器内的传输(TIM)和跨不同机器的传输(TDM)。这两个类别都遵循一个共同的假设，即源域数据被标记，而目标域中只有少数标记数据，甚至没有标记数据。

1. 在TIM场景中，源域数据和目标域数据来自同一台机器，但不同的运行条件，如变化的速度和负载，或不同的工作环境。这些因素改变了收集到的数据的分布，使得使用源域数据训练的诊断模型不能直接作用于目标域。
2. 在TDM场景中，源域数据和目标域数据的来自不同而但相关的机器，比如电机和发电机。这些数据涉及比TIM更复杂的因素，如不同的机器规格，不同的结构，不同的工作环境等。这些因素也导致了数据在源域和目标域之间分布的严重差异。因此，迁移学习有望在IFD中迁移场景中构建对上述因素具有鲁棒性的诊断模型。

4.3 IFD中基于迁移学习方法的类别

4.3.1 基于特征的方法

基于特征的方法在迁移学习中得到了广泛的研究，因为它能够纠正严重的跨领域差异，例如TDM场景。此类方法一般可分为四个步骤。

1、使用特征映射feature mapping将跨域数据映射到公共特征空间。
2、利用距离度量distance metrics来度量特征的分布差异。
3、通过最小化优化策略，结果被反向传播来更新特征映射的参数；这一步有助于减小特征的分布差异。
4、利用源域样本训练的域共享分类器domain-shared classifier，根据分布相似的特征对目标域进行分类。

4.3.1.1 TCA和JDA

Transfer Component Analysis(TCA)是一种典型的基于特征的方法。该方法试图找到一个低维特征空间，使得其中跨域数据的分布差异很小。然后，将学习到的特征用于训练领域共享分类器，这些分类器大多由传统机器学习理论构建。
Chen等[418]利用TCA提取不同工况下滚动轴承采集数据的可转移特征。Xie等[419]采用TCA和基于SVM的分类器对不同工况下的齿轮箱进行故障诊断。
TCA只适应输入跨域数据的边际概率分布，而忽略了从特征空间到目标类别的条件概率分布。因此，进一步提出JDA来解决这个问题。
在故障诊断方面，Tong等[420,421]使用JDA分别完成了电机轴承和带式输送机托辊轴承的诊断任务，诊断精度优于基于TCA的诊断模型。
基于TCA和JDA的诊断模型采用简单的非线性映射提取特征，难以适应复杂的数据分布。因此，由于源域和目标域之间存在未校正的差异，诊断模型在目标域上的迁移结果可能较差。

4.3.1.2 深度学习与AdaBN

Zhang等[416]构建了基于深度CNN的电机轴承故障诊断模型，用于不同运行条件和不同噪声环境下的电机轴承故障诊断。Peng等[414]采用了基于ResNet的机车轴承诊断模型，该模型对变化的运行条件和添加的噪声具有鲁棒性。在参考文献。[422,423]，采用自适应批归一化(the adaptive batch normalization, AdaBN)[441]改进基于CNN的轴承在不同工况下诊断模型的性能。基于深度学习的诊断模型通过提取深层特征[33]，有利于减少跨域差异。然而，在一些诊断场景(如TDM)中，它们无法适应严重的跨域差异。

4.3.1.1 深度迁移学习

为了纠正严重的跨域差异，深度迁移学习通过最小化分布差异的距离度量对基于深度学习的模型参数施加约束。最大平均偏差(Maximum mean difference, MMD)是一种常用的非参数距离分布偏差。
基于深度迁移学习和迁移学习理论的深度迁移学习诊断模型有助于纠正严重的跨域差异，在IFD迁移场景中得到了广泛关注。在这些模型。传递结果与分布差异的距离度量有关。如果距离不能充分地描述差异，则诊断模型在目标域上的迁移结果可能会很差。

4.3.2 基于GAN方法

略

4.3.3 基于实例的方法

略

4.3.4 基于参数的方法

略

4.4. 结语

迁移学习有望将IFD从学术研究扩展到工程场景。本节首先定义IFD的迁移问题，并进一步将迁移场景分为TIM和TDM。针对迁移诊断场景，一些探索性的研究分为基于特征的方法、基于GAN的方法、基于实例的方法和基于参数的方法。其中，基于特征的方法和基于GAN的方法由于能够实现具有严重跨域差异的TDM场景而受到广泛关注。相比之下，基于实例的方法和基于参数的方法很容易实现，并且主要集中在有轻微跨域差异的TIM场景上。此外，这些方法的迁移性能可能与目标域中标记样本的数量有关。

5 讨论：IFD面临的挑战及路线图

5.1 如何为基于机器学习的训练诊断模型提供高质量的大数据?

在IFD的现阶段，收集的数据量比以往任何时候都迅速增长。但是，收集到的数据的质量并不总是令人满意的，因为其中有一部分可能是质量较差的。低质量数据是指不准确、不确定、不完整和低时间的不正确数据。许多因素可能导致低质量数据的产生，如工作环境的干扰，数据采集设备的异常，数据传输的中断。直接用错误的数据通过机器学习训练诊断模型，会导致不可靠的诊断结果。因此，有必要研究有效的方法来清理错误数据，提高采集的大数据质量。聚类算法和推理模型(clustering algorithms and reasoning models)有助于分离异常数据，进一步提高采集数据的质量。此外，众包数据库技术(crowdsourcing database technologies)可以管理低值密度的大数据，提高数据质量，有助于构建标准数据库，为训练基于机器学习的诊断模型提供高质量的数据

5.2 如何构建基于深度学习的大数据革命诊断模型?

随着大数据革命的到来，两个特殊问题给使用深度学习理论的IFD带来了负面影响，即不平衡的健康状态和数据流分析。

1. 机器健康状态分布不均衡是工程场景中常见的现象。例如，从正常状态收集的数据要比从故障状态收集的数据充分得多。如果将不平衡数据用于训练基于深度学习的诊断模型，可能会迫使模型的决策边界向实例较少的健康状态转移，从而降低诊断精度。为了克服这一问题，代价敏感学习模型(cost sensitive learning)有助于构建受不平衡健康状态影响的诊断模型。此外，Adaboost和XGhoost等集成学习模型预计将提高基于深度学习的诊断模型与重采样策略相结合的性能。
2. 将监测数据流视为连续时间序列中不断增大的数据。通过分析，IFD可以提供实时的诊断结果。这样的问题已经被研究人员关注了多年，但是不可靠的数据传输和带宽限制阻止了监控数据流以不间断的顺序到达目的地。此外，计算能力的低下阻碍了数据流分析的成功。深度学习的IFD是基于离线历史数据实现的。幸运的是，监控数据流随着海量数据、宽带互联网和云计算的出现，这些数据能够被收集和有效地处理。因此，鼓励开发在线IFD，以便对早期异常或突然故障机器进行实时决策。增量学习有望促进使用深度学习的在线IFD。此外，生命学习可以促进基于深度学习的诊断模型不断地从运动监测数据流中获取诊断知识。

5.3 如何保护基于迁移学习的诊断模型在工程情景下的绩效不受负迁移的影响?

迁移学习的成功与否取决于多重诊断任务中相关健康信息的假设。如果假设无效，则可能发生负转移，降低转移的绩效。利用源领域的诊断知识建立基于学习的诊断模型。负迁移有两个原因：
1)可以从多个源域收集数据以匹配一个公共目标域，但这些源域中包含的健康信息并不都与工程场景中的目标域相关。例如，可以收集来自不同规格的电机的数据，形成多个源域。其中一些可以为物理结构与电机相似的发电机提供阳性诊断知识，但不是所有的。因此，如何选择最优模型，保证基于迁移学习的诊断模型的性能，一直困扰着研究人员。因此，有必要开发跨域可移植性度量，以帮助选择相关的源域。此外，GAN可以帮助生成假的高可转移性数据，以扩展使用迁移学习的IFD可用数据。
2)构建的基于迁移学习的诊断模型无法提取相关的健康信息。根据第4.3节，IFD中可以使用几种方法，但由于不同的性能上限，对于给定的转移场景，它们的转移性能是不同的。为了选择最优解并保证传递的成功，必须进行大量的实验试验。对于这一问题，迁移学习的体系结构有望基于或历史知识自动选择性能最高的最优方法。当工程场景中不可避免地出现负迁移时，源域微控制器的诊断知识可在目标域重用。

5.4 如何提高基于深度学习的诊断模型的可解释性?

尽管基于深度学习的诊断模型已经取得了一些先进的成果，但深度层次网络的黑箱问题仍然困扰着学术界的研究人员。这些模型如何从监测数据中学习诊断知识是很困难的。因此，诊断模型的构建是通过一次又一次的实验试验而不是严格的理论背景。为了弥补这一差距，建议关注两个研究领域。1)基于深度学习的诊断模型是通过最小化经验风险来训练的，缺乏严谨的理论。因此，它们的物理意义是很难解释的。支持向量机、PGM等统计学习理论具有严格的理论基础，促进了模型参数、特征和诊断结果易于理解的诊断模型的构建。因此，随着大数据的革命，IFD中的统计学习仍然值得研究。2)通过深度学习学习特征的过程类似于过滤过程。因此，自适应滤波理论有助于分析基于深度学习的诊断模型的物理意义。此外，最大化激活和特征反演等可视化技术有望可视化地表达诊断模型从输入数据中学习到的内容。通过上述研究，可解释性结果有助于合理构建具有最优架构的基于深度学习的诊断模型。

6 结论

本文综述了机器学习在机器故障诊断中的应用，将机器故障诊断大致分为三个阶段。在过去，IFD是通过数据收集、人工特征提取和健康状态识别等步骤实现的。该诊断模型利用传统的机器学习理论，能够自动识别机器的健康状态。然而，目前的文献综述表明，人工特征提取仍然依赖于专家知识。随着近年来机器学习的快速发展，深度学习的出现带来了积极的影响，效益增强。深度学习理论构建端到端诊断模型，从收集的数据中自动学习特征，进而识别机器的健康状态。值得关注的是，基于深度学习的诊断模型的成功取决于足够的标记样本。这种假设是不现实的，在工程场景中是可行的。为了弥合这一鸿沟，迁移学习理论有望构建诊断模型，使诊断知识能够跨多个诊断任务迁移。最后，我们讨论了IFD的挑战，并进一步描绘了路线图。本文旨在系统地介绍IFD的发展，为该领域的进一步研究提供有价值的指导。