0.   引言

暂态稳定性作为电力系统运行安全性的重要指标，指的是系统在遭受外界扰动后能够在一定时间内恢复到新的稳定工作状态的能力。预测和评估系统在遭受各种故障或负荷变化时的稳定性，能够为系统调度和运行提供参考依据，对于减少停电事故的发生、保障电力系统的安全运行具有重要意义^[1-2]。

TSA常用的方法可根据是否使用李雅普诺夫函数分为两类^[3]：基于李雅普诺夫的方法如能量函数法^[4-6]、基于平方和^[7]的方法等；非李雅普诺夫方法主要利用数值积分^[8]、机器学习算法^[9-10]等来分析电力系统的暂态稳定性。其中时域仿真（time-domain simulation，TDS）^[11]采用诸如修正欧拉法、龙格-库塔法等数值积分法在每个迭代步骤中多次求解非线性方程以得到系统在扰动下的动态响应，根据模拟的故障后轨迹来评估故障后系统的稳定性。与之不同的是，数据驱动型TSA^[12-19]直接采用机器学习或深度学习方法拟合电力系统中关键数据特征与系统稳定性之间的非线性函数关系，其需要大量的数据来训练模型，一旦模型训练好了直接用于评估获得稳定性结果，计算复杂度相对较低，评估过程较快。

当电网的运行方式或拓扑结构发生较大变化时，数据驱动型TSA建立模型的性能下降限制了其应用。迁移学习（transfer learning，TL）^[20-22]解决了新的运行场景下数据稀缺、标注困难的问题，同时也可以提高模型的泛化能力，常用的方法包括基于实例的迁移学习、基于特征的迁移学习和基于模型的迁移学习。主动学习（active learning，AL）^[23-25]作为一种半监督学习的策略，它能够通过选择最具代表性或不确定性的样本来进行标注，从而最大程度地减少人工标注数据的成本，常见的方法有不确定度抽样、边缘采样、熵采样、多样性采样、贝叶斯主动学习等。

本文搭建了一个结合主动学习和迁移学习的框架用于面对复杂多变的电力系统运行场景时更新模型。首先基于时间卷积（temporal convolutional network，TCN）^[26]和门控循环单元（gated recurrent units，GRU）^[27]构建并训练了基础模型。当运行场景变化需要启动更新机制时，采用长时间尺度仿真和短时仿真相结合的方法，分别生成小批量的标注数据和大批量的未标注数据，基于变分对抗的主动学习模型用于挑选信息价值更高的样本寻求标注。通过迁移基础模型参数并结合主动学习所挑选样本进行微调，最终在保证迁移精度的情况下节省更新时间，IEEE 39节点验证了所提方法能够实现高效的迁移。

1.   数据驱动的TSA模型

1.1   模型输入和输出

电力系统的动态行为通常由微分代数方程来表示：

式中：x是表示电力系统状态变量，y是表示系统代数变量，f和g分别是表示系统动态分量的微分方程和网络代数方程，p表示可能对暂态稳定性影响的参数。

式中：m为母线节点个数，n为输电线路条数，s为发电机个数，d为采样点数。将其变换为适合卷积操作的形如${R^{d (2 m + 2 n + 2 s)}}$的二维矩阵形式。

在线路故障发生并被切除前后的时段内，系统从一种稳定状态过渡到新的运行状态。这一暂态过程中电力系统的一些物理量（如节点电压幅值、相角，线路潮流和发电机有功、无功等）具有明显的时变特性，因此，在应用深度学习模型实现特征与系统稳定性之间的映射关系时，需要对各电气量时序特征信息充分提取。本文提出一种如图1所示的TCN和GRU相结合的网络来提高模型评估的性能。具体来说，对于任意样本，其输入特征为：

图  1  TCN-GRU模型结构

Figure  1.  The structure of TCN-GRU model

下载: 全尺寸图片 幻灯片

每个样本的暂态稳定性标签通过暂态稳定指数${I_{\rm TSI}}$确定，其计算公式为：

式中：$\left| {\Delta {\delta _{\max }}} \right|$为任意两发电机功角差的最大值，当$\eta$＞0时系统稳定，标签记为[1,0]；当$\eta$＜0时系统失稳，标签为[0,1]。

1.2   模型原理

TCN结构中的残差模块如图1所示，由因果空洞卷积、权重归一化单元、ReLU单元以及Dropout单元封装而成。在处理电网暂态数据的时序特性时，TCN的卷积计算采用因果空洞卷积形式，其计算表达式为：

式中：$g(t)$为t时刻卷积结果，${f_n}(i)$为第i个滤波器，${x_{t - di}}$为$t - di$时刻的特征，d为空洞系数；s为卷积核的大小。残差连接的表达式为：

式中：x是输入特征，$F(x)$表示残差块内部的非线性变换，残差连接使输入数据可以跨层直接输入而跳过中间环节，经过1×1的卷积处理至指定维度后，与因果空洞卷积提取出的特征数据相加，其结果作为本层最终的输出特征。

GRU引入了更新门和重置门两个门控机制，它能根据输入和上一个时间步的信息选择性地更新和记忆隐藏状态，从而更好地捕捉暂态序列中的依赖关系。每个单元结构如图1所示，计算表达式为：

式中：${r_t}$为重置门向量，${z_t}$为更新门向量，${x_t}$为输入序列的第t个向量，${h_{t - 1}}$为上一时刻的状态向量， $\sigma$为激活函数，${W_r}$、${W_z}$、${U_r}$、${U_z}$、${b_r}$、${b_z}$分别为可学习的权重矩阵和偏置向量。

重置门控制了前一个状态向量对当前候选状态向量${\tilde h_t}$的影响：

式中：$\tanh$为激活函数，${W_h}$、${U_h}$、${b_h}$为可学习的参数。更新门控制了过去信息在当前状态中的贡献，候选状态向量通过将输入向量和前一时刻状态向量进行叠加，并使用重置门对其进行变换。最终的状态向量${h_t}$根据更新门进行加权平均，从而融合了过去和当前信息：

TCN和GRU的组合、实现了对输入多元暂态时间序列的特征提取，经由全连接层组成的分类器，最终通过Softmax函数输出系统的稳定性标签。

2.   基于变分对抗主动学习的样本标注

2.1   TSA中的主动学习流程

深度学习模型在TSA中的成功应用离不开大量标注样本的支持，但是如果用TDS逐个获取样本的标签将消耗大量的算力和时间。虽然模型的训练是离线进行的，仍需要尽可能多的覆盖各种故障场景，同时在实际应用中面对不断变化的环境条件以及突发事件，暂态样本的知识库需要不断更新，模型也需要结合增量学习、迁移学习等技术进行参数调整。为了提高数据生成的效率，减少计算负担，同时增强基于深度学习的TSA应用的实用性，有必要引入主动学习算法。

主动学习的过程可以帮助深度模型更快地学习到关键特征，从而以更少的样本学习达到更高的准确性，其主要流程如图2所示。在初始化阶段，通常会用一部分已标注的数据训练一个基础的深度学习分类器模型，初始化以后进入迭代计算过程：

图  2  主动学习流程

Figure  2.  The process of active learning

下载: 全尺寸图片 幻灯片

1）选择最有价值的样本。根据采样策略选择样本。例如当使用不确定性采样策略时，首先使用基础模型对未标注的样本进行预测，然后选择其中预测概率最不确定的一些样本寻求标注；

2）标注样本。对选中的寻求标注的样本通过时域仿真进行标注，标注后的数据添加到已标注的数据集中；

3）重新训练模型。使用合并新增的已标注样本后的样本重新训练模型以更新模型的参数和权重；

4）评估模型性能。使用新模型对测试集进行预测，并计算分类准确率等指标以评估模型的性能。

迭代上述过程，直到达到预定的停止条件，即训练模型预定的性能指标（例如以准确率为指标）达到或者已经标注了所有的样本。

对于样本特征空间$X \subseteq {R^d}$，标签空间$Y = \{ 1, 2, \cdots , K\}$，$K$为类别的数量，由短期的TDS生成大量未标注数据集${D_{\rm U}} = ({X_{\rm U}})$，长期的TDS生成小批量标注数据集${D_{\rm L}} = ({X_{\rm L}},{Y_{\rm L}})$，主动学习的关键在于样本获取函数$S({X_{\rm U}})$，从未标注的数据集${D_{\rm U}}$中选择给定个数的样本进行完整的TDS获取标签，并添加到标注的数据集${D_{\rm L}}$中用于下一次迭代训练。

2.2   变分对抗主动学习

变分对抗性主动学习使用变分自编码器（variational autoencoder，VAE）和对抗网络来学习数据的潜在空间分布，以区分未标注和标注的数据，其架构如图3所示。

图  3  变分对抗主动学习

Figure  3.  The architecture of variational adversarial active learning

下载: 全尺寸图片 幻灯片

变分对抗主动学习的核心思想是利用VAE对已标注的数据和未标注的数据进行编码。因此，对于一个未标注的数据，如果其编码向量与潜在空间中向量的差异足够大，那么就可以认为该无标注样本是有价值的。VAE中的编码器使用高斯先验学习底层分布的低维空间，解码器用于重构输入的数据。当标注和未标注数据的潜在特征混合在一起输入编码器进行表示学习，其重构损失表达式为：

式中：${q_\phi }$和${p_\theta }$分别是由$\phi$和θ参数化的编码器和解码器。$p(z)$是作为单位高斯选择的先验值，β是优化问题的拉格朗日参数。

对于样本的选择是通过对抗网络来实现的，判别器的作用是区分一个样本是已标注还是未标注的。因此VAE在训练时还要编码输入数据，让判别器难以在隐藏层空间中区分该数据是否已经标注。当VAE以相似的概率分布${q_\phi }({z_{\rm L}}|{x_{\rm L}})$和${q_\phi }({z_{\rm U}}|{x_{\rm U}})$将已标注数据和未标注数据映射到同一潜在空间中时，它欺骗判别器将所有输入数据分类为已标注数据；同时判别器试图估计数据来自未标注数据的概率。VAE的作为对抗网络中的角色，其目标函数表示为二元交叉熵损失：

将式（10）和式（11）相结合得到训练VAE完整的目标函数，其计算表达式为：

式中：${\lambda _1}$和${\lambda _2}$分别为超参数。

最终选择标注样本的依据是判别器的输出：

如果判别器输出置信度很高，则说明此时判别器很确信该无标注样已经能很好的被现有的标注样本表示了，无需选择该样本寻求标注；当输出置信度低很则说明该样本与现有标注样本差别较大，应该选来标注。

3.   基于主动迁移学习的TSA框架

基于主动迁移学习的TSA框架如图4所示，分为离线训练和在线应用两个阶段，当场景变化模型性能下降时通过主动迁移进行更新。

图  4  基于主动迁移学习的TSA框架

Figure  4.  The TSA framework based on active transfer learning

下载: 全尺寸图片 幻灯片

1）离线训练阶段。考虑各种故障条件，通过时域仿真生成大量样本，经过数据处理（异常数据剔除、数据归一化等操作），然后随机划分为训练集和测试集，基于训练集数据训练TSA模型；

2）主动迁移更新。当系统运行工况改变或拓扑结构发生变化时，需要启动更新机制。首先在目标域通过时域仿真生成小批量标注数据和大批量无标注数据，然后根据如表1所示变分对抗学习算法训练并从无标注数据集中挑选样本寻求标注，结合已标注样本微调源域TSA模型，循环此过程直至微调后的模型性能满足要求。

表  1  变分对抗主动学习算法

Table  1.  Variational adversarial active learning algorithm

初始化：标注数据集（XL,YL），未标注数据集（XU），初始化编码器、解码器、判别器参数，TSA模型参数
1：循环迭代：
2：从标注数据集（XL,YL)，未标注数据集（XU）采样数据
3：根据公式（10）计算重构损失
4：根据公式（11）计算对抗损失
5：更新VAE编码器和解码器参数
6：更新判别器参数
7：更新TSA模型参数
8：结束
9：返回各模型参数

下载: 导出CSV 

| 显示表格

3）在线应用阶段。训练好的模型应用于在线评估，当发生故障时PMU量测数据经过处理后输入到TSA模型中对暂态稳定性评估并给出结果，如果稳定则不需要任何动作，继续对系统进行监测即可；如果发生失稳则考虑施加相应的稳控措施。

4.   算例分析

为了验证所提方案的有效性，在IEEE-39节点系统测试，其拓扑结构如图5所示。样本通过PSD-BPA时域仿真产生，模型基于python语言Pytorch开发。

图  5  IEEE-39节点电力系统

Figure  5.  The IEEE 39-bus power system

下载: 全尺寸图片 幻灯片

4.1   仿真场景和数据集

对于基本运行条件下的系统，主要从以下几个方面考虑模拟的场景：首先是故障类型，施加最严重的三相短路故障在34条交流线路上；其次考虑故障发生位置的影响，故障发生点在每条线路首端至尾端以10%为间距改变；此外考虑不同的保护方案，故障切除时间设置为0.1 s-0.3 s以0.05 s步长变化。最后考虑负荷水平对电力系统暂态响应特性的影响，设置 75%~120%以5%为间隔的多种系统负荷水平进行仿真。

根据以上设定，10 s的TDS共生成15300个样本，其中9480个样本为稳定，5820个样本为失稳，按照8∶2的比例对所有数据划分为训练集和测试集。对于目标域系统，设置并仿真以下场景并获得样本：

目标系统1：在80%~120%负荷水平下，线路6-11停运，在其余交流线路上施加三相短路故障，故障持续时间分别为0.1 s和0.2 s，共生成样本4455个，其中失稳样本个数为920，稳定样本个数为3535；

目标系统2：在80%~120%负荷水平下，线路4-14和10-11停运，在其余交流线路上施加三相短路故障，故障持续时间分别为0.1 s和0.2 s，共生成样本4320个，其中失稳样本个数为1018，稳定样本个数为3302；

目标系统3：调整负荷水平为70%、75%、125%、130%，同时调整发电机出力，在34条交流线路上施加三相短路故障，共生成样本4080个，其中失稳样本个数为847，稳定样本个数为3233。

4.2   源域模型性能对比和测试

TCN-GRU模型采用Adam优化方法以学习率1e-4进行训练，然后在测试集上对其进行评估，除了准确率A（accuracy）以外，基于表2的混淆矩阵，通过、召回率R (recall)、精准率P（precision）和F1分数F（F1-score）共4个指标对模型性能全面评估。

表  2  混淆矩阵

Table  2.  Confusion matrix

真实标签		预测标签
		稳定		失稳
稳定		${T_{\text{P}}}$		${F_{\text{N}}}$
失稳		${F_{\text{P}}}$		${T_{\text{N}}}$

下载: 导出CSV 

| 显示表格

定义暂态稳定评估任务指标计算公式如下：

为了验证模型性能的优越性，本文采用机器学习算法^[9]包括LR、SVM、Xgboost、DNN、以及深度学习算法包括CNN、GRU、TCN构建了对比模型。对于机器学习算法上述输入要求为一维向量，本文将二维数据展开成一维形式。SVM采用径向基核函数，惩罚因子C取值为10。Xgboost模型中树的数量选取为100，最大深度为10。五层DNN的神经元数量分别为[1024,256,64,8,2]，CNN采用的网络结构为输入+卷积+池化+卷积+池化+2层全连接+Sofmax输出层，卷积核大小为3，池化层大小为1。GRU模型和TCN模型与本文所搭建的复合模型结构相同分为特征提取和分类器两部分，特征提取模块为单一的GRU和TCN。上述深度模型均采用Adam优化器进行训练，各个模型的预测性能指标对比如表3所示。可以看出TCN-GRU模型各项指标均为最优，它能够很好的提取暂态时序特征并用于稳定性分类。

表  3  不同模型的评估结果对比

Table  3.  Comparison of evaluation results of different models

模型		准确率/%		召回率/%		精确率/%		F1分数%
LR		93.23		94.52		94.67		94.59
SVM		95.82		97.02		96.31		96.67
XGBoost		96.99		98.01		97.20		97.61
DNN		96.96		96.81		98.38		97.59
CNN		96.41		97.57		96.65		97.11
TCN		97.12		97.85		97.55		97.70
GRU		96.67		97.09		97.59		97.34
TCN-GRU		98.32		99.28		98.67		98.98

下载: 导出CSV 

| 显示表格

当场景变化时，源域模型在目标系统上测试结果如表4所示，可以看到在各新的场景下模型性能均有所下降，需要启动更新机制，结合主动迁移更新模型。

表  4  源域模型在新场景下的测试结果

Table  4.  The test results of the source domain model in the new scenario

系统		准确率/%		召回率/%		精确率/%		F1分数%
目标系统1		82.51		85.95		93.21		89.43
目标系统2		76.11		81.65		89.22		85.27
目标系统3		80.30		85.07		91.27		88.06

下载: 导出CSV 

| 显示表格

4.3   目标域主动迁移学习效果

变分对抗主动学习各模块参数设置如表5所示，其中判别器为5层的多层感知机（multilayer perceptron，MLP），学习率设置为5e-4；编码器和解码器分别为三层的一维卷积和转置卷积，学习率设置为5e-3；VAE参数中β设置为1，潜在空间z维数为100。在开始阶段选择一种与分类器本身无关的样本选择方法——多样性采样方法，选择100个样本作为标注样本集，各模块均采用Adam优化器按照表1算法训练。判别器每次挑选100个置信度最低的样本寻求TDS标注并合并至标注样本集，记录每次迭代训练后的分类器精度。

表  5  VAE结构

Table  5.  The architecture of VAE

模型		层		输入通道		输出通道		卷积核大小/步长
编码器		Conv1		190		128		3/1
		Conv1		128		256		3/1
		Conv1		256		512		3/1
解码器		Deconv1		512		256		3/1
		Deconv1		256		128		3/1
		Deconv1		128		190		3/1

下载: 导出CSV 

| 显示表格

为了对比所提主动迁移方法中挑选样本策略的优越性，采用以下几种选择样本标注的方法：1）随机采样：随机从未标注样本集中挑选，每个样本被选中的概率是相等的；2）基于多样性采样：使用度量学习的方法计算未标注样本之间的相似度，并选择相似度较低的样本来增加多样性；3）基于熵采样：熵是一种衡量随机变量不确定性的指标，也可以用来衡量样本的信息量。利用分类器预测未标注样本的类别概率并计算熵值，选择熵值最高的未标注样本进行标注。上述采样方法用于挑选样本进行标注并对源域TSA模型更新，在目标系统1得到对比结果如图6所示。

图  6  主动迁移学习迭代更新曲线

Figure  6.  Active transfer learning iterative update curve

下载: 全尺寸图片 幻灯片

可以看到相比其它挑选未标注样本的方法，变分对抗主动学习所选样本训练TSA模型精度稳步提升，标记样本个数相同时效果最好。继续增加标注样本的数量并更新模型以达到性能要求，在三个目标系统上对模型进行主动迁移学习迭代更新并记录准确率变化如图7所示。可以看到在不同的目标系统上启动主动迁移更新机制，随着标注样本个数增加，目标域TSA模型准确率不断提高，TSA模型恢复至可用水平。

图  7  目标域主动迁移学习准确率变化

Figure  7.  The accuracy change of active transfer learning in target domain

下载: 全尺寸图片 幻灯片

结合主动学习对TSA模型迁移的优势是在实现模型性能提升的同时减少样本的生成时间。在目标系统1的场景下设计如下三种方案对模型更新测试：

方案1为主动学习挑选2400个样本标注并微调模型；

方案2为随机挑选2400个样本标注并微调模型；

方案3为将全部4000个标注样本微调模型；

方案4为基于全部4000个标注样本重新训练模型。

所得测试结果如表6所示，相对于重新训练模型，微调可以实现模型的快速更新且在结合主动学习算法之后能够在选择标注样本个数较少的同时实现较高的准确率。尽管相对于随机选择样本过程变分对抗主动学习的训练耗时较长，但相对于时域仿真的时长代价较小，有助于高效的迁移学习。

表  6  各方案下的测试结果

Table  6.  The test results under each scheme

方案		仿真时间/秒		训练时间/秒		总时间/秒		准确率/%
1		2400		124		2524		97.95
2		2400		16		2416		95.96
3		4000		27		4027		97.98
4		4000		346		4346		97.51

下载: 导出CSV 

| 显示表格

5.   结论

本文提出了一种基于变分对抗主动迁移学习的自适应TSA框架，在IEEE 39节点系统测试了多个变化运行场景的数据并得出以下结论：

1）VAE可以学习数据的潜在表示从而区分已标注样本和未标注样本；采用长期仿真对所挑选样本进行标注，显著减少了仿真样本的生成时间；

2）相比其他样本选择算法，采用变分对抗主动学习所选样本训练TSA模型精度稳步提升，效果最好；

3）当运行场景变化TSA模型需要迁移时可以结合主动学习挑选未标注样本中信息量最丰富的样本微调模型，使迁移过程更加高效。

本文所提基于变分对抗主动迁移学习的自适应TSA框架中变分对抗主动学习独立于TSA模型训练任务，后续研究如何利用主动学习任务的结构并融合TSA模型训练，进一步发挥主动学习的优势同时提升TSA的精度和效率。