中国储能网讯：随着电网规模不断扩大，调控一体化特征凸显，电力系统运行不确定性显著上升，电网故障分析和处置面临前所未有的压力。通过识别电网信息，快速生成故障处置辅助决策，对提升故障处置响应能力具有重要意义。

  《中国电力》2024年第7期刊发了田波等撰写的《电网故障处置信息自适应理解框架及关键技术》一文。文章首先分析挖掘故障处置信息语言特点，提出故障处置信息自适应理解框架。基于BERT网络对故障处置信息文本编码通过Softmax函数识别故障处置信息意图，接入条件随机场（conditional random field，CRF）识别故障处置信息槽位，从而建立基于BERT-CRF的故障处置信息多任务协同理解模型。

  为了提升电网故障处置响应能力，提出一种故障处置信息自适应理解框架，该框架基于所构建的多任务协同理解模型和故障处置知识图谱识别电网故障告警、运行状态、操作指令等信息，自适应推理生成故障处置操作策略。通过建立故障处置信息理解模型评价指标和试验数据集，验证了故障处置信息理解框架和多任务协同理解模型的有效性。

01

故障处置信息分析及理解框架

  1.1 故障处置信息语言特点

  故障处置信息含有大量设备名词、操作术语、特殊表述以及同音异字。故障处置信息具有以下特点。

  1）故障处置信息存在大量专业名词，这些电力专业名词基于通用自然语言理解方法难以准确辨识，需要对电力专业名词进行特征训练才能有效地辨识；

  2）故障处置信息存在多种特殊表达方式，常见故障处置信息特殊表达术语如“主变”与“变压器”，词汇含义相同，但表述不尽相同，要对故障处置信息进行多元化建模；

  3）故障处置信息存在同音异字情况，如“长治”与“长志”，要考虑故障处置信息语境给出理解结果；

  4）故障处置信息存在同音同字代表不同对象情况，要综合考虑调控机构、地区、电压等级等电网特征信息对故障处置信息理解。

  1.2 故障处置信息自适应理解框架

  故障处置信息理解框架通过人工智能和自然语言处理技术理解电网故障告警、运行状态、操作指令等信息中意图和槽位，形成可用于执行调度控制系统的画面调阅、数据查询和故障辅助操作指令，同时生成故障处置信息理解结果和辅助决策，为故障处置提供支撑，具体框架方案如图1所示。

图1 电网故障处置信息自适应理解框架

Fig.1 The adaptive understanding framework of fault disposal information

  故障处置信息理解模块由故障处置信息领域识别模型、基于BERT-CRF的故障处置信息多任务协同理解模型以及故障处置知识图谱3部分组成。故障处置信息领域识别模型基于文本卷积神经网络（text convolutional neural networks，TextCNN）对输入文本进行二分类意图识别，判断文本序列进入故障处置信息多任务协同理解模型或者故障处置知识图谱。基于BERT-CRF的故障处置信息多任务协同理解模型与故障处置知识图谱并行使用，多任务协同理解模型采用“多任务协同”神经网络联合识别故障处置信息意图和槽位，支撑故障处置信息自适应理解。

  故障处置交互信息管理模块分为交互状态跟踪和交互策略判别部分。交互状态跟踪基于有限状态机判定故障处置信息文本意图及槽位是否填满，将当前交互状态和历史交互状态输入到交互策略判别中。交互策略判别模型基于长短期记忆网络训练故障处置场景业务语料建立，该模型通过交互状态判定交互策略动作。

  故障处置信息理解结果反馈模块接收到故障处置信息交互状态跟踪模块和交互策略判别模块的判定结果给出故障处置信息理解结果，理解回复语言。这些故障处置信息理解结果通过语音合成模块转为音频播报给调度员。

  故障处置信息理解辅助模块包括电网故障、运行状态及操作指令获取、故障处置信息预处理和故障处置辅助决策操作执行功能。故障处置信息预处理功能采取规则修正和语言拼音修正相结合的方法对电力特殊符号、专业术语、设备名词等信息进行修正，以保证故障处置信息理解模型的识别准确率。故障处置辅助决策操作执行功能在理解故障处置信息后，实现系统画面调阅、数据查询和故障处置辅助决策生成。

02

电网故障处置信息理解关键技术

  2.1 基于BERT-CRF的故障处置信息多任务协同理解模型

  BERT是基于海量语料建立的预训练模型，其模型结构如图2所示。

图2 BERT模型结构

Fig.2 Structure of BERT model

  BERT利用双层Transformer编码器中的多头注意力机制使输入文本序列各字符得到不同的关注权重，提升调度专业语言字符间依存能力。通过对输入文本字符进行向量矩阵非线性变换得到每个字符的查询向量Q、键向量K和值向量V，输入文本每个字符的Q向量与K向量做内积计算，计算值越大，说明关联程度越大。通过对关联程度缩放和Softmax函数归一化处理，得到输入文本中每个字符与其他字符的关联程度，最后与各个字符的V向量加权融合，计算得到每个字符在全局的语义字向量。

  基于BERT-CRF的多任务协同理解模型通过同时兼顾故障处置信息意图和槽位识别损失函数收敛性，克服故障处置信息特殊符号多、专业术语强、表述模糊等难点，在保留故障处置信息意图和槽位完整性的同时提高了故障处置信息识别准确率，其模型结构如图3所示。

图3 故障处置信息多任务协同理解模型结构

Fig.3 Structure of fault disposal information multi-task collaborative understanding model

 

  故障处置信息经过BERT模型计算后得到输出向量，CRF综合分析单个字符中各电力实体标签得分和相邻字符标签之间转移得分对故障处置信息中槽位进行评分。故障处置信息槽位正确标注总分数除以所有可能标注得分总和，得到当前故障处置信槽位正确标注序列的概率。

  2.2 故障处置知识图谱与多任务协同理解模型

  电网模型、运行规程、事故预案等数据中含有大量的故障处置信息，基于混合神经网络抽取上述数据中故障处置要点及要点关系，通过“实体-关系-实体”形成故障处置知识语义网络，从而建立故障处置知识图谱，该知识图谱具体形态如图4所示。

图4 故障处置知识图谱形态

Fig.4 The form of fault disposal knowledge graph

  故障处置知识图谱在感知到故障处置信息时，基于文本相似度算法计算故障处置信息与知识图谱中关键信息实体的语义距离，通过语义距离比较，选择语义距离最近的知识图谱实体所对应的解释内容作为对故障处置信息的理解结果。

  故障处置信息多任务协同理解模型与故障处置知识图谱两者相辅相成实现故障处置信息理解和辅助决策生成，多任务协同理解模型用于理解画面调阅、数据查询、预案查询、应用操作等故障处置操作指令，故障处置知识图谱用于理解故障处置规程、故障处置细则等信息查询指令，同时存储结构化的预案、规程规定等知识。通常情况下，基于BERT-CRF的多任务协同理解模型对建模意图范围内的故障处置信息具有准确地理解能力，超出故障处置操作涵盖意图将基于故障处置知识图谱推理相应的理解答案。

03

实例分析

  3.1 故障处置信息理解模型评价指标

  为了对故障处置信息理解模型进行综合评估，提出故障处置信息多任务协同理解模型指标。从意图识别、槽位提取以及辅助决策生成3个维度评估故障处置信息理解效果，通过对上述评价维度的精准率、召回率和平衡F分数（F1）加权组合评价故障处置信息理解模型识别性能。

  3.2 调度专业试验数据

  根据故障处置场景特征，构建故障处置信息理解试验标准数据集，共梳理24种故障处置操作意图，将每种操作意图泛化为多种故障处置信息表述，生成17560条故障处置信息，其中12898条为训练样本集，4300条作为验证样本集，362条作为测试样本集。部分数据如表1所示。

表1 部分故障处置试验数据

Table 1 Partial fault disposal test data

  对表1中24种故障处置操作意图下的17560条故障处置信息进行标记，标记每条信息的意图和槽位，部分标记语料如表2所示。

表2 部分故障处置信息标记数据

Table 2 Partial fault disposal information label data

  3.3 模型效果分析

  通过BERT-CRF训练标记后的故障处置信息样本，建立故障处置信息意图识别和槽位识别模型，采用“多任务协同”神经网络结构，同时训练故障处置信息意图识别和槽位提取模型。采用362条测试样本对意图模型进行验证，24种故障处置信息意图识别效果如图5所示。

图5 故障处置信息意图识别效果

Fig.5 Identification effect of fault disposal information intention

  通过图5数据可知，所提故障处置信息多任务协同理解模型对22种操作意图的识别精准率、召回率、F1值均为100%，具有较高的识别精度和泛化能力，能够满足现场实用要求。进一步分析上图中混淆矩阵数据，可以看出意图6（查询机组开机台数）对应的故障处置信息测试指令中有1条理解错误，将其识别为意图3（查询机组备用出力），影响了两种意图精准率和召回率。为了全面评估基于BERT-CRF的故障处置信息多任务协同理解模型性能，采用所提故障处置信息多任务协同理解模型评价指标计算24种故障处置信息理解效果，如表3所示。从表3可以看出，多任务协同理解模型对意图识别、槽位识别以及辅助决策生成整个故障处置信息理解过程每个环节均具有较高的识别准确率和泛化能力，能够为电网故障处置提供安全可靠的辅助决策。

表3 故障处置信息多任务协同理解模型识别效果

Table 3 Recognition effect of fault disposal information multi-task collaborative understanding model

  3.4 模型效果对比

  为了进一步验证文中所提故障处置信息多任务协同理解模型性能，将其与基于BiLSTM-CRF的多任务协同理解模型以及其他管道模型对比，管道模型中的意图识别分别基于文本卷积神经网络（TextCNN）、深层金字塔卷积网（deep pyramid convolutional neural networks，DPCNN）构建，槽位提取分别基于BiLSTM-CRF、迭代膨胀卷积神经网络（iterated dilated convolutional neural networks，IDCNN）构建，各模型对测试样本的理解效果如表4所示。

表4 各模型评价指标计算结果

Table 4 Calculation results of evaluation indicators for each model

  从表4数据可知，所提基于BERT-CRF的故障处置信息多任务理解模型对意图识别、槽位识别以及辅助决策生成各环节的精准率、召回率、F1值要均高于基于BiLSTM-CRF的多任务协同理解模型以及其他管道模型。与基于BiLSTM-CRF的多任务协同理解模型相比，BERT能够更深层次地表示电网故障处置信息专业信息的特征和差异，适合处理调度专业信息复杂建模问题；两种故障处置信息多任务协同理解模型与DPCNN+IDCNN、TextCNN+BiLSTM-CRF管道模型相比，同时考虑故障处置信息意图识别和槽位提取多任务损失函数收敛能力，有利于更好地表征故障处置信息意图和槽位特征依存关系，克服故障处置信息理解难题，提高故障处置信息理解模型应用效果。

  3.5 故障处置信息自适应理解框架实际应用

  基于故障处置信息自适应理解框架研发了故障智能处置系统，该系统能够主动感知电网故障、运行状态及操作指令等信息，通过故障处置信息多任务理解模型、故障处置知识图谱以及多轮理解反馈机制自适应推理故障处置信息，实现了系统画面调阅、故障处置数据查询、故障设备台账查询、故障处置预案推送、故障处置辅助操作等功能的智能执行，改变了传统依靠人工经验理解和操作的处置模式。

  以“查询大侯双回线跳闸预案”故障处置指令为例，意图为“查询事故预案”，槽位为“大侯双回线”，故障处置信息自适应理解框架感知“查询事故预案”指令后，框架通过理解确定指令缺少槽位信息，主动生成故障处置信息引导策略“查询哪个事故预案”，在反馈“大侯双回线跳闸”调度指令后，框架将综合理解当前条指令与历史条指令，分析得出“查询大侯双回线跳闸预案”指令，然后在故障处置知识图谱中查询相应的预案进行推送，至此完成了整个故障处置信息自适应理解和推理过程。目前故障智能处置系统已经在多个省级及以上电网应用，大幅度缩短了故障处置时间，提升了电网故障处置响应能力。

04

结语

  结合故障处置业务需求及故障处置信息语言特征，本文构建了电网故障处置信息自适应理解框架，能够识别和理解电网故障告警、运行状态、操作指令等信息，通过交互状态推理自适应生成故障处置策略。提出基于BERT-CRF的故障处置信息多任务协同理解模型，在训练过程中同时兼顾意图和槽位识别损失函数的收敛能力，实现故障处置信息的准确理解。建立故障处置信息多任务协同理解模型评价指标和试验样本集，在某调控中心验证了故障处置信息自适应理解框架和多任务协同理解模型的有效性。