本文提出了一种新的算法模型WHSemantic+Lattice，其结构框架如图1所示。算法将汉字图像特征、五笔字型编码进行融合作为高级语义信息，再融入包含潜在医学词组的FLAT模型的Lattice中，最后通过条件随机场输出标记结果。

图  1  WHSemantic+Lattice结构

受到位置向量表征的启发，FLAT模型设计了一种巧妙的位置编码来融合Lattice 结构。如图2所示，对于每一个字符和词汇都构建两个头位置编码和尾位置编码，这种方式可以重构原有的Lattice结构。也正因如此，FLAT可实现该字符与其所有匹配信息词汇之间的交互，如字符$[ $药$] $可以匹配词汇$[ $长安药店$] $和$[ $药店$] $。

基于Lattice结构的嵌入层是将自然语言文本转为计算机能够识别的向量表示，而词向量ctb.50d.vec是基于CTB 6.0(Chinese treebank 6.0)语料库训练得到的。鉴于医学词组的专业性强、语法结构复杂，为了提高模型对中文电子病历实体识别能力，本文收集了全国知识图谱与语义计算大会(CCKS: China Conference on Knowledge Graph and Semantic Computing)近几年与医学相关的比赛数据集，并将数据集中提到的医学词组作为医学词汇表保存下来，表中包含近3万个医学词组。在获取ctb.50d.vec中的所有词汇信息并保存为列表以后，再将医学词汇表中ctb.50d.vec不包含的词组增加到列表中组成潜在词表，从而在Lattice中嵌入层输入字符匹配词表中的潜在单词时，可以匹配到更多的医学词组，提高汉字水平的中文医学内隐能力。

图  2  Flat-Lattice结构

图2为FLAT的输入和输出，使用头部(head)和尾部(tail)位置转换的相对位置编码来拟合单词的边界信息。相对位置编码$ {\boldsymbol{R}}_{ij} $计算如下：

式中，$ {\boldsymbol{W}}_{r} $为学习参数；4种相对距离$ d_{ij}^{*} $表示输入$ x_{i} $和$ x_{j} $之间的关系，同时也考虑字符和词汇之间的关系，其表示如下：

而$ {\boldsymbol{p}}_{d} $的计算方式与文献[17]相同：

然后得到缩放的点积注意力：

式中，${\boldsymbol{R}}_{ij}^{*}={\boldsymbol{R}}_{ij} {\boldsymbol{W}}_{R}$；${\boldsymbol{\mu}}, {\boldsymbol{\nu}}$和$ {\boldsymbol{W}}_{q}, {\boldsymbol{W}}_{k}, {\boldsymbol{W}}_{v} $是对应的权重矩阵。

汉字是以象形文字为基础的，其含义用物体的形状来表达，因此汉字的结构对NER有一定的改善信息。如部首“艹”(草)和“木”(木)一般代表植物，可以增强中医命名实体识别；“月”(身体)代表人体部分或器官，“疒”(疾病)代表疾病，这有利于中文电子病历命名实体识别。本文考虑将汉字的图像特征通过CNN提取出来，象形信息在简体中文中大量丢失。因此，本文尝试了不同的文字图形，最后发现基于NotoSansCJKsc-Regular的文字效果最好，于是将基于NotoSansCJKsc-Regular的汉字输入图像。

Noto是Google一直在开发的一种字体系列，旨在以和谐的外观支持所有语言，具有多种样式和权重。NotoSansCJKsc为简体中文，其包含7种款式，9种语言，4个地区，通过字体百科网站(https://www.zitibaike.com)可下载该字体。

本文通过Python的图像处理库ImageFont中的TrueType函数创建NotoSansCJKsc字体对象，再基于每一个字符调用getmask生成对应的位图，并利用numpy中的asarray函数将位图转为特征矩阵，最后通过HSemantic模型提取汉字图像的结构特征。

图3为HSemantic模型结构，首先通过内核大小为5输出通道为64的卷积层，以捕获较低级别的图形特征。然后，将其送到2×2的最大池化中，将分辨率从15×15降低到2×2，形成类似田字格的形状，田字格是一种传统的中国书法形式，展示了部首在汉字中的排列方式以及汉字的书写顺序，能够更好地显示汉字图像的结构特征。最后，应用文献[18]的组卷积运算将网格映射到最终输出，因为组卷积不容易过拟合。

图  3  HSemantic结构

通过Python的汉字五笔转换工具库pywubi中的wubi函数，根据输入字符，找到其对应的五笔编码，再通过五笔编码在五笔解码库中找到对应的解码。如字符$[ $中$] $的五笔编码为[k,h,k]，对应解码id为[35,32,35]。最后，将经过解码后的五笔传到LSTM中来增强五笔编码间的特征联系，作为字符的笔画特征表示向量。

在文字图像及五笔字型特征提取后，将它们通过全连接层连接起来，作为汉字的语义特征，再将其与FLAT结构的字符部分拼接起来作为嵌入层的输入：

式中，$ {\boldsymbol{E}} $表示Lattice嵌入层和汉字图形及笔画特征的嵌入层拼接；$ {\boldsymbol{E}}_{L} $表示Lattice的嵌入层；$ {\boldsymbol{E}}_{s} $表示汉字图形及笔画特征的嵌入层，其中$ {\boldsymbol{E}}_{s} $对应Lattice的潜在单词部分用0补齐，从而不会对潜在单词部分造成影响。

将$ {\boldsymbol{E}} $通过Lattice的线性变换：

式中，$ {\boldsymbol{I}} $是单位矩阵；$ {\boldsymbol{W}}_{Q} $和$ {\boldsymbol{W}}_{V} $是权重矩阵。然后使用FLAT中的位置编码来表示单词的边界信息，并计算注意力得分：

式中，$ {\boldsymbol{u}} $和${\boldsymbol{\nu}}$表示学习参数；$ {\boldsymbol{A}} $表示注意力得分；$ {\boldsymbol{R}}_{ij}^{*} $=$ {\boldsymbol{R}}_{i j} {\boldsymbol{W}}_{R} $，相对位置编码$ {\boldsymbol{R}}_{ij} $计算公式为：

在获得FLAT层的最终输出后，屏蔽其他部分，只将字符表示带入输出层，送到文献[19]的条件随机场中计算最终结果。

本实验使用的电子病历数据集是医渡云(北京)技术有限公司用于医疗命名实体识别评测任务的Yidu-S4K，其包含：疾病和诊断、检查、检验、手术、药物、解剖部位6个实体类型，采用BIOES标注体系统一进行标注。在BIOES标注体系中，B代表实体的开始位置，I代表实体的内部，O代表非实体部分，E代表实体的结尾，S代表单独组成一个实体部分。本文将subtask1_training_part1和subtask1_training_part2部分的训练数据合并在一起，并随机打乱后，按照7:3的比例划分训练集和验证集。表1显示了该数据集的分布情况。

为了验证模型的泛化能力，使用Resume数据集^[13]。这是一份简历数据集，包含中国股市上市公司高管的简历。Resume数据集采用BMESO标注体系统一进行标注，BMESO标注体系中，B代表实体的开始位置，M代表实体的内部，E代表实体的结尾，S代表单独组成一个实体，O代表非实体部分。表2显示了该数据集的统计情况。

实验采用python 3.8，pytorch 1.7.0和fastNLP 0.6.0框架，并使用NVIDIA显卡GTX3080Ti进行加速，优化器采用sgd+moment梯度下降算法进行参数优化。

本文使用准确率(Precision)，召回率(Recall)和F1值来评价模型的识别效果，其中F1值可用来评价模型的综合性能。

为了验证本文方法的性能，设计了对比实验，包括与其他算法模型的对比及新算法自身的消融实验。

1) BiLSTM-CRF模型^[20]。该模型应用于序列标注任务。将句子的词向量表示输入该模型并对句子的标注序列进行预测。与文献[20]不同，为了应对词语边界模糊的问题，本文以字为单位构建字向量。

2) BiLSTM+Attention+CRF模型^[21]。该模型在BiLSTM层和CRF层之间加入了注意力机制。

3) Lattice LSTM+CRF模型^[12]。该模型将字符的潜在单词一起进行编码，利用了单词和单词序列信息。

4) LR-CNN模型^[22]。该模型在CNN中加入了rethink机制。

另外，为了验证文字图像特征提取时最大池化对识别效果的影响，同时验证五笔特征(WSemantic+Lattice)、文字图像(HSemantic+Lattice)信息以及WHSemantic+Lattice对识别效果的影响，本文进行了消融实验。

针对Yidu-S4K中文电子病历数据集，本文从准确率、召回率和F1值3个性能指标方面对各种算法进行了对比。实验结果如表3所示。

从实验结果可以看出，Lattice结构模型使算法的性能指标均得到提高，说明边界信息可以为电子病历实体识别提供参考的位置信息，以确保算法的识别性能；而当模型在边界信息的基础上融合了单词的语义信息后，模型整体识别性能进一步提升，本文算法在各项性能指标上均取得了最优值，F1值从73.13%提升到75.37%。可见，边界与语义信息的融合有效提升了电子病历命名实体识别精度。

针对Resume数据集，本文使用提出的算法实现了命名实体识别，并将实验结果与其他模型进行了对比，结果如表4所示。

从表4可以看出，使用Lattice可以使F1值显著提高，而使用语义信息的WHSemantic+Lattice模型比FLAT模型的F1值提升了0.61%。这是因为FLAT的Lattice更加关注词与字符之间的关系，从而可以获得词的位置信息和边界信息。WHSemantic关注点集中在全局信息上，通过笔画特征修正每个字的语义信息。因此，FLAT的Lattice关注点和WHSemantic关注点为本文方法在中文命名实体识别中的性能提升提供了补充信息。

针对消融实验(1)和实验(2)，分别在FLAT的Lattice中加入实验(1)的处理方法，即处理汉字图像提取时分别使用8×8、4×4、2×2的最大池化层和不使用池化层的WHSemantic模型；另加入实验(2)的处理方法，即WSemantic或HSemantic。并在Yidu-S4K中文电子病历数据集测试其效果。

表5和表6分别显示了实验(1)、实验(2)各自的对比结果。

从表5的结果来看，恰当地使用最大池化层可以有效提高汉字图像特征，使识别效果得到进一步提升。但并不是所有最大池化层都可以提升模型的效果，如果使用不恰当的最大池化层，反而会使模型的识别效果变差，如当使用4×4的最大池化层时，F1值比不使用最大池化层低了3.39%。并且通过不同最大池化层对比，发现基于2×2(类似于田字格)的最大池化层较适合提取汉字图像特征。

从表6可以看出，使用五笔字型特征可以显著提升模型的精度，是因为相同类型的实体部分偏旁信息也可能是相似的，而文字图像信息可以进一步提升语义信息，从而有效提高模型的识别能力。

汉字特征对于中文电子病历命名实体识别任务非常有用，因为它可以提供丰富的语义信息。为了验证本文模型可以更好地利用边界及语义信息，本文分析了 Yidu-S4K中文电子病历数据集中的一个示例。如表7所示(DD为疾病和诊断缩写)，与Lattice模型不同，本文模型没有遗漏任何重要的信息，且与标准划分具有一样的医学含义。

中文电子病历命名实体识别是医学文本理解的重要基础性工作。本文提出了将汉字图像特征、五笔字型编码作为高级语义信息，融入包含潜在医学词组的FLAT模型的Lattice中，充分利用了语义及边界特征信息对中文电病历数据进行医学实体命名识别，并在Yidu-S4K数据集上表现出高效的识别性能。但是，中文电子病历的命名实体识别是一个高度复杂的序列标记任务，识别效率仍然有较大的提升空间。后期会对模型继续进行优化调整，将更多的语言先验知识融入到中文电子病历命名实体识别任务中。