-
情绪作为一种高级认知功能,在决策、学习、社交等方面对人类社会产生影响。对人类而言,情绪是个体调节内部资源、追求利益、避免伤害的重要机制,人体通过情绪调整注意力,增强感官感知,记忆重大事件[1]。情绪识别技术对人类生产生活具有重要意义。一方面,情感识别能使机器更好地理解人类情感并做出响应[2],实现个性化服务定制,进而优化用户的人机交互体验。另一方面,情绪识别具有对个体情绪状态客观评估的独特优势,这使得情绪识别在心理健康领域具有重要的应用价值。情绪识别技术通过对患者生理、行为的分析实现对抑郁、焦虑、孤独症谱系障碍等各种与情绪异常相关的精神疾病的辅助检测、诊断和治疗。通过提供情绪状态的客观评估,情绪识别技术对问卷评估等传统诊断方法进行补充与优化改进,以此优化诊疗过程,提升诊疗效果与效率。
情绪具有多种多样的表现形式,行为、面部表情、语言语调、皮肤阻抗和中枢神经信号等与情绪相关的信号都被用于情绪识别研究[3]。EEG是一种非侵入性神经成像技术[4],通过在头皮上放置电极来检测和记录神经元在交流过程中产生的电脉冲信号,从而实时监测大脑活动。EEG被广泛应用于神经科学研究和临床诊疗过程,以研究睡眠[5]、注意力[6]和情绪[7]等认知神经机制,评估神经障碍。由于EEG具有高时间分辨率、难以伪造的独特优势,基于EEG的情感识别研究在心理学、计算机科学、神经科学等领域获得广泛关注[8]。事实上,情绪已被证实是由多个大脑区域的相互协作共同完成的认知活动。它可能是一种半自然的知觉[9],这种类似于本能的生理功能涉及整个大脑,很难定位其主要负责的脑区或者找出具有生理意义的生物标志物。情绪功能涉及几乎整个大脑的信息交换,脑干、边缘系统、皮层、前额皮质等区域均参与情绪加工过程[10]。同时,情绪障碍患者表现出大脑功能连接的变化,与认知功能障碍相关的精神障碍常表现出情绪功能异常。情绪异常与精神障碍之间存在相互影响的双向关系[11],二者之间的联系非常复杂,很难建立简单的因果联系。抑郁症发作常伴随积极情绪调节困难[12]。类似地,精神分裂症患者很难将情绪感知与情境结合起来,往往感受到与实验刺激不一致的情绪体验[13]。在孤独症谱系障碍患儿中,情绪调节障碍是一个与症状严重程度相关的重要变量[14]。边缘型人格障碍以情绪敏感性增加和情绪调节受损为病理特征,使用脑电网络方法能够有效区分病人与健康人群[15]。因此,通过脑电网络分析方法进一步探索情绪机制,对于精神疾病的诊断、治疗以及对其病因和病程的理解具有重要意义。
脑电网络分析方法利用图论的理论和方法分析脑电信号,以图或网络的形式表示大脑活动状态并从中提取出关键信息。传统基于EEG的情感识别研究主要关注局部脑区能量信息,通过提取功率谱密度(Power Spectral Density, PSD)和微分熵(Differential Entropy, DE)等局部激活特征来表征各个脑区在认知活动中的活跃状态[16]。然而,这类方法忽略了大脑的整体性,为弥补这一缺陷,脑电网络分析方法被引入EEG情绪识别工作中并被用于研究不同脑区之间的协作状态。除构造网络、分析网络的传统脑电网络分析方法外,一部分研究不再根据神经科学研究结论设计固定的网络模式,而是采用深度图学习模型从EEG信号中自动挖掘电极间相似性信息或空间信息并加以学习利用,本文将这类方法视为广义脑电网络分析方法的一种分支,将其命名为深度网络方法,在下文对其进行分类整理。
基于脑电网络的情感识别方法需要解决一个关键问题:如何从情绪EEG数据中提取出与情感任务相关的脑区交互信息并将其用于情绪分类任务。依据解决这一关键问题的思路,本文将从网络构建方法、网络特征提取与情绪识别应用几个角度对脑电网络分析方法的情绪识别研究进行系统性地阐述与总结。
-
EEG信号是一种阵列信号。EEG采集电极按照国际公认排布规则贴附于头皮并收集大脑活动产生的微弱电脉冲信号,因而EEG信号是一种多通道且通道间存在空间关系的时序信号。从网络的角度认识和分析大脑活动首先需要构建表征脑区信息流通状态的脑电网络。构建脑电网络时,EEG采集电极通道被抽象为节点,通道之间信号的联系被抽象为节点之间连接的边,节点之间的连接强度被抽象为边的权重,由这些节点和边构建出的网络结构被称为脑电网络。脑电网络以抽象建模的方式对通道对应的脑区之间的活动关联进行直观呈现,其中脑区之间连接强度计算方法是各类脑电网络构建的关键。为了便于理解,本文将以通道
$i$ 与通道$j$ 采集到的EEG时序信号$ {X_i}\left( t \right) $ 与$ {X_j}\left( t \right) $ 为例阐述脑电网络构建方法,其中$i$ 和$j$ 可以指代EEG阵列信号中任意通道,$t$ 表示采集时序,在后文中$n$ 表示时序信号的样本数量。根据描述内容的侧重差异,脑电网络可以分为3种类型:结构网络、功能网络和有效网络[17]。结构网络对应于大脑本身的物理结构,如大脑中提供远程信息传输通路的白质纤维束。认知神经科学认为大脑的同步活动标志着为相关区域共同参与同一项认知任务,因而功能网络被用于描述脑区之间同步活动关系,进而反映脑功能状态。值得注意的是,功能连接可以在没有直接物理连接的大脑区域之间发生,这也与人脑具有高效结构的固有认知一致。有效网络也被称为有向网络,用于表示大脑区域之间直接或间接的因果关系。在情感识别研究中最常见的功能网络构建方法是时域相关性和频域相干性,除此之外相位的相关性捕捉方法也常用于构建功能网络。本节将详细介绍相位锁定值(Phase Locking Value, PLV)、相位滞后指数(Phase Lag Index, PLI)、皮尔逊相关系数(Pearson’s Correlation Coefficient, PCC)等功能网络构建方法,上述方法能够有效反映脑区之间的同步关系。除此之外,为了探究情绪过程中大脑信息流动方向及其产生的影响,有向网络构建方法也被用于脑电网络情绪识别研究中,格兰杰因果 (Granger Causality, GC)、传递熵(Transfer Entropy, TE)等有向网络构建方法也在下文给出详细介绍。
-
PLV通过度量时域信号的相位信息来衡量两个信号之间的相似性。具体来说,PLV估计两个信号的相位差在单位圆上的分布情况,并以此进行信号相位同步性刻画。即使在振幅完全不相关的情况下,PLV也能有效地反应出信号之间相位的相似性关系。自从文献[18]首次使用PLV方法研究长程神经同步活动在认知任务中整合的潜在机制以来,PLV方法已逐步发展为描述认知活动下大脑连通性最常用方法之一。度量信号之间的相位一致性需要估计信号的瞬时相位。为了估计信号EEG时间序列
$ {X_i}\left( t \right) $ 的瞬时相位,希尔伯特变换(Hilbert Transform, HT)被用于分析EEG时域信号[19]:$$ H\left( t \right) = {X_i}\left( t \right) + {\mathrm{i}}{\widetilde X_i}\left( t \right) $$ (1) 式中,
$ {\widetilde X_i}\left( t \right) $ 是$ {X_i}\left( t \right) $ 的HT变换,计算方式为:$$ {\widetilde X_i}\left( t \right) = \frac{1}{{\text{π}} }{\mathrm{PV}}\int_{ - \infty }^\infty {\frac{{{X_i}\left( \tau \right)}}{{t - \tau }}{\mathrm{d}}\tau } $$ (2) 式中,
${\mathrm{PV}}$ 表示柯西主值。在此基础上,$ {X_i}\left( t \right) $ 信号的瞬时相位${\varphi _i}\left( t \right)$ 可以通过以下方式进行计算:$$ {\varphi _i}\left( t \right) = \arctan \frac{{{{\widetilde X}_i}\left( t \right)}}{{{X_i}\left( t \right)}} $$ (3) 通过式(3)可得
$ {X_i}\left( t \right) $ 与$ {X_j}\left( t \right) $ 的瞬时相位${\varphi _i}\left( t \right)$ 与${\varphi _j}\left( t \right)$ ,进而可以计算出二者之间的相位差:$$ \Delta \varphi \left( t \right) = {\varphi _i}\left( t \right) - {\varphi _j}\left( t \right) $$ (4) PLV脑电网络中节点
$i$ 与节点$j$ 之间的连接强度被定义为:$$ {\mathrm{PL}}{{\mathrm{V}}_{ij}} = \left| {\dfrac{1}{n}\sum\limits_{k = 0}^{n - 1} {{{\mathrm{e}}^{{\mathrm{i}}\Delta \varphi \left( t \right)}}} } \right| $$ (5) 与其他网络构建方法相比,PLV网络在捕获非线性相似性方面具有显著优势。文献[20]最早使用PLV方法构建EEG网络,这是脑电网络分析方法在情绪识别领域应用最早也是最成功的工作之一。这项工作在情绪识别领域获得广泛关注,并推动了脑电网络方法在情绪识别领域中的应用与发展。自此大量脑电情绪识别研究采用PLV网络捕获情绪差异特征,其中文献[21-25]进一步对比了PLV方法与其他网络构建方法在情绪识别研究中的表现,结果一致表明PLV比起其他方法更能捕捉情绪任务状态下与情绪相关的脑区活动信息。
-
PLI方法类似于PLV,同样是从相位信息的角度衡量信号之间的同步性。PLI反映了信号相位差在复平面上的投影是否始终指向同一侧。与PLV不同,PLI舍弃了以π的倍数为中心的相位差,以此排除由体积传导产生的虚假同步。文献[26]第一次将PLI引入脑电信号分析中,并论述了PLI对常见源和幅度效应相对低灵敏度的优势。类似地,PLI脑电网络中节点
$i$ 与节点$j$ 之间的连接强度被定义为:$$ {\mathrm{PL}}{{\mathrm{I}}_{ij}} = \frac{1}{n}\left| {\sum\limits_{t = 1}^n {{\mathrm{sign}}\left( {\Delta \varphi \left( t \right)} \right)} } \right| $$ (6) 式中,
${\mathrm{sign}}( \cdot )$ 表示sign函数。然而,在多模态情感识别研究[27]场景下,PLI比PLV表现出更优秀的信息提取能力,这一结论与其他研究存在矛盾,这或许表明网络构建方法在不同研究环境下的应用结果存在差异。因此并没有一种网络构建方法能完美地适应所有研究场景,应根据实际需求选择恰当的网络构建方法。
-
PCC方法是一种常见的线性相关系数计算方法。若将EEG时间序列
$ {X_i}\left( t \right) $ 和$ {X_j}\left( t \right) $ 分别视为维度为$n$ 的空间向量,则PCC通过计算两个向量夹角的余弦值来衡量两个向量的一致性。PCC常被用于磁共振图像信号分析,脑电网络中节点$i$ 与节点$j$ 之间的PCC连接强度被定义为:$$ {\mathrm{PC}}{{\mathrm{C}}_{ij}} = \frac{1}{T}\frac{{\displaystyle\sum\limits_{t = 1}^T {\left( {{X_i}\left( t \right) - \overline {{X_i}} } \right)\left( {{X_j}\left( t \right) - \overline {{X_j}} } \right)} }}{{{\sigma _i}{\sigma _j}}} $$ (7) 式中,
$\overline {{X_i}} $ 和${\sigma _i}$ 分别表示EEG时序信号$ {X_i}\left( t \right) $ 的均值与方差。 -
GC是量化时间序列信号之间因果关系的常用方法[28]。在时间尺度上,原因应当在结果之前,这是GC建立的假设基础。对于EEG时间序列
$ {X_i}\left( t \right) $ 和$ {X_j}\left( t \right) $ ,如果$ {X_j}\left( t \right) $ 在$t$ 时刻之前的信号比$ {X_i}\left( t \right) $ 在$t$ 之前的信号能更好地预测$ {X_i}\left( t \right) $ 在$t$ 时刻的值,那么$ {X_j}\left( t \right) $ 与$ {X_i}\left( t \right) $ 两个信号具有因果关系。GC通过构建单变量和双变量自回归模型来进行信号预测:$$ {X_i}\left( t \right) = \sum\limits_{k = 1}^N {{a_{1k}}} {X_i}\left( {t - k} \right) + {\varepsilon _i} $$ (8) $$ {X_j}\left( t \right) = \sum\limits_{k = 1}^N {{b_{1k}}} {X_j}\left( {t - k} \right) + {\varepsilon _j} $$ (9) $$ \begin{split} {X_i}\left( t \right) = \sum\limits_{k = 1}^N {{a_{2k}}} {X_i}\left( {t - k} \right) + \sum\limits_{k = 1}^N {{b_{2k}}} {X_j}\left( {t - k} \right) + {\eta _{ji}} \end{split} $$ (10) $$ \begin{split} {X_j}\left( t \right) = \sum\limits_{k = 1}^N {{a_{3k}}} {X_j}\left( {t - k} \right) + \sum\limits_{k = 1}^N {{b_{3k}}} {X_i}\left( {t - k} \right) + {\eta _{ij}} \end{split} $$ (11) 式中,
${a_{1k}}$ ,${a_{2k}}$ ,$ {a_{3k}} $ ,$ {b_{1k}} $ ,${b_{2k}}$ 和$ {b}_{3k}(k=1,2,\cdots ,N) $ 均为常系数;$N$ 为模型阶数,它们均可通过贝叶斯信息准则确定;$ {\varepsilon _i} $ ,$ {\varepsilon _j} $ ,$ {\eta _{ji}} $ 和$ {\eta _{ij}} $ 分别表示误差。GC脑电网络中节点$i$ 指向节点$j$ 的连接强度${\mathrm{G}}{{\mathrm{C}}_{ij}}$ 与节点$j$ 指向节点$i$ 的连接强度${\mathrm{G}}{{\mathrm{C}}_{ji}}$ 分别定义为:$$ {\mathrm{G}}{{\mathrm{C}}_{ij}} = \ln \left( {\frac{{{\sigma _{{\varepsilon _j}}}}}{{{\sigma _{{\eta _{ij}}}}}}} \right) $$ (12) $$ {\mathrm{G}}{{\mathrm{C}}_{ji}} = \ln \left( {\frac{{{\sigma _{{\varepsilon _i}}}}}{{{\sigma _{{\eta _{ji}}}}}}} \right) $$ (13) 式中,
$ {\sigma _{{\varepsilon _j}}} $ ,$ {\sigma _{{\varepsilon _i}}} $ ,$ {\sigma _{{\eta _{ji}}}} $ 和$ {\sigma _{{\eta _{ij}}}} $ 分别表示$ {\varepsilon _i} $ ,$ {\varepsilon _j} $ ,$ {\eta _{ji}} $ 和$ {\eta _{ij}} $ 的方差。 -
TE是一种源于信息论的因果度量方法,被用于量化信号随时间变化的统计相干性[29],文献[30]设计了一种基于全局皮层因子的多变量自回归(Global Cortex Factor-based Multivariate Autoregressive, GCF-MVAR)方法构建有向脑电网络,该方法在重建皮层原信号之后评估脑活动流的不对称性,进而阐述一个脑区对另一个脑区的方向性影响。文献[31]利用theta和gamma频段间幅值与相位耦合构建交叉频率耦合(Cross-Frequency Coupling, CFC)网络,认为大脑区域之间的信息交互更多的是低频段相位和高频段幅值之间的跨频耦合模式,因而所提CFC网络能更好地检测情绪认知的变化。文献[32]提出了一种利用实例自适应分支和变分分支来构造脑电网络的方法,这一方法受注意力机制的启发,其中实例自适应分支根据输入生成图表征脑电通道之间的个体依赖关系,而变分分支生成概率图量化不确定性。上述针对情绪脑电问题提出的网络构建方法在特定情况下比PLV、PCC等从其他领域引入的方法表现出更优秀的实验结果。这说明探究符合情绪识别场景的脑电网络构造方法是一个具有高度探索价值的研究方向。
-
如何从脑电网络中提取特征刻画不同情绪状态的差异是脑电网络分析方法的关键问题。通过对网络各类性能或状态的量化描述,研究者将网络结构进一步抽象为具体特征值进而构建情绪识别模型。有的网络特征通过度量节点连通性反映节点在网络中嵌入的方式,所有节点度量值形成一种网络分布,该分布能够提供对整个网络更全局的描述。下文整理了节点度(Node Degree, ND)、节点强度(Node Strength, NS)、聚类系数(Clustering Coefficient, CC)、最短路径(Shortest Path, SP)、特征路径长度(Characteristic Path Length, CPL)、全局效率(Global Efficiency, GE)、局部效率(Local Efficiency, LE)、 节点介数中心性(Node Betweenness Centrality, NBC)、小世界属性(Small-World Property, SWP)、模块化(Modularity)等常用的网络属性并给出详细介绍。
为了便于理解,本节使用
$G = \left( {V,E} \right)$ 表示脑电网络,其中$V$ 表示节点的集合,$\left| V \right|$ 表示网络中节点的数量,$E$ 表示边的集合,$\left| E \right|$ 表示网络中边的数量。根据实际使用情况,$G$ 可能呈现出二值网络或权重网络两种状态。当$G$ 指代一个二值网络时,其中任意边${E_{ij}}$ 仅在1和0中取值,${E_{ij}} = 1$ 表示节点$i$ 与节点$j$ 之间存在连接,即节点$i$ 与节点$j$ 相互邻接,而${E_{ij}} = 0$ 表示节点$i$ 与节点$j$ 毫无关系。当$G$ 表示加权网络时,${E_{ij}}$ 表征脑电网络中节点$i$ 与节点$j$ 的连接强度,${E_{ij}} = 0$ 同样意味着节点之间不存在联系。 -
节点度:度是网络最基本、最重要的度量信息,节点的度在数值上等同于连接到该节点的边的数量。在脑电网络中,考虑到不存在重边(一对节点之间存在多条边)和环(边的两端是同一个节点,即节点的边指向自己)两种特殊情况,节点的度等于与该节点邻接的节点数。因此,度的值反映了网络中节点的重要性。当脑电网络以二值网络的形式呈现时,节点的度被称为节点度,节点
$i$ 的节点度${\mathrm{N}}{{\mathrm{D}}_i}$ 计算方式为:$$ {\mathrm{N}}{{\mathrm{D}}_i} = \sum\limits_{j = 1}^n {{E_{ij}}} $$ (14) 节点度反映了脑电网络中与每个通道所关联的脑区存在连接的脑区的数量。
节点强度:当脑电网络以加权网络的形式呈现时,考虑到边存在权重差异,节点度被进一步发展为节点强度,节点
$i$ 的节点强度${\mathrm{N}}{{\mathrm{S}}_i}$ 计算方式为:$$ {\mathrm{N}}{{\mathrm{S}}_i} = \sum\limits_{j = 1}^n {{E_{ij}}} $$ (15) 节点强度表征了当前脑区与其他脑区联系的紧密程度,比节点度更适合用于脑电网络分析。在具体研究中,脑电网络通常是全连接网络,即所有节点都与其他任意节点相邻,此时节点强度能够有效地表示各个脑区的重要程度。
聚类系数:聚类系数是一种用于衡量网络中节点与其相连节点之间聚集紧密程度的指标,它描述了节点及其邻域构建的子图中节点相互连接的可能性。聚类系数通过计算节点及其邻域构建的子图中三角形的数量反映网络局部聚合紧密程度。聚类系数的计算方式如下:
$$ {\mathrm{C}}{{\mathrm{C}}_i} = \frac{{2{N_i}}}{{{\mathrm{N}}{{\mathrm{C}}_i}\left( {{\mathrm{N}}{{\mathrm{C}}_i} - 1} \right)}} $$ (16) 式中,
${N_i}$ 表示节点$i$ 及节点$i$ 的领域内所有节点之间的边的数量。聚类系数实际上是相对的评估指标,
${N_i}$ 在数值上等于节点$i$ 及节点$i$ 的邻域范围构建的子图中包含节点$i$ 的三角形数量总和,而${\mathrm{N}}{{\mathrm{C}}_i}\left( {{\mathrm{N}}{{\mathrm{C}}_i} - 1} \right)/2$ 表示了节点$i$ 及节点$i$ 的邻域内所有节点构成三角形的总数。对于加权网络则衍生出聚类系数的加权形式:$$ {\mathrm{CC}}_i^w = \frac{{2\displaystyle\sum\limits_{j = 1}^{{N_i}} {{E_{ij}}} }}{{{\mathrm{N}}{{\mathrm{C}}_i}\left( {{\mathrm{N}}{{\mathrm{C}}_i} - 1} \right)}} $$ (17) 最短路径:最短路径是度量网络连通性的重要指标,在交通运输网络、通信网络等网络分析中具有重要的实用意义。在二值网络中,最短路径
${\mathrm{S}}{{\mathrm{P}}_{ij}}$ 指从节点$i$ 到节点$j$ 的路径中所含最少的边的数量,而在加权网络中,${\mathrm{S}}{{\mathrm{P}}_{ij}}$ 指节点$i$ 到节点$j$ 的所有路径中,路径所含边的权重累加之和的最小值,可表示为:$$ {\mathrm{S}}{{\mathrm{P}}_{ij}} = \sum\limits_{{\mathrm{N}}{{\mathrm{S}}_{uv}} \in {g_{i \leftrightarrow j}}} {{\mathrm{N}}{{\mathrm{S}}_{uv}}} $$ (18) 式中,
${g_{i \leftrightarrow j}}$ 指从节点$i$ 到节点$j$ 的最短路径。将式(18)中的节点强度退还为节点度,就能得到二值网络中最短路径的计算公式。Dijkstra算法、Bellman-Ford算法和Floyd算法都是寻找最短路径的常见算法,而在一些使用最短路径作为过程量的网络属性计算中,由于计算最短路径较为耗时和烦琐,部分公式中采用了平均路径长度,即节点到另一节点的所有路径长度的平均值作为最短路径的近似值。
特征路径长度:特征路径长度是衡量网络连通性高低的指标,它定义为网络中一个节点到其他节点的最短路径的平均值,反映了信息在网络中传播的效率,计算方式为:
$$ \begin{split} & {\mathrm{CP}}{{\mathrm{L}}_i} {{ = }}\frac{1}{{\left| V \right|}}\sum\limits_{j \in V,j \ne i} {{\mathrm{S}}{{\mathrm{P}}_{ij}}} = \\ & \frac{1}{{\left| V \right|\left( {\left| V \right| - 1} \right)}}\sum\limits_{i = 1}^{\left| V \right|} {\sum\limits_{j \ne i}^{\left| V \right|} { {{\mathrm{N}}{{\mathrm{S}}_{ij}}}} } \end{split}$$ (19) 将式(19)中的节点强度退还为节点度,就能得到二值网络中特征路径长度的计算公式。
全局效率:脑电网络中节点间边的权重反映了两个脑区之间功能连接的强度。强度越大表示连接越紧密。在测量网络节点间距离时,距离越大的节点连接越弱。为了方便描述与计算,本文将加权网络中两个节点之间的距离定义为:
$$ {d_{ij}} = \left\{ {\begin{array}{*{20}{l}} 1/{\mathrm{N}}{{\mathrm{S}}_{ij}} & \;{\mathrm{N}}{{\mathrm{S}}_{{{ij}}}} \ne 0 \\ 1 & \;{\mathrm{N}}{{\mathrm{S}}_{{{ij}}}} = 0 \\ \end{array}} \right. $$ (20) 全局效率也被称为节点效率(Nodal Efficiency, NE),用于描述网络处理信息的能力。全局效率越高,整个网络的信息传播能力越强。全局效率通过计算所有节点对之间最短路径长度的平均值的倒数来量化整个网络的信息交换效率,它是衡量网络整体信息传输能力的指标。可以表示为:
$$ {\mathrm{GE}} = \frac{1}{{\left| V \right|\left( {\left| V \right| - 1} \right)}}\sum\limits_{i = 1}^{\left| V \right|} {\sum\limits_{j \ne i}^{\left| V \right|} {{d_{ij}}} } $$ (21) 局部效率:局部效率衡量节点及其邻域所构建的子图的全局效率,反映了网络在局部层面的信息传递能力。局部效率高意味着在该节点附近的信息交换效率高。定义为:
$$ {\mathrm{L}}{{\mathrm{E}}_i} = \frac{1}{{{\mathrm{N}}{{\mathrm{C}}_i}\left( {{\mathrm{N}}{{\mathrm{C}}_i} - 1} \right)}}\sum\limits_{j = 1,j \ne i}^{{N_i}} {{d_{ij}}} $$ (22) 节点介数中心性:节点介数中心性度量了一个节点在网络中充当其他节点对之间最短路径“中介”的频率,它反映了节点在信息传递中的重要性。为了确保大脑结构精简高效,各脑区之间很多时候并不存在直接的物理连接,而是通过逐个神经元传递的方式传播信息,因而节点介数中心性可以很好地描述这一情况。节点介数中心性指经过特定节点的最短路径相对于网络中所有最短路径的比例,定义为:
$$ {\mathrm{NB}}{{\mathrm{C}}_i} = \sum\limits_{j \ne h \ne i} {\frac{{{\rho _{jh}}\left( i \right)}}{{{\rho _{jh}}}}} $$ (23) 式中,
${\rho _{jh}}$ 为节点$j$ 到$h$ 的最短路径的数量;${\rho _{jh}}\left( i \right)$ 为节点$j$ 到$h$ 经过节点$i$ 的最短路径的数量。小世界属性:小世界属性被用于描述网络是否具有高聚类系数和短特征路径长度的特性,它表明网络在局部密集连接的同时,也具有较短的整体信息传递路径。大脑网络通常表现出小世界特性,支持高效的信息处理和传输。小世界属性定义为:
$$ {\mathrm{SWP}} = \frac{{{\mathrm{CC}}/{\mathrm{C}}{{\mathrm{C}}_{{\mathrm{rand}}}}}}{{{\mathrm{CPL}}/{\mathrm{CP}}{{\mathrm{L}}_{{\mathrm{rand}}}}}} $$ (24) 式中,
${\mathrm{CC}}$ 和${\mathrm{C{C_{rand}}}}$ 分别指网络的聚类系数和随机网络的聚类系数;${\mathrm{CPL}}$ 和${{\mathrm{CPL}}_{{\mathrm{rand}}}}$ 分别指网络的特征路径长度和随机网络的特征路径长度。模块化:模块化度量了网络划分成子模块的程度,反映出网络的社团结构。模块化被用于描述网络中节点形成的聚类成分或社区结构。一个高度模块化的网络意味着节点被组织成具有较高内部连接和较少外部连接的模块。在模块化网络中,节点倾向于与同一社区内的节点形成密集连接,而与其他社区内的节点形成稀疏连接,这与人脑的组织形式类似。高模块化表示脑网络可以划分成功能上密切相关的子模块,这有利于理解大脑不同功能区域的分工与协作,模块化定义为:
$$ Q = \frac{1}{{\left| E \right|}}\sum\limits_{i,j} {\Big( {{E_{ij}} - \frac{{{\mathrm{N}}{{\mathrm{C}}_i}{\mathrm{N}}{{\mathrm{C}}_j}}}{{\left| E \right|}}}\Big ){\delta _{ij}}} $$ (25) 式中,
$\delta $ 是一个指示函数。${\delta _{ij}} = 1$ 时节点$i$ 与节点$j$ 属于同一个模块;${\delta _{ij}} = 0$ 时节点$i$ 与节点$j$ 属于不同模块。除去上述在各个领域广泛使用的基于图论的网络特征之外,一些研究者针对脑电网络情感识别的具体场景提出新的网络特征。文献[33]将3种网络距离度量方法作为网络特征构建方法。未来,或许有更多符合情绪脑电场景的网络特征提取方法被提出。
-
除去上述通过网络特征描述脑电网络的方法外,也有部分学者将脑电网络连接强度直接作为特征构建识别模型。而人脑每时每刻都在进行各种活动,这使脑电网络不仅会受到EEG信号采集噪声的影响,还会包含各种各样的与目标任务无关的脑活动信息。因此,高效利用连接强度需要去除脑电网络中的噪声和无关连接,同时去除干扰信息也从一定程度上保证了所提取的网络特征对于脑活动状态的准确描述。去除这些不相关或弱相关的连接被称为脑电网络的稀疏化。稀疏化脑电网络一般有两类方法:1)减少脑电网络中连接不强的边,即去除与情绪无关的同步脑活动;2)减少脑电网络中连接较少或孤立的节点,即忽略参与情绪过程很少或没有参与的大脑区域。
减少连接最简单的方式是设置连接强度阈值,当连接强度小于特定值时被认为与该任务不相关或弱相关。文献[34]研究了阈值变化对5种网络属性产生的影响,其结果表明阈值设置严重影响实验结果,采用数据驱动方式确定阈值的实验甚至会呈现出与固定阈值实验相反的实验结果。因此,设定合适的阈值对于脑电网络的研究至关重要。连接阈值有两种设定方式:根据网络连接强度排序,按百分比划定阈值,如文献[35]对听障人群情感识别的研究发现PLV网络在20%稀疏度下的识别效果最优。另一种方式是直接定义阈值大小,如文献[36]认为连接强度大于0.1的连接是重要的。以上两种阈值定义方法常被用于稀疏化矩阵,但如何确定阈值以确保稀疏化后的连接最大程度地与任务相关依然是一个难题。为了解决这一问题,文献[37]在构建PLI脑电网络后采用顺序浮动前向选择(Sequential Floating Forward Selection, SFFS)方法选择出关键连接构建识别模型。文献[28]提出了一种自适应两阶段去相关特征提取方法,通过去除GC脑电网络中的冗余连接来增强情感识别性能。类似地,文献[38]提出了一种关键子网络选择方法,在平均情感网络中按比例提取关键连接,并将这些连接扩展到所有网络样本,以确保获得的子网络与情感任务高度相关。
除减少不必要的连接的稀疏化方法外,去除不相关或者弱相关的节点同样能够有效地提高算法运行效率。与边优化相比,节点优化剔除了与情绪无关或弱相关的脑区对应的节点,从而排除无关脑活动的干扰,并显著降低算法复杂度。文献[39]采用网页排名(PageRank)节点排序方法,根据节点间连接的紧密程度对节点进行重要性排序,筛选出情绪识别中最重要的前10或20个节点进行下一步分析。文献[40]提出了一种划分大脑区域的通道选择方法,使用边缘权重扩展了图注意力网络,根据注意力分数丢弃部分节点,在保持大脑生理表征完整性的同时有效减轻数据采集和分析负担,提高模型学习效率。
-
近年来,基于EEG的情感识别研究主要关注多模态融合分类策略,因此本文整理了近五年的相关工作,并将这些工作分为单模态脑电网络情绪识别、多模态脑电网络情绪识别以及深度网络情绪识别3大类进行总结归纳,如表1所示。
表 1 基于脑电网络的情绪识别研究工作统计表
文献 数据集 脑电网络 特征 分类模型 方法类别 发表日期/年 文献[23] DEAP PCC、PLV、PLI 网络连接强度 CNN 单模态方法 2018 文献[41] DEAP PCC,PLV、TE 网络连接强度 CNN 单模态方法 2020 文献[25] SEED、DEAP PCC,PLV、PLI 网络连接强度 MSRN 单模态方法 2022 文献[42] DEAP wPLI 网络属性 GNN 单模态方法 2022 文献[20] MAHNOB、SEED、DEAP PLV 能量特征与网络属性 SVM等 多模态方法 2019 文献[44] 实验采集数据 PLV 能量特征与网络属性 SVM等 多模态方法 2021 文献[31] DEAP、DREAMER CFC、PLV、PCC 网络属性 SVM 多模态方法 2021 文献[45] DEAP PLV 网络属性 SVM 多模态方法 2023 文献[46] 实验采集数据 PLV 网络属性 SVM 多模态方法 2019 文献[38] SEED PCC 能量特征与网络属性 SVM 多模态方法 2019 文献[30] 实验采集数据 BDC 能量特征与连接强度 SVM等 多模态方法 2020 文献[47] VREED PLV 能量特征与网络属性 SVM 多模态方法 2021 文献[35] 实验采集数据 PCC 、PLV、PLI、GC、MI 能量特征与网络属性 SVM 多模态方法 2023 文献[48] SEED、BCI2020-A、BCI2020-B PLV、PLI 能量特征与连接强度 SVM 多模态方法 2022 文献[49] DEAP PCC,PLV、TE、WCC 网络连接强度 DA-RCNN 多模态方法 2022 文献[51] SEED、SEED-V、DEAP PCC和频率相干网络 网络属性与眼动特征 DCCA 多模态方法 2022 文献[27] MAHNOB PLI 、 PLV 网络属性与眼动特征 SVM 多模态方法 2022 文献[55] 实验采集数据、SEED EEG 源定位节点 EEG 源定位数据 GNN 深度网络方法 2023 文献[56] SEED、DEAP PCC 能量特征 MdGCNN 深度网络方法 2022 文献[57] DEAP 自定义邻接矩阵 能量特征 ECLGCNN 深度网络方法 2021 文献[36] SEED、SEED-IV 自定义邻接矩阵 能量特征 RGNN 深度网络方法 2020 文献[58] SEED、SDEA、DREAMER、MPED 自定义邻接矩阵 能量特征 GECNN 深度网络方法 2021 文献[59] SEED、DREAMER 动态迭代网络 能量特征 DGCNN 深度网络方法 2020 文献[60] 实验采集数据、SEED、DEAP 动态迭代网络 EEG 源定位数据 DGCNN 深度网络方法 2022 文献[61] SEED 、 SEED-IV 动态迭代网络 能量特征 SOGNN 深度网络方法 2021 文献[62] AMIGOS 动态迭代网络 能量特征 BNRL-SDGNNS 深度网络方法 2022 文献[63] SEED 动态迭代网络 能量特征 BDGLS 深度网络方法 2018 文献[64] SEED、DEAP、DREAMER 、CMEED 动态迭代网络 能量特征 SparseDGCNN 深度网络方法 2023 文献[65] SEED-IV、SEED-V、MPED 动态迭代网络 能量特征 PGCN 深度网络方法 2023 文献[66] SEED 、 SEED-IV 动态迭代网络 能量特征 BF-GCN 深度网络方法 2024 文献[67] SEED 动态迭代网络 能量特征 BayesEEGNet 深度网络方法 2023 文献[71] 实验采集数据、DEAP、MAHNOB-HCI PLV 连接强度 MESNP 单模态方法 2023 -
在计算机视觉领域,图像通常以矩阵形式储存和分析处理,而脑电网络同样以矩阵形式表示。因此,一些研究人员尝试将计算机视觉领域的分析方法应用于脑电网络的分析,如卷积神经网络(Convolutional Neural Networks, CNN)是计算机视觉研究的常用方法,特别适用于图像的处理和理解。CNN能够自动从图像提取出相关特征,因此相关研究者将CNN引入情绪脑电网络分类研究中,他们将大脑网络作为低分辨率图像输入CNN,借此从脑电网络中提取出有效的情绪特征。如文献[23]采用PCC、PLV和PLI这3种方法分别构建了脑电网络,并将这些网络输入CNN模型进行情感分类,最终取得了99.72%的识别准确率。
如果把脑电网络看作图像,电极的排列方式会极大地影响结果。一种有效的排序方式能够尽量还原脑区空间关系,在脑电网络中形成特定的“形状”,以便后续特征提取方法进一步捕获“形状”中所蕴含的信息。文献[41]提出一种数据驱动的电极排列方法,并证实了该方法相对之前建立的电极排列方法更具优越性。令人遗憾的是,当脑电网络被视为图像时,它通常是一张分辨率为32×32或64×64的脑电导联数的非常模糊的图像,这导致传统图像特征提取方法对于脑电网络的处理效果不佳。为了更好地处理情绪脑电网络,研究人员对CNN模型进行调整与优化,如文献[25]提出了一种结合多尺度残差网络 (Multi-Scale Residual Network, MSRN)和元迁移学习(Meta-Transfer Learning, MTL)策略的跨被试情绪识别方法。具体来说,即采用PCC、PLV和PLI这3种方法分别构建脑电网络,并将不同频带的网络连接起来作为MSRN的输入,通过MSRN以多尺度方式探索脑电信号的连通性特征,其中CNN的不同感受野可以捕捉不同大脑区域的相互作用。文献[42]从构建的加权相位滞后指数(weighted Phase Lag Index, wPLI)网络中提取出最小生成树结构,并采用一种基于分层聚合的图神经网络(Graph Neural Network, GNN)来进一步构建情绪识别模型。
-
传统基于EEG的情绪识别研究主要采用PSD、DE等局部激活特征构建识别模型,而脑电网络是从脑区交互的角度描述情绪状态差异,将两者有机结合能实现优势互补并进一步提升情绪识别性能。文献[20]从PLV网络中提取表征全局脑活动的网络属性,并通过F得分(F-score)特征选择策略从网络属性与局部激活特征融合筛选低维特征,并以此揭示了局部激活特征与全局网络属性的互补性质。这是情绪识别研究中第一次采用网络特征与局部特征融合策略的研究工作,该工作对脑电信号处理时局部与全局互补的分析思路具有深远的启发,如文献[43]设计了全局和局部联想域适应(Global and Local Associative Domain Adaptation, GLADA)模型,结合了不同粗细粒度上的域适应方法,提高了跨被试情绪识别精度。自此,越来越多的研究者开始探索局部特征和全局特征在情绪识别中的运用,并不断发展新的融合策略。除了基于脑电信号特征层面的多模融合策略外,一些学者也发展了脑电网络与眼动等其他信号的多模融合策略与方法。由于这部分研究相对较少,本文的“多模态”是一种宽泛的概念,是包括脑电信号局部特征与全局特征融合等特征层面的融合方法在内的所有多模态融合方法的广义总称。
-
特征融合策略能有效提高多模态情绪识别模型性能。一些研究者简化了融合策略,转而重点关注网络构建方法、融合特征选择、分类器的设计甚至被试人群,仅采用拼接的方式将不同特征连接到一起。文献[44]构建PLV脑电网络并提取了平均最短路径长度、全局效率等全局网络特征和聚类系数、局部效率等局部网络特征并将其拼接融合进行分类,该工作将全局与局部的概念推广到网络属性当中,展现出一种新的融合思路。类似地,文献[31]也将从CFC网络提取出的网络属性分为全局网络属性和局部网络属性,并将两大类网络属性进行拼接融合,实现了有效的情绪分类。文献[45]则重新命名了这一概念,用功能整合指代全局性特征,用功能分离指代局部性特征,这一描述方式从生理角度阐述了两类特征刻画的人脑活动的含义,这也为此类融合策略提供了新的解释思路。该工作还采用Louvain算法进行社区检测并以此构建脑网络的模块化结构,从而提取更全面的局部特征进行连通性分析。文献[46]则将研究重点放到PSD的计算上,他采用基于自回归参数的Burg算法计算PSD特征,然后将得到的PSD与PLV脑电网络中提取的CC和图密度拼接结合进行分类。
-
在使用多种特征描述情绪状态时,不同特征描述同一对象必然造成重复表述,从而产生信息冗余。简单地将不同特征拼接在一起会导致特征维度远远高于分类类别从而造成维度灾难,影响分类性能的同时降低了算法效率。因此,更多的研究者着力探究更高效的融合策略。
文献[38]分别构建了相干和PCC脑电网络,并从其稀疏化获得的关键子网络中提取节点效率、聚类系数等网络特征,以求和、取最大值等决策方法将网络属性与DE特征进行融合,最终在SEED数据集上达到87.04%的识别准确率。文献[30]采用相关特征(Relevant Features, Relief)选择策略对有向脑电网络连接强度与能量特征进行统一特征筛选进而实现优势互补与特征融合。文献[47]则将相对功率谱与节点介数中心性、局部效率等网络特征以Scikit-Learn策略融合选择并构建出有效的情绪识别模型。文献[35]进一步探索了网络属性、网络连接强度和能量特征的不同组合策略在听障患者情绪识别研究中的表现差异,并通过主成分分析(Principal Components Analysis, PCA)进行特征融合降维。文献[48]提出一种使用近似经验核映射融合的支持向量机(Approximate Empirical Kernel Map-fusion-based SVM, AEKM-fusion-SVM)方法提高不同维度特征融合的有效性和效率,进而完成跨被试情感识别。文献[49]利用PSD构建PLV、PLI和PCC脑电网络,并将网络连接输入域自适应残差神经网络构建识别模型,这种方法从局部激活状态中捕获大脑的同步活动,从一定程度上保留了能量特征对于模型的贡献,或许也能被视为一种融合的识别策略。
-
除了EEG信号外,面部表情、眼动轨迹、语音语调等其他信息也与情绪相关,基于脑电网络的多模信号融合研究远少于脑电特征级融合情绪识别研究。文献[50]首先揭示了EEG与眼球运动在情绪识别中的互补特性,随后文献[51]将眼动跟踪数据与关键子网络相结合,通过深度典型相关分析方法构建了一个有效的情绪解码模型,填补了脑电网络与眼动融合识别的空白。文献[27]提出一种基于特征水平和随机化的特征级融合算法,在融合脑电网络和眼睛凝视信号中提取特征,进而构建识别模型。传统基于DE等局部特征的脑电情绪识别研究已经发展出人脸表情与EEG信号融合[52]、语音信号与EEG信号融合[53]等多模态信号融合的情绪识别方法。然而这些研究并没有考虑人脑交互状态对于情绪识别的重要性,因此,结合脑电网络分析方法与多模态信号融合策略的多模态情绪识别研究可能成为未来情绪识别领域主要的研究方向之一。
-
深度学习方法凭借其极佳的特征提取能力被推广应用于脑电情绪识别研究中。图神经网络等基于图论的方法能够有效捕获脑电通道间的空间信息[54]。虽然此类研究通常将局部激活特征作为模型的输入,但相关模型设计着重强调对脑区交互信息或空间关系的捕获。本文将此类方法视为局部激活模式和全局连接模式融合策略在深度学习方法中的一种推广应用。此类方法挖掘能量特征之间的不同导联的同步活动信息,以此保留局部能量特征对识别模型的贡献,从一定程度上呈现出局部与全局信息的整合思想。根据图结构在数据处理过程中是否自动更新,本文将深度网络方法分为静态图方法和动态图方法两个模块展开介绍。
-
考虑到图神经网络(Graph Neural Network, GNN)、图卷积神经网络(Graph Convolutional Neural Network, GCNN)等对于图结构的有效捕获,一些研究者根据电极空间邻接关系定义邻接矩阵作为这些图模型的底层结构,从而以符合脑电空间特征的方式捕获情感信息。
文献[55]利用标准化的低分辨率电磁断层扫描(standardized Low-Resolution Electromagnetic Tomography, sLORETA)将信号追溯至皮质源,将sLORETA源视为GNN底层图的节点构建识别模型。类似地,文献[56]设计了一种多域融合的深度图卷积神经网络(Multi-domain fusion deep Graph Convolution Neural Network, MdGCNN),将PCC构建的脑电网络作为邻接矩阵和DE特征一同输入GCNN模型从而构建MdGCNN模型,并基于最小化源域与目标域特征距离的方法发展出两种跨被试的情绪识别模型。文献[57]设计了一种融合GCNN和长短期记忆神经网络(Long Short-Term Memory Neural Networks, LSTM)的新的深度学习模型,其中多个GCNN被用于从DE特征中提取图域特征,LSTM单元被用于记忆特定时间内两个通道之间关系的变化并提取时间特征,该模型同时利用图域信息和时域信息来改善情绪识别结果。文献[36]提出一种正则化图神经网络(Regularized Graph Neural Network, RGNN),该模型扩展了简单图卷积网络(Simple Graph Convolution network, SGC)并利用了脑电图通道的拓扑结构。具体而言,作者受神经科学启发提出了一种稀疏邻接矩阵,该矩阵在电极物理位置邻接关系的基础上参考微分不对称信息增加了连通左右脑的全局连接。作者认为局部连接主要发生在邻近的神经元群,全局连接则发生于连接了左半球和右半球之间的远距离神经元群。文献[58]提出一种电极位置修正策略,通过引入偏移变量从离散脑电信号生成连续图像,同时增强训练数据并缓解脑电图像生成过程中的偏置电极坐标投影。在该工作中,作者采用CNN提取局部深度特征,使用GCNN学习不同脑电通道之间的潜在功能关系并提取全局特征,将两者扩展融合设计出图嵌入卷积神经网络(Graph-Embedded Convolutional Neural Network, GECNN)方法,分别提取局部和全局功能特征并进行融合。
-
上述研究根据各自理论提出了不同的邻接矩阵定义方式,研究者们对于如何定义邻接矩阵没有产生共识,或许充分发挥深度学习优势,在模型训练过程中不断迭代调整邻接矩阵能更好地发掘符合当前情感脑电数据的图结构。由此,一系列学者开始探索邻接矩阵的动态更新方法。
文献[59]提出了一种基于新型动态图卷积神经网络(Dynamical Graph Convolutional Neural Networks, DGCNN)的多通道脑电情感识别方法,与之前将邻接矩阵在模型训练前固定的研究不同,DGCNN方法以动态的方式学习邻接矩阵,即在模型训练过程中,邻接矩阵的条目会随着图模型参数的变化而自适应地更新。后续的许多研究都建立在DGCNN的基础上。文献[60]受此启发,将sLORETA的源作为DGCNN的底层图节点,以期获取更符合生理结构的初始图结构定义。文献[61]进一步提出了自组织图神经网络(Self-Organized Graph Neural Network, SOGNN),该模型通过自组织模块动态构建图的结构。文献[62]提出了一种利用自注意力动态图神经网络来捕获脑电网络空间结构信息和时间演化特征的脑电网络表示学习方法,该方法采用神经网络反向传播算法对邻接矩阵进行更新。文献[63]设计了一种广泛动态图学习系统(Broad Dynamical Graph Learning System, BDGLS)来处理脑电信号,BDGLS具有在非欧氏域提取特征的能力,通过随机生成节点的方式寻找期望的连接权重。BDGLS融合了DGCNN和宽度学习系统 (Broad Learning System, BLS)的优势,该系统可以将学习到的图空间随机生成到可能的低维空间,然后将其扩展到具有增强节点的宽随机空间,以搜索适合情绪分类的特征。
此外,考虑到脑区功能关系可能表现出高度局部化和稀疏化的认知特性,文献[64]提出了稀疏DGCNN模型,该模型通过引入稀疏性约束对DGCNN架构进行改进,提高了情感识别性能。文献[65]设计了一种基于情绪的层次特征的渐进式图卷积网络(Progressive Graph Convolution Network, PGCN),构建了一个双图模块来表征大脑区域的动态功能连接和静态空间邻接信息,动态功能连接由DE特征矩阵变换得到,而静态空间邻接网络则由脑电电极的固有空间位置定义。通过整合上述两张图,PGCN可以从全局视角学习所有电极的互补交互信息,从而增强模型的鲁棒性和判别性。文献[66]提出了一种具有脑网络先验信息和融合注意力机制的图学习系统图卷积网络框架,能够自动从情绪脑电信号中学习情绪认知图模式。具体来说,作者设计了认知启发功能图分支、数据驱动图分支和融合公共图分支3个图分支,并采用注意力机制进一步捕捉与情绪认知相关的大脑激活图模式。为了进一步增加模型的可解释性,文献[67]设计了一种贝叶斯图神经网络。将大脑电脉冲活动视为无限数量的泊松过程,并具体表示为无限数量的概率连接图,其中连通概率图会被解释和转化为功能连接图,功能连接对应着大脑的感知状态,最终采用基于空间的图卷积,对基于功能连接图的多通道脑电图特征进行特征融合。
Emotion Recognition Based on EEG Networks: Progress and Prospects
-
摘要: 情绪识别使计算机系统具备感知人类情感的能力,它已成为计算机科学、心理学、社会学、生物医学工程等多个学科的研究热点。脑电(Electroencephalography, EEG)网络分析方法是神经影像领域常用的神经认知分析方法,它通过捕获脑区间交互关系构建脑网络,以此描述大脑不同区域的信息流动状态和功能协作状况。由于情绪功能本身涉及多脑区协作,脑电网络的分析方法凭借其出色的脑区信息交互捕获能力在情感识别领域发挥重要作用。该文对脑电网络情绪识别的研究背景、原理方法和研究现状进行详细介绍,并讨论了基于脑电网络分析的情绪识别研究目前存在的问题和未来发展趋势。Abstract: Emotion recognition, endowing computers with the ability to perceive emotions, is a focal point of interest in various fields, including computer science, psychology, sociology, biomedical engineering, and more. EEG network analysis methods are widely used in the neuroimaging field for neurocognitive analysis. These methods capture interactions between/among different brain regions to construct brain networks, thereby describing the information flow and functional collaboration across various brain areas. Given that emotional functions inherently involve the cooperation of multiple brain regions, EEG network analysis methods excel in capturing inter-regional information interactions, making them highly effective in emotion recognition. This paper provides a comprehensive introduction to the research background, principles, methods, and current status of EEG network-based emotion recognition. Additionally, the existing challenges and future development trends in this research area are discussed.
-
Key words:
- emotion recognition /
- EEG network /
- EEG /
- affective computing
-
表 1 基于脑电网络的情绪识别研究工作统计表
文献 数据集 脑电网络 特征 分类模型 方法类别 发表日期/年 文献[23] DEAP PCC、PLV、PLI 网络连接强度 CNN 单模态方法 2018 文献[41] DEAP PCC,PLV、TE 网络连接强度 CNN 单模态方法 2020 文献[25] SEED、DEAP PCC,PLV、PLI 网络连接强度 MSRN 单模态方法 2022 文献[42] DEAP wPLI 网络属性 GNN 单模态方法 2022 文献[20] MAHNOB、SEED、DEAP PLV 能量特征与网络属性 SVM等 多模态方法 2019 文献[44] 实验采集数据 PLV 能量特征与网络属性 SVM等 多模态方法 2021 文献[31] DEAP、DREAMER CFC、PLV、PCC 网络属性 SVM 多模态方法 2021 文献[45] DEAP PLV 网络属性 SVM 多模态方法 2023 文献[46] 实验采集数据 PLV 网络属性 SVM 多模态方法 2019 文献[38] SEED PCC 能量特征与网络属性 SVM 多模态方法 2019 文献[30] 实验采集数据 BDC 能量特征与连接强度 SVM等 多模态方法 2020 文献[47] VREED PLV 能量特征与网络属性 SVM 多模态方法 2021 文献[35] 实验采集数据 PCC 、PLV、PLI、GC、MI 能量特征与网络属性 SVM 多模态方法 2023 文献[48] SEED、BCI2020-A、BCI2020-B PLV、PLI 能量特征与连接强度 SVM 多模态方法 2022 文献[49] DEAP PCC,PLV、TE、WCC 网络连接强度 DA-RCNN 多模态方法 2022 文献[51] SEED、SEED-V、DEAP PCC和频率相干网络 网络属性与眼动特征 DCCA 多模态方法 2022 文献[27] MAHNOB PLI 、 PLV 网络属性与眼动特征 SVM 多模态方法 2022 文献[55] 实验采集数据、SEED EEG 源定位节点 EEG 源定位数据 GNN 深度网络方法 2023 文献[56] SEED、DEAP PCC 能量特征 MdGCNN 深度网络方法 2022 文献[57] DEAP 自定义邻接矩阵 能量特征 ECLGCNN 深度网络方法 2021 文献[36] SEED、SEED-IV 自定义邻接矩阵 能量特征 RGNN 深度网络方法 2020 文献[58] SEED、SDEA、DREAMER、MPED 自定义邻接矩阵 能量特征 GECNN 深度网络方法 2021 文献[59] SEED、DREAMER 动态迭代网络 能量特征 DGCNN 深度网络方法 2020 文献[60] 实验采集数据、SEED、DEAP 动态迭代网络 EEG 源定位数据 DGCNN 深度网络方法 2022 文献[61] SEED 、 SEED-IV 动态迭代网络 能量特征 SOGNN 深度网络方法 2021 文献[62] AMIGOS 动态迭代网络 能量特征 BNRL-SDGNNS 深度网络方法 2022 文献[63] SEED 动态迭代网络 能量特征 BDGLS 深度网络方法 2018 文献[64] SEED、DEAP、DREAMER 、CMEED 动态迭代网络 能量特征 SparseDGCNN 深度网络方法 2023 文献[65] SEED-IV、SEED-V、MPED 动态迭代网络 能量特征 PGCN 深度网络方法 2023 文献[66] SEED 、 SEED-IV 动态迭代网络 能量特征 BF-GCN 深度网络方法 2024 文献[67] SEED 动态迭代网络 能量特征 BayesEEGNet 深度网络方法 2023 文献[71] 实验采集数据、DEAP、MAHNOB-HCI PLV 连接强度 MESNP 单模态方法 2023 -
[1] VUILLEUMIER P. How brains beware: Neural mechanisms of emotional attention[J]. Trends in Cognitive Sciences, 2005, 9(12): 585-594. doi: 10.1016/j.tics.2005.10.011 [2] EZZAMELI K, MAHERSIA H. Emotion recognition from unimodal to multimodal analysis: A review[J]. Information Fusion, 2023, 99: 101847. doi: 10.1016/j.inffus.2023.101847 [3] WANG Y, SONG W, TAO W, et al. A systematic review on affective computing: Emotion models, databases, and recent advances[J]. Information Fusion, 2022, 83: 19-52. [4] LI J J, WANG Q. Multi-modal bioelectrical signal fusion analysis based on different acquisition devices and scene settings: Overview, challenges, and novel orientation[J]. Information Fusion, 2022, 79: 229-247. doi: 10.1016/j.inffus.2021.10.018 [5] ZHAO W R, VAN SOMEREN E J W, LI C Y, et al. EEG spectral analysis in insomnia disorder: A systematic review and meta-analysis[J]. Sleep Medicine Reviews, 2021, 59: 101457. doi: 10.1016/j.smrv.2021.101457 [6] HÖLLE D, MEEKES J, BLEICHNER M G. Mobile ear-EEG to study auditory attention in everyday life[J]. Behavior Research Methods, 2021, 53(5): 2025-2036. doi: 10.3758/s13428-021-01538-0 [7] HOUSSEIN E H, HAMMAD A, ALI A A. Human emotion recognition from EEG-based brain–computer interface using machine learning: A comprehensive review[J]. Neural Computing and Applications, 2022, 34(15): 12527-12557. doi: 10.1007/s00521-022-07292-4 [8] LI X, ZHANG Y Z, TIWARI P, et al. EEG based emotion recognition: A tutorial and review[J]. ACM Computing Surveys, 2023, 55(4): 1-57. [9] SMALDINO P E, SCHANK J C. Invariants of human emotion[J]. Behavioral and Brain Sciences, 2012, 35(3): 164. [10] DERRYBERRY D, TUCKER D M. Neural mechanisms of emotion[J]. Journal of Consulting and Clinical Psychology, 1992, 60(3): 329-338. doi: 10.1037/0022-006X.60.3.329 [11] DAWEL A, SHOU Y Y, GULLIVER A, et al. Cause or symptom? A longitudinal test of bidirectional relationships between emotion regulation strategies and mental health symptoms[J]. Emotion, 2021, 21(7): 1511-1521. doi: 10.1037/emo0001018 [12] VANDERLIND W M, MILLGRAM Y, BASKIN-SOMMERS A R, et al. Understanding positive emotion deficits in depression: From emotion preferences to emotion regulation[J]. Clinical Psychology Review, 2020, 76: 101826. doi: 10.1016/j.cpr.2020.101826 [13] KRING A M, ELIS O. Emotion deficits in people with schizophrenia[J]. Annual Review of Clinical Psychology, 2013, 9: 409-433. doi: 10.1146/annurev-clinpsy-050212-185538 [14] CONNER C M, GOLT J, SHAFFER R, et al. Emotion dysregulation is substantially elevated in autism compared to the general population: Impact on psychiatric services[J]. Autism Research, 2021, 14(1): 169-181. doi: 10.1002/aur.2450 [15] CREMERS H, VAN ZUTPHEN L, DUKEN S, et al. Borderline personality disorder classification based on brain network measures during emotion regulation[J]. European Archives of Psychiatry and Clinical Neuroscience, 2021, 271(6): 1169-1178. doi: 10.1007/s00406-020-01201-3 [16] ZHENG W L, ZHU J Y, LU B L. Identifying stable patterns over time for emotion recognition from EEG[J]. IEEE Transactions on Affective Computing, 2019, 10(3): 417-429. doi: 10.1109/TAFFC.2017.2712143 [17] RUBINOV M, SPORNS O. Complex network measures of brain connectivity: Uses and interpretations[J]. NeuroImage, 2010, 52(3): 1059-1069. doi: 10.1016/j.neuroimage.2009.10.003 [18] LACHAUX J P, RODRIGUEZ E, MARTINERIE J, et al. Measuring phase synchrony in brain signals[J]. Human Brain Mapping, 8, 4 (1999), 194-208. [19] SAKKALIS V. Review of advanced techniques for the estimation of brain connectivity measured with EEG/MEG[J]. Computers in Biology and Medicine, 2011, 41(12): 1110-1117. doi: 10.1016/j.compbiomed.2011.06.020 [20] LI P Y, LIU H, SI Y J, et al. EEG based emotion recognition by combining functional connectivity network and local activations[J]. IEEE Transactions on Biomedical Engineering, 2019, 66(10): 2869-2881. doi: 10.1109/TBME.2019.2897651 [21] CHEN J X, MIN C D, WANG C H, et al. Electroencephalograph-based emotion recognition using brain connectivity feature and domain adaptive residual convolution model[J]. Frontiers in Neuroscience, 2022(16): 878146. [22] LI J Y, HUA H Q, XU Z H, et al. Cross-subject EEG emotion recognition combined with connectivity features and meta-transfer learning[J]. Computers in Biology and Medicine, 2022, 145: 105519. doi: 10.1016/j.compbiomed.2022.105519 [23] MOON S E, JANG S, LEE J S. Convolutional neural network approach for eeg-based emotion recognition using brain connectivity and its spatial information[C]//Proceedings of the IEEE International Conference on Acoustics, Speech and Signal Processing. New York: IEEE, 2018. [24] WANG W J. Brain network features based on theta-gamma cross-frequency coupling connections in EEG for emotion recognition[J]. Neuroscience Letters, 2021, 761: 136106. doi: 10.1016/j.neulet.2021.136106 [25] LI J Y, HUA H Q, XU Z H, et al. Cross-subject EEG emotion recognition combined with connectivity features and meta-transfer learning[J]. Computers in Biology and Medicine, 2022, 145: 105519. doi: 10.1016/j.compbiomed.2022.105519 [26] STAM C J, NOLTE G, DAFFERTSHOFER A. Phase lag index: Assessment of functional connectivity from multi channel EEG and MEG with diminished bias from common sources[J]. Human Brain Mapping, 2007, 28(11): 1178-1193. doi: 10.1002/hbm.20346 [27] SUN X F, ZHENG X W, LI T T, et al. Multimodal emotion classification method and analysis of brain functional connectivity networks[J]. IEEE Transactions on Neural Systems and Rehabilitation Engineering, 2022, 30: 2022-2031. doi: 10.1109/TNSRE.2022.3192533 [28] ZHANG J, ZHANG X Y, CHEN G J, et al. EEG emotion recognition based on cross-frequency granger causality feature extraction and fusion in the left and right hemispheres[J]. Frontiers in Neuroscience, 2022, 16: 974673. doi: 10.3389/fnins.2022.974673 [29] SCHREIBER T. Measuring information transfer[J]. Physical Review Letters, 2000, 85(2): 461-464. doi: 10.1103/PhysRevLett.85.461 [30] WANG H L, WU X, YAO L. Identifying cortical brain directed connectivity networks from high-density EEG for emotion recognition[J]. IEEE Transactions on Affective Computing, 2022, 13(3): 1489-1500. doi: 10.1109/TAFFC.2020.3006847 [31] WANG W J. Brain network features based on theta-gamma cross-frequency coupling connections in EEG for emotion recognition[J]. Neuroscience Letters, 2021, 761: 136106. doi: 10.1016/j.neulet.2021.136106 [32] SONG T F, LIU S Y, ZHENG W M, et al. Variational instance-adaptive graph for EEG emotion recognition[J]. IEEE Transactions on Affective Computing, 2023, 14(1): 343-356. doi: 10.1109/TAFFC.2021.3064940 [33] ZHANG Y C, YAN G H, CHANG W W, et al. EEG-based multi-frequency band functional connectivity analysis and the application of spatio-temporal features in emotion recognition[J]. Biomedical Signal Processing and Control, 2023, 79: 104157. doi: 10.1016/j.bspc.2022.104157 [34] ADAMOVICH T, ZAKHAROV I, TABUEVA A, et al. The thresholding problem and variability in the EEG graph network parameters[J]. Scientific Reports, 2022, 12: 18659. doi: 10.1038/s41598-022-22079-2 [35] WANG J H, SONG Y, GAO Q, et al. Functional brain network based multi-domain feature fusion of hearing-Impaired EEG emotion identification[J]. Biomedical Signal Processing and Control, 2023, 85: 105013. doi: 10.1016/j.bspc.2023.105013 [36] ZHONG P X, WANG D, MIAO C Y. EEG-based emotion recognition using regularized graph neural networks[J]. IEEE Transactions on Affective Computing, 2022, 13(3): 1290-1301. doi: 10.1109/TAFFC.2020.2994159 [37] LIU X C, LI T, TANG C, et al. Emotion recognition and dynamic functional connectivity analysis based on EEG[J]. IEEE Access, 2019, 7: 143293-143302. doi: 10.1109/ACCESS.2019.2945059 [38] WU X, ZHENG W L, LU B L. Identifying functional brain connectivity patterns for EEG-based emotion recognition[C]//Proceedings of the 9th International IEEE/EMBS Conference on Neural Engineering. New York: IEEE, 2019: 235-238. [39] WANG Z M, ZHANG J W, HE Y, et al. EEG emotion recognition using multichannel weighted multiscale permutation entropy[J]. Applied Intelligence, 2022, 52(10): 12064-12076. doi: 10.1007/s10489-021-03070-2 [40] LIN X F, CHEN J L, MA W F, et al. EEG emotion recognition using improved graph neural network with channel selection[J]. Computer Methods and Programs in Biomedicine, 2023, 231: 107380. doi: 10.1016/j.cmpb.2023.107380 [41] MOON S E, CHEN C J, HSIEH C J, et al. Emotional EEG classification using connectivity features and convolutional neural networks[J]. Neural Networks, 2020, 132: 96-107. doi: 10.1016/j.neunet.2020.08.009 [42] LIU H J, ZHANG J R, LIU Q S, et al. Minimum spanning tree based graph neural network for emotion classification using EEG[J]. Neural Networks, 2022, 145: 308-318. doi: 10.1016/j.neunet.2021.10.023 [43] PAN T X, SU N, SHAN J, et al. GLADA: Global and local associative domain adaptation for EEG-based emotion recognition[J]. IEEE Transactions on Cognitive and Developmental Systems, 2024, PP(99): 1-13. [44] KANG Q J, GAO Q, SONG Y, et al. Emotion recognition from EEG signals of hearing-impaired people using stacking ensemble learning framework based on a novel brain network[J]. IEEE Sensors Journal, 21, 20 (2021), 23245-23255. [45] WANG Z M, ZHOU R, HE Y, et al. Functional integration and separation of brain network based on phase locking value during emotion processing[J]. IEEE Transactions on Cognitive and Developmental Systems, 2020. [46] AL-SHARGIE F, TARIQ U, ALEX M, et al. Emotion recognition based on fusion of local cortical activations and dynamic functional networks connectivity: An EEG study[J]. IEEE Access, 2019, 7: 143550-143562. doi: 10.1109/ACCESS.2019.2944008 [47] YU M C, XIAO S S, HUA M L, et al. EEG-based emotion recognition in an immersive virtual reality environment: From local activity to brain network features[J]. Biomedical Signal Processing and Control, 2022, 72: 103349. doi: 10.1016/j.bspc.2021.103349 [48] CHEN C Q, LI Z C, WAN F, et al. Fusing frequency-domain features and brain connectivity features for cross-subject emotion recognition[J]. IEEE Transactions on Instrumentation and Measurement, 2022, 71: 2508215. [49] CHEN J X, MIN C D, WANG C H, et al. Electroencephalograph-based emotion recognition using brain connectivity feature and domain adaptive residual convolution model[J]. Frontiers in Neuroscience, 2022, 16: 878146. doi: 10.3389/fnins.2022.878146 [50] ZHENG W L, LIU W, LU Y F, et al. EmotionMeter: A multimodal framework for recognizing human emotions[J]. IEEE Transactions on Cybernetics, 2019, 49(3): 1110-1122. doi: 10.1109/TCYB.2018.2797176 [51] WU X, ZHENG W L, LI Z Y, et al. Investigating EEG-based functional connectivity patterns for multimodal emotion recognition[J]. Journal of Neural Engineering, 2022, 19(1): 016012. doi: 10.1088/1741-2552/ac49a7 [52] TAN Y, SUN Z, DUAN F, et al. A multimodal emotion recognition method based on facial expressions and electroencephalography[J]. Biomedical Signal Processing and Control, 2021, 70: 103029. doi: 10.1016/j.bspc.2021.103029 [53] WANG Q, WANG M, YANG Y, et al. Multi-modal emotion recognition using EEG and speech signals[J]. Computers in Biology and Medicine, 2022, 149: 105907. doi: 10.1016/j.compbiomed.2022.105907 [54] DEMIR A, KOIKE-AKINO T, WANG Y, et al. EEG-GNN: Graph neural networks for classification of electroencephalogram (EEG) signals[C]//Proceedings of the 43rd Annual International Conference of the IEEE Engineering in Medicine & Biology Society. New York: IEEE, 2021: 1061-1067. [55] ASADZADEH S, REZAII T Y, BEHESHTI S, et al. Accurate emotion recognition utilizing extracted EEG sources as graph neural network nodes[J]. Cognitive Computation, 2023, 15(1): 176-189. doi: 10.1007/s12559-022-10077-5 [56] BI J Y, WANG F, YAN X, et al. Multi-domain fusion deep graph convolution neural network for EEG emotion recognition[J]. Neural Computing and Applications, 2022, 34(24): 22241-22255. doi: 10.1007/s00521-022-07643-1 [57] YIN Y Q, ZHENG X W, HU B, et al. EEG emotion recognition using fusion model of graph convolutional neural networks and LSTM[J]. Applied Soft Computing, 2021, 100: 106954. doi: 10.1016/j.asoc.2020.106954 [58] SONG T F, ZHENG W M, LIU S Y, et al. Graph-embedded convolutional neural network for image-based EEG emotion recognition[J]. IEEE Transactions on Emerging Topics in Computing, 2022, 10(3): 1399-1413. doi: 10.1109/TETC.2021.3087174 [59] SONG T F, ZHENG W M, SONG P, et al. EEG emotion recognition using dynamical graph convolutional neural networks[J]. IEEE Transactions on Affective Computing, 2018, 11(3): 532-541. [60] ASADZADEH S, YOUSEFI REZAII T, BEHESHTI S, et al. Accurate emotion recognition using Bayesian model based EEG sources as dynamic graph convolutional neural network nodes[J]. Scientific Reports, 2022, 12: 10282. doi: 10.1038/s41598-022-14217-7 [61] LI J C, LI S Q, PAN J H, et al. Cross-subject EEG emotion recognition with self-organized graph neural network[J]. Frontiers in Neuroscience, 2021(15): 611653. [62] LI C, SHENG Y, WANG H S, et al. EEG emotion recognition based on self-attention dynamic graph neural networks[C]//Proceedings of the 44th Annual International Conference of the IEEE Engineering in Medicine & Biology Society. New York: IEEE, 2022: 292-296. [63] WANG X H, ZHANG T, XU X M, et al. EEG emotion recognition using dynamical graph convolutional neural networks and broad learning system[C]//Proceedings of the IEEE International Conference on Bioinformatics and Biomedicine. New York: IEEE, 2018: 1240-1244. [64] ZHANG G H, YU M J, LIU Y J, et al. SparseDGCNN: Recognizing emotion from multichannel EEG signals[J]. IEEE Transactions on Affective Computing, 2023, 14(1): 537-548. doi: 10.1109/TAFFC.2021.3051332 [65] ZHOU Y J, LI F, LI Y, et al. Progressive graph convolution network for EEG emotion recognition[J]. Neurocomputing, 2023, 544: 126262. doi: 10.1016/j.neucom.2023.126262 [66] LI C B, TANG T, PAN Y, et al. An efficient graph learning system for emotion recognition inspired by the cognitive prior graph of EEG brain network[J]. IEEE Transactions on Neural Networks and Learning Systems, 2024, PP(99): 1-15. [67] WANG J, NING X J, SHI W J, et al. A Bayesian graph neural network for EEG classification—a win-win on performance and interpretability[C]//Proceedings of the IEEE 39th International Conference on Data Engineering. New York: IEEE, 2023, DOI: 10.1109/ICDE55515.2023.00165. [68] LIU Y S, SOURINA O, NGUYEN M K. Real-time EEG-based emotion recognition and its applications[M]//GAVRILOVA ML, TAN CJK, SOURIN A, et al. Transactions on Computational Science XII. Berlin, Heidelberg: Springer, 2011: 256-277. [69] LAN Z R, SOURINA O, WANG L P, et al. Real-time EEG-based emotion monitoring using stable features[J]. The Visual Computer, 2016, 32(3): 347-358. doi: 10.1007/s00371-015-1183-y [70] MOONTAHA S, SCHUMANN F E F, ARNRICH B. Online learning for wearable EEG-based emotion classification[J]. Sensors, 2023, 23(5): 2387. doi: 10.3390/s23052387 [71] LI C B, LI P Y, ZHANG Y S, et al. Effective emotion recognition by learning discriminative graph topologies in EEG brain networks[J]. IEEE Transactions on Neural Networks and Learning Systems, 2024, 35(8): 10258-10272. doi: 10.1109/TNNLS.2023.3238519