Self-supervised learning for Electrocardiogram classification using Lead Correlation and Decorrelation (LCD)研究背景与动机心电图ECG是心血管疾病CVD诊断中最常用的无创、低成本工具标准 ECG 通常包含 12 个导联每个导联从身体不同部位采集心脏电活动信号。深度学习在自动 ECG 分析中展现了巨大潜力但其训练通常依赖大量有标注数据而 ECG 标注需要心内科专家完成成本极高且耗时长。自监督学习SSL通过利用无标注数据预训练模型能有效缓解对标注数据的依赖。现有 ECG 自监督方法主要分为两类通用数据增强CL 方法如 RRC-TO、VCG-based、时空变换等直接套用通用对比学习框架SimCLR、BYOL 等未充分利用多导联 ECG 的独特特性性能受限。针对ECG的 CL方法 如 DLC、MRC可以挖掘 ECG 特性但依赖复杂架构/操作预训练计算开销大DLC 损失函数组合了 64 个对比损失MRC 依赖 QRS 检测算法。因此开发一种既有效又高效的 ECG 自监督学习机制仍是一个开放问题。文章提出的LCDLead Correlation and Decorrelation方法从多导联 ECG 的四个基本特性出发进行设计在不依赖复杂架构的前提下实现高效预训练。数据集与实验任务预训练阶段在 NFH宁波第一医院34,905 条 未标注 12 导联 ECG 数据上进行自监督预训练预训练 100 个 epochs。下游任务在三个公开数据库上进行心律失常分类评估PTB-XL5 类正常、传导障碍、心肌肥厚、心肌梗死、ST/T 改变CPSC 20189 类正常、房颤、一度房室传导阻滞、左束支传导阻滞、右束支传导阻滞、房性早搏、室性早搏、ST 段压低、ST 段抬高Chapman4 类房颤、室上性心动过速、窦性心动过缓、窦性心律数据预处理去除冗余导联I、aVR、aVL、aVF 可由 II、III 线性推导保留 8 个独立导联II, III, V1~V6重采样至 2048 点z-score 归一化。评估范式线性探测Linear Probing 微调Fine-tuning仅用 10% 标注数据指标为 AUROC和 AUPRC。架构图与核心方法LCD 的核心思想源于多导联 ECG 的四个基本特性特性含义LCD 对应机制Intra-lead Invariance导联内不变性同一导联的不同数据增强视图应提取到不变的语义特征导联内相关Intra-lead CorrelationInter-lead Invariance导联间不变性不同导联反映同一心脏状态共享跨导联不变特征导联间相关Inter-lead CorrelationInter-lead Variance导联间差异性不同导联具有独特的区分性特征不应被过度对齐导联间去相关Inter-lead DecorrelationIntra-lead Redundancy导联内冗余性ECG 是准周期信号多周期之间存在信息冗余导联内去相关Intra-lead DecorrelationLCD 的预训练流程为数据增强使用 RRC-TORandom Resize and Crop-Time Out对一批 8 导联x \boldsymbol{x}x创建三个视图x A , x B , x C \boldsymbol{x}^A,\ \boldsymbol{x}^B,\ \boldsymbol{x}^CxA,xB,xC 随机导联选择从x A \boldsymbol{x}^AxA选导联i ii从x B \boldsymbol{x}^BxB选导联j jji ≠ j i \neq jij从x C \boldsymbol{x}^CxC选导联i ii得到三个单导联视图( x i A , x j B , x i C ) \left(\boldsymbol{x}^A_i,\ \boldsymbol{x}^B_j,\ \boldsymbol{x}^C_i\right)(xiA,xjB,xiC)。通过上面的四个基本特性设置损失函数其中同一导联在不同增强方式下应当接近不同导联应当有共同的特征反映同一疾病不同导联应当减少冗余并且有自己独特的特征。预训练得到的编码器用于下游任务下游任务根据一定的标注数据来进行分类。三大机制详解(1) 导联内相关 (Intra-lead Correlation)**借鉴 BYOL 的非对称架构Online 网络处理x i A \boldsymbol{x}^A_ixiA编码器f θ f_\thetafθ→ 投影器g θ g_\thetagθ→ 预测器p θ p_\thetapθ→q i A \boldsymbol{q}^A_iqiATarget 网络处理x i C \boldsymbol{x}^C_ixiC编码器f ξ f_\xifξ→ 投影器g ξ g_\xigξ→z i C \boldsymbol{z}^C_iziCξ \xiξ为θ \thetaθ的 EMAL r ∥ q ˉ i A − z ˉ i C ∥ 2 2 \mathcal{L}_r \left\Vert \bar{\boldsymbol{q}}^A_i - \bar{\boldsymbol{z}}^C_i \right\Vert_2^2LrqˉiA−zˉiC22最小化L r \mathcal{L}_rLr迫使模型提取同一导联在数据增强下不变的核心特征。(2) 导联间相关 (Inter-lead Correlation)**同样使用 BYOL 架构Online 网络处理x j B \boldsymbol{x}^B_jxjBTarget 网络处理x i C \boldsymbol{x}^C_ixiCL t ∥ q ˉ j B − z ˉ i C ∥ 2 2 \mathcal{L}_t \left\Vert \bar{\boldsymbol{q}}^B_j - \bar{\boldsymbol{z}}^C_i \right\Vert_2^2LtqˉjB−zˉiC22最小化L t \mathcal{L}_tLt迫使模型聚焦于跨导联共享的不变特征。(3) 导联内与导联间去相关 (Intra-lead and Inter-lead Decorrelation)借鉴 Barlow Twins将两个不同导联的嵌入向量沿特征拼接Z ^ [ z i A ; z j B ] \hat{\boldsymbol{Z}} [\boldsymbol{z}^A_i; \boldsymbol{z}^B_j]Z^[ziA;zjB]归一化后计算交叉相关矩阵C 1 N Z ⊤ Z \boldsymbol{C} \frac{1}{N}\boldsymbol{Z}^\top \boldsymbol{Z}CN1Z⊤ZL d ∑ k ( 1 − C [ k , k ] ) λ ∑ k ∑ m ≠ k ( C [ k , m ] ) 2 \mathcal{L}_d \sum_k \big(1 - \boldsymbol{C}[k,k]\big) \lambda \sum_k \sum_{m \neq k} \big(\boldsymbol{C}[k,m]\big)^2Ldk∑(1−C[k,k])λk∑mk∑(C[k,m])2第一项迫使对角线元素趋近 1各特征维度保持信息量第二项迫使非对角线元素趋近 0不同特征维度之间去冗余λ 0.005 \lambda 0.005λ0.005这一操作同时完成了导联内去相关减少周期冗余和导联间去相关保留导联差异性防止导联间相关过度导致表征坍缩。4总损失与下游推理L lcd L r L t γ ⋅ L d , γ 0.005 \mathcal{L}_{\text{lcd}} \mathcal{L}_r \mathcal{L}_t \gamma \cdot \mathcal{L}_d,\quad \gamma 0.005LlcdLrLtγ⋅Ld,γ0.005下游推理LCD 预训练出的编码器f θ f_\thetafθ是一个通用单导联编码器适用于任意导联。处理多导联 ECG 时采用MBN (Multiple-Branch Network)架构h i f θ ( x i ) , i 1 , 2 , … , C \boldsymbol{h}_i f_\theta(\boldsymbol{x}_i),\quad i 1,2,\dots,Chifθ(xi),i1,2,…,Cy ^ σ ( ω ⋅ [ h 1 ; h 2 ; … ; h C ] b ) \hat{\boldsymbol{y}} \sigma\big(\boldsymbol{\omega} \cdot [\boldsymbol{h}_1;\boldsymbol{h}_2;\dots;\boldsymbol{h}_C] \boldsymbol{b}\big)y^σ(ω⋅[h1;h2;…;hC]b)每个导联独立提取特征后拼接经线性分类器 Softmax 输出预测。实验结果与结论线性探测结果ECG 特定方法LCD、DLC、MRC始终优于通用 SSL 方法SimCLR、MoCo、BYOL 等LCD 在 CPSC 上比最好的通用方法 BYOL 提升 3.27% AUROC 和 8.31% AUPRC微调结果仅用 10% 标注数据LCD 在所有三个数据库上均取得最佳或可比的最优性能。预训练效率对比LCD 显著快于依赖复杂架构的 DLC/MRC在保持/超越性能的同时大幅降低预训练计算成本。消融实验GradCAM 可视化分析心肌梗死样本LCD 预训练模型准确聚焦于病理性 Q 波区域从头训练模型无法定位关键病理特征ST段抬高样本LCD 模型识别 ST 段抬高区域从头训练模型在低标注场景下未能捕捉室上性心动过速样本LCD 模型关注 RR 间期心率特征从头训练模型未识别LCD 预训练使模型在标注数据稀缺时仍能聚焦于有意义的病理特征。局限性与发展优势高效且有效不依赖复杂架构或操作如 DLC 的 64 个对比损失、MRC 的 QRS 检测在性能相当或更优的前提下预训练速度比 DLC 快5.56×、比 MRC 快1.30×通用单导联编码器预训练得到的编码器可处理任意导联通过 MBN 架构无缝扩展到多导联 ECG 处理ECG 特性驱动设计从多导联 ECG 的四个固有特性出发系统性地设计了相关/去相关机制而非简单套用通用 SSL 框架极低标注依赖可将标注数据需求降低 4~6 倍显著缓解实际场景中 ECG 标注成本高昂的瓶颈可解释性强GradCAM 可视化证实 LCD 预训练使模型在低标注场景下也能准确定位病理特征区域局限性预训练与下游任务关系不明无法针对特定下游任务优化预训练质量这是 SSL 方法的共性问题仍需部分标注数据虽然将标注需求降低了 4~6 倍但下游微调仍依赖标注 ECG仅在处理过的公开数据库上验证这些数据库已做过类别/年龄/性别平衡并移除了低质量 ECG可能高估 LCD 在实际医院未处理数据上的表现仅聚焦 ECG理论上可推广至类似信号如多导联 EEG但尚未在其他信号上验证未来拓展方向定量分析 LCD 机制间的交互关系为不同下游任务自适应调整各机制的贡献权重引入零样本学习ZSL将 LCD 与 ZSL 融合进一步减少甚至消除对标注 ECG 的需求在真实医院未处理数据库上评估更可靠地衡量 LCD 在实际临床环境中的性能跨信号泛化将 LCD 扩展到多导联 EEG 等其他多通道 1-D 信号的自监督学习代码地址https://github.com/Aiwiscal/ECG_SSL_LCD
