简介:本文提出一种结合多模态对比互学习与伪标签再学习的半监督医学图像分割框架,通过多模态特征对齐和动态伪标签优化,显著提升小样本场景下的分割精度。实验表明,该方法在心脏MRI和腹部CT数据集上Dice系数提升8.2%,具有重要临床应用价值。
医学图像分割是计算机辅助诊断的核心环节,传统全监督方法依赖大量标注数据,而医学影像标注需专业医生参与,成本高昂。半监督学习通过利用未标注数据缓解标注压力,但现有方法存在两大局限:
本研究提出多模态对比互学习(Multi-modal Contrastive Mutual Learning, MCML)与伪标签再学习(Pseudo-label Refinement Learning, PRL)的联合框架,通过模态间特征对齐和伪标签质量评估,解决半监督医学图像分割中的关键问题。
设计双分支编码器(MRI分支与CT分支),每个分支包含特征提取模块(ResNet-50骨干网络)和投影头(MLP)。通过对比学习损失函数实现跨模态特征对齐:
# 伪代码:跨模态对比损失计算def contrastive_loss(mri_features, ct_features, temperature=0.1):# 计算模态内相似度矩阵sim_mri = cosine_similarity(mri_features, mri_features)sim_ct = cosine_similarity(ct_features, ct_features)# 计算跨模态相似度矩阵cross_sim = cosine_similarity(mri_features, ct_features)# 正样本对为同一病例的不同模态pos_mask = get_pairwise_mask() # 形状[N,N],对角线为1neg_mask = 1 - pos_mask# 计算对比损失logits = cross_sim / temperaturepos_loss = -log(exp(logits[pos_mask]) /(exp(logits[pos_mask]) + exp(logits[neg_mask]).sum(dim=1)))return pos_loss.mean()
该机制强制不同模态对同一解剖结构的特征表示趋于一致,增强模型对模态差异的鲁棒性。
引入模态置信度评估模块,根据当前批次数据的分割难度动态调整模态权重:
采用三阶段伪标签生成策略:
计算每个伪标签的不确定性得分,过滤低质量标注:
设计双向知识蒸馏机制:
该机制防止教师模型过拟合标注数据,保持对未标注数据的泛化能力。
| 方法 | MRI Dice | CT Dice | HD95(mm) | ASD(mm) |
|---|---|---|---|---|
| 全监督基线 | 91.2 | 90.5 | 3.2 | 1.1 |
| MT | 85.7 | 84.3 | 6.8 | 2.4 |
| UA-MT | 87.9 | 86.5 | 5.1 | 1.8 |
| 本研究方法 | 93.4 | 92.7 | 2.7 | 0.9 |
在仅使用20%标注数据的情况下,本研究方法达到接近全监督的性能,显著优于现有半监督方法。
| 组件 | MRI Dice | CT Dice |
|---|---|---|
| 基础U-Net | 82.1 | 80.7 |
| +MCML | 88.6 | 87.2 |
| +PRL | 89.3 | 88.1 |
| +MCML+PRL(完整方法) | 93.4 | 92.7 |
实验证明多模态对比互学习和伪标签再学习均对性能提升有显著贡献,二者存在协同效应。
本研究提出的方法为解决医学图像分割中的小样本问题提供了新思路,其多模态学习机制和动态伪标签优化策略具有广泛的临床应用前景。未来工作将探索跨中心数据下的域适应问题,以及与3D分割网络的结合。