TIP2023| nnFormer:利用交错三维卷积和变换器进行医疗分割的新方案 - 5 结论
最编程
2024-04-14 15:25:46
...
在本文中,我们提出了一种用于3D图像分割的三维Transformer:nnFormer。nnFormer是在卷积和自注意力的交错主干之上构建的。
卷积有助于编码精确的空间信息和构建层次分明的对象概念。对于自注意力,nnFormer采用了三种注意机制来纠缠长距离的依赖关系。具体来说,基于局部和全局体积的自注意力侧重于构建特征金字塔和提供大的感受野。跳过式注意力负责弥补编码器和解码器之间的差距。实验表明,在HD95和DSC中,nnFormer与以前基于Transformer的模型相比,保持了很大的优势。与nnUNet相比,nnFormer在HD95中的表现明显更好,同时在DSC中产生了相当的结果。更重要的是,我们证明了nnFormer和nnUNet在模型组合中可以相互受益,其中简单的平均化操作已经可以产生很大的改进。
上一篇: 数据仓库洞察