unet 网络中用 concat 和用加法有什么区别呢?哪个更好?

回答·10
最热
最新
  • concat 会增厚特征图,即特征图的 channel 个数增加,特征相当于变厚或者更丰富。加法是逐点相加,每一个像素值是二者之和,例如 FCN 就是使用加法,这种情况下特征更类似于融合
  • concate 是矩阵数据的拼接,+号是拼接字符串的
  • 看显存消费,concat 大,summation 小,unet 精度要求不高时最好是 summation,因为能减少 tops 和显存消耗
  • Concat 不损失信息,加法特征数据就融合了,有可能导致提取特征出现问题。
  • +: 两个或者多个 shape 一致的 feature map 的对应位置上的元素值相加 concat:两个或多个的 feature map 在某一维度下进行拼接,像骨肉相连一样串在一起。类似的操作还有 stack 等等一堆
  • concat 对 conv deconv 特征层进行拼接,然后再接上 conv 进行特征融合,而元素加法只不过是其中一种特殊融合情况
  • 矩阵拼接和矩阵元素相加
  • 特征提取的话要看情况,一般用 concat
  • 拼接更好。因为后面会跟上卷积,哪怕是 1x1 卷积,对这些向量按权重融合。 直接相加会损失信息。
  • 两个特征图,concat 相当于保留了原始特征。而相加相当于把两个特征合并成了一个特征,降低了计算量,但是也造成了特征损失