Paper Review: Effective Encoder-Decoder Network for Multiple Multi-Scale Jagged Masks in Vehicle Damage Segmentation

gitae lee·2026년 3월 31일

paper review

목록 보기
12/13
post-thumbnail

IEEE Access 2026.
A-Seong Moon, Min-Kyung Sung, Jaesung Lee
AutoML Lab, Chung-Ang University

23 January 2026


💡Key Point

다수, 다중스케일, 불규칙 경계(MMSJM)라는 복합적인 문제를 가진 차량 손상 이미지는 어떻게 접근해야 할까?

1. Motivation

  • 기존 segmentation 모델(Mask R-CNN, UNet, SegFormer 등)은 일반적인 object segmentation에서는 좋은 성능을 보임
  • 하지만 ‘차량 손상 segmentation’ 이라는 특수한 task는 여러 특징을 가짐

‘차량 손상 segmentation’의 어려움

1) 다양한 크기(multi-scale) 문제

  • 작은 스크래치부터 큰 찌그러짐까지 공존한다
  • fixed receptive field 기반 모델은 모든 스케일을 동시에 처리하기가 어렵다

2) 불규칙한 경계 (jagged boundary)

  • 손상 영역은 경계가 명확하지 않고 매우 복잡하다
  • 기존 모델은 boundary localization이 부정확하다는 문제가 있다

3) 다중 손상 영역 (multiple instances)

  • 일반적으로 한 이미지에는 여러 손상이 동시에 존재한다
  • 서로 가까이 있거나 겹치면서 segmentation 오류가 발생할 수 있다

4) 복잡한 환경의 영향

  • 조명, 배경, 시점, 차량 색상 등에 따라 appearance가 크게 변한다
  • 일반 segmentation보다 훨씬 노이즈한 입력 환경을 고려해야한다

⇒ 논문에서는 이를 ‘Multiple Multi-Scale Jagged Masks (MMSJM)’로 정의

기존 연구들의 한계점

  • multi-scale, attention, boundary refinement등의 기법은 존재하지만 대부분 개별적으로만 적용됨
    • scale 문제만 해결, boundary만 개선 등..
  • 그러나 실제 환경에서는 이 모든 문제가 ‘동시에 발생’하므로 기존 방법으로는 완전한 해결이 불가능하다.

차량 손상 segmentation은 다양한 크기, 다중 객체, 불규칙한 경계가 동시에 존재하는 MMSJM 문제이며, 기존 방법들은 이를 통합적으로 해결하지 못한다.

2. Insight

1) 차량 손상 분할은 ‘복합 문제(MMSJM)’를 모두 고려해야 한다

  • 차량 손상은 단순한 object 분할과 다르게 여러 개의 손상이 동시에 존재하고, 크기가 다양하고, 경계가 불규칙하다.
  • 기존에는 이러한 요소들을 각각 개별적으로 처리했지만 실제 환경에서는 multiple + multi-scale + jagged 문제가 동시에 발생하기 때문에, 복합 기법으로 접근해야 한다.

2) 문제 요소를 해결하는 모듈 매칭과 모듈 간 상호작용이 중요하다

  • 기존 방식은 하나의 일반적인 feature extractor로 모든 문제(MMSJM)을 해결하려고 한다.
  • 하지만 각각의 문제에 대응하는 모듈을 개별적으로 설계하는 것이 중요하고,
  • 설계된 모듈들을 어떻게 효과적으로 상호작용하게 만드는지가 중요하다.

3) segmentation의 핵심은 feature 선택과 강조 방식

  • 차량 손사은 “배경과 시각적으로 유사한 경우”가 많다
  • 따라서 단순 feature extraction만으로는 부족하고 어떤 feature가 실제 손상인지 선택하고 중요도를 재조정하는 과정이 필요하다.

3. Method

Overall Architecture

  • encoder-decoder + fully convolutional 구조
  • 입력: 512 x 512 x 4 이미지
  • 출력: pixel 단위 손상 마스크

모듈 1: Channel-wise Feature Recalibration

  • 여러 손상 영역이 동시에 존재할 때 발생하는 feature간 간섭 문제를 해결하기 위한 모듈
  • 각 채널의 global 정보를 기반으로 중요도 계산 → 이를 통해 feature 재조정
    1. Global Average Pooling → channel descriptor 생성

      zc=1HWi=1Hj=1WFc,i,jz_c = \frac{1}{H W} \sum_{i=1}^{H} \sum_{j=1}^{W} F_{c,i,j}

    2. MLP → channel-wise weight 계산 (MLP+sigmoid)

      w=σ(W2δ(W1z))w = \sigma \left( W_2 \, \delta (W_1 z) \right)

    3. 원 feature에 weight 적용 (scaling)

      Fcscaled=wcFcF_c^{scaled} = w_c \cdot F_c

⇒ 서로 인접하거나 겹치는 손상 영역의 구분을 용이하게 함 (중요 채널 강조, 불필요 채널 억제)

모듈 2: Multi-scale Feature Aggregation

  • 다양한 크기의 손상 영역을 동시에 인식하기 위한 multi-branch 모듈
  • 하나의 feature map에 대해 아래 연산을 병렬로 수행
    1. 1×1 conv (local 정보 유지)
    2. 3×3 dilated conv (r = 6, 12, 18)
    3. global average pooling (global context)
  • 각 branch의 출력을 channel-wise로 결합한 뒤, 1x1 conv로 통합
    • feature concat
      • Fctx=[ϕ1(Fenc),ϕ2(Fenc),,ϕK(Fenc)]F_{ctx} = [\phi_1(F_{enc}), \phi_2(F_{enc}), \dots, \phi_K(F_{enc})]
    • final aggregation
      • Fagg=δ(BN(WFctx))F_{agg} = \delta \left( BN(W \cdot F_{ctx}) \right)

⇒ 다양한 수용 영역 활용으로 인해 작은 손상부터 큰 손상까지 다양한 스케일에 대응이 가능

모듈 3: Dual-stage Attention

  • 불규칙하고 모호한 경계를 가지는 손상 영역을 정밀하게 포착하기 위한 모듈
  • 인코더 피처맵이 디코더로 전달되기 전, skip connection 경로에서 적용됨

Channel Attention

  • avg pooling과 max pooling을 통해 channel descriptor 생성
  • MLP를 통해 channel-wise weight 계산 후 feature에 적용 ⇒ 어떤 feature가 중요한지 선택

Spatial Attention

  • channel 방향 pooling을 통해 spatial map 생성
  • convolutional을 통해 spatial attention map 생성 후 feature에 적용 ⇒ 어느 location이 중요한지 선택

⇒ 경계 region에서의 feature 대비력이 향상, 더 정교하고 정확 segmentation boundary 생성

4. Experiment Analysis

1) Quantitative & Qualitative Results

  • 모든 metric 에서 기존 모델 대비 일관된 성능 향상을 보였음
  • 특히 precision과 recall이 동시에 높은 수치를 달성했고 밸런스 있는 segmentation 성능을 달성
  • 시각적 결과에서도 multiple damage region을 정확히 분리하였고 boundary가 더 정교하가 노이즈가 적음

⇒ 복잡한 MMSJM 환경에서도 정확도와 안정성을 동시에 확보함

2) Comparative Analysis

  • 기존 일부 모델은 recall은 높지만 precision이 낮아 과도한 검출(over-segmentation) 발생
  • 또 다른 일부 모델은 precision은 높지만 recall이 낮아 손상 영역을 놓치는 문제 발생
  • 본 모델은 false positive와 false negative를 동시에 줄였고 신뢰도 높은 segmentation 결과를 생성함

⇒ 특히 다양한 크기와 형태의 손상이 혼재된 상황에서 일관된 성능 유지

3) Ablation Study

  • 각 모듈의 개별 적용 시
    • Multi-scale aggregation → 다양한 크기 대응 (recall 증가)
    • Dual attention → boundary 정밀화 (precision 증가)
    • Channel recalibration → feature 간 간섭 감소
  • 하지만 단일 모듈만으로는 성능이 제한적이며 특정 metric만 개선되는 trade-off 발생

⇒ 각 모듈은 서로 보완적 → 세 모듈을 모두 결합했을 때 가장 효과적

5. Significance of Paper

1) 다중 문제(MMSJM )를 온전히 해결한 논문

  • 차량 손상 segmentation의 어려움을 multiple + multi-scale+ jagged boundary → MMSJM이라는 하나의 문제로 정의함
  • 기존 연구가 개별 요소만 다뤘던 것과 달리 문제를 구조적으로 분해하고 각 요소에 대응하는 모듈을 설계했음

2) 문제 요소 - 해결 모듈 간의 균형 있는 조합

  • 해결책으로 제시된 multi-scale, attention, channel weighting은 기존에도 존재하였지만
  • 본 논문은 단순히 모듈을 추가하는 것이 아니라, 각 모듈을 특정 문제에 대응하도록 설계했음
  • 단순히 좋은 모듈간의 조합이 아니라 특수한 segmentation 상황에 맞게 효과적인 모듈 결합을 선보임

3) Precision–Recall 균형을 동시에 개선

  • 기존 모델은 두 지표 간 trade-off 관계가 뚜렷하게 드러났지만,
    • recall ↑ → over-segmentation
    • precision ↑ → under-segmentation
  • 제안한 모델은 false positive / false negative 모두 감소된 결과를 보여 균형 잡힌 segmentation 성능을 달성했음

0개의 댓글