본문 바로가기

Deep Learning/Paper Review

Assessing the Trustworthiness of Saliency Maps for Localizing Abnormalities in Medical Imaging (2021, RSNA Radiology:Artificial Intelligence)

320x100
320x100

 

논문 링크

 

 지난 논문과 비슷한 주제의 논문이다. Saliency map을 실제 이상 소견의 위치로 봐도 되는지에 대해 의문을 던지는 논문이다. 지난 논문은 Saliency map과 expert annotation 사이의 성능을 비교했다면, 이번 논문은 saliency map과 localization uitility (segmentation and detection) 사이의 성능을 여러 측면에서 비교한다. 실험을 위해 저자는 Segmentation 비교에는 SIIM 데이터셋 (PNX)과 UNet을, Detection 비교에는 RSNA 데이터셋 (PN)과 RetinaNet을 사용했다.

 

여러 가지 테스트를 진행하고서 저자는 Localization 결과를 얻고 싶다면 Saliency map은 신뢰성이 부족하니까 UNet이나 RetinaNet 같은 모델을 사용하는 것을 추천한다고 결론 내렸다.

  • Saliency map의 성능은 UNet, RetinaNet에 비해 많이 부족하다.
    >> This highlights a severe limitation in the saliency maps as a whole and shows that using models trained directly on localization tasks (such as U-Net and RetinaNet) greatly improves the results.
  • 여러가지 Saliency map 중에서 XRAI는 꽤나 괜찮은 결과를 보이고 있다는 것 같음.
    (훑듯 읽어서 확실하지 않음)

 


 

 회사에서 진행한 Pulmonary nodule detection 연구와 비슷한 결과를 나타내고 있다. 아무래도 saliency map을 localization 결과로 바라보는 것은 무리인 것 같다. 그리고 Pixel-level annotation이 성능 좋은 모델 학습을 위해서 제일 중요한 데이터인 것 같다. 

 

그거 그렇고,

학습에 같은 데이터셋을 사용했을 때,

classifier와 localizer 중 누가 더 robust한 성능을 낼까?

그리고 둘 중 어느 모델의 youden index가 더 안정적일까?