[XAI] LRP(Layer-wise Relevance Propagation)

이미지 시각화 기법

• Feature Map 시각화
  • LIME, Filter Visualization과 같이 모델이 입력 이미지에 어떻게 반응하는지 '은닉층'을 조사하는 방법이다. 하지만 은닉층이 깊어질 수록 해석력이 떨어진다는 단점을 가진다.
• Heatmap 시각화
  • LRP는 딥러닝 모델의 결과를 역추적해서 입력 이미지에 히트맵을 출력. 블랙박스가 데이터의 어느 곳을 주목하는지 표시할 수 있기 때문에 오인의 가능성이 적음.

---

참고 문헌 : 

https://velog.io/@sjinu/%EA%B0%9C%EB%85%90%EC%A0%95%EB%A6%AC-LRPLayer-wise-Relevance-Propagationhttps://angeloyeo.github.io/2019/08/17/Layerwise_Relevance_Propagation.html

[개념정리] LRP(Layer-wise Relevance Propagation)

Layer-wise Relevance Propagation - 공돌이의 수학정리노트 (Angelo's Math Notes)