망중한 블로그

이미지 시각화 기법 Feature Map 시각화 LIME, Filter Visualization과 같이 모델이 입력 이미지에 어떻게 반응하는지 '은닉층'을 조사하는 방법이다. 하지만 은닉층이 깊어질 수록 해석력이 떨어진다는 단점을 가진다. Heatmap 시각화 LRP는 딥러닝 모델의 결과를 역추적해서 입력 이미지에 히트맵을 출력. 블랙박스가 데이터의 어느 곳을 주목하는지 표시할 수 있기 때문에 오인의 가능성이 적음. 참고 문헌 : https://velog.io/@sjinu/%EA%B0%9C%EB%85%90%EC%A0%95%EB%A6%AC-LRPLayer-wise-Relevance-Propagationhttps://angeloyeo.github.io/2019/08/17/Layerwise_Relevance_..

CS231n 12강. Visualizing and Understanding 듣기!!! Input Image를 모델이 어떻게 분류했는지 visualization하는 방법 Occlusion Experiment[Zeiler & Fergus 2013] Input Image의 어느 부분이 이미지 분류에 큰 영향을 미치는지 알아봄. 회색상자를 씌웠을 때 코끼리로 분류할 확률이 낮아지면 그 부분이 중요하다는 뜻임. 회색상자는 계속 이동함. 사람이 잘 이해하게 하는 방법

딥러닝 모델을 이해하기 위해 CNN의 필터들이 어떻게 생겼는지, Input Image에서 모델의 성능에 미치는 부분이 어디인지, 특정 클래스의 activation을 최대화 하는 이미지 생성이란 무엇인가에 대해 알아보고자 한다. 0. Vision CNN에 공부하다보면 한 번씩은 들어봤을 법한 고양이 실험. - 각기 다른 부분의 뉴런이 각기 다른 특징을 인식한다. - 대뇌피질에서 가까운 세포들은 가까운 물체를 처리한다. 1. Filter Edge Detection - Edge pixels : 영상 내 특정한 픽셀 주변의 밝기 값이 급격하게 변하는 픽셀 - Edges : 엣지 픽셀들의 연속된 집합 edge 감지법 : 미분을 통해 변화량을 구하면 유난히 변화량이 큰 부분이 있다 => edge검출 - 왜 역 ta..

불순도(Impurity) 와 엔트로피(Entropy) 설명이 아주 잘 나온 블로그가 있다. https://computer-science-student.tistory.com/60 불순도(Impurity)와 엔트로피(Entropy) 불순도(Impurity) 불순도란 다양한 범주(Factor)들의 개체들이 얼마나 포함되어 있는가를 의미한다. 쉽게 말하면 여러 가지의 클래스가 섞여 있는 정도를 말한다. 반대로 순수도(purity)는 같은 클래스 computer-science-student.tistory.com Decision Tree 분할의 적합성 Decision Tree(이하 DT)에서는 주어진 데이터 집합을 가장 적합한 기준으로 분할해야 하는데, 어떻게 적합하게 분할할 것인가에 대한 기준이 필요하다. 분할의..