3.4 Explainable CNN

---

Explainable CNN이란 deep learning 처리 과정 및 결과를 사람이 이해할 수 있는 방식으로 보여주는 것.

CNN에는 blackbox가 존재해 내부에서 어떻게 동작하고 있는지 설명하기가 어렵고, 그 결과를 신뢰하기도 어렵다. 따라서 내부에서 어떻게 데이터가 처리되고 있는지 시각화할 필요가 있다.

---

3.4.1 Feature Map

Feature map이란 filter를 input image에 적용한 것이다. Input feature를 시각화하여 감지할 수 있게 해 주는 역할을 한다.

먼저 라이브러리 호출.

Explainable model을 위하 13개의 convolutional layer와 두 개의 fully connected layer로 구성된 network를 만든다. 이때 convolutional layer와 fully connected layer는 activation function으로 ReLU를 사용하기로 하자.