딥러닝 네트워크는 종종 이미지나 정보의 어느 부분이 네트워크 예측을 담당했는지 드러내지 않는 "블랙 박스"로 간주된다.
이러한 모델이 잘못된 예측을 제공하면 임상의가 혼란스러할 수 있고, 종종 그 이유에 대한 합리적인 설명을 얻지 못할 수 있다. 클래스 활성화 매핑 (CAM)은 컨볼루션 신경망의 예측에 대한 시각적 설명을 얻을 수 있는 중요한 기술이다. CAM을 사용하여 임상의는 입력 이미지의 특정 부분이 네트워크를 정확한 예측을 하도록 "안내"했는지 또는 잘못된 예측을 하도록 "혼동"시켰는지 확인할 수 있다. 예를 들어, 네트워크가 사진 배경이나 다른 해부학적 구조물을 보고 판단하는 경우는 배경을 없애거나, 영역을 한정할 수 있고, Classification 문제에서 특정 class의 정확도가 낮은 경우, 이미지질에 문제가 없는 경우라면, 영역을 한정하거나 해당 class의 데이터 수를 늘릴 수도 있다. CAM은 또한 치과 진단과 관련된 기존 지식을 확인하고, 새로운 지식을 발견하는 유용한 도구로 사용될 수 있다.