Review 썸네일형 리스트형 A Benchmark for Interpretability Methods in Deep Neural Networks 1. Introduction Machine Learning에서 어떤 특징점이 예측에 중요한 역할을 하는지 알아내는 것은 매우 중요합니다. 이를 통해서 Model의 성능을 향상시키는 방법을 알아내는 것, 예측에 대한 신뢰성 확보, 이상 탐지를 알아내는데 도움을 줍니다. 하지만 이 분야는 Ground Truth 가 없다는 점과 정확히 측정할 수 있는 수학적 방법이 없다는 점으로 인해 해결하기 쉽지 않습니다. 두 가지를 요약하면 즉, 정답이 없다는 것입니다. 하지만 이 논문에서는 수학적이진 않지만 실험적으로 어떠한 특징점이 중요한지 평가를 하는 방법을 소개합니다. 일반적으로 지금까지 대표적으로 사용되어 왔던 특징점의 중요도를 평가하는 방법에는 해당 특징점을 삭제한 후 기존 Model의 성능이 얼마나 떨어졌는지.. 더보기 이전 1 다음
