為什麼模型會這樣認為？解釋的深度學習方法的介紹-視覺化篇 - Taiwan AI Academy - M...

ref
促使我撰寫這篇文章的原因，是因為今年(2020)四月份有一篇很熱門的可解釋深度學習技術的統整論文 Explainable Deep Learning: A Field Guide for the Uninitiated 中，內部有很多關於深度學習模型解釋的技巧。
本篇medium將會介紹該篇論文的第 4.1 章節 Visualization Methods 中列出的CAM跟Grad-CAM的概念。
DeepLearning 深度學習

結果發現資料集的儲存格式不一樣：
寶可夢是用png檔儲存
數碼寶貝是用jpeg儲存

而png與jpeg檔案的背景在讀取後分別為黑色以及白色，模型在訓練時就發現了這個規律，並直接表現出來，這也是為什麼訓練以及測試的時候表現都非常好，但是模型不一定做的是你認為正確的事情。