Deep Learning para programadores com fastai e PyTorch

Capítulo 18. Interpretação de CNN com CAM

Este trabalho foi traduzido com recurso a IA. Agradecemos o teu feedback e comentários: [e-mail]

Agora que sabemos como construir praticamente qualquer coisa a partir do zero, vamos usar esse conhecimento para criar uma funcionalidade inteiramente nova (e muito útil!): o mapa de ativação de classes. Dá-nos uma ideia do porquê de uma CNN ter feito as previsões que fez.

No processo, aprenderemos sobre um recurso útil do PyTorch que não vimos antes, o hook, e aplicaremos muitos dos conceitos introduzidos no resto do livro. Se quiseres realmente testar a tua compreensão do material deste livro, depois de terminares este capítulo, tenta pô-lo de lado e recriar as ideias aqui contidas a partir do zero (sem espreitar!).

CAM e ganchos

O mapa de ativação de classe (CAM) foi introduzido por Bolei Zhou et al. em"Learning Deep Features for Discriminative Localization". Utiliza a saída da última camada convolucional (imediatamente antes da camada de pooling médio) juntamente com as previsões para nos dar uma visualização de mapa de calor do motivo pelo qual o modelo tomou a sua decisão. Esta é uma ferramenta útil para a interpretação.

Mais precisamente, em cada posição da nossa camada convolucional final, temos tantos filtros como na última camada linear. Podemos então calcular o produto escalar dessas activações com os pesos finais para obter, para cada localização no nosso mapa de caraterísticas, a pontuação da caraterística ...