
8.4 Mécanismes d’attention
319
© Dunod – Toute reproduction non autorisée est un délit.
de chiens avec de la neige. Cet exemple est tiré de l’excellent article
213
publié en 2016
par Marco Tulio Ribeiro et al., dans lequel les auteurs utilisent une autre approche
pour l’explicabilité : apprendre un modèle interprétable localement autour d’une pré
-
diction d’un classificateur.
Dans certaines applications, l’explicabilité n’est pas qu’un simple outil de débogage
d’un modèle. Il peut s’agir d’une exigence légale (pensez à un système qui décide s’il
doit vous accorder un prêt).
Les mécanismes d’attention sont si puissants que vous pouvez construire des ...