L'apprentissage automatique pour les applications à haut risque

Chapitre 7. Explication d'un classificateur d'images PyTorch

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : [e-mail]

Le chapitre 6 s'est concentré sur l'utilisation de modèles explicables et d'explications post hoc pour les modèles formés sur des données tabulaires. Dans ce chapitre, nous allons aborder ces mêmes concepts dans le contexte des modèles d'apprentissage profond (DL) formés sur des données non structurées, avec un accent particulier sur les données d'image. Des exemples de code pour le chapitre sont disponibles en ligne, et n'oublie pas que le chapitre 2 introduit les concepts de modèles explicables et d'explication post hoc.

Nous commencerons ce chapitre par une introduction au cas d'utilisation hypothétique démontré par des exemples techniques dans ce chapitre. Ensuite, nous procéderons de la même manière qu'au chapitre 6. Tout d'abord, nous présenterons un rappel des concepts sur les modèles explicables et les méthodes d'attribution des caractéristiques pour les réseaux neuronaux profonds - en nous concentrant sur les méthodes d'explication basées sur la perturbation et le gradient. Nous reprendrons également le fil du chapitre 6 en expliquant comment les techniques d'explicabilité peuvent éclairer le débogage des modèles, un sujet que nous développerons encore davantage dans les chapitres 8 et 9.

Ensuite, nous discuterons plus en détail des modèles intrinsèquement explicables. Nous proposons ...