Systèmes de production à apprentissage automatique
by Robert Crowe, Hannes Hapke, Emily Caveness, Di Zhu
Chapitre 9. Interprétabilité
Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com
L'interprétabilité des modèles t'aide à développer une compréhension plus profonde du fonctionnement de tes modèles.
L'interprétabilité elle-même n'a pas de définition mathématique. Biran et Cotton ont donné une bonne définition de l'interprétabilité. Ils ont écrit que les systèmes, ou dans ce cas les modèles, "sont interprétables si leurs opérations peuvent être comprises par un humain, soit par introspection, soit par une explication produite." En d'autres termes, s'il existe un moyen pour un humain de comprendre pourquoi un modèle a produit un certain résultat, le modèle est interprétable.
Le terme d'explicabilité est également souvent utilisé, mais la distinction entre l'interprétabilité et l'explicabilité n'est pas bien définie. Dans ce chapitre, nous nous référerons principalement aux deux termes d'interprétabilité.
L'interprétabilité devient à la fois de plus en plus importante et de plus en plus difficile à mesure que les modèles deviennent de plus en plus complexes. Mais la bonne nouvelle, c'est que les techniques permettant d'atteindre l'interprétabilité s'améliorent également.
L'IA explicable
Interprétabilité fait partie d'un domaine plus vaste connu sous le nom d'IA responsable. Le développement de l'IA et l'application réussie de l'IA à de plus en plus de problèmes ont entraîné une croissance rapide de la ...
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month,
and much more.
Read now
Unlock full access