book

L'IA explicable pour les praticiens

by Michael Munn, David Pitman

November 2024

Intermediate to advanced

278 pages

9h 52m

French

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

Qui devrait lire ce livre ?Qu'est-ce que ce livre contient et qu'est-ce qu'il ne contient pas ?Échantillons de codeNaviguer dans ce livreConventions utilisées dans ce livreApprentissage en ligne O'ReillyComment nous contacterRemerciements
Pourquoi l'IA explicable ?Qu'est-ce que l'IA explicable ?Qui a besoin d'explications ?Les défis de l'explicabilitéÉvaluer l'explicabilitéComment l'explicabilité a-t-elle été utilisée ?Comment LinkedIn utilise l'IA explicablePwC utilise l'IA explicable pour les demandes d'indemnisation d'assurance automobile.Accenture Labs explique les décisions de prêtLe DARPA utilise l'IA explicable pour construire l'IA de la troisième vagueRésumé
Qu'est-ce qu'une explication ?Interprétabilité et explicabilitéExplicabilité ConsommateursPraticiens - scientifiques des données et ingénieurs MLObservateurs - parties prenantes du monde des affaires et régulateursUtilisateurs finaux - experts du domaine et utilisateurs concernésTypes d'explicationsExplicabilité de la prémodélisationExplicabilité intrinsèque contre explicabilité a posterioriExplications locales, cohortes et globalesAttributions, explications contrefactuelles et explications basées sur des exemplesThèmes à travers l'explicabilitéAttributions des caractéristiquesModèles de substitutionActivationAssembler le toutRésumé
Permutation Importance de la caractéristiqueImportance des fonctions de permutation à partir de zéroImportance des fonctions de permutation dans scikit-learnValeurs de ShapleySHAP (SHapley Additive exPlanations)Visualisation des attributions de caractéristiques localesVisualisation des attributions de caractéristiques globalesInterprétation des attributions de caractéristiques à partir des valeurs de ShapleyValeurs de Shapley géréesExpliquer les modèles basés sur les arbresDes arbres de décision aux ensembles d'arbresTreeExplainer de SHAPDiagrammes de dépendance partielle et diagrammes apparentésGraphiques de dépendance partielle (PDP)Graphiques des espérances conditionnelles individuelles (ICE)Effets locaux cumulés (ALE)Résumé
Gradients intégrés (IG)Choix d'une base de référenceAccumuler les gradientsAméliorations sur les gradients intégrésXRAIComment fonctionne XRAIMise en œuvre de XRAIGrad-CAMComment fonctionne Grad-CAMMise en œuvre de Grad-CAMAméliorer le Grad-CAMLIMEComment fonctionne LIMEMise en œuvre de LIMEBackpropagation guidée et Grad-CAM guidéeRétropropagation guidée et DeConvNetsGrad-CAM guidéRésumé
Vue d'ensemble de la construction de modèles avec du texteTokenisationEmboîtements de mots et emboîtements préformésLIMEComment LIME fonctionne avec le texteGradient x EntréeIntuition des modèles linéairesDes modèles linéaires aux modèles non linéaires et aux modèles textuelsGradation de la norme L2Couche de gradients intégrésUne variation sur les gradients intégrésPropagation de la pertinence par couches (LRP)Comment fonctionne le PRLExplications à partir de l'attentionQuelle méthode utiliser ?Outil d'interprétabilité des languesRésumé
Autres techniques d'explicabilitéAttribution des entrées alternativesL'explicabilité par la conceptionAutres modalitésDonnées de séries chronologiquesDonnées multimodalesÉvaluation des techniques d'explicabilitéUne approche théoriqueApproches empiriquesRésumé
Qui utilise l'explicabilité ?Comment présenter efficacement des explicationsClarifie ce qui, comment et pourquoi le ML a fonctionné comme il l'a fait.Représenter fidèlement les explicationsS'appuyer sur la compréhension existante du consommateur de MLPièges courants dans l'utilisation de l'explicabilitéSupposer la causalitéAjustement excessif de l'intention à un modèleDemande trop d'explications supplémentairesRésumé
Construire en pensant à l'explicabilitéLe cycle de vie du MLRéglementation de l'IA et explicabilitéCe qu'il faut attendre de l'IA explicableExplications naturelles et sémantiquesExplications interrogativesExplications cibléesRésumé

Consommateurs MLTaxonomie de l'explicabilitéTechniques XAIModèles tabulairesModèles d'imagesModèles de texteTechniques avancées et émergentesInteragir avec l'explicabilitéAssembler le toutPour en savoir plusL'IA explicableInteragir avec l'explicabilitéPrécision technique des techniques XAILa fragilité des techniques XAIXAI pour les DNN

Content preview from L'IA explicable pour les praticiens

Chapitre 6. Sujets avancés et émergents

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com

avec Sheeraz Ahmad

Jusqu'à présent, le livre s'est concentré sur des techniques, des modalités et des cas d'utilisation bien établis. Cependant, l'IA explicable (XAI) continue d'être un domaine de recherche actif, de sorte que de nouvelles techniques sont continuellement développées et que les techniques existantes sont améliorées et examinées de plus près. Les explications basées sur les caractéristiques, telles que les valeurs de Shapley et les gradients intégrés présentés dans les chapitres précédents, peuvent couvrir de nombreux cas d'utilisation, en particulier lorsqu'elles sont appliquées à des données textuelles, tabulaires et d'images. Cependant, il existe plusieurs techniques et sujets émergents qui peuvent s'avérer précieux dans ta boîte à outils d'explicabilité dans des situations spécifiques.

Dans ce chapitre, nous aborderons trois grands sujets émergents. Tout d'abord, nous présenterons d'autres techniques d'explication telles que l'attribution aux entrées (par opposition aux caractéristiques) et la possibilité d'expliquer les modèles par leur conception. Deuxièmement, nous verrons brièvement comment certaines des techniques introduites précédemment peuvent être appliquées de manière plus générale à des formats de données qui ne sont pas des textes, des tableaux ou des images, en nous concentrant ...