book

L'IA explicable pour les praticiens

by Michael Munn, David Pitman

November 2024

Intermediate to advanced

278 pages

9h 52m

French

O'Reilly Media, Inc.

Book available

Read now

Unlock full access

Qui devrait lire ce livre ?Qu'est-ce que ce livre contient et qu'est-ce qu'il ne contient pas ?Échantillons de codeNaviguer dans ce livreConventions utilisées dans ce livreApprentissage en ligne O'ReillyComment nous contacterRemerciements
Pourquoi l'IA explicable ?Qu'est-ce que l'IA explicable ?Qui a besoin d'explications ?Les défis de l'explicabilitéÉvaluer l'explicabilitéComment l'explicabilité a-t-elle été utilisée ?Comment LinkedIn utilise l'IA explicablePwC utilise l'IA explicable pour les demandes d'indemnisation d'assurance automobile.Accenture Labs explique les décisions de prêtLe DARPA utilise l'IA explicable pour construire l'IA de la troisième vagueRésumé
Qu'est-ce qu'une explication ?Interprétabilité et explicabilitéExplicabilité ConsommateursPraticiens - scientifiques des données et ingénieurs MLObservateurs - parties prenantes du monde des affaires et régulateursUtilisateurs finaux - experts du domaine et utilisateurs concernésTypes d'explicationsExplicabilité de la prémodélisationExplicabilité intrinsèque contre explicabilité a posterioriExplications locales, cohortes et globalesAttributions, explications contrefactuelles et explications basées sur des exemplesThèmes à travers l'explicabilitéAttributions des caractéristiquesModèles de substitutionActivationAssembler le toutRésumé
Permutation Importance de la caractéristiqueImportance des fonctions de permutation à partir de zéroImportance des fonctions de permutation dans scikit-learnValeurs de ShapleySHAP (SHapley Additive exPlanations)Visualisation des attributions de caractéristiques localesVisualisation des attributions de caractéristiques globalesInterprétation des attributions de caractéristiques à partir des valeurs de ShapleyValeurs de Shapley géréesExpliquer les modèles basés sur les arbresDes arbres de décision aux ensembles d'arbresTreeExplainer de SHAPDiagrammes de dépendance partielle et diagrammes apparentésGraphiques de dépendance partielle (PDP)Graphiques des espérances conditionnelles individuelles (ICE)Effets locaux cumulés (ALE)Résumé
Gradients intégrés (IG)Choix d'une base de référenceAccumuler les gradientsAméliorations sur les gradients intégrésXRAIComment fonctionne XRAIMise en œuvre de XRAIGrad-CAMComment fonctionne Grad-CAMMise en œuvre de Grad-CAMAméliorer le Grad-CAMLIMEComment fonctionne LIMEMise en œuvre de LIMEBackpropagation guidée et Grad-CAM guidéeRétropropagation guidée et DeConvNetsGrad-CAM guidéRésumé
Vue d'ensemble de la construction de modèles avec du texteTokenisationEmboîtements de mots et emboîtements préformésLIMEComment LIME fonctionne avec le texteGradient x EntréeIntuition des modèles linéairesDes modèles linéaires aux modèles non linéaires et aux modèles textuelsGradation de la norme L2Couche de gradients intégrésUne variation sur les gradients intégrésPropagation de la pertinence par couches (LRP)Comment fonctionne le PRLExplications à partir de l'attentionQuelle méthode utiliser ?Outil d'interprétabilité des languesRésumé
Autres techniques d'explicabilitéAttribution des entrées alternativesL'explicabilité par la conceptionAutres modalitésDonnées de séries chronologiquesDonnées multimodalesÉvaluation des techniques d'explicabilitéUne approche théoriqueApproches empiriquesRésumé
Qui utilise l'explicabilité ?Comment présenter efficacement des explicationsClarifie ce qui, comment et pourquoi le ML a fonctionné comme il l'a fait.Représenter fidèlement les explicationsS'appuyer sur la compréhension existante du consommateur de MLPièges courants dans l'utilisation de l'explicabilitéSupposer la causalitéAjustement excessif de l'intention à un modèleDemande trop d'explications supplémentairesRésumé
Construire en pensant à l'explicabilitéLe cycle de vie du MLRéglementation de l'IA et explicabilitéCe qu'il faut attendre de l'IA explicableExplications naturelles et sémantiquesExplications interrogativesExplications cibléesRésumé

Consommateurs MLTaxonomie de l'explicabilitéTechniques XAIModèles tabulairesModèles d'imagesModèles de texteTechniques avancées et émergentesInteragir avec l'explicabilitéAssembler le toutPour en savoir plusL'IA explicableInteragir avec l'explicabilitéPrécision technique des techniques XAILa fragilité des techniques XAIXAI pour les DNN

Content preview from L'IA explicable pour les praticiens

Chapitre 2. Aperçu de l'explicabilité

Cet ouvrage a été traduit à l'aide de l'IA. Tes réactions et tes commentaires sont les bienvenus : translation-feedback@oreilly.com

L'explicabilité fait partie de l'apprentissage automatique depuis la création de l'IA. Les toutes premières IA, les systèmes de chaînes basés sur des règles, étaient spécifiquement construits pour fournir une compréhension claire de ce qui a conduit à une prédiction. Le domaine a continué à rechercher l'explicabilité en tant qu'élément clé des modèles, en partie en raison de l'accent mis sur l'IA générale, mais aussi pour justifier que la recherche était saine et sur la bonne voie, pendant de nombreuses décennies, jusqu'à ce que la complexité des architectures de modèles dépasse notre capacité à expliquer ce qui se passait. Après l'introduction des neurones ML et des réseaux neuronaux dans les années 1980,¹ la recherche sur l'explicabilité a diminué, car les chercheurs se sont concentrés sur la survie au premier hiver de l'IA en se tournant vers des techniques "explicables" parce qu'elles reposaient uniquement sur des techniques statistiques, telles que l'inférence bayésienne, qui avaient fait leurs preuves dans d'autres domaines. L'explicabilité sous sa forme moderne (et ce sur quoi nous nous concentrons largement dans ce livre) a été relancée, désormais en tant que domaine de recherche distinct, au milieu des années 2010 en réponse à la question persistante de Ce modèle fonctionne vraiment bien... mais comment ...