IA explicable para profesionales

Apéndice. Taxonomía, técnicas y lecturas complementarias

Para ayudarte a utilizar este libro en el futuro, hemos elaborado un breve repaso de los temas y técnicas que se tratan en él. Puedes utilizar estas guías y tablas como referencia en el futuro para que te ayuden a examinar rápidamente tus opciones ante un nuevo problema antes de sumergirte en más detalles.

Consumidores ML

Hay tres tipos de usuarios que consumen e interactúan con el ML:

Profesionales del ML

Científicos de datos e ingenieros de ML que construyen, desarrollan, ajustan, implementan y ponen en funcionamiento un modelo.

Observadores

Las partes interesadas del negocio y los reguladores que no participan en la ingeniería del modelo, pero que tampoco utilizan el modelo en la implementación. Utilizan las explicaciones para validar el rendimiento del modelo y generar confianza en que funciona según lo esperado.

Usuarios finales

Expertos en el dominio y usuarios afectados que utilizan las predicciones de un modelo o se ven afectados por ellas. Pueden tener un profundo conocimiento del contexto en el que opera el modelo o pueden verse afectados por el resultado de la predicción de un modelo, con escasos conocimientos previos en ML o en el dominio.

Taxonomía de la explicabilidad

Hay varias características que ayudan a definir el campo de la explicabilidad. Éstas son

Explicabilidad frente a interpretabilidad

Aunque a veces se utiliza indistintamente en la industria, definimos la explicabilidad como las técnicas que ...