Las explicaciones no pueden existir en el vacío. Las consumimos, las utilizamos y actuamos sobre ellas nosotros mismos, nuestros colegas, los auditores y el público para comprender por qué una IA actuó como lo hizo. Sin explicabilidad (e interpretabilidad), el Aprendizaje Automático (AM) es una vía unidireccional de información y predicciones. Podemos ver a un ML hacer algo asombroso, como traducir un párrafo de un idioma a otro, pero es raro que confiemos inequívocamente en la tecnología.
Fundamentalmente, mantenemos una relación de trabajo con cada IA que utilizamos. Imagina el aprendizaje automático como tu compañero de trabajo. Aunque este compañero de trabajo hiciera un trabajo increíble, nos resultaría difícil trabajar con él si, cuando le pidiéramos que realizara una tarea, se marchara a otra habitación, volviera con la respuesta y, a continuación, se marchara rápidamente de nuevo, ¡sin responder nunca a nuestras preguntas ni a nada de lo que dijéramos! Este problema del colaborador silencioso es lo que la explicabilidad trata de resolver iniciando un diálogo bidireccional, como en la Figura 7-1, entre el sistema de ML y sus usuarios. Sin embargo, este diálogo es muy limitado dado lo novedosa que es la explicabilidad, lo que hace que tus elecciones sobre cómo construir ese diálogo sean aún más importantes.
Become an O’Reilly member and get unlimited access to this title plus top books and audiobooks from O’Reilly and nearly 200 top publishers, thousands of courses curated by job role, 150+ live events each month, and much more.
