Diseño de aplicaciones con uso intensivo de datos, 2nd Edición

capítulo 14. Hacer lo correcto

Alimentar los sistemas de IA con la belleza, la fealdad y la crueldad del mundo, pero esperar que solo reflejen la belleza es una fantasía.

Vinay Uday Prabhu y Abeba Birhane, “Large Datasets: A Pyrrhic Win for Computer Vision?” (2020)

En el último capítulo de este libro, demos un paso atrás. A lo largo del libro hemos examinado una amplia gama de arquitecturas para sistemas de datos, evaluado sus pros y contras, y explorado técnicas para crear aplicaciones confiables, escalables y fáciles de mantener. Sin embargo, hemos omitido una parte fundamental del debate, que ahora debemos completar.

Cada sistema se crea con un propósito; cada acción que realizamos tiene consecuencias tanto intencionadas como no intencionadas. El propósito puede ser tan simple como ganar dinero, pero las consecuencias pueden ser de gran alcance. Nosotros, los ingenieros que creamos estos sistemas, tenemos la responsabilidad de considerar cuidadosamente esas consecuencias y asegurarnos de que nuestras decisiones no causen daño.

Hablamos de los datos como algo abstracto, pero recordemos que muchos conjuntos de datos se refieren a personas: su comportamiento, sus intereses, su identidad. Debemos tratar esos datos con humanidad y respeto. Los usuarios también son seres humanos, y la dignidad humana es primordial [1].

El desarrollo de software implica cada vez más tomar decisiones éticas importantes. Existen directrices para ayudar a los ingenieros de software a abordar estas ...