 |
Título:
WEAPONS OF MATH DESTRUCTION Autor: Cathy O'Neil Editorial: Penguin Books Idioma: Inglés Páginas: 272 Publicación: 2017 Lectura: 2021 |
 |
| COMENTARIO EDITORIAL |
|
(Fuente: Descripción de producto en Amazon)
Vivimos en la edad del algoritmo. De manera creciente, las decisiones que afectan a nuestras vidas, a qué escuela vamos, si obtenemos un préstamo, cuánto debemos pagar por un seguro, son tomadas no por humanos sino por modelos matemáticos. En teoría, esto debería conducir a una mayor justicia: todos son juzgados de acuerdo a las mismas reglas y se elimina el sesgo. Y, sin embargo, como nos revela Cathy O'Neil en este libro urgente y necesario, lo contrario es cierto. Los modelos que se usan hoy en día son opacos, no regulados, e incontestables, incluso si son erróneos. Más aún, refuerzan la discriminación. Trazando el rastro de la vida de una persona, O'Neil revela los modelos de caja negra que modelan nuestro futuro, como individuos y como sociedad. Estas "armas de destrucción matemática" puntúan a profesores y estudiantes, ordenan currícula vitae, conceden o deniegan préstamos, evalúan a trabajadores, captan a votantes y monitorizan nuestra salud. O'Neil llama a los diseñadores a asumir mayor responsabilidad en sus algoritmos y a los legisladores a regular su uso. Pero, al final, depende de cada uno de nosotros ser más conscientes de estos modelos que gobiernan nuestras vidas. Este importante libro nos impulsa a formular las preguntas incómodas, descubrir la verdad y pedir un cambio. |
| COMENTARIO PERSONAL |
|
'Weapons of math destruction' es un libro, muy afamado, que busca, de manera muy crítica, poner al descubierto el mal uso uso y el impacto negativo de lo que la autora suele denominar Big Data pero sería, más bien, algoritmos de analítica o machine
learning o si quiere, la propia ciencia de datos. Y hace esa crítica basándose en primer lugar en su propia experiencia y trayectoria profesional trabajando durante un par de años como científica de datos, y luego mediante el análisis de
casos ordenados de una forma aproximadamente sectorial.
A lo largo del libro se ejemplifican esas armas de destrucción matemática que son algoritmos caracterizados por su opacidad, por su uso a gran escala y por su efecto negativo, así como por una cierta tendencia a la reincidencia y la profecía autocumplida, y por perjudicar en general a los más pobres y vulnerables. El libro se inicia con una larga introducción, escrita en buena medida en primera persona y en clave personal, donde la autora nos cuenta su pasión por las matemáticas, sus primeros pasos profesionales como científica de datos y cómo se desilusionó con lo que observó. A continuación, desarrolla el cuerpo central del libro, estructurado en diez capítulos como sigue:
El libro, de mediana tirando a corta extensión, se desarolla, no tanto como una explicación conceptual, sino como una serie de historias, una serie de casos reales, en que alguna forma defectuosa de uso de modelos algorítmicos, causa un perjuicio. Con base en esa historia, la autora explica algunas ideas, superficiales, del funcionamiento de los modelos, hace sus considerandos y extrae algunas conclusiones. Ese estilo, digamos narrativo, tan propio de autores norteamericanos, hace la lectura bastante entretenida y probablemente accesible a un público muy amplio pero, a cambio, le resta profundidad, estructura e, incluso, diría que cierto rigor. Aunque, como digo, la lectura es bastante entretenida, y los ejemplos que aporta, razonablemente documentados y explicados, son interesantes y desvelan riesgos muy reales, el libro en su conjunto me ha producido una impresión negativa. ¿Por qué? Pues porque creo que transmite una visión sesgada y destructiva de la algoritmia, el Big Data y la ciencia de datos. Sesgada, porque lo único que presenta es una especie de 'museo de los horrores' de todo lo que puede ir mal, incluyendo usos maliciosos o poco éticos, efectos secundarios inesperados, errores metodológicos, errores de interpretación, etc sin contrapesarlo, apenas, con todos los usos positivos y buenas prácticas. Y destructiva por la visión tan pesimista que plantea y y por no aportar, apenas, visos de soluciones o cómo hacer un uso correcto. Una forma de tratar la ética en el uso de la tecnología y los riesgos asociados a esa tecnología, riesgos que, no hay que negarlos, son reales, de una manera que, en mi opinión, transmite una visión deformada y hace mucho más daño que beneficio. |