La autora de ‘Armas de destrucción matemática’ desconfía del uso de datos ciudadanos por parte de gobiernos y empresas en la lucha contra el coronavirus. «Son usados para manipularnos», advierte
«Un algoritmo podría darnos la excusa para abandonar las residencias de ancianos». La autora de ‘Armas de destrucción matemática’ desconfía del uso de datos ciudadanos por parte de gobiernos y empresas en la lucha contra el coronavirus. «Son usados para manipularnos», advierte en el Diario El Mundo.
Cathy O’Neil (Cambridge, 1972), doctora en matemáticas por la Universidad de Harvard, cambió el mundo académico por el análisis de riesgo de inversión de la banca. Pensaba que esos fondos eran neutros desde el punto de vista ético, pero su idea no tardó en derrumbarse. Se dio cuenta de «lo destructivas» que pueden ser las matemáticas, y dio un cambio radical: se sumó al grupo de banca alternativa del movimiento Occupy Wall Street —nacido en 2011 en Nueva York para protestar contra los abusos del poder financiero— y comenzó su lucha para concienciar sobre cómo el big data «aumenta» la desigualdad y «amenaza» la democracia.
La autora del libro Armas de destrucción matemática (Capitán Swing, 2017), que también asesora a startups, defiende que los algoritmos generan injusticias porque se basan en modelos matemáticos diseñados para replicar prejuicios, equivocaciones y sesgos humanos. «La crisis financiera dejó claro que las matemáticas no solo están involucradas en muchos de los problemas del mundo, sino que los agravan», considera.
En una entrevista al diario El País declaraba que: «No creo que el problema sean las matemáticas, sino los algoritmos. Ese es parte del problema; estamos trasladando nuestra confianza en las matemáticas a unos modelos que no entendemos cómo funcionan. Detrás, siempre hay una opinión, alguien que decide qué es importante. Si miramos las redes sociales, hay sesgos. Por ejemplo, se ordenan los contenidos en función de quién habla más en Twitter o Facebook. Eso no son matemáticas, sino discriminaciones hechas por humanos. La persona que diseña el algoritmo define qué es el éxito…
Algortimos para la contratación de personal, cada vez más utilizados así lo afirmaba en esta entrevista:
«La automatización de los procesos de selección está creciendo entre el 10% y el 15% al año. En Estados Unidos, ya se utilizan con el 60% de los trabajadores potenciales. El 72% de los currículums no son analizados por personas. Los algoritmos suelen castigar a los pobres, mientras los ricos reciben un trato más personal. Por ejemplo, un bufete de abogados de renombre o un exclusivo instituto privado se basarán más en recomendaciones y entrevistas personales durante los procesos de selección que una cadena de comida rápida. Los privilegiados son analizados por personas, mientras que las masas, por máquinas»
«Si quieres trabajar en un call center o de cajero, tienes que pasar un test de personalidad. Para un puesto en Goldman Sachs tienes una entrevista. Tu humanidad se tiene en cuenta para un buen trabajo. Para un empleo de sueldo bajo, eres simplemente analizado y categorizado. Una máquina te pone etiquetas»
