Carlos del Castillo<\/p>\n\n\n\n
Fuente: Rebeli\u00f3n<\/a><\/p>\n\n\n\n \u00abSolo sabemos que funcionan bien para quien los dise\u00f1a, pero pueden ser tremendamente injustos para las personas objetivo\u00bb, defiende la matem\u00e1tica Cathy O\u2019Neil<\/p>\n\n\n\n Palabra de dios. Por mandato real. Es la econom\u00eda, est\u00fapido. La historia ofrece constantemente ejemplos de c\u00f3mo las personas recurrimos al mito de la autoridad superior para revestir de una supuesta justicia objetiva nuestras decisiones. Para Cathy O\u2019Neil, los algoritmos son el siguiente mito en esa lista.<\/p>\n\n\n\n \u00bfQu\u00e9 prejuicios tienen los robots sin prejuicios?<\/p>\n\n\n\n O\u2019Neil, matem\u00e1tica doctorada en Harvard, posdoctorada en el MIT, fue una de las primeras en se\u00f1alar que nuestro nuevo emperador tambi\u00e9n est\u00e1 desnudo<\/strong><\/a>. Un algoritmo (o la celebrada Inteligencia Artificial, que \u00abno es m\u00e1s que un t\u00e9rmino de marketing para nombrar a los algoritmos\u00bb) es tan machista, racista o discriminador como aquel que lo dise\u00f1a. Mal programados, pueden llegar a ser Armas de Destrucci\u00f3n Matem\u00e1tica<\/em> (Capit\u00e1n Swing), como detalla en su libro sobre el peligro que representan para la democracia.<\/p>\n\n\n\n Defiende que existe una diferencia entre lo que la gente piensa que es un algoritmo y lo que realmente es un algoritmo. \u00bfCu\u00e1l es?<\/strong><\/p>\n\n\n\n La gente piensa que un algoritmo es un m\u00e9todo para tratar de llegar a una verdad objetiva. Hemos desarrollado una fe ciega en ellos porque pensamos que hay una autoridad cient\u00edfica detr\u00e1s.<\/p>\n\n\n\n En realidad un algoritmo es algo tonto, b\u00e1sicamente un sistema de perfiles demogr\u00e1ficos generado a partir del big data. Averigua si eres un cliente que paga o cu\u00e1les son tus posibilidades para comprar una casa en base a pistas que has ido dejando, como cu\u00e1l es tu clase social, tu riqueza, tu raza o tu etnia.<\/p>\n\n\n\n \u00bfQu\u00e9 es un arma de destrucci\u00f3n matem\u00e1tica?<\/strong><\/p>\n\n\n\n Es un algoritmo importante, secreto y destructivo. Injusto para los individuos que eval\u00faa.<\/p>\n\n\n\n Normalmente son un sistema de puntuaci\u00f3n. Si tienes una puntuaci\u00f3n lo suficientemente elevada se te da una opci\u00f3n, pero si no la consigues se te deniega. Puede ser un puesto de trabajo o la admisi\u00f3n en la universidad, una tarjeta de cr\u00e9dito o una p\u00f3liza de seguros. El algoritmo te asigna una puntuaci\u00f3n de manera secreta, no puedes entenderla, no puedes plantear un recurso. Utiliza un m\u00e9todo de decisi\u00f3n injusto.<\/p>\n\n\n\n Sin embargo, no solo es algo injusto para el individuo, sino que normalmente este sistema de decisi\u00f3n es algo destructivo tambi\u00e9n para la sociedad. Con los algoritmos estamos tratando de trascender el prejuicio humano, estamos tratando de poner en marcha una herramienta cient\u00edfica. Si fracasan, provocan que la sociedad entre un bucle destructivo, porque aumentan la desigualdad progresivamente.<\/p>\n\n\n\n Pero tambi\u00e9n puede ser algo m\u00e1s preciso. Puede ser un algoritmo para decidir qui\u00e9n accede a la libertad condicional racista, uno que determina qu\u00e9 barrios sufren una mayor presi\u00f3n policial en funci\u00f3n de la presencia de minor\u00edas\u2026<\/p>\n\n\n\n \u00bfA qui\u00e9n le pedimos cuentas cuando un algoritmo es injusto?<\/strong><\/p>\n\n\n\n Es una buena pregunta. La semana pasada sali\u00f3 a la luz que luz que Amazon ten\u00eda un algoritmo de selecci\u00f3n de personal sexista<\/strong><\/a>. Cada vez que ocurre algo as\u00ed, las empresas se muestran sorprendidas, toda la comunidad tecnol\u00f3gica se muestra sorprendida. En realidad es una reacci\u00f3n fingida, hay ejemplos de algoritmos discriminatorios por todas partes.<\/p>\n\n\n\n Si admitieran que los algoritmos son imperfectos y que potencialmente pueden ser racistas o sexistas, ilegales, entonces tendr\u00edan que abordar este problema para todos los algoritmos que est\u00e1n utilizando. Si hacen como si nadie supiera nada pueden seguir promulgando esta fe ciega en los algoritmos, que ellos en realidad no tienen, pero que saben que el resto del p\u00fablico tiene.<\/p>\n\n\n\n Por eso escrib\u00ed el libro, para que la gente deje de estar intimidada por los modelos matem\u00e1ticos. No hay que abandonar la automatizaci\u00f3n ni dejar de confiar en los algoritmos, pero s\u00ed exigir que rindan cuentas. Sobre todo cuando act\u00faan en un campo en el que no hay una definici\u00f3n clara de qu\u00e9 es \u00ab\u00e9xito\u00bb. Ese es el tipo de algoritmo que me preocupa. Quien controle el algoritmo controla la definici\u00f3n de \u00e9xito. Los algoritmos siempre funcionan bien para la gente que los dise\u00f1a, pero no sabemos si funcionan bien para la gente objetivo de esos algoritmos. Pueden ser tremendamente injustos para ellos.<\/p>\n\n\n\n \u00bfLa pr\u00f3xima revoluci\u00f3n pol\u00edtica ser\u00e1 por el control de los algoritmos?<\/strong><\/p>\n\n\n\n En cierto sentido, s\u00ed. Creo que los algoritmos reemplazar\u00e1n todos los procesos burocr\u00e1ticos humanos porque son m\u00e1s baratos, m\u00e1s f\u00e1ciles de mantener y mucho m\u00e1s f\u00e1ciles de controlar. As\u00ed que, s\u00ed: la cuesti\u00f3n sobre qui\u00e9n tiene el control est\u00e1 relacionada con qui\u00e9n despliega ese algoritmo. Espero que nosotros tengamos un control con rendici\u00f3n de cuentas sobre ellos.<\/p>\n\n\n\n