Durante el a\u00f1o 2020 ha habido un aumento notable de empresas y proyectos dedicados al desarrollo de la tecnolog\u00eda de reconocimiento facial. Sin embargo, a pesar de los logros que celebran los CEO de las compa\u00f1\u00edas en los medios de comunicaci\u00f3n, nos encontramos ante una tecnolog\u00eda incipiente que est\u00e1 muy lejos de llegar a ser el pan\u00f3ptico digital que imaginamos.<\/em><\/p>\n\n\n\n Si el 11 de septiembre de 2001 marc\u00f3 un punto de inflexi\u00f3n y Estados Unidos se ocup\u00f3 de escorar el debate p\u00fablico de los pa\u00edses de su \u00f3rbita hacia el mantra de la seguridad, poblando las grandes ciudades de c\u00e1maras de vigilancia, el a\u00f1o 2020 y su covid-19 han marcado el siguiente hito en la videovigilancia: el reconocimiento facial. A pesar de que los primeros sistemas se instalaron en EE UU a principios de los a\u00f1os 10, la prensa nos ha hecho testigos en los \u00faltimos meses de la cantidad de proyectos que se han implementado en hasta 75 pa\u00edses. Seg\u00fan un estudio realizado por la empresa T\u00e9cnicas en C\u00e1maras y Seguridad, contando las instalaciones dadas de alta en la Agencia Espa\u00f1ola de Protecci\u00f3n de Datos (AEPD) y los informes de ventas anuales de empresas del sector, se calcula que hay m\u00e1s de 900.000 c\u00e1maras de seguridad en Espa\u00f1a. <\/p>\n\n\n\n Mercadona declar\u00f3 tener bases con datos biom\u00e9tricos de sus propios ficheros. La empresa responsable es AnyVision, que vigila a la poblaci\u00f3n palestina en Cisjordania<\/p>\n\n\n\n En el Estado espa\u00f1ol, el reconocimiento facial opera desde 2016 en la estaci\u00f3n de autobuses de M\u00e9ndez \u00c1lvaro en Madrid. Funciona en aeropuertos de diversas ciudades, centros comerciales, casinos y salas de juego. El BBVA, a trav\u00e9s de V\u00e9ridas, una empresa de biometr\u00eda creada por el propio banco, y Bankia han sacado sus propios sistemas de pago por reconocimiento facial en 2020. Caixabank lanz\u00f3 en Canarias sus primeros cajeros que identifican las caras de sus clientes para operar sin meter el identificador PIN. Este mismo a\u00f1o, la compa\u00f1\u00eda PwC Tax and Legal Services ha comercializado un sistema para procesar ayudas al alquiler. Uber implanta tecnolog\u00eda de reconocimiento de objetos en sus veh\u00edculos para certificar el uso de mascarilla en empleados y clientes. En mayo, la cadena de hoteles Meli\u00e1 anunci\u00f3 que integrar\u00eda el sistema Rekognition de Amazon para registrar clientes.<\/p>\n\n\n\n El 6 de julio, Protecci\u00f3n de Datos abri\u00f3 una investigaci\u00f3n contra Mercadona, ya que hab\u00eda instalado estos sistemas en 40 de sus sucursales en Mallorca, Zaragoza y Valencia. Seg\u00fan la normativa vigente, \u201cla utilizaci\u00f3n de dichos sistemas est\u00e1 prohibida en el \u00e1mbito privado a menos que responda a un inter\u00e9s p\u00fablico esencial\u201d. Mercadona declar\u00f3 tener bases con datos biom\u00e9tricos de sus propios ficheros. La empresa responsable es AnyVision, que estuvo implicada en una pol\u00e9mica cuando Microsoft, IBM y Amazon retiraron sus inversiones al publicarse que usaba su tecnolog\u00eda para vigilar poblaci\u00f3n palestina en Cisjordania.<\/p>\n\n\n\n En septiembre de 2019 un instituto de Badalona fue multado con 19.000 euros por utilizar el reconocimiento facial para confirmar la asistencia de los alumnos. El debate en el \u00e1mbito docente se ha reabierto en los \u00faltimos meses a ra\u00edz de los ex\u00e1menes y clases telem\u00e1ticas en la universidad. El IE Business School, CEU San Pablo o la Universidad Rey Juan Carlos han aplicado estos programas. El software<\/em> se activa durante el examen para fotografiar al alumnado, identificarlo e incluso detectar movimientos o gestos sospechosos, siempre seg\u00fan las empresas desarrolladoras. De nuevo la AEPD public\u00f3 un comunicado en el que se\u00f1alaba que esto solo pod\u00eda hacerse con el consentimiento expreso de los alumnos.<\/p>\n\n\n\n Otro de los campos donde se han desarrollado y aplicado este tipo de algoritmos en el Estado es el de las entrevistas laborales. La empresa Eyesecure dice haber desarrollado un algoritmo que analiza la expresi\u00f3n gestual, entre otros par\u00e1metros, para sugerir candidatos a partir de videoentrevistas. Telepizza, Porcelanosa, Prosegur, Securitas Direct, Five Guys, Econocon o Sprinter ya lo usan.<\/p>\n\n\n\n En septiembre de 2020, un conglomerado de seis empresas, tres universidades y el Instituto Tecnol\u00f3gico de Castilla y Leon, supervisados por el Ministerio del Interior, han anunciado estar dise\u00f1ando AI MARS, un sistema que, seg\u00fan sus promotores, \u201cpermitir\u00e1 rastrear millones de caras por segundo en grandes concentraciones como manifestaciones, campos de f\u00fatbol o festivales\u201d. Aseguran, adem\u00e1s, que el uso de la mascarilla no supondr\u00e1 ning\u00fan obst\u00e1culo para el reconocimiento. Cuenta con un presupuesto de m\u00e1s de cinco millones de euros.<\/p>\n\n\n\n \u201cNo es f\u00e1cil listar todos los lugares de tr\u00e1nsito p\u00fablico donde se usa esta tecnolog\u00eda\u201d, se\u00f1ala Ekaitz Ortega, periodista que investiga el tema desde hace varios a\u00f1os y ha tratado de buscar, una a una, estas localizaciones en enclaves destacados de las grandes ciudades. \u201cNo existe ning\u00fan registro que liste todos los lugares donde se aplica. Yo tuve que armarme de paciencia y encontr\u00e9 muchos a trav\u00e9s de la prensa. En el caso de Ifema \u2014en Madrid\u2014 encontr\u00e9 la licitaci\u00f3n y eran casi dos millones de euros\u201d, a\u00f1ade. En un reciente reportaje publicado en el AlgorithmWatch, la periodista Naiara Bellio escrutaba el sistema de la Estaci\u00f3n Sur de Autobuses de Madrid. All\u00ed, las empleadas de los comercios de la estaci\u00f3n contaban que desconoc\u00edan que el sistema estaba siendo usado desde 2016 en la estaci\u00f3n donde trabajaban.<\/p>\n\n\n\n TEOR\u00cdA Y PR\u00c1CTICA EN EL RECONOCIMIENTO FACIAL<\/strong><\/p>\n\n\n\n Los sistemas mencionados utilizan algoritmos de reconocimiento facial, pero no todos son iguales. Se pueden agrupar b\u00e1sicamente en dos grupos. Por un lado, los sistemas que funcionan \u2018de uno a uno\u2019, que verifican que eres quien dices ser. Son los sistemas de pago en bancos. El sistema te fotograf\u00eda y compara esa imagen con una foto tuya que tiene en sus bases de datos. Por otro lado, estar\u00edan los algoritmos \u2018de uno a n\u2019, que son los que se utilizar\u00edan para procesos de securitizaci\u00f3n de espacios p\u00fablicos. Estos sistemas cuentan con una base de datos previa de varias personas registradas. La c\u00e1mara hace fotos de quienes transitan el espacio para ver si alguna coincide con las que componen esas bases.<\/p>\n\n\n\n Gemma Gald\u00f3n, investigadora espa\u00f1ola de pol\u00edticas p\u00fablicas especializada en vigilancia y directora de la Fundaci\u00f3n \u00c9ticas, donde se auditan algoritmos e inteligencias artificiales desde una perspectiva \u00e9tica, se muestra esc\u00e9ptica ante los logros en temas de securitizaci\u00f3n que venden los CEO de estas compa\u00f1\u00edas. \u201cEsto ya nos pas\u00f3 con la videovigilancia normal. Decir que una c\u00e1mara de reconocimiento facial ha disminuido la delincuencia es inexacto. Tienes que explicarme c\u00f3mo has llegado exactamente a ese c\u00e1lculo o tu explicaci\u00f3n tiene cero credibilidad, aunque digas que la criminalidad se ha reducido un tanto por ciento gracias a tus sistemas\u201d, desarrolla. Bellio coincide: \u201cEn mi caso se escudaron en que el sistema de la estaci\u00f3n est\u00e1 catalogado como \u2018infraestructura cr\u00edtica\u2019 para no darme ning\u00fan tipo de informaci\u00f3n, ni de la tecnolog\u00eda ni del supuesto descenso de la delincuencia asociado a la misma\u201d.<\/p>\n\n\n\n \u201cEs imposible reconocer a la gente con mascarilla, da igual lo que digan las empresas que venden estos productos\u201d, defiende Gemma Gald\u00f3n<\/p>\n\n\n\n En el Estado espa\u00f1ol, Herta Security, empresa con sede en Barcelona y responsable del sistema que se aplica en la Estaci\u00f3n Sur madrile\u00f1a, que participa en el macroproyecto AI MARS con Interior, lanz\u00f3 un comunicado afirmando que sus sistemas pueden identificar incluso cuando el o la transeunte lleva mascarilla. Jorge F\u00e9lix, director del Departamento de calidad de FacePhi, otra de las l\u00edderes en reconocimiento biom\u00e9trico cuyos productos se usan en Caixabank, afirmaba en una entrevista en Onda Cero que el reconocimento facial ahora mismo es el m\u00e1s fiable de los sistemas de reconocimiento biom\u00e9trico desarrollados. Tambi\u00e9n declar\u00f3 haber resuelto el problema de las mascarillas. \u201cEs una estrategia comunicativa basada en la publicidad comercial, pero si tratas de indagar m\u00e1s all\u00e1, silencio absoluto. Yo habl\u00e9 en repetidas ocasiones con la administraci\u00f3n de la estaci\u00f3n y me dijeron que no intentara obtener m\u00e1s informaci\u00f3n porque no me la iban a dar\u201d, expone Bellio.<\/p>\n\n\n\n \u201cEs imposible reconocer a la gente con mascarilla, da igual lo que digan las empresas que venden estos productos. Esta tecnolog\u00eda establece varios puntos en la cara para comparar y la mayor\u00eda est\u00e1n alrededor de boca, nariz y ojos. Nos est\u00e1n tomando el pelo y vendiendo humo. En la inteligencia artificial no se ha establecido un control de calidad como en otros productos\u201d, sentencia Gald\u00f3n.<\/p>\n\n\n\n El Instituto Nacional de Est\u00e1ndares y Tecnolog\u00eda de EE UU ha publicado un informe reciente en el que se\u00f1ala que los fallos de reconocimiento con mascarilla llegan en ocasiones al 50% de los casos en el emparejamiento de \u2018uno a uno\u2019, el m\u00e1s fiable y sencillo de ambos. En la ciudad de Madrid el desarrollo de un sistema de pago para el transporte p\u00fablico (desarrollado por Mastercard y Saffe) se ha visto paralizado por el uso de las mascarillas.<\/p>\n\n\n\n El proyecto CV-Dazzle, financiado por la fundaci\u00f3n NLnet, dise\u00f1\u00f3 una serie de maquillajes basados en la idea de camuflaje disruptivo que lograban confundir a los algoritmos<\/p>\n\n\n\n San Francisco, cuna de Silicon Valley, prohibi\u00f3 el uso de esta tecnolog\u00eda por parte de la polic\u00eda gracias a la presi\u00f3n por parte de grupos de activistas. Tras las protestas desencadenadas por el asesinato de George Floyd, Amazon anunci\u00f3 en junio de este a\u00f1o que prohib\u00eda el uso de su tecnolog\u00eda reconocimiento facial (Rekognition) durante un a\u00f1o, ya que se hab\u00edan documentado un gran n\u00famero de falsos positivos entre la poblaci\u00f3n negra.<\/p>\n\n\n\n USOS ILEGALES Y RESISTENCIAS<\/strong><\/p>\n\n\n\n Cuando los datos biom\u00e9tricos se usan como medio de identificaci\u00f3n, el Reglamento General de Protecci\u00f3n de Datos establece en su art\u00edculo 9 que se trata de categor\u00edas especiales de datos y proh\u00edbe expresamente su tratamiento dirigido a identificar de manera un\u00edvoca a una persona f\u00edsica. \u201cEs ilegal, lo que pasa es que no se aplica la ley. Recientemente la Agencia de Protecci\u00f3n de Datos brit\u00e1nica se ha declarado incapaz de multar la cantidad de malas pr\u00e1cticas que existen. Hemos hecho leyes que nadie est\u00e1 cumpliendo. A veces son pr\u00e1cticas que emanan de la propia administraci\u00f3n p\u00fablica\u201d, se\u00f1ala Gald\u00f3n al respecto.<\/p>\n\n\n\n En Francia se ha dise\u00f1ado el proyecto Technopolice, un detallado mapeo colaborativo de todos los sistemas de vigilancia digitales p\u00fablicos y privados<\/p>\n\n\n\n![\"Reconocimiento](\"https:\/\/www.elsaltodiario.com\/uploads\/fotos\/r600\/2fedf058\/interior_42_02.jpg?v=63768691869\")
<\/figure>\n\n\n\n
Sobre los falsos positivos y las discriminaciones raciales provocadas por sesgos en las bases de datos, Gald\u00f3n reconoce: \u201cEn el nivel te\u00f3rico me parece muy necesario el debate. Sin embargo, en el pr\u00e1ctico no, sencillamente porque estos sistemas no funcionan, le hacemos un favor a quien est\u00e1 tratando de vender esta tecnolog\u00eda. Planteamos un escenario donde un algoritmo pueda discriminar a determinados grupos, cuando el problema es que dichos sistemas no funcionan. Operan relativamente bien, con errores superiores al 30%, en escenarios pr\u00e1cticamente est\u00e1ticos, con una persona parada, sin nada en la cara\u201d.<\/p>\n\n\n\n