Seg\u00fan un informe del Ministerio de Igualdad, menos del 25% del personal investigador en IA son mujeres<\/a><\/strong>. De hecho, los hombres representan un 88% de las personas que participan en el dise\u00f1o y desarrollo de IA. Pero a\u00fan no existe un estudio que analice la interseccionalidad<\/a> en este campo \u2014\u00bfcu\u00e1ntas mujeres gitanas trabajan dise\u00f1ando algoritmos?<\/strong>\u2014.<\/p>\n\n\n\n En marzo el gobierno de Arag\u00f3n anunci\u00f3 el lanzamiento de un canal de Telegram para resolver dudas sobre el coronavirus<\/a>. El canal incorporaba un chatbot, es decir, un algoritmo de inteligencia artificial<\/strong> (IA) programado para interactuar en una conversaci\u00f3n. De esta manera \u2014argumentaba el gobierno local\u2014se liberar\u00edan l\u00edneas telef\u00f3nicas de atenci\u00f3n a la ciudadan\u00eda, colapsadas en aquel entonces por el desconocimiento y miedo generalizado del inicio de la pandemia. Esc\u00e9pticas, por las limitaciones que la IA realmente tiene, nos pusimos a conversar con este bot.<\/p>\n\n\n\n Paradoja de Jevons<\/strong>: \u2013 Tengo fiebre.<\/p>\n\n\n\n COVID19AragonBot<\/strong>: \u2013 Los s\u00edntomas m\u00e1s comunes de la COVID-19 son fiebre, cansancio y tos seca. [\u2026].<\/p>\n\n\n\n Paradoja de Jevons<\/strong>: \u2013 \u00bfQu\u00e9 es la hidroxicloroquina?<\/p>\n\n\n\n COVID19AragonBot<\/strong>: \u2013 La verdad es que no te he entendido, intenta preguntarme por: \u00bfQu\u00e9 hago con mi ropa cuando llego a casa? [\u2026].<\/p>\n\n\n\n Paradoja de Jevons<\/strong>: \u2013 Vaya, parece que el equipo desarrollador no ha tenido en cuenta una respuesta ante uno de los f\u00e1rmacos m\u00e1s pol\u00e9micos de la pandemia. Sigamos. Me encuentro sola.<\/p>\n\n\n\n COVID19AragonBot<\/strong>: \u2013 En mi opini\u00f3n, tener ratos de soledad te ayuda a crecer. <\/p>\n\n\n\n Paradoja de Jevons<\/strong>: \u2013 D\u00edselo a mi vecina del cuarto, 83 a\u00f1os, sin ning\u00fan familiar que se pueda hacer cargo de ella y en medio de esta pandemia, la cual los medios la bombardean cada d\u00eda record\u00e1ndole que es presa f\u00e1cil para este virus. Tiene suerte de que no sepa utilizar Telegram.<\/p>\n\n\n\n El lunes 30 de noviembre volvimos a probar la aplicaci\u00f3n. <\/p>\n\n\n\n Paradoja de Jevons<\/strong>: \u00bfQu\u00e9 es la hidroxicloroquina?<\/p>\n\n\n\n COVID19AragonBot<\/strong>: \u2026<\/p>\n\n\n\n Paradoja de Jevon<\/strong>s: Tengo fiebre.<\/p>\n\n\n\n COVID19AragonBot<\/strong>: \u2026<\/p>\n\n\n\n Paradoja de Jevons<\/strong>: \u2013 Cr\u00f3nica de una muerte anunciada. Otro cap\u00edtulo m\u00e1s en el libro de \u201cMitos de la inteligencia artificial\u201d.<\/p>\n\n\n\n En los \u00faltimos a\u00f1os, hemos visto una gran cantidad de soluciones basadas en esta tecnolog\u00eda dispuestas a proclamarse salvadoras (en los casos m\u00e1s optimistas) o facilitadoras (en los casos m\u00e1s realistas) de nuestro d\u00eda a d\u00eda. Este efecto tecnosolucionista <\/em>se ha pronunciado durante la pandemia. IAs que dicen resolver dudas a la ciudadan\u00eda, que detectan coronavirus en im\u00e1genes de rayos X, que identifican si una persona lleva puesta la mascarilla o que detectan si el personal respeta la distancia de seguridad en sus puestos de trabajo. De hecho, un reciente art\u00edculo del MIT explica c\u00f3mo \u201cla IA se ha convertido en el juguete roto de la investigaci\u00f3n cient\u00edfica<\/a>\u201d. En muchos casos, tanto gobiernos como medios de comunicaci\u00f3n se sienten atra\u00eddos por estas soluciones tecnol\u00f3gicas inteligentes<\/strong>. Pero tal y como hemos visto en el ejemplo del chatbot, la IA est\u00e1 lejos de cambiar radicalmente nuestras vidas.<\/p>\n\n\n\n Entonces, \u00bfqui\u00e9n ha creado este mito?, \u00bfdebemos temer a la IA?, \u00bfcu\u00e1l es el futuro que no vendr\u00e1?<\/strong><\/p>\n\n\n\n Todo mito tiene un inicio<\/strong><\/p>\n\n\n\n En 1996, la empresa lBM <\/strong>cre\u00f3 DeepBlue, un algoritmo programado para jugar ajedrez. La compa\u00f1\u00eda ret\u00f3 a Kasparov, considerado el mejor jugador de ajedrez de la \u00e9poca. El primer intento sali\u00f3 mal, pues Kasparov venci\u00f3 a la m\u00e1quina. No obstante, un a\u00f1o m\u00e1s tarde la m\u00e1quina venci\u00f3 al humano. Veinte a\u00f1os m\u00e1s tarde, la compa\u00f1\u00eda DeepMind<\/strong>, la cual fue comprada posteriormente por Google, desarroll\u00f3 AlphaGo, otro algoritmo entrenado para jugar al Go. Tal y como hizo IBM con Kasparov, DeepMind invit\u00f3 a Lee Sedol, considerado uno de los mejores jugadores del momento. \u00bfEl resultado? AlphaGo venci\u00f3 a Sedol en cuatro de las cinco partidas. M\u00e1s all\u00e1 de las diferencias t\u00e9cnicas entre DeepBlue y AlphaGo, en ambos casos la prensa se hizo eco del hito hist\u00f3rico que supuso. La IA batiendo al humano a un juego inteligente. Fue as\u00ed como, poco a poco, grandes corporaciones, universidades y gobiernos fueron introduciendo el concepto en sus agendas.<\/p>\n\n\n\n A pesar del progreso remarcable que la IA ha tra\u00eddo en ciertos aspectos, muchas organizaciones se aprovechan de la confusi\u00f3n general que existe sobre este concepto, vendiendo proyectos basados en esta tecnolog\u00eda cuando realmente son solo marketing.<\/strong><\/p>\n\n\n\n Hoy en d\u00eda, el mito se ha ido propagando a\u00fan m\u00e1s debido al proceso de datificaci\u00f3n <\/em>en el que estamos sumergidas. Uno de los talones de Aquiles de la IA es que se alimenta de datos para ser \u201cinteligente\u201d. Necesita datos para aprender y encontrar patrones en ellos a la vez que consume una ingente cantidad de recursos energ\u00e9ticos<\/a><\/strong> al requerir, tambi\u00e9n, de mucha potencia de c\u00e1lculo. En el caso del chatbot del Gobierno de Arag\u00f3n, el sistema necesita un conjunto de reglas dise\u00f1adas por la programadora para saber qu\u00e9 contestar al interactuar con una persona. En lenguaje de programaci\u00f3n esto se traduce a un conjunto de condicionales, tales c\u00f3mo: \u201cSi aparece el concepto \u201cfiebre\u201d, entonces responde con este texto de los s\u00edntomas comunes del coronavirus\u201d. A pesar de que los chatbots ofrecen ventajas veneradas por el dogma econ\u00f3mico imperante (disponibilidad 24\/7, reducci\u00f3n de mano de obra, etc.), sus desventajas son mucho m\u00e1s limitantes como hemos demostrado al inicio de este art\u00edculo.<\/p>\n\n\n\n Entonces, \u00bfson estos algoritmos tan inteligentes como se cree? \u00bfEs realmente la inteligencia artificial, inteligente?<\/strong><\/p>\n\n\n\n \u00bfQu\u00e9 tipo de inteligencia tiene la inteligencia artificial?<\/strong><\/p>\n\n\n\n La palabra \u201cinteligencia<\/em>\u201d proviene del verbo en lat\u00edn intellegere <\/em>que significa comprender o percibir. No existe en la academia un consenso<\/a> a la hora de definir este concepto, ni de establecer cu\u00e1ntos tipos de inteligencia existen. En un reciente art\u00edculo publicado por Skynet Today<\/a>, varios acad\u00e9micos del campo definen la IA como la ciencia de crear m\u00e1quinas inteligentes. Pero, si no existe una definici\u00f3n general de inteligencia, \u00bfpodemos tener una definici\u00f3n de inteligencia artificial? La respuesta es s\u00ed, pero esta poco tiene que ver con la inteligencia humana. Por ejemplo, el grupo de expertos de la Comisi\u00f3n Europea la define como:<\/p>\n\n\n\n \u201cSistema de software (y posiblemente tambi\u00e9n hardware) dise\u00f1ados por humanos que, dado un objetivo complejo, act\u00faan en una dimensi\u00f3n f\u00edsica o digital percibiendo el entorno mediante el an\u00e1lisis de datos, ya sean estructurados o no estructurados, razonando sobre el conocimiento, o procesando la informaci\u00f3n, derivada de estos datos y decidir la mejor o las mejores medidas a tomar para alcanzar el objetivo fijado. Los sistemas de IA pueden utilizar reglas simb\u00f3licas o aprender un modelo num\u00e9rico, y tambi\u00e9n pueden adaptar su comportamiento analizando c\u00f3mo el medio ambiente se ve afectado por sus acciones anteriores\u201d.<\/em><\/p>\n\n\n\n Es decir, la IA se basa en un c\u00f3digo inform\u00e1tico que utiliza datos para analizarlos con t\u00e9cnicas puramente estad\u00edsticas y decide la mejor forma de realizar una tarea propuesta<\/strong> (ganar al ajedrez, detectar gatitos en im\u00e1genes, etc.). Adem\u00e1s, tambi\u00e9n puede incluir una m\u00e1quina f\u00edsica, ya sea en forma de robot, dron, autom\u00f3vil, etc., la cual se alimenta del c\u00f3digo y procesa sus \u00f3rdenes. Una de las claves de la IA es la capacidad computacional que existe hoy en d\u00eda para procesar datos. Y es esa capacidad la que hace que se hayan definido como inteligentes. En el caso del DeepBlue o AlphaGo, el c\u00f3digo fue lo suficientemente inteligente para procesar gran cantidad de datos, realizar c\u00e1lculos r\u00e1pidamente y tomar el mejor movimiento en cada estado de la partida. Una tarea que al ser humano le resulta imposible. Y por ello, consideramos a lo artificial, inteligente<\/strong>.<\/p>\n\n\n\n Una de las claves de la IA es la capacidad computacional que existe hoy en d\u00eda para procesar datos. Y es esa capacidad la que hace que se hayan definido como inteligentes.<\/strong><\/p>\n\n\n\n Una de las grandes limitaciones de la IA es la generalizaci\u00f3n<\/strong>. Volviendo otra vez al caso del programa de ajedrez, si pusi\u00e9ramos a jugar DeepBlue al Go no sabr\u00eda por d\u00f3nde empezar, pues las reglas del juego son totalmente diferentes. Y lo mismo si pusi\u00e9ramos a jugar AlphaGo al ajedrez. De hecho, este efecto de falta de generalizaci\u00f3n tambi\u00e9n se demuestra en el Covid19AragonBot. Cuando le preguntamos qu\u00e9 es la hidroxicloroquina, no nos entiende y nos sugiere que le preguntemos otra pregunta la cu\u00e1l seguramente formar\u00e1 parte de su conjunto de reglas o condicionales. Y hasta con tareas m\u00e1s asequibles, como distinguir un p\u00e1jaro en una fotograf\u00eda y encontrar un verbo en una frase. No existe a\u00fan un sistema inteligente que sea capaz de generalizar y resolver ambas tareas a la vez con gran precisi\u00f3n.<\/p>\n\n\n\n A pesar de lo lejos que nos encontramos de conseguir una IA generalizada, simplemente la idea te\u00f3rica de que seremos capaces de construirla contribuye a su mito. No obstante, actualmente deberemos conformarnos con sistemas inteligentes que nos recomiendan la soledad para crecer en plena pandemia o confunden la cabeza de un \u00e1rbitro con un bal\u00f3n<\/a>.<\/p>\n\n\n\n El futuro que no vendr\u00e1<\/strong><\/p>\n\n\n\n Pero que la IA confunda la cabeza de un \u00e1rbitro con un bal\u00f3n no es el peor escenario dist\u00f3pico que se nos puede ocurrir. El problema que existe hoy en d\u00eda con la IA y su mito reside en tres aspectos fundamentales: (1) el oligopolio de las big tech<\/a><\/em><\/strong> en el almacenamiento de datos y su consumo energ\u00e9tico, (2) la poca diversidad que existe dentro de los equipos de investigaci\u00f3n, y (3) la inyecci\u00f3n de financiaci\u00f3n en estrategias y proyectos de IA y la brecha digital.<\/p>\n\n\n\n Uno de los negocios m\u00e1s rentables de la \u00faltima d\u00e9cada es el almacenamiento en la nube. Este servicio consiste en ofrecer servidores que se encuentran en sitios remotos, a muy baja temperatura, para almacenar ingentes cantidades de datos. De hecho, se estima que Google, Amazon, Facebook y Microsoft almacenan un total de 1200 petabytes<\/a>, es decir, algo m\u00e1s de 1200 millones de gigabytes. Y es que dentro de la comunidad tecnol\u00f3gica, pocas veces se cuestiona el consumo energ\u00e9tico que esto supone. De hecho, se estima que el centro de datos utilizado para entrenar el algoritmo GPT-3<\/a>, el famoso sistema que genera textos artificialmente, tiene un coste energ\u00e9tico equivalente a un viaje de ida y vuelta a la Luna<\/a><\/strong>. Es m\u00e1s, se estima que su coste est\u00e1 entre 8,5 y 10 millones de euros. Un precio que pocas universidades p\u00fablicas pueden permitirse. \u00bfAl servicio de qui\u00e9n estar\u00e1 la innovaci\u00f3n en IA en los pr\u00f3ximos a\u00f1os? Pero el problema no es solo la cantidad, tambi\u00e9n lo es el tipo de datos. Muchos gobiernos, y compa\u00f1\u00edas privadas que ganan contratos p\u00fablicos, utilizan servicios de estas big tech para almacenar sus datos<\/strong>. De hecho, Pedro S\u00e1nchez tuvo una reuni\u00f3n en 2019 con directivos de Amazon para contratar servicios de almacenamiento<\/a>. Y es que Amazon tiene un departamento exclusivo para pol\u00edticas p\u00fablicas, en las que ofrecen no solo servicios de almacenamiento, tambi\u00e9n de inteligencia artificial y ciberseguridad. \u00bfPodemos entonces imaginarnos el futuro que no vendr\u00e1 si estas big tech siguen haciendo su oligopolio m\u00e1s poderoso y herm\u00e9tico?<\/p>\n\n\n\n De hecho se estima que el centro de datos utilizado para entrenar el algoritmo GPT-3, el famoso sistema que genera textos artificialmente, tiene un coste energ\u00e9tico equivalente a un viaje de ida y vuelta a la Luna.<\/strong><\/p>\n\n\n\n Seg\u00fan un informe del Ministerio de Igualdad, menos del 25% del personal investigador en IA son mujeres<\/a><\/strong>. De hecho, los hombres representan un 88% de las personas que participan en el dise\u00f1o y desarrollo de IA. Pero a\u00fan no existe un estudio que analice la interseccionalidad<\/a> en este campo \u2014\u00bfcu\u00e1ntas mujeres gitanas trabajan dise\u00f1ando algoritmos?<\/strong>\u2014. Sasha Costanza-Chock muestra en su libro Design Justice<\/a> <\/em>un simple ejemplo del impacto que esta falta de diversidad tiene en nuestras vidas. Explica c\u00f3mo las personas trans tienen mayor probabilidad de ser etiquetadas como peligrosas, al cruzar el sistema de seguridad de los aeropuertos estadounidenses. Al no tener un cuerpo normativo, el sistema detecta irregularidades, por lo que pasan a ser chequeadas por el personal de seguridad \u2014 con la consiguiente confusi\u00f3n que eso conlleva. Costanza-Chock argumenta que esto es debido al equipo de ingenieros que dise\u00f1aron la tecnolog\u00eda, el cual poco tuvieron en cuenta el colectivo trans y los cuerpos no normativos. La tecnolog\u00eda es pol\u00edtica, y la mayor\u00eda de sistemas basados en IA reproducen desigualdades estructurales, pues est\u00e1n dominados por una mayor\u00eda masculina, blanca, cisg\u00e9nero y capacitista<\/strong>.<\/p>\n\n\n\n Estas desigualdades, o sesgos, seguir\u00e1n repiti\u00e9ndose mientras se sigan omitiendo otras realidades y no se cuestione al servicio de qui\u00e9n est\u00e1n.<\/strong><\/p>\n\n\n\n El gobierno de Pedro S\u00e1nchez ha anunciado esta misma semana la Estrategia Nacional de Inteligencia Artificial<\/a>. En un acto retransmitido por el canal de Moncloa, el presidente anunci\u00f3 la inyecci\u00f3n de 600 millones de euros, entre el periodo 2021-2023, repartidos en 6 ejes estrat\u00e9gicos. Durante todo el evento se di\u00f3 mucho \u00e9nfasis a la relaci\u00f3n entre IA y el mundo corporativo: \u201cEspa\u00f1a como naci\u00f3n emprendedora\u201d, \u201cemprendimiento digital\u201d, \u201cdesarrollo de m\u00e9tricas de \u00e9xito que conecten universidades con el sector privado\u201d. Y este hecho se ve reflejado en el reparto del pastel: de los 600 millones, 400 ser\u00e1n destinados a los ejes de investigaci\u00f3n y tejido empresarial. Tan solo 8 millones ser\u00e1n destinados establecer un marco \u00e9tico y normativo que refuerce derechos y libertades<\/strong>, el cual deber\u00eda convertirse en un eje vertebral. A pesar de esta inyecci\u00f3n de financiaci\u00f3n, \u00bfc\u00f3mo podemos pensar en implementar una estrategia nacional de IA, si a\u00fan tenemos que reducir la brecha digital y asentar las bases de la digitalizaci\u00f3n? Por ejemplo, el sistema de cita previa online del SEPE ha colapsado varias veces este a\u00f1o<\/a> debido a la cantidad de personas en ERTE entrando al sistema. La p\u00e1gina web de la Generalitat tambi\u00e9n colaps\u00f3 hace unas semanas, despu\u00e9s de anunciar la ayuda de 2000 euros para aut\u00f3nomos con bajos ingresos<\/a>. En cuanto a la brecha digital, parte de la Espa\u00f1a vaciada sigue a\u00fan sin conexi\u00f3n a Internet<\/a> y a\u00fan existen barrios de ciudades como Granada con cortes de luz<\/a>.<\/p>\n\n\n\n A pesar de esta inyecci\u00f3n de financiaci\u00f3n, \u00bfc\u00f3mo podemos pensar en implementar una estrategia nacional de IA, si a\u00fan tenemos que reducir la brecha digital y asentar las bases de la digitalizaci\u00f3n?<\/strong><\/p>\n\n\n\n A puertas de empezar el nuevo a\u00f1o 2021, y lejos de ver el fin de esta pandemia, gobiernos, corporaciones y universidades seguir\u00e1n anunciando a bombo y platillo tecnolog\u00edas basadas en IA para combatir la COVID-19, y as\u00ed inyectar un poco de optimismo en los ya desgastados \u00e1nimos de la poblaci\u00f3n. Esto lo podemos ver claramente en el documento de la Estrategia Nacional que coment\u00e1bamos anteriormente. En el Ap\u00e9ndice 2, el gobierno analiza el papel de la IA en esta pandemia de la siguiente forma:<\/p>\n\n\n\n \u201cLa Inteligencia Artificial est\u00e1 jugando un importante papel en la respuesta a la crisis. Se est\u00e1 aplicando para poner a punto nuevos tratamientos y vacunas, para analizar diversas versiones del genoma del virus y caracterizar la respuesta del sistema inmunitario [\u2026] Se han desarrollado m\u00faltiples apps para tel\u00e9fonos inteligentes que puedan servir para minimizar el contacto humano, apoyar el autodiagn\u00f3stico y detectar exposiciones con riesgo de contacto<\/em>\u201d.<\/p>\n\n\n\n Puede que algunas de ellas lleguen a implementarse y realmente supongan un avance cient\u00edfico y tecnol\u00f3gico. De hecho, la misma empresa de AlphaGo, DeepMind, present\u00f3 recientemente un modelo basado en IA capaz de predecir la estructuras proteicas con gran precisi\u00f3n<\/a>. Esto podr\u00eda ayudar a entender mejor el comportamiento de estas mol\u00e9culas y desarrollar nuevos medicamentos. No obstante, DeepMind a\u00fan no ha publicado su c\u00f3digo, y es que pocos estudios realizados por estas empresas privadas comparten la informaci\u00f3n para que otras investigadoras puedan replicar y validar los experimentos<\/a>. Adem\u00e1s, tambi\u00e9n tendremos que poner en cuesti\u00f3n el consumo energ\u00e9tico que ello supondr\u00e1, pues como en el caso del algoritmo GPT-3, el modelo fue entrenado con procesadores de alto impacto medioambiental.<\/p>\n\n\n\n No obstante, la gran mayor\u00eda de ellas se quedar\u00e1n en el tintero<\/strong>, como el chatbot del Gobierno de Arag\u00f3n, y habr\u00e1n supuesto otra inyecci\u00f3n de dinero p\u00fablico a fondo perdido. Para evitarlo, tenemos que empezar a construir una masa social cr\u00edtica que sepa discernir entre mito y realidad<\/strong>. Construir equipos diversos que se nieguen a dise\u00f1ar cortinas de humo, con una moralidad s\u00f3lida. Democratizar la IA. Crear un cuerpo independiente que audite algoritmos. Acompa\u00f1ar a personas afectadas por sistemas autom\u00e1ticos con herramientas legales para denunciar discriminaciones y vulneraciones<\/strong>. Cuestionar aplicaciones que supongan un enorme gasto energ\u00e9tico. Acortar la brecha digital<\/strong>. Si esto no sucede en un futuro cercano, todo habr\u00e1 servido para mantenernos entretenidas, mientras la \u00e9lite siga recortando en derechos e inversi\u00f3n p\u00fablica, a la misma vez que invirtiendo en cortinas de humo tecnol\u00f3gicas de aire emprendedor. La IA ha venido para quedarse, y la mayor\u00eda de sus aplicaciones estar\u00e1n dirigidas a servir a dichas \u00e9lites, salt\u00e1ndose el cumplimiento de los derechos humanos y la justicia social.<\/p>\n\n\n\n Lo estamos ya viviendo con los sistemas desarrollados en fronteras europeas y en campos de refugiados. Lo hemos vivido tambi\u00e9n con el reciente despido de Timnit Gebru, referente mundial en \u00e9tica y IA, Google la ha despachado por cuestionar el consumo energ\u00e9tico y las implicaciones \u00e9ticas de una de sus herramientas.<\/strong><\/p>\n\n\n\n![\"\ud83e\udd12\"\/](\"https:\/\/s.w.org\/images\/core\/emoji\/12.0.0-1\/svg\/1f912.svg\")
<\/figure>\n\n\n\n