{"id":7798,"date":"2022-10-29T11:09:55","date_gmt":"2022-10-29T11:09:55","guid":{"rendered":"http:\/\/www.movimientocaamanista.com\/?p=7798"},"modified":"2022-10-29T11:09:57","modified_gmt":"2022-10-29T11:09:57","slug":"procesos-de-seleccion-con-sesgos-ideologicos-con-ia","status":"publish","type":"post","link":"http:\/\/www.movimientocaamanista.com\/?p=7798","title":{"rendered":"Procesos de selecci\u00f3n con sesgos ideol\u00f3gicos con IA"},"content":{"rendered":"\n<p>Carlos Prego<\/p>\n\n\n\n<p>Fuente: <a href=\"https:\/\/rebelion.org\/procesos-de-seleccion-con-sesgos-ideologicos-con-ia\/\">Rebeli\u00f3n<\/a><\/p>\n\n\n\n<p>Hubo un tiempo en el que m\u00e1s de un erudito estaba convencido de que llegaba con analizar en detalle el cr\u00e1neo de una persona para averiguar su car\u00e1cter. Si eras violento, paciente, reflexivo, un buen candidato a compa\u00f1ero de piso o un enemigo con el que m\u00e1s val\u00eda no cruzarse estaba, todo, al alcance de quien supiera leer los relieves de tu sesera. A semejante doctrina se la conoce como&nbsp;<a href=\"https:\/\/www.britannica.com\/topic\/phrenology\">frenolog\u00eda<\/a>&nbsp;y si bien en el XIX logr\u00f3 cierto predicamento hoy se considera una pseudociencia.<\/p>\n\n\n\n<p>Visto con perspectiva quiz\u00e1s te parezca una chifladura decimon\u00f3nica, pero investigadores de la Universidad de Cambridge&nbsp;<a href=\"https:\/\/www.cam.ac.uk\/research\/news\/claims-ai-can-boost-workplace-diversity-are-spurious-and-dangerous-researchers-argue\">acaban de advertir<\/a>&nbsp;que en pleno 2022 algunos usos que hacemos de&nbsp;<a href=\"https:\/\/www.xataka.com\/robotica-e-ia\/que-inteligencia-artificial\">la inteligencia artificial<\/a>&nbsp;para seleccionar personal en las empresas tal vez no sean mucho mejores.<\/p>\n\n\n\n<p><strong>Ni m\u00e1s objetivo ni m\u00e1s justo<\/strong>. En su estudio \u2014<a href=\"https:\/\/link.springer.com\/article\/10.1007\/s13347-022-00543-1#Sec14\">publicado en&nbsp;<em>Philosophy and Technology<\/em><\/a>\u2014 los investigadores de la Universidad de Cambridge miran con lupa dos de las ventajas que a menudo se asocian con las herramientas de IA para reclutar personal. Primero, que ayudan a evaluar de forma objetiva a los candidatos, prescindiendo de sesgos derivados del g\u00e9nero o la raza. Segundo, que gracias a ese plus su selecci\u00f3n resulta m\u00e1s justa y contribuye a incentivar la meritocracia.<\/p>\n\n\n\n<p>La IA es imparcial \u2014se supone\u2014, con lo al aplicarla solo entrar\u00e1n los m\u00e1s adecuados a las vacantes y se borra cualquier sesgo posible.\u00a0<a href=\"https:\/\/www.cam.ac.uk\/research\/news\/claims-ai-can-boost-workplace-diversity-are-spurious-and-dangerous-researchers-argue\">La conclusi\u00f3n de los expertos<\/a>\u00a0no apunta sin embargo en esa direcci\u00f3n: \u201cEstas afirmaciones son enga\u00f1osas\u201d. Y para demostrarlo esgrimen varias razones.<\/p>\n\n\n\n<figure class=\"wp-block-embed-dailymotion wp-block-embed is-type-video is-provider-dailymotion wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"Yo enga\u00f1\u00e9 a una Inteligencia Artificial | Captcha 2x02\" frameborder=\"0\" width=\"640\" height=\"359\" src=\"https:\/\/www.dailymotion.com\/embed\/video\/x7zw3c2?pubtool=oembed\" allowfullscreen allow=\"autoplay\"><\/iframe>\n<\/div><\/figure>\n\n\n\n<p><strong>Cuando se simplifica demasiado<\/strong>. Ese es, en resumen, el primer riesgo del que alertan los investigadores de Cambridge. A lo largo de su estudio explican c\u00f3mo en su intento por prescindir de la raza y el g\u00e9nero los sistemas que aplican la inteligencia artificial a menudo \u201cmalinterpretan\u201d ambos factores, consider\u00e1ndolos \u201catributos aislables\u201d, etiquetas que una vez&nbsp;<em>silenciadas<\/em>&nbsp;en el expediente dejan de tener influencia, y no rasgos que se enmarcan en \u201csistemas de poder m\u00e1s amplios\u201d.<\/p>\n\n\n\n<p>Otro peligro similar es que la IA acabe desviando el foco. Si el objetivo del \u00e1rea de RRHH es fomentar una mejor cultura empresarial y delega buena parte de esa tarea en un algoritmo corre el riesgo de olvidarse de lo esencial: abordar los problemas sist\u00e9micos que existen dentro de la propia empresa. Los expertos hablan de una \u201cexternalizaci\u00f3n\u201d de la b\u00fasqueda de diversidad y advierten que puede derivar en lo contrario: un \u201cafianzamiento de la cultura de la desigualdad y discriminaci\u00f3n\u201d.<\/p>\n\n\n\n<p><strong>\u00bfEl \u00abcandidato ideal\u00bb?<\/strong>&nbsp;Otra de las preguntas que lanza el estudio es qu\u00e9 significa e implica exactamente que la IA ayude a encontrar el \u201ccandidato ideal\u201d, as\u00ed definido, por supuesto, seg\u00fan el criterio del empleador. \u201cEn su intento de \u2018no ver\u2019 la raza y el g\u00e9nero, la IA en realidad puede estar menos equipada para comprender las habilidades del candidato porque han sido capacitada para \u2018ver\u2019 y observar desde la perspectiva del empleador, quien ha comunicado previamente un conjunto de caracter\u00edsticas y rasgos predeterminados que denotan \u2018buenos empleados\u2019\u201d, recoge.<\/p>\n\n\n\n<p>El riesgo es que la IA para reducir los grupos de candidatos sirva para lo contrario de lo que se planteaba, que en vez de aumentar la diversidad fomente la uniformidad. \u201cSeg\u00fan los investigadores, quienes tengan la informaci\u00f3n y antecedentes adecuados podr\u00edan `ganar a los algoritmos\u00b4 al replicar los comportamientos que la IA est\u00e1 programada para identificar\u201d, abundan desde la universidad.<\/p>\n\n\n\n<figure class=\"wp-block-image\"><img decoding=\"async\" src=\"https:\/\/i.blogs.es\/ba3f24\/drage-ai-pic\/450_1000.jpg\" alt=\"Drage Ai Pic\"\/><\/figure>\n\n\n\n<p><strong>Pseudociencia automatizada<\/strong>. El riesgo,&nbsp;<a href=\"https:\/\/www.cam.ac.uk\/research\/news\/claims-ai-can-boost-workplace-diversity-are-spurious-and-dangerous-researchers-argue\">abunda el equipo<\/a>&nbsp;del Centro de Estudios de G\u00e9nero de Cambridge, es que ciertos usos de la IA en procesos de contrataci\u00f3n acaben siendo \u201cpoco mejores que una \u2018pseudociencia automatizada\u2019 que recuerda a&nbsp;<a href=\"https:\/\/encyclopaedia.herdereditorial.com\/wiki\/Fisiognom%C3%ADa_o_fisiogn%C3%B3mica#:~:text=Antigua%20creencia%20pseudocient%C3%ADfica%20que%20pretende,de%20los%20rasgos%20del%20rostro.\">la fisiognom\u00eda<\/a>&nbsp;o la frenolog\u00eda\u201d. Objetivo bien distinto a l\u00f3gica que quieren aportar al proceso y la eliminaci\u00f3n de cualquier posible sesgo.<\/p>\n\n\n\n<p>Los autores del&nbsp;<a href=\"https:\/\/link.springer.com\/article\/10.1007\/s13347-022-00543-1#Sec14\">estudio de&nbsp;<em>Philosophy and Technology<\/em><\/a>&nbsp;van m\u00e1s all\u00e1 y hablan incluso de \u201cun ejemplo peligroso de \u2018tecnosolucionismo\u2019\u201d, un intento de recurrir a la tecnolog\u00eda buscando soluciones r\u00e1pidas a problemas profundos que requieren inversi\u00f3n y cambios en la cultura empresarial.<\/p>\n\n\n\n<p><strong>Una demostraci\u00f3n pr\u00e1ctica<\/strong>. Para reforzar su argumentario los investigadores han desarrollado una herramienta con IA y disponible online \u2014puedes usarla en este link\u2014 que, supuestamente, ayuda a perfilar la personalidad de un candidato para evaluar c\u00f3mo de adecuado resulta para un puesto.<\/p>\n\n\n\n<p>\u00bfProblema? El recurso muestra c\u00f3mo peque\u00f1os cambios arbitrarios, como una alteraci\u00f3n en la expresi\u00f3n del rostro o la ropa o incluso en la iluminaci\u00f3n y el fondo, arroja lecturas completamente diferentes. \u201cPodr\u00edan marcar la diferencia entre el rechazo y la progresi\u00f3n\u201d, se\u00f1ala. Los investigadores reconocen en cualquier caso que las herramientas de selecci\u00f3n de personal suelen ser de car\u00e1cter propietario, con lo que resulta muy dif\u00edcil conocerse exactamente c\u00f3mo funcionan.<\/p>\n\n\n\n<p><strong>Un recurso cada vez m\u00e1s popular<\/strong>. La advertencia de los investigadores va m\u00e1s all\u00e1 de la teor\u00eda y se centra en una herramienta cada vez m\u00e1s empleada, al menos seg\u00fan las cifras que manejan. Un estudio de 2020 elaborado con medio millar de organizaciones de cinco pa\u00edses conclu\u00eda que&nbsp;<a href=\"https:\/\/www.cam.ac.uk\/research\/news\/claims-ai-can-boost-workplace-diversity-are-spurious-and-dangerous-researchers-argue\">el 24% hab\u00eda echado mano de la IA<\/a>&nbsp;para contratar y el 56% de los responsables de reclutamiento planeaban adoptarla en cuesti\u00f3n de meses. Otra encuesta de dese mismo a\u00f1o apuntaba que el 86% de las entidades estudiadas estaban incorporando nuevas tecnolog\u00edas en ese proceso.<\/p>\n\n\n\n<p>\u201cLa tendencia ya exist\u00eda cuando comenz\u00f3 la pandemia y es probable que el&nbsp;<a href=\"https:\/\/www.xataka.com\/empresas-y-economia\/empresas-solo-piensan-teletrabajo-como-parche-ahora-vuelve-fuerza-inflacion\">cambio acelerado al teletrabajo<\/a>&nbsp;causado por el COVID-19 vea un mayor despliegue de herramientas de IA en las \u00e1reas de RRHH en el futuro\u201d,&nbsp;<a href=\"https:\/\/www.cam.ac.uk\/research\/news\/claims-ai-can-boost-workplace-diversity-are-spurious-and-dangerous-researchers-argue\">apunta Kerry Mackereth<\/a>. Junto a la coautora del estudio, Eleanor Drage, se\u00f1ala que muchas empresas usan IA para analizar v\u00eddeos de candidatos e interpretar su personalidad. Los expertos alertan adem\u00e1s que hay herramientas que se est\u00e1n aplicando con poca regulaci\u00f3n.<\/p>\n\n\n\n<p><strong>El debate est\u00e1 servido<\/strong>. El equipo brit\u00e1nico no es el primero en cuestionar las ventajas de la inteligencia artificial en el reclutamiento de personal. Al menos en ciertos casos. En 2018&nbsp;<a href=\"https:\/\/www.bbc.com\/news\/technology-45809919\">Amazon decidi\u00f3 prescindir<\/a>&nbsp;de un algoritmo para este tipo de procesos tras constatar que no era neutral, sino que mostraba un sesgo sexista. Tambi\u00e9n hay quienes&nbsp;<a href=\"https:\/\/factorcapitalhumano.com\/innovacion-y-tecnologia\/5-beneficios-de-la-inteligencia-artificial-en-los-procesos-de-reclutamiento\/2021\/02\/\">inciden en las ventajas<\/a>&nbsp;de la IA en la selecci\u00f3n de personal, como el ahorro de tiempo y&nbsp;<a href=\"https:\/\/blog.ticjob.es\/ventajas-del-reclutamiento-basado-en-la-inteligencia-artificial\/\">costes<\/a>&nbsp;y quienes, directamente, est\u00e1 a\u00fan en una fase inicial y realmente&nbsp;<a href=\"https:\/\/www.bbc.com\/news\/technology-63228466\">su implantaci\u00f3n es a\u00fan muy reducida<\/a>&nbsp;entre quienes buscan empleados.<\/p>\n\n\n\n<p>\u00abLa inteligencia artificial puede ayudar de manera eficiente a aumentar la diversidad de una organizaci\u00f3n al filtrar de un grupo de candidatos m\u00e1s grande, pero tambi\u00e9n puede perder muchos buenos candidatos si las reglas y los datos de capacitaci\u00f3n son incompletos e inexactos\u00bb,&nbsp;<a href=\"https:\/\/www.bbc.com\/news\/technology-63228466\">explica Hayfa Mohzaini<\/a>, del Chartered Institute of Personnel and Development, a la BBC.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Carlos Prego Fuente: Rebeli\u00f3n Hubo un tiempo en el que m\u00e1s de un erudito estaba convencido de que llegaba con analizar en detalle el cr\u00e1neo de una persona para averiguar su car\u00e1cter. Si eras violento, paciente, reflexivo, un buen candidato a compa\u00f1ero de piso o un enemigo con el que m\u00e1s val\u00eda no cruzarse estaba, [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":2680,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[4],"tags":[],"_links":{"self":[{"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=\/wp\/v2\/posts\/7798"}],"collection":[{"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=7798"}],"version-history":[{"count":1,"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=\/wp\/v2\/posts\/7798\/revisions"}],"predecessor-version":[{"id":7799,"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=\/wp\/v2\/posts\/7798\/revisions\/7799"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=\/wp\/v2\/media\/2680"}],"wp:attachment":[{"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=7798"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=7798"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.movimientocaamanista.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=7798"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}