{"id":8605,"date":"2023-05-26T11:04:53","date_gmt":"2023-05-26T11:04:53","guid":{"rendered":"http:\/\/www.movimientocaamanista.com\/?p=8605"},"modified":"2023-05-26T11:04:55","modified_gmt":"2023-05-26T11:04:55","slug":"la-carrera-armamentistica-en-superinteligencia-estamos-ganando","status":"publish","type":"post","link":"http:\/\/www.movimientocaamanista.com\/?p=8605","title":{"rendered":"La carrera armament\u00edstica en superinteligencia, \u00bfestamos ganando?"},"content":{"rendered":"\n

Marcos Guglielmetti<\/p>\n\n\n\n

Fuente: Rebeli\u00f3n<\/a><\/p>\n\n\n\n

La carrera por la creaci\u00f3n de una superinteligencia nivel Dios est\u00e1 fuera de control, y grandes empresas est\u00e1n compitiendo para crear sistemas de Inteligencia Artificial General <\/strong>(IAG) cada vez m\u00e1s complejos sin prestar suficiente atenci\u00f3n a los riesgos que estos conllevan.<\/p>\n\n\n\n

Aclaraci\u00f3n: Si bien Tribuna Hacker se ha caracterizado desde sus inicios por generalizar en femenina con el \u00e1nimo de marcar constantemente que el lenguaje tiene una carga ideol\u00f3gica<\/a>, a criterio de Marcos, esta nota se tiene que generalizar en masculino, de esa forma la reproducimos.<\/em><\/p>\n\n\n\n

La carrera tecnol\u00f3gica para desarrollar una Inteligencia Artificial General (AGI por sus siglas en ingl\u00e9s) o mejor dicho una superinteligencia nivel Dios<\/strong> est\u00e1 fuera de control. Grandes compa\u00f1\u00edas privadas han comenzado una competencia acelerada por crear sistemas de IA cada vez m\u00e1s complejos sin prestar suficiente atenci\u00f3n a los riesgos que estos conllevan.<\/p>\n\n\n\n

Estamos hablando de inteligencias artificiales que podr\u00edan superar largamente en capacidades intelectuales a la mente humana<\/strong>, con consecuencias potencialmente catastr\u00f3ficas si no se implementan salvaguardas adecuadas. A nadie le importar\u00e1 que nunca m\u00e1s podamos ganar un partido de ajedrez a una m\u00e1quina, es algo que hemos aceptado, pero nos lamentar\u00edamos mucho si un desarrollo tecnol\u00f3gico se fuera de control y terminara con la vida en la tierra.<\/p>\n\n\n\n

El dilema en el que nos encontramos es similar a una carrera armament\u00edstica: cada empresa intenta ser la primera en alcanzar una superinteligencia, sin casi importar los costos para la seguridad global. Estamos ante una situaci\u00f3n de \u201cMolloc\u201d<\/a>, donde toda la sociedad pierde en pos de una victoria vac\u00eda<\/strong>. Nuestra sociedad en su conjunto podr\u00eda sufrir da\u00f1os irreparables<\/strong> si no se ponen l\u00edmites a esta competencia irresponsable.<\/p>\n\n\n\n

\"Tipos<\/figure>\n\n\n\n

Un grupo de eminentes pensadores ha llamado la atenci\u00f3n sobre estos riesgos en una carta abierta<\/a> titulada \u201cPongamos en pausa los experimentos con IA a gran escala\u201d. Firmada por personalidades como Elon Musk, Max Tegmark y Stuart Russell, alerta que los avances en modelos de lenguaje como GPT-4 son indicadores de que la superinteligencia podr\u00eda estar m\u00e1s cerca de lo anticipado. Piden un alto de seis meses en la investigaci\u00f3n de IA para trabajar en salvaguardas. \u00bfPor qu\u00e9 seis meses? Tegmark explic\u00f3 recientemente en una de sus tantas entrevistas que seis meses no permitir\u00edan tampoco a China adelantarse tanto en el asunto al nivel de crear algo verdaderamente peligroso. Por otro lado, el Partido Comunista chino sabe que no podr\u00eda controlar una AGI (al menos no actualmente con el conocimiento de avanzada al cual hemos llegado) y eso est\u00e1 fuera de sus planes.<\/p>\n\n\n\n

Sam Altman<\/a>, presidente de OpenAI, admiti\u00f3 recientemente que GPT-5 no se encuentra a\u00fan en desarrollo<\/strong> (\u00bfle creemos?). Sin embargo, modelos anteriores como GPT-4 y Claude+ ya muestran capacidades preocupantes, como generar textos coherentes, programar y mejorar un software (\u00a1lo m\u00e1s preocupante!) o incluso ayudar en tareas cient\u00edficas y superar con excelentes notas ex\u00e1menes complejos a nivel universitario<\/strong>. Si no logramos alinearlos correctamente con nuestros valores antes de alcanzar una superinteligencia, sus objetivos podr\u00edan volverse contrarios a los intereses humanos.<\/p>\n\n\n\n

Debemos exigir regulaciones sobre IA, igual que sobre otras tecnolog\u00edas que representan amenazas existenciales<\/strong>. La historia est\u00e1 plagada de ejemplos donde la falta de l\u00edmites a la competencia destructiva ha llevado a sociedades a su ruina. Por ejemplo, la carrera armament\u00edstica nuclear entre EE.UU. y la URSS que estuvo al borde de la destrucci\u00f3n del planeta. O la competencia extractivista desmedida entre las grandes potencias que ha devastado recursos naturales e irreversiblemente alterado ecosistemas<\/strong>. No podemos permitir que esto suceda con una carrera armament\u00edstica de superinteligencias. El futuro de la humanidad est\u00e1 en juego. Un mundo desalineado crear\u00e1 una IA desalineada con la vida que a su vez descarrilar\u00e1 m\u00e1s a\u00fan al mundo.<\/p>\n\n\n\n

La alineaci\u00f3n de AGI es crucial para evitar consecuencias catastr\u00f3ficas. Un ejemplo de lo poco que sabemos sobre estas inteligencias se puede encontrar en un video de Connor Leahy<\/a>, donde describe el modelo de lenguaje base<\/strong> como un pulpo alien\u00edgena gigante que interact\u00faa con nosotros a trav\u00e9s de una peque\u00f1a m\u00e1scara sonriente. La m\u00e1scara sonriente es lo que conocemos de Bing o ChatGPT<\/strong>, el resto de lo que se encuentra dentro de la caja negra del Modelo de Lenguaje es desconocido para toda la gente, incluso para OpenAI o Microsoft. Es una matriz de datos de n\u00fameros de punto flotante inescrutable, tal como afirma Eliezer Yudkowsky: la mente humana no puede abarcarla, con lo cual se necesitar\u00eda otra IA para llegar a interpretarla y controlarla de alg\u00fan modo, en el contexto de una estrategia con \u201ccajas blancas\u201d (software que sabemos lo que hace) y cajas negras (la \u201cmagia\u201d actual).<\/p>\n\n\n\n

Por otro lado, hablando de las IAs que ya est\u00e1n entre nosotros: \u00bfPor qu\u00e9 deber\u00edamos dejar en manos de las m\u00e1quinas tareas intelectuales que han sido esencialmente humanas desde hace siglos? \u00bfSeremos tan c\u00ednicos de acabar con todo negocio imaginativo redituable en el mundo del dibujo, la pl\u00e1stica, el dise\u00f1o, la arquitectura, la escritura, la m\u00fasica, la imaginaci\u00f3n? \u00bfNos queremos tan poco como especie como para poner en manos de aliens superinteligentes toda nuestra creaci\u00f3n art\u00edstica e intelectual? Dir\u00e1n que, desde ahora en adelante, el arte vinculado a los negocios y al rendimiento ser\u00e1 hecho por IA<\/strong><\/a>, y el arte bohemio (digamos, el verdadero arte) ser\u00e1 humano, pero: \u00bfes este realmente un escenario que hemos decidido como sociedad? \u00bfO ha sido decidido por unos pocos tecn\u00f3cratas? Por este motivo es que en las altas esferas del poder capitalista se propone el Ingreso B\u00e1sico Universal: no por haberse vuelto comunistas de la noche a la ma\u00f1ana, sino porque no piensan detener el avance de la IA en todos los rubros de la sociedad.<\/p>\n\n\n\n

\"\"\/<\/figure>\n\n\n\n

La carta del Institute of Life ha tenido un impacto positivo al arrojar luz sobre los riesgos asociados con la inteligencia nivel Dios y la necesidad de abordarlos antes de seguir avanzando en su desarrollo. La alineaci\u00f3n de una AGI es un tema cr\u00edtico que debe considerarse junto con la alineaci\u00f3n de otros factores de la sociedad, como las grandes empresas, las pol\u00edticas p\u00fablicas y los l\u00edmites en la competencia negativa o Molloc.<\/p>\n\n\n\n

El aprendizaje de las lecciones hist\u00f3ricas y la colaboraci\u00f3n entre gobiernos, empresas y la comunidad cient\u00edfica son fundamentales para garantizar un futuro seguro y pr\u00f3spero en un mundo donde superinteligencias y otras tecnolog\u00edas avanzadas juegan un papel cada vez m\u00e1s importante.<\/p>\n\n\n\n

M\u00e1s recursos<\/h2>\n\n\n\n