La IA y el multilateralismo (del Sur Global)

La comunidad internacional debería trabajar con bastante energía y urgencia en un nuevo contrato social para abordar las nuevas tecnologías y su potencial perturbador. Se trata, en particular, de la inteligencia artificial (IA), que debe desplegarse de forma segura y conforme a una norma ética compartida a escala mundial. 

Deepfake, dark web, contenidos polarizantes, enjambres de bots se expanden por todo el ciberterritorio. Basta con recordar los acontecimientos que siguen sacudiendo el hemisferio occidental: las elecciones presidenciales estadounidenses de 2016 y la votación del Brexit siguen rodeadas de polémica. Su resultado se relaciona a menudo con una supuesta filtración de datos personales de una de las principales plataformas sociales del mundo a una agencia de análisis para, al parecer, fabricar las elecciones de los votantes. Por otro lado, los agentes estatales (y no estatales) han desplegado enormes cantidades de cámaras de seguimiento de movimiento y reconocimiento facial para mercantilizar flujos continuos de datos íntimos sobre los ciudadanos, aparentemente con el fin de prepararlos para un sistema de calificación del comportamiento con bonus-malus.  

Estos nuevos amos ya están remodelando el tejido mismo de la realidad: la sociedad de la inteligencia artificial y la sociedad de los datos. Estos nuevos amos ya están remodelando el tejido mismo de nuestras realidades. 

No es de extrañar que nuestras preocupaciones comunes vayan en aumento: ¿estamos perdiendo el control ante una revolución algorítmica de nanorobots? ¿Está la IA escapando a nuestros modos tradicionales de comprensión y acción colectiva? La confianza en nuestra gobernanza nacional y en la administración mundial está llegando a un punto crítico. Se producirán revueltas populares. 

Al mismo tiempo, las nanotecnologías, geobiotecnologías e infotecnologías impulsadas por la IA tenderán a debilitar, más que a reforzar, los mecanismos de gobernanza mundial y regional. La ONU y otros marcos multilaterales regionales similares se enfrentan a una amplia gama de retos interconectados. Analicemos brevemente algunos de ellos.  

La IA y Deepfake 

La IA es esencialmente una tecnología de doble uso. Sus poderosas implicaciones (positivas o negativas) serán cada vez más difíciles de prever, enmarcar y contener, o mitigar y regular. 

El llamado Deepfake es un buen ejemplo. Actualmente, los avanzados programas algorítmicos de IA han alcanzado la fase de alterar fácilmente o incluso fabricar imágenes de audio y vídeo creando suplantaciones que son prácticamente idénticas a su original. Los algoritmos de reconocimiento facial de aprendizaje profundo ya pueden, con una precisión asombrosa, copiar el movimiento de los ojos, trazar y simular una variedad de expresiones faciales o incluso sintetizar el habla mediante el análisis de los patrones de respiración en combinación con el movimiento de la lengua y los labios.   

Una vez liberadas por un actor estatal o no estatal, estas intervenciones artificiales podrían ser fácilmente utilizadas de forma maliciosa para una amplia gama de impactos: campañas políticas, chantaje, presiones de grupo y acoso extorsivo. No es difícil imaginar que un vídeo falso de este tipo desencadene el pánico entre la población (por ejemplo, si muestra epidemias inexistentes o un ciberataque), manifestaciones masivas (por ejemplo, si retrata a un alto cargo en una escena de soborno o un delito grave similar) o falsos incidentes de seguridad que puedan provocar graves escaladas internacionales. 

El número cada vez mayor de actores y su creciente capacidad para influir en los ciudadanos con simulaciones trucadas podría tener consecuencias perjudiciales a largo plazo para la ONU y otros foros internacionales que se ocupan de la paz y la seguridad. Al corroer la noción misma de verdad y de confianza mutua entre los ciudadanos y su Estado, así como entre los Estados, los Deepfakes pueden convertirse en la mayor fuerza perturbadora de nuestro sistema de gobierno global. 

La IA y la previsibilidad humana  

Debido a los avances en el Internet de las Cosas (IoT), la IA ya está tendiendo puentes y acoplándose con una serie de otras tecnologías, especialmente con los metadatos proporcionados por la biotecnología. Estas fusiones plantean un reto importante para la seguridad mundial. Impulsados por las lucrativas perspectivas comerciales o por consideraciones de seguridad estatal, los sistemas de IA de todo el mundo están programados en gran medida hacia la previsibilidad del comportamiento humano. Al alcance de la mano, ya disponen de análisis precisos y rápidos de los patrones de tráfico urbano, los mercados financieros, el comportamiento de los consumidores, los historiales médicos e incluso nuestros genomas. 

Estas tecnologías de IA -aún no reguladas- son cada vez más capaces de canalizar nuestros datos biológicos y de comportamiento de una forma bastante novedosa y manipuladora, con implicaciones para todos nosotros. Tampoco esto perdona a los más jóvenes entre nosotros. Por ejemplo, el robot i-Que para niños o la muñeca Cayla para niñas transmiten datos de voz y emocionales de los niños que interactúan con ellos (de todos los que se encuentran en su radio de proximidad de 10 metros) y los envían a sus fabricantes a través de la nube. Esta característica llevó a las autoridades europeas a examinar de cerca los juguetes automatizados y concluir que viola principios básicos de protección del consumidor y de la privacidad. Muñecos similares siguen utilizándose ampliamente en todo el mundo árabe y en Asia, donde la concienciación sobre la protección de los consumidores es menor o está menos organizada que en la UE. 

En varios países de la OCDE se discute seriamente el despliegue del análisis emocional de las salas. En ese escenario, la potente biometría algorítmica mediría el nivel de remordimiento cuando declaran los testigos y se presenta material de audio y vídeo. Si una vez fuera operativa, podría ampliarse fácilmente permitiendo a las entidades corporativas (y estatales) utilizar diferentes tipos de biometría para evaluar a los solicitantes de empleo.  

Eso podría tentar aún más a algunos regímenes marginados a imponer brazaletes biométricos a parte o incluso a toda la población, y tener una medición precisa y en tiempo real del apoyo popular del que gozan. (En algunos países de la OCDE ya se aboga mucho por este tipo de brazaletes para la población reclusa, especialmente para los reclusos reconvalecientes acusados de delitos de sangre). 

Por último, si los comportamientos individuales o de grupo de los seres humanos pueden ser monitorizados, rastreados, procesados y, por tanto, alterados, ¿quién (o qué) será el motor de la elegibilidad -ya sea de un cambio o de la preservación del statu quo-, las personas o los algoritmos? Si toda la biometría, los datos emocionales y el historial de comportamiento (meta) de todos los parlamentarios, los protagonistas de todos los partidos políticos, los militares de alto rango y los empresarios clave pueden ser pirateados por agentes estatales o no estatales nacionales o extranjeros, el sentido de la democracia, los asuntos militares, la seguridad y, especialmente, los derechos humanos cambiarán hasta quedar irreconocibles. Muy probablemente, también más allá del retorno.  

Si la IA tiene tal potencial para penetrar -e incluso dirigir- los comportamientos humanos individuales y de grupo, inevitablemente trastoca la noción misma de los derechos humanos, tal y como se recoge en la Carta de Derechos Humanos de la ONU, así como de la coexistencia pacífica, la seguridad, la prosperidad y la igualdad entre los Estados, tal y como se estipula en la Carta de la ONU.  

Los nuevos medios de control social y biométrico nos obligarán inevitablemente a revisar y reimaginar el marco actualmente en vigor para supervisar y aplicar la Declaración Universal de los Derechos Humanos. Noción de independencia y derecho inalienable también al desarrollo económico. Esto requerirá un esfuerzo concertado de las FORA regionales de desarrollo y de la ONU como sistema multilateral universal para anticiparse y adaptarse.  

La IA: teatro de futuros conflictos  

Dado que reduce el número, la configuración y la intensidad de los puestos de trabajo debido a la automatización, la IA se adapta perfectamente a los países en transición (declive) demográfica, más que a los países en auge demográfico del mundo musulmán, del África subsahariana y de Asia (no del Este). La drástica reducción de la mano de obra nacional y el próximo cambio en la dependencia de la industria manufacturera mundial afectarán especialmente al Sur global. A menudo envuelto en la postura de "esperar y ver", el Sur Global tiene tradicionalmente un bajo índice de confianza entre su ciudadanía y el Gobierno. 

Lógicamente, la "promesa de la IA" de influir en grandes regiones y sus poblaciones es tan inmediata e hipnotizante que ya pone a sus principales impulsores en una feroz competencia. Acelerar la competencia (con una tecnología tan disruptiva) en ausencia de cooperación (como la mejor herramienta para crear y mantener la confianza) o de una regulación exhaustiva está a un solo paso de un conflicto.   

Así pues, las perspectivas de una "carrera de inteligencia artificial" similar a la de la ciencia ficción se están volviendo (aparentemente) realistas: Poderosos actores estatales o comerciales (plataformas tecnológicas) compitiendo encarnizadamente por nuestros datos colectivos -como una nueva moneda cibernética- para acumular la supremacía biomédica, económica y político-militar en todo el mundo. La "cibercolonización" -especialmente del Sur global- es cada vez más probable. (Hoovering data without any remuneration and monetising it without any warning, data-collection taxation, or remuneration to its proprietor). Los líderes en el campo de la IA ya son capaces de acaparar datos a escala mundial, poseen capacidades de almacenamiento y pronto dominarán los poderes de la computación (cuántica) para procesar y analizar, y potencialmente controlar, las poblaciones y los ecosistemas de otros países.  

La respuesta a la IA debe ser universal  

De forma bastante preocupante, nuestras sociedades están lejos de estar preparadas para el despliegue de la IA: ya sea filosófica o prácticamente, aún carecemos de consideraciones sociopolíticas, legales o éticas exhaustivas. Además, las Naciones Unidas y sus agencias -creadas 75 años antes de la aparición de estas tecnologías- están en muchos aspectos mal equipadas para ofrecer una gobernanza de la IA completa y oportuna. La velocidad de este ciclo de innovación tecnológica supera cualquier respuesta administrativa, incluso cuando las disrupciones tecnológicas se están haciendo evidentes para un número cada vez mayor de países. En un futuro próximo, se producirán cada vez con mayor frecuencia y gravedad impredecibles, y en contextos difíciles de conectar. 

Las nuevas tendencias políticas del "neonacionalismo" autárquico están trivializando aún más la capacidad de los FORA multilaterales para desempeñar una función normativa y de supervisión del cumplimiento en la gobernanza mundial de la IA. En un clima así, los Estados miembros tecnológicamente avanzados (presionados por sus intereses comerciales o de seguridad nacional) pueden ver pocos incentivos en dejar que los FORA internacionales gobiernen lo que perciben como una tecnología propia, lucrativa y patentada. Así, los mecanismos colectivos de toma de decisiones podrían hundirse en la oscuridad de oscuros centros de poder proyectados, fuera de su alcance o de cualquier control. 

Teniendo todo esto en cuenta, la ONU y sus agencias especializadas (incluidas la UIT, la UNESCO y la Universidad de la ONU), junto con una variedad de FORA regionales, tienen la respuesta. Esto incluye en gran medida los segmentos de desarrollo -especialmente del Sur global- como los bancos de desarrollo africano, asiático, interamericano o islámico, así como los entornos político-administrativos regionales como la OCI, la SAARC, la ASEAN y la UA, por nombrar sólo algunos. Tienen que iniciar y guiar a sus Estados miembros, pero también participar en la dirección del mundo a través de los organismos universales de las Naciones Unidas.  

Dejar pasar el tren de la IA sin una forma de gobernanza colectiva y colaborativa supondría un doble retroceso irreversible: La tecnología disruptiva de doble uso junto con una propiedad digital se entregaría a unos pocos alienados para que la gobernaran, mientras que la confianza en el sistema multilateral (especialmente dentro del mundo en desarrollo) se deterioraría aún más.  

Esta inacción elevaría inevitablemente el nivel de confrontación planetaria a proporciones insondables (incluyendo nuevas formas, nunca vistas hasta ahora), y ello en dos frentes: dentro de las sociedades y entre los Estados. Algunos harían cualquier cosa por dominar y mandar, mientras que otros harían cualquier cosa por escapar del puño de hierro del goo(g)lag. 

Para los tres retos planetarios más graves (tecnología, ecología, aniquilación nuclear), necesitamos un enfoque multilateral preciso, justo y oportuno. En esta lucha por la relevancia, cada uno tiene su parte de responsabilidad histórica (generacional).  

Anis H. Bajrektarevic es catedrático y profesor de Derecho Internacional y Estudios Políticos Globales, Viena, Austria.   

IFIMES - Instituto Internacional de Estudios sobre Oriente Medio y los Balcanes, con sede en Liubliana, Eslovenia, tiene estatus consultivo especial en ECOSOC/ONU, Nueva York, desde 2018. y es editor de la revista científica internacional "European Perspectives".