Opinion

Inteligencia artificial en la batalla. Un guerrero preciso y letal sin alma ni coraz贸n

photo_camera inteligencia-artificial-IEEE

El paso de la pandemia provocada por la COVID-19 ha incrementado el uso y las inversiones relacionadas con tecnolog铆as punteras y transformadoras, con la inteligencia artificial (IA) encabezando la mayor铆a de las listas. En paralelo el desarrollo de nuevas y sofisticadas herramientas basadas en IA, Deep Learning, Machine Learning鈥 se est谩 acelerando para aplicaciones relacionadas con la Defensa en lo que ya, junto al Espacio, parecen ser nuevas carrera armament铆sticas mundiales. Sus aplicaciones, directas o en colaboraci贸n con otros recursos tecnol贸gicos, son muchas y muy diversas. Van desde la gesti贸n y an谩lisis de datos, la vigilancia y reconocimiento, la alerta de ataques, simulaci贸n y entrenamiento, tareas m茅dicas, apoyo log铆stico, 芦predecir禄 conflictos o estallidos de violencia, el enga帽o y la contrainteligencia o descubrir cr铆menes de guerra en lugares que nos puedan parecer m谩s inaccesibles hasta, en un paso sin marcha atr谩s, seleccionar objetivos, destruir y, finalmente, matar.

Seg煤n un informe de Naciones Unidas1, un dron militar turco Kargu-2, operando en modo completamente aut贸nomo, atac贸 a los soldados del Ej茅rcito Nacional Libio del mariscal Jalifa Haftar en 2020 en el que podr铆a clasificarse ya como el primer ataque de una m谩quina sin supervisi贸n humana contra personas. El Kargu-2, un cuadric贸ptero kamikaze, procesa im谩genes en tiempo real y con sus sistemas de aprendizaje autom谩tico busca objetivos de forma aut贸noma, los apunta y, de manera aut贸noma, 芦dispara y olvida禄 lanz谩ndose contra ellos para 芦morir禄 explotando causando el mayor da帽o a su objetivo. Max Tegman, profesor e investigador de Machine Learning del Instituto de Tecnolog铆a de Massachusetts (MIT, por sus siglas en ingl茅s), asegura que, tras este ataque2, 芦la proliferaci贸n de robots asesinos ha empezado禄.

Y con este riesgo creciente, 驴c贸mo pueden las naciones, sus fuerzas armadas, las organizaciones internacionales y las personas encontrar o definir un marco de actuaci贸n o mantenerse por delante de actores ajenos a cualquier regulaci贸n? El autor de Jarhead, el estadounidense Anthony Swofford3, afirma que la robotizaci贸n no facilitar谩 la guerra, sino que la empeorar谩. El veterano marine afirma que la tecnolog铆a hace que sea m谩s f谩cil y amable pero que, al mismo tiempo, cambiar谩 tambi茅n peligrosamente su naturaleza. A diferencia de los combatientes humanos, m谩s all谩 de su precisi贸n o su empleo para reducir bajas y costes, los sistemas autom谩ticos y aut贸nomos no sufren ni miedo, ni fatiga, ni estr茅s, ni se ven afectadas por las dudas o por sentimientos como la rabia o la venganza.

inteligencia-artificial-IEEE

El coronel del Ej茅rcito de Tierra, Francisco Rubio Dami谩n, explica en su 煤ltimo libro La guerra de los robots4 c贸mo cambiar谩n los conflictos en este siglo XXI. El autor considera que nos encontramos en un acelerado proceso de automatizaci贸n de la guerra que se traducir谩 en que los conflictos armados no desaparecer谩n, ser谩n diferentes. Las particularidades que los definir谩n son que la superioridad tecnol贸gica es la gran ventaja estrat茅gica del siglo XXI, que automatizar la guerra es barato y asequible, que la tecnolog铆a de doble uso (militar y civil) ya est谩 disponible, que automatizar la guerra es rentable y que, para las actuales sociedades, indiferentes, la guerra a distancia es un espect谩culo. Este cambio sustancial en los conflictos armados se caracterizar谩 por ser habitual por su facilidad y coste, por el poco o nulo desgaste popular, por tener fronteras difusas, por la creciente privatizaci贸n con la llegada de nuevos actores no estatales y por la preservaci贸n de fuerzas convencionales para recudir el coste humano y material 芦en medio de una carrera armamentista en la que las potencias militares se est谩n disputando el dominio tecnol贸gico mundial鈥 En ella la clave est谩 en determinar si es bueno 鈥渃onfiar鈥 en los robots hasta el punto de delegar en ellos la decisi贸n sobre la vida o la muerte de una persona禄.

脕ngel G贸mez de 脕greda, coronel del Ej茅rcito del Aire y autor del libro Mundo Orwell. Manual de supervivencia para un mundo hiperconectado, cree que no estamos hablando de 芦una guerra nueva, ni es m谩s o menos violenta por el hecho de que las m谩quinas la ejecuten o ayuden a hacerlo. La guerra es un fen贸meno humano y son los hombres los que la llevan a cabo. Tampoco es un mero cambio de herramientas, de armas con las que pelear. La guerra es un acto pol铆tico y social que muta con la pol铆tica y la sociedad que la llevan a t茅rmino. La tecnolog铆a permite adaptar los instrumentos a las necesidades de la guerra, pero tambi茅n condiciona el entorno social que da lugar a la misma. Entender la guerra implica entender a la sociedad que la hace. La inteligencia artificial cambia ambas y lo hace a un ritmo exponencial禄5.

Una potencia que ya marca el paso, China

Hablar de China seguramente tenga un antes y un despu茅s marcado por la llegada de la pandemia y toda la devastaci贸n que ha causado a su paso el coronavirus. En un mundo consumido y fatigado despu茅s de m谩s de un a帽o de la COVID-19, la potencia comunista se ha visto obligada a un protagonismo inesperado o a que mitos y verdades, a veces opacos, ya sean realidades鈥 como su poder y recursos.

Las primeras noticias de la aparici贸n del virus llegaron desde la ciudad de Wuhan, en China, el 31 de diciembre de 2019. Desde entonces, la infecci贸n se extendi贸 sin entender de fronteras asolando pa铆ses de todo el mundo. A mediados de mayo de este a帽o, seg煤n datos del COVID-19 Dashboard del Center for Systems Science and Engineering (CSSE) de la universidad estadounidense Johns Hopkins (JHU)6, en el mundo se hab铆an registrado 162 644 373 casos de los que 3 372 019 fueron personas fallecidas. Por comparar, en este periodo los casos en Estados Unidos han sido m谩s de 33 millones con cerca de 600 000 fallecidos, o m谩s de 26 millones y de 300 000 muertos en India, mientras que, en China, similar en potencia a la primera y en poblaci贸n a la segunda, el coronavirus ha dejado poco m谩s de 100 000 casos de contagio y cerca de 5000 fallecidos. Las causas, reales o no, para explicar esta disparidad de cifras no son pocas como no es poco el debate sobre ellas o sobre las medidas tomadas por Pek铆n, pero s铆 que hay un factor que ha sido determinante, la apuesta decidida por la tecnolog铆a.

Ya no es extra帽o hablar de China y de sus superpobladas ciudades o futuros hubs de ciudades de arquitectura futurista, conectadas por 5G o en breve por 6G, de una potencia cu谩ntica, de una carrera espacial que en pocas d茅cadas ha pasado de copiar naves sovi茅ticas a tener su propia estaci贸n espacial o de sondas que llevan su huella a la Luna y Marte, de ser l铆der en patentes internacionales o de que su econom铆a, en medio de un mundo convulso, ya representa el 18,8 % del PIB mundial en t茅rminos de paridad del poder adquisitivo frente al 15,1 % de EE. UU. y que, mientras otras naciones sufren severas crisis y fragilidad, su crecimiento del PIB es del 18,3 % respecto al mismo periodo del a帽o anterior. Adem谩s, frente a la meta de crecimiento fijada por la segunda econom铆a del mundo para este a帽o de al menos un 6 %, el Fondo Monetario Internacional (FMI) calcula que China lograr谩 un aumento del 8,4 %7 y el Departamento de Asuntos Econ贸micos y Sociales de ONU8 ha revisado al alza el crecimiento econ贸mico mundial como resultado de fuertes repuntes en China, favoreciendo que la econom铆a mundial pueda crecer en 2021 un 5,4 % en lugar del 4,7 % previsto a comienzos de a帽o.

Llegar a esta posici贸n privilegiada en la que es una muy disputada carrera tecnol贸gica con EE. UU., y con la UE como espectador de la contienda, tiene su base en las pol铆ticas y estrategias recogidas, principalmente, en los planes de desarrollo quinquenales de la Rep煤blica Popular de China. El 煤ltimo presentado, el decimocuarto9, destaca por buscar la autosuficiencia y el fin a la dependencia tecnol贸gica de EE. UU., muy cr铆tica durante la Administraci贸n Trump y sus restricciones a las grandes corporaciones como Huawei, y por su 茅nfasis en las tecnolog铆as avanzadas y la innovaci贸n. En 茅l se recogen siete 谩reas estrat茅gicas para la 芦seguridad nacional y la mejora total禄 por objetivos e inversiones. Son la Inteligencia Artificial, la computaci贸n cu谩ntica, las redes 5G y las bases para la generaci贸n 6G, los semiconductores, la neurociencia, la biotecnolog铆a y la investigaci贸n gen茅tica o la exploraci贸n espacial y mar铆tima.

En su documento de estrategia Made in China 202510, publicado en 2015, el Partido Comunista Chino proyecta que el pa铆s sea l铆der mundial en tecnolog铆as clave de 煤ltima generaci贸n, como es el caso de la IA, a la que se considera como crucial para la 芦seguridad nacional y el desarrollo general禄. Para alcanzar este objetivo y desarrollar su propio ecosistema tecnol贸gico, industrial y de educaci贸n se incrementar谩 hasta 2025 la inversi贸n en investigaci贸n y desarrollo una media anual superior al 7 %. Al mismo tiempo se est谩n implementando medidas proteccionistas, subvenciones y transferencia de tecnolog铆a extranjera. Este esfuerzo econ贸mico debe sentar las bases para ser el principal centro de innovaci贸n mundial en IA llegando 2030 y cumplir con los Objetivos a Largo Plazo hasta el A帽o 203511, con los que el pa铆s espera tener 芦avances significativos en tecnolog铆as de vanguardia y estar entre las naciones m谩s innovadoras del mundo禄.

Entre los objetivos espec铆ficos, adem谩s de situar a sus instituciones, fuerzas armadas y empresas a la cabeza de la carrera y superar a sus rivales tecnol贸gicamente, tambi茅n se encuentra la pretensi贸n de fomentar un nuevo liderazgo, cuesti贸n en la que es clave la seguridad nacional y una aplicaci贸n pol茅mica de la IA, la vigilancia a gran escala. Pek铆n, que apoya la prohibici贸n del uso de estas armas, aunque no su desarrollo o producci贸n12, planea integrar la Inteligencia Artificial en distintos sistemas militares y ya la explota, muy ampliamente, para la vigilancia y 芦control禄 de las personas a trav茅s del reconocimiento facial y el uso de c谩maras colocadas en infinidad de lugares, unas tecnolog铆as de vigilancia cada vez m谩s maduras, asequibles y ubicuas. M谩s all谩 del uso 鈥渋nterno鈥 que quieran dar las autoridades, el disponer de grandes bases de datos de rostros, localizaciones, de voces identificadas, etc. supone una gran ventaja en el acopio y an谩lisis de inteligencia o en contar con capacidades extraordinarias en campa帽as de desinformaci贸n, guerra h铆brida o ciberataques.

EE. UU. no quiere perder m煤sculo鈥 ni cerebro

Estados Unidos, al igual que otras grandes potencias militares y naciones aliadas, utiliza desde hace d茅cadas tecnolog铆as 芦aut贸nomas禄 para asistir a sus fuerzas armadas en distintas actividades y escenarios, como los sistemas de navegaci贸n o la munici贸n 芦inteligente禄. Mantener esta ventaja tecnol贸gica y militar es, para Washington, pilar fundamental de su hegemon铆a mundial y de su poder de disuasi贸n. En un momento en el que China es considerada como un riesgo para la econom铆a y la seguridad estadounidense el presidente Joe Biden, en uno de los escasos puntos de coincidencia con Donald Trump, ha asegurado que mantendr谩 la presi贸n sobre la potencia comunista que inici贸 su predecesor en la Casa Blanca. Para ello basar谩 las relaciones bilaterales en un claro choque de valores que enfrenta a la democracia con la autocracia. En la lucha por el poder en el orden digital mundial 芦tenemos un gran inter茅s en asegurarnos de que las tecno-democracias se unan de forma m谩s eficaz para que seamos nosotros los que demos forma a normas y reglas禄, dijo el secretario de Estado Antony Blinken en su discurso de toma de posesi贸n13.

Pese al paso del coronavirus y los da帽os econ贸micos que ha causado, las inversiones en materia militar, seg煤n el 煤ltimo informe del Instituto Internacional de Investigaci贸n para la Paz de Estocolmo (SIPRI)14, aumentaron mundialmente en 2020 un 2,6 % hasta los 1981 billones de d贸lares (unos 1650 billones de euros) en 2020. Pek铆n, que va en progreso continuo desde hace m谩s de 25 a帽os, ha destinado una cifra estimada de 252 000 millones de d贸lares, el 13 % del total global. Aunque el incremento es muy notable sigue a煤n muy alejada de Estados Unidos que, en 2020, aument贸 su gasto por tercer a帽o consecutivo y se sit煤a con el 39 % del gasto total, dejando muy atr谩s a sus aliados y a cualquier rival, como China, cuesti贸n que la administraci贸n Biden quiere que contin煤e siendo as铆.

En palabras del secretario de Defensa, Lloyd J. Austin, 芦La piedra angular de la defensa de Estados Unidos sigue siendo la disuasi贸n, asegurando que nuestros adversarios comprendan la insensatez de un conflicto abierto禄15. En un discurso pronunciado en Haw谩i, Austin utiliz贸 el t茅rmino 芦disuasi贸n integrada禄 para definir el enfoque moderno del Pent谩gono en materia de defensa en el que, a las capacidades existentes en la actualidad, se sumar谩n 芦otras nuevas禄 que ahora abarcar谩n m煤ltiples 谩mbitos, 芦todos los cuales deben dominarse para garantizar nuestra seguridad en el siglo XXI禄. 芦No podemos predecir el futuro禄, ha dicho el jefe del Pent谩gono, 芦lo que necesitamos es la combinaci贸n adecuada de tecnolog铆a, conceptos operativos y capacidades, todo ello entretejido y conectado en red de forma tan cre铆ble, flexible y formidable que haga dudar a cualquier adversario. Tenemos que crear ventajas para nosotros y dilemas para ellos禄.

El presidente de la Comisi贸n de Seguridad Nacional de Estados Unidos sobre Inteligencia Artificial, Eric Schmidt, ha comentado el reciente informe final y sus recomendaciones al presidente y al Congreso16 asegurando que 芦Estados Unidos no est谩 preparado para defenderse o competir en la era de la IA禄 y que China est谩 solo unos a帽os por detr谩s en el desarrollo de tecnolog铆as de inteligencia artificial. En la actualidad, cuando 芦todas las naciones est谩n luchando para desarrollar las mismas fortalezas tecnol贸gicas禄, 芦no podremos defendernos de las amenazas habilitadas por la IA sin capacidades ubicuas de IA y nuevos paradigmas de lucha b茅lica禄. Solicitan, como medida que contrarreste el auge, poder e influencia de Pek铆n, inversiones de miles de millones de d贸lares para 芦en 煤ltima instancia, reducir o eliminar la capacidad de China de utilizar la coerci贸n禄 y recuerdan, a trav茅s de los 16 cap铆tulos del informe, que la seguridad nacional depende de la ventaja militar y que 茅sta se logra con el dominio tecnol贸gico, en concreto la IA. La comisi贸n, formada por el Congreso en 2018 con la participaci贸n de grandes figuras de empresas tecnol贸gicas, acad茅micos y el 谩mbito militar, afirma que 芦no es ning煤n secreto que los rivales militares de Estados Unidos est谩n integrando conceptos y plataformas de IA para desafiar la ventaja tecnol贸gica de Estados Unidos禄 o que, como ya es notorio, se est谩 utilizando la IA en ataques de desinformaci贸n y 芦se utilizar谩 en la b煤squeda del poder禄. Sostienen, como una de sus conclusiones, que 芦temen que las herramientas de IA sean armas de primer recurso en futuros conflictos禄 y advierten que podr谩 ser aprovechada por 芦Estados, terroristas y criminales para fabricar armas inteligentes禄.

En la 煤ltima conferencia de la Asociaci贸n Industrial de Defensa Nacional el teniente general Michael Groen17, jefe del Centro Conjunto de Inteligencia Artificial del Pent谩gono, alert贸 que los avances de China suponen 芦para un marine, un peligro cercano禄. Durante su intervenci贸n ante miembros de la industria afirm贸 que las Fuerzas Armadas estadounidenses deben ampliar e integrar el uso de la inteligencia artificial en sus actividades y operaciones, 芦un paso en la direcci贸n correcta禄 que permita una transformaci贸n global y r谩pida, o quedarse atr谩s frente a los adversarios. Los principios 茅ticos para el uso de la IA, adoptados por el departamento de Defensa a comienzos de 2020, tambi茅n estuvieron en escena y Groen destac贸 los 芦pasos intencionados para minimizar el sesgo involuntario en las capacidades de IA para evitar consecuencias no deseadas禄.

El departamento de Defensa public贸 en noviembre de 2012 una pol铆tica sobre armas aut贸nomas. En ella se recoge que los sistemas de armas aut贸nomas deben ser supervisados por personas, pero esto no significa que los militares tengan que tomar todas las decisiones18. Durante una presentaci贸n en la Academia Militar de los Estados Unidos el general John Michael "Mike" Murray, primer comandante del United States Army Futures Command (AFC), declar贸19 que los nuevos sistemas aut贸nomos de armas obligar谩n a los planificadores militares, a los responsables pol铆ticos y a la sociedad a reflexionar sobre si una persona tiene capacidad y debe tomar todas las decisiones sobre el uso de fuerza letal, incluso si es necesario que un humano participe en el proceso.

Las pruebas de automatizaci贸n en distintos sistemas militares no son ni escasas ni recientes y demuestran el creciente inter茅s del Pent谩gono por conocer las posibilidades tecnol贸gicas y la realidad de las armas aut贸nomas o el potencial, respecto a los profesionales humanos, a la hora de tomar decisiones en situaciones complejas, en escenarios cr铆ticos o de gran carga de trabajo. El Ej茅rcito de EE. UU. destin贸 en 2019 una partida de 72 millones de d贸lares para20 芦investigar y descubrir capacidades que mejoren significativamente la eficacia de las misiones en todo el Ej茅rcito al mejorar a los soldados, optimizar las operaciones, aumentar la preparaci贸n y reducir las bajas禄. En 2020, experimentados pilotos de F-16 fueron derrotados por en un combate simulado. Apenas un a帽o despu茅s ha alzado el vuelo Skyborg21, el cerebro aut贸nomo de los aviones de combate de las pr贸ximas d茅cadas que 芦detecta posibles amenazas a茅reas y terrestres, determina su proximidad, analiza el peligro inminente e identifica las opciones m谩s adecuadas para atacar o esquivar aviones enemigos禄鈥 realizando maniobras inconcebibles para un piloto.

Recopilaci贸n y an谩lisis de inteligencia es otra oportunidad en la que se est谩n aplicando los avances tecnol贸gicos, ya sea para procesar grandes cantidades de informaci贸n o generar an谩lisis con elevada precisi贸n o velocidad, como para mantener la brecha tecnol贸gica y de conocimiento con los posibles adversarios y hacer frente a la guerra h铆brida o los ataques de desinformaci贸n, caso de los supuestamente lanzados por Rusia y sus 芦f谩bricas de trolls禄.

En la 煤ltima estrategia22 estadounidense de IA se definen seis pilares clave: priorizar la investigaci贸n y el desarrollo; fortalecer la infraestructura de investigaci贸n; promover la confianza mediante normas t茅cnicas y gobernanza; formar especialistas; promover el compromiso internacional y aprovechar la IA fiable para el gobierno y la seguridad nacional, tanto con componentes ofensivos como defensivos. Los vertiginosos avances en IA prometen significativos cambios en los equilibrios de poder, 芦campos de batalla禄 y alianzas internacionales. Combinando esfuerzos, Estados Unidos y sus aliados pueden superar ampliamente a China, reducir la interdependencia y coordinar pol铆ticas para que Pek铆n no tenga acceso, control o superioridad con las tecnolog铆as que podr铆an convertirla en el nuevo l铆der mundial econ贸mico y militar.

La administraci贸n de Biden trabaja reuniendo a pa铆ses aliados y amigos para trabajar conjuntamente en tecnolog铆a y adelantarse a China tanto en materia industrial, de patentes como de Defensa. El Centro Conjunto de Inteligencia Artificial del departamento de Defensa mantiene ya encuentros internacionales, como el Partnership for Defense, con el prop贸sito de lograr un foro habitual en el que compartir y debatir lecciones aprendidas, desaf铆os, pol铆ticas, mejores pr谩cticas o principios 茅ticos, entre m煤ltiples cuestiones. Tras la reuni贸n inaugural del PfD, en la que participaron Australia, Canad谩, Dinamarca, Estonia, Finlandia, Francia, Israel, Jap贸n, Noruega, Corea del Sur, Suecia y Reino Unido, Stephanie Culberson, jefa de Pol铆tica Internacional de Inteligencia Artificial de la JAIC afirm贸 que 芦juntos podemos comprometernos con el dise帽o, el desarrollo y el uso de la IA responsable en Defensa, fortaleciendo en 煤ltima instancia nuestra cooperaci贸n y mejorando la interoperabilidad de nuestras fuerzas armadas禄.

Marco hist贸rico y evidente de colaboraci贸n de EE. UU. con sus aliados militares es la OTAN. 芦Nos necesitamos m谩s que nunca. Ning煤n pa铆s o continente por s铆 solo puede competir en esta era de competencia entre grandes potencias禄, ha afirmado en una entrevista el secretario general adjunto de la organizaci贸n, Mircea Geoan膬. La Alianza quiere contar con una estrategia com煤n de IA, a la que ha identificado como una tecnolog铆a clave23 necesaria para mantener su ventaja sobre los adversarios, que englobe posiciones, gastos y pol铆ticas de uso dispares, desde Estados Unidos o Reino Unido a pa铆ses que quieren un tratado internacional sobre estas tecnolog铆as y un uso 茅tico de las mismas, como es Alemania, o Francia y Holanda, que a diferencias de la mayor铆a de sus vecinos s铆 que tratan los aspectos militares y de defensa en sus respectivas estrategias nacionales de IA.

El texto debe establecer unas normas b谩sicas comunes para su uso y garantizar la ventaja de la OTAN en tecnolog铆as emergentes y disruptivas, o EDT24, entre las que el armamento aut贸nomo y el basado en la IA son fundamentales. Seg煤n David van Weel, secretario general adjunto de la OTAN para desaf铆os de seguridad emergentes, se identificar谩 c贸mo operar los sistemas de IA de forma responsable, se definir谩n diferentes usos de la tecnolog铆a en el sector militar y se proporcionar谩 una 芦plataforma para que los aliados prueben su IA para ver si est谩 a la altura de los est谩ndares de la OTAN禄. Adem谩s, tambi茅n se establecer谩 en la estrategia las directrices 茅ticas sobre IA en aplicaciones de Defensa y su control, responsabilidad, rendici贸n de cuentas, etc. como, por ejemplo, que una persona sea siempre responsable de las acciones y consecuencias del uso de estos sistemas o que siempre se tenga disponible un bot贸n de 芦apagado禄 para desactivarlos cuando crea que es conveniente.

Un espectador llamado UE

Europa, como conjunto o pa铆s a pa铆s, mantiene hist贸ricamente una excesiva dependencia de proveedores de tecnolog铆a extranjera, teniendo en el despliegue de redes 5G y la empresa china Huawei un ejemplo claro. Aunque son muchas las pol铆ticas y muchas las concentraciones industriales en distintos sectores llevadas a cabo en Europa, como el de Defensa, sigue siendo elevado el riesgo de sufrir interferencias y presiones econ贸micas, diplom谩ticas y pol铆ticas desde fuera de nuestras fronteras o de quedar fuera de cualquier carrera por la falta de acuerdos, pol铆ticas comunes y presupuestos adecuados. Bruselas intenta preservar la soberan铆a, real y digital, de los ciudadanos, empresas e instituciones para determinar su propio destino y una manera particular 芦de ser禄, 茅tica y responsable, en un entorno mundial dominado por EE. UU. y China y sus intereses.

Sobre el uso de la IA la Comisi贸n Europea ha presentado recientemente un reglamento25, que debe ser negociado y aprobado tanto por los estados miembro y por la Euroc谩mara, en el que han quedado planteados cuatro niveles de riesgo. En el m谩ximo se encuentra el 芦riesgo inaceptable禄 y se aplica a aquellos sistemas considerados una 芦amenaza para la seguridad, los medios de vida y los derechos de las personas禄 que ser谩n prohibidos, como los que manipulen el comportamiento humano, inciten a la violencia o sirvan para crear una 芦puntuaci贸n social禄 similar a la planteada en China. Por debajo, en orden descendente, se encuentran 芦alto riesgo禄, 芦riesgo limitado禄 y 芦riesgo m铆nimo禄, estando muchos de ellos sujetos al cumplimiento de requisitos estrictos como el an谩lisis de riesgos, trazabilidad de resultados, supervisi贸n humana o un alto nivel de robustez, entre otros.

El uso en la UE de sistemas y aplicaciones de vigilancia biom茅trica masiva se plantea muy limitado, prohibidos directamente los de 芦vigilancia indiscriminada禄 de forma masiva, y la aplicaci贸n militar de la IA no ha quedado recogida en la normativa, pero s铆 que la Comisi贸n encuentra en esta tecnolog铆a un gran aliado para reforzar las ciberdefensas. En el documento, elaborado por un grupo de expertos, se hace un llamamiento a sus aliados m谩s cercanos, Estados Unidos a la cabeza, para que se sumen a la propuesta en la que podr铆a ser el origen de una norma mundial.

Margrethe Vestager, comisaria europea de Competencia y vicepresidenta ejecutiva para una Europa preparada para la era digital, ha declarado que 芦en lo que respecta a la Inteligencia Artificial, la confianza es una necesidad, no un bien que se pueda tener. Con estas normas hist贸ricas la UE encabeza el desarrollo de nuevas normas mundiales para 

garantizar la confianza en la IA. Al establecer las normas, podemos allanar el camino hacia una tecnolog铆a 茅tica en todo el mundo y garantizar que la UE siga siendo competitiva. Preparadas para el futuro y favorables a la innovaci贸n, nuestras normas intervendr谩n donde sea estrictamente necesario: cuando est茅n en juego la seguridad y los derechos fundamentales de los ciudadanos de la UE禄.

驴Bueno, bonito y barato? Pero鈥

Que la IA es una tecnolog铆a fundamental en la definici贸n y construcci贸n de la nueva normalidad, que es clave en la Industria 4.0, que traer谩 enormes avances y beneficios globales en sanidad, educaci贸n, sostenibilidad, desarrollo econ贸mico, etc. son todas ellas afirmaciones evidentes. Que la carrera por adoptarla supondr谩 importantes ventajas econ贸micas, pol铆ticas y estrat茅gicas a quienes la lideren, tambi茅n lo es, como que sus implicaciones sociales y 茅ticas, o que la responsabilidad de su uso, civil o militar, en un escenario de proliferaci贸n indiscriminada por cualquier tipo de actor necesita m谩s que un simple debate de ideas en el que se pretenda, con la mejor de las voluntades, hablar de una IA responsable y segura en beneficio de la humanidad.

La posibilidad de una acelerada militarizaci贸n de la IA por su falta de regulaci贸n internacional, por las ventajas y superioridad que proporciona frente adversarios no tan avanzados, por su menor coste respecto a los sistemas convencionales, por intereses pol铆ticos o industriales, por la llegada de empresas privadas que asuman actividades y responsabilidades en manos de gobiernos, por resultados te贸ricamente m谩s efectivos, precisos y r谩pidos鈥 son cuestiones tan reales y tan necesitadas de respuestas, o un marco m铆nimo de gobernanza y acci贸n, como que todas estas tecnolog铆as puedan ser usadas ampliamente y sin control por todo tipo de 芦entes禄 hostiles, que puedan ser el recurso r谩pido y expeditivo para resolver disputas relegando algo tan humano como el di谩logo y la diplomacia o que, sencillamente, las m谩quinas puedan ser hackeadas o que, sencillamente, no son perfectas. Al igual que los coches, electrodom茅sticos, ordenadores鈥 sufren aver铆as mec谩nicas, de software, de conexi贸n, etc. y si esto sucede, actuando aut贸nomamente, 驴qui茅n es responsable de todos los estragos que incontroladamente puedan causar entre enemigos, amigos, civiles, etc.? O tambi茅n se podr铆a preguntar a alg煤n jurista o instituci贸n oficial internacional reconocida si es posible garantizar la capacidad de las armas aut贸nomas para cumplir plenamente y con seguridad los requisitos del Derecho Internacional Humanitario. 驴Pueden por s铆 mismas determinar si una persona es civil o combatiente por el principio de distinci贸n? 驴Si una acci贸n militar cumple o no el principio de proporcionalidad? 驴Tendr铆a suficiente juicio propio para decidir el principio de necesidad? 驴O puede y debe una m谩quina, por si misma y sin supervisi贸n, decidir sobre la vida y la muerte de un ser humano?

El 25 de septiembre de 2018, el secretario general de la ONU, Ant贸nio Guterres26, manifest贸 a la Asamblea General su preocupaci贸n por la utilizaci贸n de la Inteligencia Artificial para desarrollar sistemas de armas afirmando, literalmente, que 芦para m铆 hay un mensaje muy claro: las m谩quinas que tienen el poder y la discreci贸n de quitar vidas humanas son pol铆ticamente inaceptables, son moralmente repugnantes y deber铆an ser prohibidas por el derecho internacional禄.

En 2019, la Oficina de Asuntos de Desarme de las Naciones Unidas, el Centro Stimson y el Centro Stanley pusieron en marcha un taller y generaron documentaci贸n27 para fomentar el debate abierto entre estados, acad茅micos o la industria, entre otros, sobre las implicaciones de la IA para la paz y la seguridad. UNESCO, la Organizaci贸n de las Naciones Unidas para la Educaci贸n, la Ciencia y la Cultura, est谩 trabajando en un instrumento normativo mundial sobre la 茅tica de la IA con la esperanza de que sus principios se conviertan en las reglas de la gobernanza a nivel global. Pero, a pesar de estos esfuerzos y de los que llevan a cabo organizaciones como Global AI Action Alliance (GAIA), OECD AI Observatory, Council of Europe (CAHAI), Global Partnership on AI (GPAI) o Partnership on AI (PAI), entre otras, hasta el momento no se ha conseguido prohibir las armas aut贸nomas letales y son muchos los especialistas y cient铆ficos que no quieren que sus avances, conocimientos o experiencia sirvan para matar y no para beneficiar a la Humanidad.

Impactos positivos en conflictos los hay y en la ONU ya se trabaja con IA en zonas de guerra. La Organizaci贸n est谩 aplicando nuevas tecnolog铆as como la IA, nuevos m茅todos y nuevas formas de pensar en sus trabajos de observaci贸n y mantenimiento de la paz.

Con la empresa Remesh28, se ha iniciado una colaboraci贸n para utilizar sus soluciones de IA en la negociaci贸n de acuerdos de paz en Yemen y Libia, reduciendo los plazos, coste y el tradicional despliegue del personal de la Oficina de Asuntos de Consolidaci贸n de la Paz de la ONU, cuyo trabajo sobre el terreno tarda meses en completarse.

Quiz谩 este pueda ser un m铆nimo punto de partida, algoritmos que aseguren y favorezcan algo tan necesario en nuestro mundo como son los derechos humanos, fundamentalmente el derecho a la vida, y no la automatizaci贸n indiscriminada e incontrolada de la destrucci贸n y la muerte.

David Corral Hern谩ndez/ Periodista RTVE.

Referencias Bibliogr谩ficas:
  1. Letter dated 8 March 2021 from the Panel of Experts on Libya established pursuant to resolution 1973 (2011) addressed to the President of the Security Council. United Nations Security Council, 08/03/2021. Disponible en: https://undocs.org/S/2021/229. Fecha de consulta: 01/06/2021.
  2. Max    Tegmark.    @tegmark,    30/05/2021.    Disponible    en: https://twitter.com/tegmark/status/1399042504071208966. Fecha de consulta: 01/06/2021.
  3. SWOFFORD, Anthony. 鈥淲hy remote war is bad鈥, Mit Technology Review, 10/11/2019. Disponible en: https://www.technologyreview.com/2019/10/10/132262/why-remote-war-is-bad-war/. Fecha de consulta: 01/06/2021.
  4. El coronel Francisco Rubio Dami谩n presenta su 煤ltimo libro, La guerra de los robots, Jacetania Express, 10/04/2021.
  5. Usos militares de la inteligencia artificial, la automatizaci贸n y la rob贸tica (IAA&R), IEEE, 01/04/2021. Disponible en: http://www.ieee.es/Galerias/fichero/docs_trabajo/2019/DIEEET04- 2019InteligenciaRobotica.pdf. Fecha de consulta: 01/06/2021.
  6. COVID-19 Dashboard by the Center for Systems Science and Engineering (CSSE) at Johns Hopkins University    (JHU).    Disponible    en: https://www.arcgis.com/apps/dashboards/bda7594740fd40299423467b48e9ecf6.
  7. IMF projects China's economy will grow by 8.4% in 2021. CGTN, 06/04/2021 Disponible en: https://news.cgtn.com/news/2021-04-06/IMF-projects-China-s-economy-to-grow-by-8-4-pct-in-2021- ZfckTLcci4/index.html. Fecha de consulta: 01/06/2021.
  8. World Economic Situation and Prospects as of mid-2021. Department of Economic and Social Affairs United Nations, 11/05/2021 Disponible en: https://www.un.org/en/desa/world-economic-situation-and- prospects-mid-2021. Fecha de consulta: 01/06/2021.
  9. 鈥淐hina    aborda    su    'XIV    Plan    Quinquenal'鈥,    ICEX,    01/10/2020    Disponible    en: https://www.icex.es/icex/es/navegacion-principal/todos-nuestros-servicios/informacion-de- mercados/paises/navegacion-principal/noticias/china-plan-quinquenal-new2020863677.html?idPais=CN. Fecha de consulta: 01/06/2021.
  10. TALIN, Benjamin. 鈥淕ran Estrategia de China 鈥 芦Made in China 2025禄 (MIC25)鈥, More Than Digital, 14/01/2021.
  11. China presenta la versi贸n final del XIV Plan Quinquenal y los Objetivos a Largo Plazo para 2035. Pueblo en L铆nea, 15/03/2021 Disponible en: http://spanish.peopledaily.com.cn/n3/2021/0315/c31620- 9828970.html. Fecha de consulta: 01/06/2021.
  12. Campaign to Stop Killer Robots. 25/10/2019
  13. 鈥淏iden secretary of state nominee Antony Blinken's opening statement鈥, CNN, 19/01/2021 Disponible en: https://edition.cnn.com/2021/01/19/politics/blinken-opening-statement/index.html. Fecha de consulta: 01/06/2021.
  14. SIPRI Year Book 2020. Disponible en: https://www.sipri.org/sites/default/files/2020- 06/yb20_summary_en_v2.pdf. Fecha de consulta: 01/06/2021.
  15. Defense Secretary Says 'Integrated Deterrence' Is Cornerstone of U.S. Defense. U.S: Department of Defense,    C.    Todd    Lopez,    30/03/2021    Disponible    en: https://www.defense.gov/Explore/News/Article/Article/2592149/defense-secretary-says-integrated-
  16. The Final Report, National Security Commission on Artificial Intelligence (NSCAI). Disponible en: https://reports.nscai.gov/final-report/table-of-contents/. Fecha de consulta: 01/06/2021.
  17. TUCKER, Patrick. 鈥淐hina Is 鈥楧anger Close鈥 to US in AI Race, DOD AI Chief Says鈥, Defense One, 23/03/2021.
  18. Disponible en esd.whs.mil/portals/54/documents/dd/issuances/dodd/300009p.pdf Fecha de consulta: 01/06/2021
  19. The Pentagon Inches Toward Letting AI Control Weapons. Wired, Will Knight, 10/05/2021 Disponible en: https://www.wired.com/story/pentagon-inches-toward-letting-ai-control-weapons/. Fecha de consulta: 01/06/2021.
  20. Battlefield artificial intelligence gets $72M Army investment. U.S. Army, 12/03/2019 Disponible en: https://www.army.mil/article/218354/battlefield_artificial_intelligence_gets_72m_army_investment. Fecha de consulta: 01/06/2021.
  21. Skyborg. AFRL.
  22. National AI Initiative. NAIIO. Disponible en https://www.ai.gov/. Fecha de consulta: 01/06/2021
  23. NATO    2030:    United    for    a    New    Era.    NATO,    25/11/2020    Disponible    en: https://www.nato.int/nato_static_fl2014/assets/pdf/2020/12/pdf/201201-Reflection-Group-Final-Report- Uni.pdf. Fecha de consulta: 01/06/2021.
  24. MACHI, Vivienne. 鈥淎rtificial intelligence leads NATO鈥檚 new strategy for emerging and disruptive tech鈥,
    C4ISRNET, 14/04/2021.
  25. Proposal for a Regulation laying down harmonised rules on artificial intelligence. European Comission, 21/03/2021 Disponible en: https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down- harmonised-rules-artificial-intelligence. Fecha de consulta: 01/06/2021.
  26. Remarks at "Web Summit" Ant贸nio Guterres. United Nations Secretary-General, 05/11/2018 Disponible en: https://www.un.org/sg/en/content/sg/speeches/2018-11-05/remarks-web-summit. Fecha de consulta: 01/06/2021.
  27. The Militarization of Artificial Intelligence. United Nations, 01/08/2019 Disponible en: https://www.un.org/sg/en/content/sg/speeches/2018-11-05/remarks-web-summit. Fecha de consulta: 01/06/2021.