IA et multilatéralisme (du Sud)
La communauté internationale devrait travailler avec beaucoup d'énergie et d'urgence à l'élaboration d'un nouveau contrat social pour faire face aux nouvelles technologies et à leur potentiel perturbateur. Cela concerne en particulier l'intelligence artificielle (IA), qui doit être déployée en toute sécurité et conformément à une norme éthique partagée à l'échelle mondiale.
Deepfake, dark web, contenus polarisants, essaims de bots se répandent sur le cyber-territoire. Il suffit de se rappeler les événements qui continuent de secouer l'hémisphère occidental : l'élection présidentielle américaine de 2016 et le vote du Brexit sont toujours entourés de controverses. Leur issue est souvent liée à une fuite présumée de données personnelles de l'une des principales plateformes sociales du monde vers une agence d'analyse qui aurait fabriqué les choix des électeurs. D'autre part, des acteurs étatiques (et non étatiques) ont déployé de vastes quantités de caméras de suivi des mouvements et de reconnaissance faciale pour commercialiser des flux continus de données intimes sur les citoyens, soi-disant pour les préparer à un système d'évaluation comportementale de type bonus-malus.
Ces nouveaux maîtres sont déjà en train de remodeler le tissu même de la réalité : la société de l'intelligence artificielle et la société des données. Ces nouveaux maîtres sont déjà en train de remodeler le tissu même de nos réalités.
Il n'est donc pas étonnant que nos préoccupations communes se multiplient : sommes-nous en train de perdre le contrôle au profit d'une révolution algorithmique de nanorobots ? L'IA échappe-t-elle à nos modes traditionnels de compréhension et d'action collectives ? La confiance dans notre gouvernance nationale et notre administration mondiale atteint un point de basculement. Des révoltes populaires se produiront.
Dans le même temps, les nanotechnologies, les géobiotechnologies et les technologies de l'information induites par l'IA auront tendance à affaiblir plutôt qu'à renforcer les mécanismes de gouvernance mondiaux et régionaux. Les Nations unies et les cadres multilatéraux régionaux similaires sont confrontés à un large éventail de défis interconnectés. Examinons brièvement certains d'entre eux.
L'IA et Deepfake
L'IA est essentiellement une technologie à double usage. Ses puissantes implications (positives ou négatives) seront de plus en plus difficiles à anticiper, à encadrer et à contenir, ou à atténuer et à réglementer.
Ce que l'on appelle le Deepfake en est un bon exemple. Aujourd'hui, les programmes algorithmiques d'IA avancée ont atteint le stade où ils peuvent facilement modifier ou même fabriquer des images audio et vidéo en créant des imitations qui sont pratiquement identiques à l'original. Les algorithmes de reconnaissance faciale par apprentissage profond peuvent déjà, avec une précision étonnante, copier le mouvement des yeux, tracer et simuler une variété d'expressions faciales ou même synthétiser la parole en analysant les schémas respiratoires en combinaison avec le mouvement de la langue et des lèvres.
Une fois diffusées par un acteur étatique ou non étatique, ces interventions artificielles pourraient facilement être utilisées à des fins malveillantes pour un large éventail d'impacts : campagnes politiques, chantage, pression par les pairs et harcèlement extorqué. Il n'est pas difficile d'imaginer qu'une fausse vidéo puisse déclencher la panique au sein de la population (par exemple, si elle montre des épidémies inexistantes ou une cyber-attaque), des manifestations de masse (par exemple, si elle montre un haut fonctionnaire dans une scène de corruption ou un crime grave similaire) ou de faux incidents de sécurité qui pourraient provoquer de graves escalades internationales.
Le nombre croissant d'acteurs et leur capacité de plus en plus grande à influencer les citoyens avec des simulations fabriquées de toutes pièces pourraient avoir des conséquences néfastes à long terme pour les Nations unies et d'autres forums internationaux traitant de la paix et de la sécurité. En corrodant la notion même de vérité et de confiance mutuelle entre les citoyens et leur État, ainsi qu'entre les États, les "Deepfakes" pourraient devenir la plus grande force perturbatrice de notre système de gouvernance mondiale.
L'IA et la prévisibilité humaine
Grâce aux progrès de l'internet des objets (IoT), l'IA est déjà en train de se rapprocher et de se coupler avec une série d'autres technologies, en particulier avec les métadonnées fournies par la biotechnologie. Ces fusions constituent un défi majeur pour la sécurité mondiale. Motivés par des perspectives commerciales lucratives ou des considérations de sécurité étatique, les systèmes d'IA du monde entier sont largement programmés en fonction de la prévisibilité du comportement humain. Ils disposent déjà d'analyses précises et rapides des schémas de circulation urbaine, des marchés financiers, du comportement des consommateurs, des dossiers médicaux et même de nos génomes.
Ces technologies d'IA, qui ne sont pas encore réglementées, sont de plus en plus capables de canaliser nos données biologiques et comportementales d'une manière tout à fait nouvelle et manipulatrice, ce qui a des conséquences pour nous tous. Les plus jeunes d'entre nous ne sont pas épargnés. Par exemple, le robot i-Que pour garçons ou la poupée Cayla pour filles transmettent les données vocales et émotionnelles des enfants qui interagissent avec eux (de tous ceux qui se trouvent dans un rayon de 10 mètres) et les envoient à leurs fabricants via le nuage. Cette caractéristique a conduit les autorités européennes à examiner de près les jouets automatisés et à conclure qu'ils violaient les principes fondamentaux de la protection des consommateurs et de la vie privée. Des jouets similaires continuent d'être largement utilisés dans le monde arabe et en Asie, où la sensibilisation à la protection des consommateurs est plus faible ou moins organisée que dans l'UE.
Dans plusieurs pays de l'OCDE, le déploiement de l'analyse émotionnelle dans les chambres fait l'objet de discussions sérieuses. Dans un tel scénario, de puissants algorithmes biométriques mesureraient le niveau de remords lors de la déposition de témoins et de la présentation de matériel audio et vidéo. Une fois opérationnel, ce système pourrait facilement être étendu en permettant aux entreprises (et aux États) d'utiliser différents types de données biométriques pour évaluer les candidats à l'emploi.
Certains régimes marginalisés pourraient ainsi être tentés d'imposer des bracelets biométriques à une partie, voire à l'ensemble de la population, et disposer d'une mesure précise et en temps réel du soutien populaire dont ils bénéficient (dans certains pays de l'OCDE, de solides arguments plaident déjà en faveur de tels bracelets pour la population carcérale, en particulier pour les criminels de sang condamnés).
Enfin, si les comportements individuels ou collectifs des êtres humains peuvent être surveillés, suivis, traités et donc modifiés, qui (ou quoi) sera le moteur de l'éligibilité - que ce soit pour le changement ou la préservation du statu quo - les personnes ou les algorithmes ? Si tous les éléments biométriques, les données émotionnelles et l'historique (méta) comportemental de tous les parlementaires, des protagonistes de tous les partis politiques, des hauts gradés de l'armée et des principaux hommes d'affaires peuvent être piratés par des acteurs nationaux ou étrangers, étatiques ou non, la signification de la démocratie, des affaires militaires, de la sécurité et surtout des droits de l'homme sera modifiée au point d'en être méconnaissable. Il est fort probable qu'il n'y ait plus de retour possible.
Si l'IA a un tel potentiel pour imprégner - et même diriger - le comportement humain individuel et collectif, elle bouleverse inévitablement la notion même de droits de l'homme, telle qu'elle est inscrite dans la Charte des droits de l'homme des Nations unies, ainsi que celle de coexistence pacifique, de sécurité, de prospérité et d'égalité entre les États, telle qu'elle est stipulée dans la Charte des Nations unies.
Les nouveaux moyens de contrôle social et biométrique nous obligeront inévitablement à revoir et à réimaginer le cadre actuellement en place pour le contrôle et la mise en œuvre de la Déclaration universelle des droits de l'homme. La notion d'indépendance et le droit inaliénable au développement économique. Cela nécessitera un effort concerté de la part des FORA de développement régional et des Nations unies en tant que système multilatéral universel pour anticiper et s'adapter.
L'IA : théâtre des conflits futurs
Parce qu'elle réduit le nombre, la configuration et l'intensité des emplois du fait de l'automatisation, l'IA est idéalement adaptée aux pays en transition démographique (déclin), plutôt qu'aux pays en plein essor démographique du monde musulman, de l'Afrique subsaharienne et de l'Asie (hors Asie du Sud-Est). La réduction drastique de la main-d'œuvre nationale et la dépendance croissante à l'égard de l'industrie manufacturière mondiale affecteront particulièrement les pays du Sud. Souvent figés dans une position d'attentisme, les pays du Sud ont traditionnellement un faible taux de confiance entre leurs citoyens et leurs gouvernements.
Logiquement, la "promesse de l'IA" d'influencer de vastes régions et leurs populations est si immédiate et si fascinante qu'elle place déjà ses principaux acteurs en situation de concurrence féroce. L'accélération de la concurrence (avec une technologie aussi perturbatrice) en l'absence de coopération (qui est le meilleur outil pour instaurer et maintenir la confiance) ou de réglementation globale n'est qu'un pas vers le conflit.
Ainsi, les perspectives d'une "course à l'intelligence artificielle" digne de la science-fiction deviennent (apparemment) réalistes : de puissants acteurs étatiques ou commerciaux (plateformes technologiques) se livrent une concurrence féroce pour nos données collectives - en tant que nouvelle cybermonnaie - afin d'accumuler une suprématie biomédicale, économique et politico-militaire à travers le monde. L'aspiration des données sans aucune rémunération et leur monétisation sans aucun avertissement, taxation de la collecte des données ou rémunération de leur propriétaire). Les leaders dans le domaine de l'IA sont déjà capables d'accumuler des données à l'échelle mondiale, de posséder des capacités de stockage et maîtriseront bientôt les pouvoirs de l'informatique (quantique) pour traiter et analyser, et potentiellement contrôler, les populations et les écosystèmes d'autres pays.
La réponse à l'IA doit être universelle
De manière plutôt inquiétante, nos sociétés sont loin d'être prêtes pour le déploiement de l'IA : que ce soit d'un point de vue philosophique ou pratique, nous manquons encore de considérations sociopolitiques, juridiques ou éthiques globales. En outre, les Nations unies et leurs agences - créées 75 ans avant l'émergence de ces technologies - sont à bien des égards mal équipées pour assurer une gouvernance globale et opportune de l'IA. La vitesse de ce cycle d'innovation technologique dépasse toute réponse administrative, même si les perturbations technologiques deviennent évidentes pour un nombre croissant de pays. Dans un avenir proche, elles se produiront de plus en plus fréquemment et avec une gravité imprévisible, dans des contextes difficiles à cerner.
Les nouvelles tendances politiques du "néo-nationalisme" autarcique banalisent encore davantage la capacité des FORA multilatéraux à jouer un rôle normatif et de contrôle de la conformité dans la gouvernance mondiale de l'IA. Dans un tel climat, les États membres technologiquement avancés (poussés par leurs intérêts commerciaux ou de sécurité nationale) pourraient ne pas être incités à laisser les FORA internationaux régir ce qu'ils perçoivent comme une technologie propriétaire, lucrative et brevetée. Les mécanismes de prise de décision collective pourraient ainsi sombrer dans l'obscurité de centres de pouvoir obscurs et projetés, hors de leur portée ou de leur contrôle.
Dans ce contexte, les Nations unies et leurs agences spécialisées (notamment l'UIT, l'UNESCO et l'Université des Nations unies), ainsi qu'une série de FORA régionaux, ont la solution. Il s'agit en grande partie de segments de développement - en particulier du Sud - tels que les banques de développement africaines, asiatiques, interaméricaines ou islamiques, ainsi que de structures politico-administratives régionales telles que l'OCI, l'ASACR, l'ANASE et l'UA, pour n'en citer que quelques-unes. Elles doivent initier et guider leurs États membres, mais aussi participer à l'orientation du monde par l'intermédiaire des organes universels des Nations unies.
Laisser passer le train de l'IA sans une forme de gouvernance collective et collaborative constituerait un double recul irréversible : une technologie perturbatrice à double usage associée à une propriété numérique serait confiée à une poignée de personnes aliénées, tandis que la confiance dans le système multilatéral (en particulier dans le monde en développement) se détériorerait encore davantage.
Cette inaction élèverait inévitablement le niveau de confrontation planétaire à des proportions insondables (y compris sous des formes nouvelles, jusqu'ici inédites), et ce sur deux fronts : au sein des sociétés et entre les États. Les uns sont prêts à tout pour dominer et commander, les autres sont prêts à tout pour échapper à la poigne de fer du goo(g)lag.
Pour les trois défis planétaires les plus graves (technologie, écologie, anéantissement nucléaire), nous avons besoin d'une approche multilatérale précise, équitable et opportune. Dans cette lutte pour la pertinence, chacun a sa part de responsabilité historique (générationnelle).
Anis H. Bajrektarevic est professeur et titulaire de la chaire de droit international et d'études politiques globales à Vienne, en Autriche.
IFIMES - International Institute for Middle East and Balkan Studies, basé à Ljubljana, Slovénie, bénéficie d'un statut consultatif spécial auprès de l'ECOSOC/ONU, New York, depuis 2018. et est rédacteur en chef de la revue scientifique internationale "European Perspectives".