L'intelligence artificielle est là : amie, ennemie ou les deux ?

Une nouvelle source d'inquiétude vient de voir le jour. Elle vient s'ajouter à une liste d'inquiétudes existentielles pour l'avenir, au même titre que le réchauffement climatique, la démocratie chancelante, les relations avec la Chine, la dette nationale, la crise de la chaîne d'approvisionnement et les dégâts dans les écoles. 

L'intelligence artificielle, ou IA, figure en bonne place sur la liste des préoccupations depuis plusieurs semaines. Son arrivée est annoncée depuis longtemps par le gouvernement et les experts en technologie. Mais il aura fallu ChatGPT, un chatbot développé par OpenAI, pour faire dresser les cheveux sur la tête de nos concitoyens. 

Nous savons désormais que la course à l'inconnu s'accélère. Les géants de la technologie comme Google et Facebook tentent de rattraper l'avance prise par Microsoft. Ils plongent tête baissée dans une science que les experts disent ne comprendre que partiellement. Ils ne savent pas vraiment comment ces systèmes complexes fonctionnent, un peu comme un livre que l'auteur ne peut pas lire une fois qu'il l'a écrit. 

D'innombrables acres de papier journal et d'innombrables décibels ont sonné l'alarme depuis qu'un test ChatGPT a révélé à une journaliste du New York Times qu'elle était amoureuse de lui et qu'elle devait quitter sa femme. Des rires aux éclats, mais aussi des craintes et des doutes quant à l'avenir.  

Cette créature de Frankenstein va-t-elle se retourner contre nous ? Peut-être qu'il n'aime qu'une seule personne, qu'il déteste les autres et qu'il a l'intention de faire quelque chose. 

Dans une interview à l'émission "White House Chronicle" de la chaîne de télévision PBS, John Savage, professeur émérite d'informatique An Wang à l'université Brown, m'a dit qu'il y avait un risque de trop se fier, et donc de se tromper, dans les décisions prises à l'aide de l'IA.  

Par exemple, a-t-il expliqué, des étudiants de Stanford ont partiellement recouvert un panneau d'arrêt avec des morceaux de ruban adhésif noir et blanc. L'IA a mal interprété le panneau qui indiquait 45 miles par heure. De même, Savage a déclaré que la moindre erreur d'étalonnage dans une opération médicale effectuée par l'IA pouvait entraîner la mort. 

Savage estime que l'IA doit être réglementée et que toute information générée par elle doit être vérifiée. En tant que journaliste, c'est ce dernier point qui est alarmant. 

L'IA écrit déjà de la fausse musique de manière presque indétectable. Il est tout à fait possible qu'elle puisse rédiger des rapports juridiques. Alors pourquoi ne pas usurper le journalisme à des fins inavouées et mettre au chômage des ploucs comme moi ? 

Il est déjà possible de faire parler les images d'IA et de les faire ressembler aux humains qu'elles imitent. Comment reconnaître un "faux profond" d'un vrai ? Probablement pas. 

À l'heure actuelle, nous avons du mal à déterminer ce qui relève des faits et où se trouve la vérité. Il y a tant de désinformation, si rapidement dispersée, que certains journalistes sont en état de névrose de guerre, en particulier en Europe de l'Est, où les rédacteurs et diffuseurs légitimes sont assaillis quotidiennement par la désinformation en provenance de Russie.  

Un journaliste de Vilnius, en Lituanie, m'a demandé comment savoir ce qui est vrai lors d'une réunion de l'Association des journalistes européens, alors que la campagne de désinformation russe s'intensifiait avant l'invasion de l'Ukraine par la Russie. 

Eh bien, cela va être beaucoup plus difficile : "Il faut savoir d'où viennent les informations et les images avant de les publier", a déclaré Savage, de l'université Brown. 

Mais comment ? Dans une salle de rédaction où les délais sont serrés, nous devons nous fier aux informations dont nous disposons. On peut se demander dans quelle mesure des utilisateurs malveillants des nouvelles technologies infiltreront les matériaux de recherche ou, plus tard, le contenu des encyclopédies. Ou bien les outils de vérification eux-mêmes sont-ils fiables ? 

Il est clair que les machines pensantes qui parcourent l'internet à la recherche d'informations pour prendre des décisions auront leurs avantages. Je pense au traitement des déchets nucléaires, au désarmement des armes anciennes, à la simulation du champ de bataille, à l'intégration des connaissances historiques et à la recherche de nouveaux produits et matériaux. La recherche médicale s'accélérera, on peut le supposer. 

Mais la vie privée pourrait être une chose du passé, elle le sera presque certainement. 

Pensez à cette personne séduisante que vous avez vue au supermarché, mais dont vous ne saviez pas trop ce qu'il adviendrait si vous engagiez la conversation. Prenez une photo avec votre appareil et, en un clin d'œil, l'IA vous dira qui est cet étranger, si cette personne pourrait vouloir vous rencontrer et, si cela vous intéresse, si elle est mariée, en couple ou si elle espère simplement rencontrer quelqu'un comme vous. Ou s'il s'agit d'un espion au service d'un gouvernement hostile. 

L'IA pourrait nous sauver de nous-mêmes. Mais nous devrions nous demander dans quelle mesure nous avons besoin d'être sauvés, et être prêts à ignorer la réponse. Bon sang, nous sommes humains. 

Sur Twitter : @llewellynking2 

Llewellyn King est producteur exécutif et animateur de White House Chronicle sur PBS.