António Guterres a averti que si l'intelligence artificielle devenait principalement une arme pour lancer des cyberattaques, générer des deepfakes, ou pour diffuser de la désinformation et des discours de haine, cela aurait des conséquences très graves pour la paix et la sécurité mondiales.

Le chef de l’ONU a exhorté le Conseil à aborder cette technologie « avec un sentiment d'urgence, une vision globale et un état d'esprit d'apprenant ».

Les risques d'une utilisation malveillante

« Soyons clairs : l'utilisation malveillante de systèmes d'IA à des fins terroristes, criminelles ou étatiques pourrait causer des niveaux horribles de morts et de destructions, des traumatismes généralisés et des dommages psychologiques profonds à une échelle inimaginable », a souligné M. Guterres.

« Il suffit de regarder les médias sociaux. Des outils et des plateformes conçus pour renforcer les liens humains sont désormais utilisés pour saper les élections, diffuser des théories du complot et inciter à la haine et à la violence », a-t-il fait valoir.

« Les dysfonctionnements des systèmes d'IA sont un autre sujet de préoccupation majeur. Et l'interaction entre l'IA et les armes nucléaires, la biotechnologie, la neurotechnologie et la robotique est très alarmante », a ajouté le chef de l’ONU.

M. Guterres a néanmoins mis en exergue l’utilisation de l'IA au service de la paix et de la sécurité, notamment par les Nations Unies, y compris pour identifier les schémas de violence ou surveiller les cessez-le-feu, « contribuant ainsi à renforcer nos efforts en matière de maintien de la paix, de médiation et d'aide humanitaire ». 

Servir le bien commun 

Évoquant le débat sur la gouvernance de l'IA, M. Guterres a souligné la nécessité d'une approche universelle, citant des expériences passées similaires sous l'égide de l'ONU. 

« La communauté internationale a une longue histoire de réponses aux nouvelles technologies susceptibles de déstabiliser nos sociétés et nos économies. Nous avons joint nos efforts au sein de l’ONU pour établir de nouvelles règles internationales, signer de nouveaux traités et créer de nouveaux organismes mondiaux », a signalé le Secrétaire général de l’ONU devant les Quinze.

Il a cité divers exemples existants liés à l’IA, dont les Principes directeurs sur les systèmes d'armes autonomes létaux ; les recommandations sur l’éthique de l’intelligence artificielle adoptées par l’UNESCO en 2021 ; les recommandations sur la manière dont les États membres peuvent lutter contre l’utilisation potentielle de l’IA à des fins terroristes du Bureau de l’ONU de la lutte contre le terrorisme ; ou encore le Sommet « AI for Good » [IA pour le bien], tenu à Genève le mois dernier et qui a rassemblé des experts, le secteur privé, des agences des Nations Unies et des gouvernements, afin de veiller à ce que cette technologie révolutionnaire serve le bien commun.

Créer une nouvelle entité onusienne

Le chef de l’ONU a indiqué que les questions de gouvernance seront complexes à divers égards, en raison de la mise à disposition du grand public de certains modèles puissants d’intelligence artificielle.

Aussi, « contrairement aux matières nucléaires et aux agents chimiques et biologiques les outils d’IA peuvent être expédiés partout dans le monde en laissant très peu de traces », a-t-il souligné, notant également le rôle de premier plan joué par le secteur privé dans le domaine de l’IA.

M. Guterres a souligné le manque de compétences en matière d'IA au sein des gouvernements et autres bureaucraties, qui doit être comblé aux niveaux national et mondial.

« C'est pourquoi je me félicite des appels lancés par certains États membres en faveur de la création d'une nouvelle entité des Nations Unies pour soutenir les efforts collectifs visant à régir cette technologie extraordinaire, en s'inspirant de modèles tels que l'Agence internationale de l'énergie atomique, l'Organisation de l'aviation civile internationale ou le Groupe d'experts intergouvernemental sur l'évolution du climat », a affirmé le chef de l'ONU.

Selon lui, une nouvelle entité des Nations Unies « rassemblerait l'expertise et la mettrait à la disposition de la communauté internationale » et pourrait également « soutenir la collaboration en matière de recherche et de développement d'outils d'intelligence artificielle afin d'accélérer le développement durable ».

Photo ONU/Eskinder Debebe

Le Secrétaire général des Nations Unies, António Guterres, s'adresse au Conseil de sécurité des Nations Unies au sujet de la menace que représente l'intelligence artificielle pour la paix et la sécurité internationales.

Recommandations sur la gouvernance 

M. Guterres a annoncé qu'il convoquerait une réunion de haut niveau sur l'IA, qui rendra compte des options de gouvernance mondiale d'ici la fin de l'année.

Sa prochaine note d'information sur le nouvel agenda pour la paix, devrait également formuler des recommandations sur la gouvernance de l'IA à l'intention des États membres.

Ce document appelle notamment à la conclusion, d'ici à 2026, de négociations sur un instrument juridiquement contraignant visant à interdire les systèmes d'armes autonomes létaux qui fonctionnent sans contrôle ou surveillance humaine et qui ne peuvent être utilisés dans le respect du droit international humanitaire.

Faire preuve de leadership

Le Secrétaire général a appelé le Conseil de sécurité, qui est responsable de la paix et de la sécurité internationales, à « faire preuve de leadership en matière d'IA » et à montrer la voie vers des mesures communes en matière de transparence, de responsabilité et de contrôle.

« Nous devons travailler ensemble pour que l'IA comble les fossés sociaux, numériques et économiques, et non pour qu'elle nous éloigne les uns des autres. Je vous invite à unir vos forces et à instaurer la confiance pour la paix et la sécurité », a conclu M. Guterres.

La réunion de mardi a été convoquée par le Royaume-Uni, qui assure la présidence tournante du Conseil de sécurité pour le mois de juillet. 

Il s'agit de la première réunion de l’organe de l’ONU chargé de la paix et la sécurité dans le monde sur les menaces potentielles de l'intelligence artificielle pour la paix et la sécurité internationales.