Guterres a prononcé le discours d’ouverture du « Dialogue mondial initial sur la gouvernance de l’intelligence artificielle », qui a débuté aujourd’hui à Genève, en Suisse, sous l’égide de la Suisse et à l’initiative de l’Assemblée générale des Nations Unies.
Guterres a déclaré que l’intelligence artificielle progresse à un rythme incontrôlable et que cette technologie, capable de remodeler les économies, de transformer le monde du travail, d’influencer les élections et de modifier l’équilibre sécuritaire, se répand si rapidement que personne, pas même ses développeurs, ne peut suivre le rythme.
Guterres a fait remarquer qu’une expérience non planifiée et non consensuelle était menée sur les sociétés, et que cela n’était pas viable.
L’intelligence artificielle transforme déjà notre monde. La question est de savoir si nous façonnerons ensemble cette transformation ou si nous la laisserons nous façonner. Aujourd’hui, la réponse à cette question se trouve dans le premier Dialogue mondial sur la gouvernance de l’IA. Pour la première fois, tous les pays sont réunis. Nous disposons d’une base de données probantes commune. Ce matin, les coprésidents du Groupe scientifique international indépendant sur l’intelligence artificielle présenteront leur premier rapport. Quarante experts de renom, issus de toutes les régions et de toutes les disciplines, participent à titre personnel, en toute indépendance vis-à-vis de tout gouvernement, entreprise ou institution.
Guterres, rappelant qu’il a fallu 15 ans pour qu’Internet atteigne un milliard de personnes et que l’intelligence artificielle a atteint ce stade en deux ans, a souligné que ces systèmes ne sont plus des outils attendant des instructions, mais qu’ils écrivent du code, se connectent à Internet et font des choix avec une supervision humaine de plus en plus réduite.
Guterres a déclaré : « Nos institutions ont été conçues pour gérer des machines qui obéissent à des ordres. Elles ne sont pas prêtes pour des machines à prendre des décisions. Certaines limites, une fois franchies, sont irréversibles. »
Guterres a également déclaré que la science met en garde contre les dangers liés au pouvoir de l’intelligence artificielle, et a ajouté ce qui suit :
« La puissance de calcul, les données et les talents qui sous-tendent les systèmes les plus avancés sont concentrés entre les mains d’une poignée d’entreprises et de pays. De nombreux pays, y compris des pays en développement, sont privés de toute possibilité de participer aux décisions qui façonneront leur avenir. Plus nous attendons, plus cette concentration s’accentuera. Lorsque les déséquilibres de pouvoir sont inscrits dans la technologie, l’inégalité devient intrinsèque. »
Guterres a également rappelé qu’il existe des mises en garde concernant la réalité de l’intelligence artificielle, soulignant qu’un mensonge assisté par une machine peut désormais être aussi efficace pour persuader que la vérité, et que des preuves authentiques peuvent être rejetées comme étant fausses.
« Aucun enfant ne devrait servir de cobaye à une intelligence artificielle non supervisée. »
Guterres a déclaré : « Le groupe scientifique réuni ce matin nous présente les preuves. Le dialogue doit désormais guider le monde. Ce dialogue sera complété cette semaine à Genève par le Sommet sur l’IA au service du bien commun et par d’autres initiatives. L’ensemble de ces actions s’inscrit dans un effort intégré des Nations Unies visant à garantir que l’IA soit au service de l’humanité entière. »
Il a souligné que l’intelligence qui sous-tend cet acte s’étend en premier lieu à la vie des enfants, à leur apprentissage, à leurs amitiés et à leurs questions les plus intimes, ajoutant que le prix à payer est déjà en cours.
Guterres a noté ce qui suit :
« Des enfants trompés par des machines se faisant passer pour des amis (grâce à l’IA), des enfants poussés à l’automutilation. Des enfants victimes d’abus visuels générés d’un simple clic. Aucun enfant ne devrait servir de cobaye à une IA non supervisée. M’appuyant sur le travail de l’ONU, des États membres et d’autres acteurs, j’appelle aujourd’hui à un engagement pour la sécurité des enfants face à l’IA. »
Guterres a souligné qu’aucune entreprise ne devrait utiliser un système d’IA accessible aux enfants sans tests de sécurité spécifiques et sans surveillance indépendante, qu’aucune entreprise ne devrait être autorisée à utiliser son IA pour produire des images à caractère sexuel explicite d’enfants, et qu’elles devraient surveiller cela.
Guterres a déclaré : « L’intelligence artificielle ne doit jamais porter atteinte à la dignité humaine ni renforcer la discrimination. Dans des domaines tels que la justice et la santé, les machines peuvent fournir des informations pour chaque décision à haut risque, mais ce sont les humains qui doivent décider et réagir. »
Guterres a fait remarquer que les investissements privés dans les infrastructures d’intelligence artificielle ont frôlé le demi-billion de dollars l’an dernier, tandis que les investissements publics dans les capacités d’IA des pays en développement représentaient un chiffre très faible en comparaison.
« Si l’intelligence artificielle doit se mondialiser, elle doit être équitable. »
Guterres a formulé l’évaluation suivante :
Nous ne pouvons pas laisser la fracture numérique se transformer en fracture numérique liée à l’IA. Nous ne pouvons pas laisser cette fracture numérique engendrer un fossé de développement, un fossé de sécurité et un fossé de souveraineté. Si l’IA doit être puissante, elle doit être gouvernée. Si l’IA doit inspirer confiance, ceux qui la développent doivent rendre des comptes. Si l’IA doit être mondiale, elle doit être équitable. Si l’IA doit servir l’avenir, elle ne doit pas le détruire. Cela exigera une action urgente des gouvernements. Cela exigera des entreprises qu’elles assument une responsabilité à la hauteur de leur puissance. Les scientifiques doivent poursuivre leurs recherches. Le premier Dialogue mondial sur la gouvernance de l’IA doit devenir un lieu où la participation mondiale débouche sur une action mondiale.
Guterres a fait remarquer que l’humanité et les machines pourraient être la dernière génération à déterminer les conditions de leur coexistence, et a souligné qu’aujourd’hui à Genève, 193 États membres de l’ONU ont franchi une étape pour gérer ensemble ce processus.
Guterres a déclaré : « Que cette réunion reste gravée dans les mémoires comme le moment où la gouvernance a enfin rattrapé la technologie. Lorsque le premier Dialogue mondial sur la gouvernance de l’IA se réunira à nouveau à New York l’année prochaine, puissions-nous affirmer que le travail entrepris ici a rendu l’IA plus sûre, plus juste, plus accessible et plus éthique. Contribuer à bâtir un avenir pour l’IA par, avec et pour toute l’humanité, voilà ce qui définit notre mission. »
Le Dialogue mondial sur la gouvernance de l’intelligence artificielle est une initiative inclusive des Nations Unies, lancée par l’Assemblée générale, visant à garantir que tous les pays aient voix au chapitre dans le processus d’établissement des normes en matière d’intelligence artificielle.
Alors que les thèmes et la structure du dialogue sont en cours d’élaboration dans le cadre d’un processus de consultation mondial permanent, les représentants de l’ONU, des États membres, du monde universitaire, du secteur privé et des organisations de la société civile partageront leurs points de vue lors de cette réunion, qui se poursuit jusqu’à demain.
