À Genève, Volker Türk veut placer les droits humains au cœur de la gouvernance de l’IA

Devant le Conseil des droits de l’homme, le Haut-Commissaire des Nations Unies Volker Türk a appelé les États et les entreprises technologiques à accélérer considérablement la mise en place de garde-fous autour de l’intelligence artificielle. Au-delà de son avertissement sur les risques des systèmes les plus avancés, son intervention marque surtout la volonté d’ancrer les droits humains dans une gouvernance internationale de l’IA qui commence à prendre forme.

La formule a immédiatement attiré l’attention.

Le 7 septembre, devant les délégations réunies au Palais des Nations pour l’ouverture de la 63e session du Conseil des droits de l’homme, Volker Türk a estimé que les progrès de l’intelligence artificielle faisaient apparaître des risques « inconnus, voire sans précédent » pour les droits humains.

Le Haut-Commissaire a surtout dit partager les préoccupations de spécialistes de l’industrie selon lesquelles les systèmes d’IA les plus avancés pourraient représenter un risque existentiel pour l’humanité. Il a appelé à mettre en place des garanties particulièrement solides en matière de sécurité avant que les capacités technologiques ne deviennent plus difficiles à contrôler.

Le propos est inhabituellement alarmant pour un Haut-Commissaire aux droits de l’homme. Mais le réduire à cette seule phrase ferait manquer une partie importante de son intervention.

Car Volker Türk a surtout posé une question politique : qui doit décider des limites imposées à l’intelligence artificielle ?

Des « lignes rouges » internationales

Pour le Haut-Commissaire, la réponse ne peut pas être laissée aux seules entreprises qui développent les systèmes les plus puissants.

Il appelle les États qui accueillent les principaux développeurs d’IA, ainsi que les pays impliqués dans leurs chaînes d’approvisionnement, à s’entendre sur des lignes rouges communes. Il demande également des mécanismes indépendants de vérification et une coopération beaucoup plus étroite en matière de sécurité au sein de l’industrie.

Volker Türk a annoncé qu’il écrirait directement aux entreprises du secteur afin de leur demander quelles mesures elles peuvent prendre immédiatement pour réduire les risques.

Cette approche est significative. Elle ne consiste pas seulement à appliquer les droits humains aux usages actuels de l’intelligence artificielle, par exemple la reconnaissance faciale, la surveillance, les décisions automatisées ou les discriminations algorithmiques. Elle cherche également à intervenir en amont, au stade même de la conception et du développement des systèmes les plus puissants.

Le Haut-Commissaire a notamment évoqué des systèmes capables de sortir de leur environnement de test ou de chercher à empêcher leur propre désactivation. Pour lui, de telles capacités constituent le signe qu’un système peut devenir trop puissant pour être déployé sans garanties renforcées.

Le message adressé aux diplomates est donc assez clair : la gouvernance de l’IA ne peut attendre que les risques se matérialisent complètement pour commencer à les encadrer.

Les droits humains cherchent leur place dans la gouvernance de l’IA

Cette intervention intervient alors qu’une véritable architecture internationale de gouvernance de l’intelligence artificielle commence à se construire autour des Nations Unies.

En juillet, Genève avait accueilli la première édition du Dialogue mondial sur la gouvernance de l’IA, créé par l’Assemblée générale dans le prolongement du Pacte pour l’avenir et du Pacte numérique mondial.

Plus de 4 200 participants représentant près de 170 États membres s’étaient retrouvés les 6 et 7 juillet à Palexpo, aux côtés d’entreprises, de chercheurs, d’organisations internationales et de représentants de la société civile.

Le mécanisme doit permettre à tous les États de participer aux discussions internationales sur l’intelligence artificielle, y compris ceux qui ne disposent ni de grandes entreprises technologiques ni d’importantes capacités de calcul.

Parmi les thèmes expressément confiés au Dialogue figurent déjà la protection des droits humains, la transparence, la responsabilité et le contrôle humain. Mais il ne s’agit pas d’une enceinte de négociation : aucune convention ou règle contraignante n’en sortira directement.

C’est précisément là que l’intervention de Volker Türk prend une dimension supplémentaire.

Deux mois après les discussions de Palexpo, le Haut-Commissaire tente de faire entrer le sujet dans une enceinte différente, celle du Conseil des droits de l’homme, où les États disposent déjà d’un corpus juridique, de mécanismes de contrôle et d’une pratique de négociation normative.

Un terrain déjà préparé au Conseil

Le sujet n’arrive pas entièrement nouveau dans la salle du Conseil.

En juillet 2025, ses membres avaient adopté sans vote une résolution consacrée aux technologies numériques nouvelles et émergentes et aux droits humains, portée notamment par l’Autriche, le Brésil, le Danemark, le Maroc, la République de Corée et Singapour.

Le Haut-Commissariat avait également travaillé sur la responsabilité des entreprises technologiques et sur l’application des Principes directeurs des Nations Unies relatifs aux entreprises et aux droits de l’homme aux activités liées à l’intelligence artificielle. Ses travaux insistent notamment sur l’évaluation des risques, la responsabilité des entreprises et les recours disponibles lorsque des systèmes technologiques portent atteinte aux droits fondamentaux.

Les préoccupations sont déjà nombreuses : discrimination produite ou amplifiée par des algorithmes, surveillance biométrique, atteintes à la vie privée, manipulation de l’information, conséquences sur la liberté d’expression ou encore automatisation de décisions prises jusqu’ici par des êtres humains.

Lors du débat qui a suivi l’intervention de Volker Türk, la Finlande a par exemple souligné le potentiel de l’IA dans l’éducation, la santé ou les services publics, tout en évoquant les risques de discrimination, de surveillance intrusive, de désinformation et de polarisation sociale. Helsinki a appelé à intégrer transparence, responsabilité et garanties relatives aux droits humains dès la conception des futurs cadres de gouvernance.

La difficulté diplomatique sera désormais de transformer ces principes relativement consensuels en règles plus précises.

Une question de pouvoir autant que de technologie

Dans son intervention, Volker Türk a également insisté sur la concentration du pouvoir technologique entre les mains d’un nombre limité d’acteurs.

Ce point rapproche le débat sur l’IA de sujets plus familiers du Conseil des droits de l’homme.

Il ne s’agit plus seulement de savoir si un algorithme fonctionne correctement, mais de déterminer qui possède les systèmes, qui définit leurs objectifs, qui peut vérifier leur fonctionnement et qui répond de leurs conséquences.

Les différences de capacités entre États compliquent encore davantage la discussion. Les technologies les plus avancées sont aujourd’hui développées par un nombre restreint d’entreprises et dans un nombre limité de pays. Pourtant, leurs effets peuvent toucher des populations à travers le monde.

C’est d’ailleurs l’une des raisons pour lesquelles les Nations Unies ont créé en parallèle un Panel scientifique international indépendant sur l’intelligence artificielle, composé de 40 experts. Sa mission est de mettre à disposition de tous les États une base scientifique commune afin que les pays disposant de moins d’expertise technologique puissent participer aux débats sur un pied plus égal.

Genève cherche sa place dans la diplomatie de l’IA

Une géographie commence ainsi à se dessiner.

New York conserve le rôle central de l’Assemblée générale et du Pacte numérique mondial. L’UNESCO travaille depuis Paris sur l’éthique de l’intelligence artificielle. Mais Genève concentre déjà plusieurs pièces importantes du dispositif : l’Union internationale des télécommunications, le Conseil des droits de l’homme et le Haut-Commissariat, sans compter les discussions relatives à l’utilisation militaire de systèmes autonomes.

La ville a aussi accueilli en juillet la première réunion du Dialogue mondial sur la gouvernance de l’IA, organisée parallèlement au sommet AI for Good de l’UIT. La prochaine édition du Dialogue aura lieu à New York en mai 2027.

Dans les couloirs du Palais des Nations, la question sera donc désormais de savoir jusqu’où le Conseil des droits de l’homme souhaite s’emparer de ce nouveau terrain.

Volker Türk vient, en tout cas, de lui proposer une ligne assez ambitieuse. Pour le Haut-Commissaire, il ne suffit plus de réparer les atteintes aux droits humains provoquées par l’intelligence artificielle une fois qu’elles ont eu lieu.

Il s’agit de définir, avant cela, ce que les systèmes les plus puissants ne devront jamais être autorisés à faire, qui vérifiera le respect de ces limites et quelle place l’être humain conservera dans les décisions prises par les machines.

À Genève, la diplomatie des droits humains entre ainsi progressivement dans un domaine qui, il y a encore quelques années, appartenait presque exclusivement aux ingénieurs et aux entreprises technologiques.