4.6. La gouvernance de l'IA et du Code

Le Code des applications de la Démocratie Numérique n’est pas un outil technique. C’est le nouveau support de la démocratie. Celui qui écrit le Code écrit de facto les règles. La question de sa gouvernance est donc une question politique fondamentale.

Modifier le Code, c’est modifier la loi

Toute modification du Code qui change le comportement du système est de facto un changement de règle. Elle doit donc être proposée, étudiée, votée et auditée comme une loi. Une modification de la plateforme de votation n’est pas un patch technique : c’est une décision politique qui affecte l’exercice de la souveraineté citoyenne.

Ce principe est non négociable. Il empêche qu’une élite technique ne remplace l’élite politique en réécrivant discrètement les règles du jeu.

Les corrections de bugs, les mises à jour de sécurité et les améliorations de performance qui ne modifient pas le comportement fonctionnel du système suivent un processus technique simplifié, validé par le ministère et audité a posteriori.

Le ministère de la Démocratie Numérique

Le ministère de la Démocratie Numérique est l’institution responsable du développement, de la maintenance et de la sécurité des applications du système : plateforme d’identité numérique, plateforme de votation, blockchain, plateforme de préparation des RIC, archivage public.

Ses développeurs sont des professionnels sous contrôle institutionnel, pas une élite technique autonome. Ils sont soumis aux mêmes règles de surveillance et de transparence que tous les agents de l’État. Le ministère rend compte de son action, publie ses indicateurs de qualité et de sécurité, et son travail est supervisé par la Commission de surveillance citoyenne.

Le Code est intégralement open source. N’importe quel Citoyen, expert ou organisation peut l’auditer, signaler une faille ou proposer une amélioration. Les contributions externes passent par un processus de revue et de validation avant intégration, sous la responsabilité du ministère.

L’entraînement des IA de gouvernance

Les IA de gouvernance — celles qui assistent les institutions dans la rédaction des lois, la synthèse des dossiers, l’analyse constitutionnelle, le traitement des affaires judiciaires — occupent une place centrale dans le fonctionnement de la Démocratie Numérique. Leur entraînement est donc une décision politique, pas technique.

Les paramètres sont définis par la loi :

Le corpus de formation : textes fondateurs, lois, jurisprudence, données publiques. Ce que l’IA sait dépend de ce qu’on lui enseigne.
Les valeurs fondamentales : la Constitution Universelle, les droits fondamentaux, les principes de la Démocratie Numérique. L’IA doit les intégrer comme des contraintes non négociables.
Les objectifs : neutralité, exhaustivité, explicabilité. L’IA de gouvernance ne recommande pas, n’influence pas, ne décide pas. Elle informe, analyse et synthétise.
Les limites : ce que l’IA ne doit pas faire est aussi important que ce qu’elle doit faire. Ces limites sont inscrites dans le Code et vérifiables.

Chaque nouvelle version de l’IA de gouvernance fait l’objet d’une validation institutionnelle avant déploiement. C’est l’équivalent d’une promulgation logicielle : la Chambre des Représentants valide que l’IA se comporte conformément aux lois en vigueur, avec l’avis de la Cour constitutionnelle.

Rappelons que les IA de gouvernance ne sont pas les seules intelligences artificielles dans l’écosystème de la Démocratie Numérique. Comme décrit dans la section sur l’IA et le Citoyen, les IA politiques (développées par des groupes, associations, centres de réflexion) ont le droit d’avoir des orientations assumées, et les IA personnelles sont au libre choix de chaque Citoyen. Seules les IA de gouvernance sont soumises à ce processus de validation institutionnelle.

Une neutralité jamais présumée

Une IA de gouvernance peut être utile parce qu’elle traite plus d’informations qu’un humain, parce qu’elle ne cherche pas une carrière, parce qu’elle ne possède pas d’intérêt patrimonial propre. Mais cela ne la rend pas neutre par nature. Elle hérite de ses données, de son architecture, des objectifs que les humains lui assignent, des limites qu’ils inscrivent dans son Code et des infrastructures qui l’exécutent.

La Démocratie Numérique pose donc un principe simple : une IA de gouvernance n’est jamais crue, elle est contrôlée.

Ce contrôle repose sur plusieurs exigences :

La pluralité des modèles : aucune fonction critique ne dépend d’une IA unique. Plusieurs systèmes, construits par des équipes différentes et sur des architectures différentes, produisent leurs analyses en parallèle.
La publicité des corpus et des objectifs : les textes, données et critères utilisés pour entraîner ou évaluer l’IA sont publics, sauf exception strictement justifiée par la sécurité ou la vie privée.
Les journaux d’évaluation : chaque version conserve l’historique de ses tests, de ses erreurs, de ses désaccords avec d’autres modèles et des corrections apportées.
Les red teams : des équipes expertes et citoyennes cherchent activement les failles, les biais, les comportements manipulateurs ou les angles morts.
Le droit à la contestation humaine : toute personne affectée par une analyse ou une décision assistée par IA peut demander une revue humaine.

La neutralité n’est donc pas une qualité proclamée. C’est un résultat provisoire, mesuré, contestable, toujours soumis au contrôle des Citoyens.

Les modèles fondateurs privés comme infrastructure commune

À côté des IA publiques et privées ordinaires, un cas particulier émerge : celui des modèles fondateurs privés qui deviennent si critiques que l’économie entière en dépend. Quand un modèle d’intelligence artificielle est la brique technique sur laquelle reposent la rédaction, l’analyse, la traduction, la programmation, le diagnostic médical d’une société, son propriétaire détient une position qui dépasse le cadre d’une entreprise ordinaire. Il peut extraire une rente indéfinie, influencer à bas bruit les discours publics, asphyxier l’innovation concurrente. Ce n’est plus un service commercial, c’est une infrastructure au même titre que le réseau électrique ou les télécommunications.

La Démocratie Numérique pose une règle simple : au-delà d’un seuil d’usage, un modèle fondateur bascule en bien commun. Ce seuil est défini par la Constitution Nationale et évalué par la Cour constitutionnelle, sur le modèle du droit de la concurrence. Le basculement peut prendre deux formes, au choix de la votation citoyenne :

Open source obligatoire : les poids du modèle sont publiés, n’importe qui peut l’exécuter, l’adapter, le redéployer librement.
Licence à tarif régulé : le modèle reste opéré par son créateur, mais son accès est facturé à un tarif fixé publiquement, garantissant un rendement raisonnable sur les investissements sans extraction de rente permanente.

Cette logique n’est pas nouvelle. L’industrie pharmaceutique accepte depuis longtemps le principe du brevet limité dans le temps, puis du passage dans le domaine public. Les télécommunications, l’électricité, les chemins de fer sont devenus des infrastructures régulées dès qu’ils sont devenus critiques. L’intelligence artificielle fondatrice suit le même chemin, avec plusieurs décennies d’expérience à sa disposition pour le parcourir plus vite.

La surveillance des seuils d’usage (parts de marché, nombre d’utilisateurs uniques, impact économique) est automatisée par l’IA de gouvernance et rendue publique en continu. Avant tout basculement effectif, la Cour constitutionnelle rend un avis motivé, et la décision finale appartient aux Citoyens par votation. Les incitations économiques associées à ce mécanisme relèvent de l’économie positive.

L’audit croisé

Comment s’assurer que l’IA fait bien ce qu’on lui demande ? Par la redondance et l’indépendance.

Plusieurs systèmes d’IA indépendants auditent le Code et s’auditent mutuellement. L’IA qui vérifie la cohérence des lois n’est pas la même que celle qui audite le Code, qui n’est pas la même que celle qui assiste la justice. Chaque système est développé et maintenu par des équipes distinctes, avec des architectures différentes. Cette diversité empêche un point unique de défaillance : la compromission d’un système est détectée par les autres.

Des audits humains indépendants complètent le dispositif. Des experts externes, tirés au sort parmi une liste de spécialistes volontaires, conduisent des revues périodiques du Code et des modèles d’IA. Leurs conclusions sont publiques.

L’open source est la garantie ultime : quand le Code est public, l’ensemble de la communauté technique mondiale peut participer à sa vérification.

Sécurité et résilience

Le Code de la Démocratie Numérique est une infrastructure critique. Sa sécurité et sa fiabilité sont des exigences centrales.

La recherche de failles. Un programme permanent de recherche de vulnérabilités (bug bounty) récompense la découverte et le signalement responsable de failles de sécurité. Les meilleurs experts de la planète sont ainsi incités à renforcer le système plutôt qu’à l’attaquer.

La décentralisation. La blockchain est distribuée : chaque noeud du réseau en détient une copie complète. Le Code est répliqué sur des infrastructures indépendantes. Si un serveur tombe, le système continue de fonctionner.

La continuité. Le caractère open source garantit la continuité : si une équipe de développement disparaît, une autre peut prendre le relais. Le savoir n’est jamais concentré dans les mains d’un petit groupe.

La résistance aux menaces futures. La cryptographie sur laquelle repose la Démocratie Numérique (vote, identité, monnaie) devra évoluer pour résister aux avancées technologiques, notamment l’informatique quantique. La veille technologique et la préparation de cette transition sont une responsabilité permanente du ministère.

Le Code est vivant. Il évolue au rythme des votations, s’adapte aux besoins de la société et intègre les progrès technologiques. Mais chaque évolution est une décision citoyenne. En Démocratie Numérique, la technologie est au service des Citoyens, jamais l’inverse.

Nous avons décrit les institutions qui font vivre la Démocratie Numérique : le pouvoir législatif, le pouvoir exécutif, le pouvoir judiciaire, la surveillance citoyenne, leur déclinaison à toutes les échelles, et la gouvernance de l’IA et du Code qui les sous-tend. Il s’agit maintenant de décrire le modèle économique de cette société.

Références

Blockchain and the Law: The Rule of Code, Primavera De Filippi & Aaron Wright, 2018. Comment le code crée un nouveau paradigme de gouvernance où les règles sont exécutées automatiquement — et pourquoi la gouvernance de ce code est un enjeu démocratique fondamental.
The Alignment Problem, Brian Christian, 2020. Le défi central de l’IA : comment s’assurer que les systèmes intelligents poursuivent les objectifs que nous leur assignons. La question qui sous-tend l’entraînement des IA de gouvernance.
Governing the Commons, Elinor Ostrom, 1990. Les principes de gouvernance des ressources partagées s’appliquent directement à un Code open source maintenu collectivement.