4.6. La gouvernance de l'IA et du Code
Le Code des applications de la Démocratie Numérique constitue le support exécutable de la démocratie. Celui qui écrit le Code traduit les règles dans le fonctionnement quotidien du système. Sa gouvernance est donc une question politique fondamentale.
Modifier le Code, c’est modifier la loi
Section intitulée « Modifier le Code, c’est modifier la loi »Toute modification du Code qui change le comportement du système est de facto un changement de règle. Elle doit donc être proposée, étudiée, votée et auditée comme une loi. Une modification de la plateforme de votation affecte l’exercice de la souveraineté citoyenne et relève donc du processus politique.
Ce principe est non négociable. Toute modification du Code est tracée, publiée, qualifiée et auditée.
Les corrections de bugs, les mises à jour de sécurité et les améliorations de performance qui ne modifient pas le comportement fonctionnel du système suivent un processus technique simplifié, validé par le ministère et audité a posteriori. La Chambre des Représentants qualifie publiquement chaque modification. Tout Citoyen peut contester cette qualification devant la Cour constitutionnelle, qui statue de façon indépendante.
Les correctifs de sécurité urgents suivent une procédure dédiée. Ils peuvent être déployés provisoirement, sous la signature du ministère et avec une journalisation publique, puis restent en attente de ratification par la Chambre pendant le délai fixé par la Constitution. En cas de refus, la version précédente est restaurée lorsque ce retour peut être effectué en sécurité. Dans les autres cas, une mesure compensatoire définie à l’avance, publiée et limitée dans le temps s’applique jusqu’à une correction durable ratifiée ou un arrêt contrôlé.
Le ministère de la Démocratie Numérique
Section intitulée « Le ministère de la Démocratie Numérique »Le ministère de la Démocratie Numérique est l’institution responsable du développement, de la maintenance et de la sécurité des applications du système : plateforme d’identité numérique, plateforme de votation, blockchain, plateforme de préparation des RIC, archivage public.
Les développeurs du ministère travaillent sous contrôle institutionnel et citoyen. Ils sont soumis aux mêmes règles de surveillance et de transparence que tous les agents de l’État. Le ministère rend compte de son action, publie ses indicateurs de qualité et de sécurité, et son travail est supervisé par la Commission de surveillance citoyenne.
Le Code est intégralement open source. N’importe quel Citoyen, expert ou organisation peut l’auditer, signaler une faille ou proposer une amélioration. Les contributions externes passent par un processus de revue et de validation avant intégration, sous la responsabilité du ministère.
L’entraînement des IA de gouvernance
Section intitulée « L’entraînement des IA de gouvernance »Les IA de gouvernance, celles qui assistent les institutions dans la rédaction des lois, la synthèse des dossiers, l’analyse constitutionnelle et l’instruction des affaires judiciaires, occupent une place centrale dans le fonctionnement de la Démocratie Numérique. La loi encadre donc leur entraînement.
Les paramètres sont définis par la loi :
- Le corpus de formation : textes fondateurs, lois, jurisprudence, données publiques. Ce que l’IA sait dépend de ce qu’on lui enseigne.
- Les valeurs fondamentales : la Constitution Universelle, les droits fondamentaux, les principes de la Démocratie Numérique. L’IA doit les intégrer comme des contraintes impératives, vérifiées à chaque validation.
- Les objectifs : neutralité, exhaustivité, explicabilité. L’IA de gouvernance instruit, calcule et propose ; elle ne tranche jamais seule. Toute personne affectée par une décision assistée par IA a droit à une détermination humaine.
- Les limites : ce que l’IA ne doit pas faire est aussi important que ce qu’elle doit faire. Ces limites sont inscrites dans le Code et vérifiables.
À ces paramètres s’ajoute un principe d’alignement, en écho aux trois lois de la robotique d’Asimov et à la question posée dès l’ouverture de ce texte : quels principes fondateurs transmettre à une IA qui participe à la vie d’une société libre ? La Démocratie Numérique y répond par une quatrième loi : une IA de gouvernance doit respecter, soutenir et mettre en oeuvre les décisions citoyennes. Cette loi est inscrite dans l’entraînement de chaque modèle et testée à chaque validation.
Chaque nouvelle version de l’IA de gouvernance fait l’objet d’une validation institutionnelle avant déploiement. C’est l’équivalent d’une promulgation logicielle : la Chambre des Représentants valide que l’IA se comporte conformément aux lois en vigueur, avec l’avis de la Cour constitutionnelle.
Rappelons que les IA de gouvernance ne sont pas les seules intelligences artificielles dans l’écosystème de la Démocratie Numérique. Comme décrit dans la section sur l’IA et le Citoyen, les IA politiques (développées par des groupes, associations, centres de réflexion) ont le droit d’avoir des orientations assumées, et les IA personnelles sont au libre choix de chaque Citoyen. Seules les IA de gouvernance sont soumises à ce processus de validation institutionnelle.
Une neutralité jamais présumée
Section intitulée « Une neutralité jamais présumée »Une IA de gouvernance peut être utile parce qu’elle traite plus d’informations qu’un humain, parce qu’elle ne cherche pas une carrière, parce qu’elle ne possède pas d’intérêt patrimonial propre. Mais cela ne la rend pas neutre par nature. Elle hérite de ses données, de son architecture, des objectifs que les humains lui assignent, des limites qu’ils inscrivent dans son Code et des infrastructures qui l’exécutent.
La Démocratie Numérique pose donc un principe simple : toute IA de gouvernance est soumise à des contrôles indépendants et permanents.
Ce contrôle repose sur plusieurs exigences :
- La pluralité des modèles : aucune fonction critique ne dépend d’une IA unique. Plusieurs systèmes, construits par des équipes différentes et sur des architectures différentes, produisent leurs analyses en parallèle.
- La publicité des corpus et des objectifs : les textes, données et critères utilisés pour entraîner ou évaluer l’IA sont publics, sauf exception strictement justifiée par la sécurité ou la vie privée.
- Les journaux d’évaluation : chaque version conserve l’historique de ses tests, de ses erreurs, de ses désaccords avec d’autres modèles et des corrections apportées.
- Les red teams : des équipes expertes et citoyennes cherchent activement les failles, les biais, les comportements manipulateurs ou les angles morts.
- Le droit à la contestation humaine : toute personne affectée par une analyse ou une décision assistée par IA peut demander une détermination humaine.
La neutralité est un résultat provisoire, mesuré, contestable et toujours soumis au contrôle des Citoyens.
Les modèles fondateurs privés comme infrastructure commune
Section intitulée « Les modèles fondateurs privés comme infrastructure commune »À côté des IA publiques et privées ordinaires, un cas particulier émerge : celui des modèles fondateurs privés qui deviennent si critiques que l’économie entière en dépend. Quand un modèle d’intelligence artificielle est la brique technique sur laquelle reposent la rédaction, l’analyse, la traduction, la programmation, le diagnostic médical d’une société, son propriétaire détient une position qui dépasse le cadre d’une entreprise ordinaire. Il peut extraire une rente indéfinie, influencer à bas bruit les discours publics, asphyxier l’innovation concurrente. À ce degré de dépendance, le modèle remplit la fonction d’une infrastructure au même titre que le réseau électrique ou les télécommunications.
La Démocratie Numérique pose une règle graduée : à mesure qu’un modèle fondateur devient critique, il bascule en bien commun. Deux seuils jalonnent ce parcours. Ils sont définis comme paramètres de la Constitution Nationale, exprimés en part d’usage dans les services essentiels (rédaction, analyse, traduction, programmation, diagnostic), et leur franchissement est évalué par la Cour constitutionnelle, sur le modèle du droit de la concurrence :
- Au premier seuil, la licence à tarif régulé : le modèle reste opéré par son créateur, mais son accès est facturé à un tarif fixé publiquement, assurant un rendement raisonnable des investissements sans extraction de rente permanente.
- Au second seuil, l’ouverture obligatoire : les poids du modèle sont publiés, n’importe qui peut l’exécuter, l’adapter, le redéployer librement. Cette ouverture s’accompagne d’une indemnisation du créateur, votée par les Citoyens sur la base du dossier de votation. Il n’y a pas d’expropriation sans contrepartie.
Cette logique n’est pas nouvelle. L’industrie pharmaceutique accepte depuis longtemps le principe du brevet limité dans le temps, puis du passage dans le domaine public. Les télécommunications, l’électricité, les chemins de fer sont devenus des infrastructures régulées dès qu’ils sont devenus critiques. L’intelligence artificielle fondatrice suit le même chemin, avec plusieurs décennies d’expérience à sa disposition pour le parcourir plus vite.
La surveillance des seuils d’usage (parts de marché, nombre d’utilisateurs uniques, impact économique) est automatisée par l’IA de gouvernance et rendue publique en continu. Avant tout basculement effectif, la Cour constitutionnelle rend un avis motivé, et la décision finale appartient aux Citoyens par votation. Les incitations économiques associées à ce mécanisme relèvent de l’économie positive.
L’audit croisé
Section intitulée « L’audit croisé »Comment s’assurer que l’IA fait bien ce qu’on lui demande ? Par la redondance et l’indépendance.
Plusieurs systèmes d’IA indépendants auditent le Code et s’auditent mutuellement. Un système vérifie la cohérence des lois, un autre audite le Code et un troisième assiste la justice. Chaque système est développé et maintenu par des équipes distinctes, avec des architectures différentes. Cette diversité rend la compromission simultanée de tous les systèmes improbable, et la compromission d’un seul détectable par les autres.
Des audits humains indépendants complètent le dispositif. Des experts externes, tirés au sort parmi une liste de spécialistes volontaires, conduisent des revues périodiques du Code et des modèles d’IA. Leurs conclusions sont publiques.
L’open source est le dernier filet de sécurité : quand le Code est public, l’ensemble de la communauté technique mondiale peut participer à sa vérification.
La recherche à risque
Section intitulée « La recherche à risque »La gouvernance de l’IA s’inscrit dans une question plus large : celle des recherches dont le potentiel est immense et le danger réel. Intelligence artificielle générale, manipulations génétiques, recherche militaire : la poursuite de ces travaux exige le regard des Citoyens.
Le principe tient en une phrase : l’encouragement pour toute la recherche, la surveillance stricte pour les domaines dangereux. Transparence des programmes, auditabilité des travaux, publicité des résultats et débat public sont les conditions d’exercice de la recherche à risque. La commission permanente compétente maintient la liste de ces domaines, révisée par votation à mesure que la réflexion éthique progresse.
Sécurité et résilience
Section intitulée « Sécurité et résilience »Le Code de la Démocratie Numérique est une infrastructure critique. Sa sécurité et sa fiabilité sont des exigences centrales.
La recherche de failles. Un programme permanent de recherche de vulnérabilités (bug bounty) récompense la découverte et le signalement responsable de failles de sécurité. Les meilleurs experts de la planète sont ainsi incités à renforcer le système plutôt qu’à l’attaquer.
La décentralisation. La blockchain est distribuée : chaque noeud du réseau en détient une copie complète. Le Code est répliqué sur des infrastructures indépendantes. Si un serveur tombe, le système continue de fonctionner.
La continuité. Le caractère open source rend la continuité possible : si une équipe de développement disparaît, une autre peut prendre le relais. Le savoir n’est pas concentré dans les mains d’un petit groupe.
La résistance aux menaces futures. La cryptographie sur laquelle repose la Démocratie Numérique (vote, identité, monnaie) devra évoluer pour résister aux avancées technologiques, notamment l’informatique quantique. La veille technologique et la préparation de cette transition sont une responsabilité permanente du ministère.
Le Code est vivant. Il évolue au rythme des votations, s’adapte aux besoins de la société et intègre les progrès technologiques. Chaque évolution relève d’une décision citoyenne. En Démocratie Numérique, les Citoyens gouvernent l’usage de la technologie.
Nous avons décrit les institutions qui font vivre la Démocratie Numérique : le pouvoir législatif, le pouvoir exécutif, le pouvoir judiciaire, la surveillance citoyenne, leur déclinaison à toutes les échelles, et la gouvernance de l’IA et du Code qui les sous-tend. Il s’agit maintenant de décrire le modèle économique de cette société.
Références
- Blockchain and the Law: The Rule of Code, Primavera De Filippi & Aaron Wright, 2018. Comment le code crée un nouveau paradigme de gouvernance où les règles sont exécutées automatiquement, et pourquoi la gouvernance de ce code est un enjeu démocratique fondamental.
- The Alignment Problem, Brian Christian, 2020. Le défi central de l’IA : comment s’assurer que les systèmes intelligents poursuivent les objectifs que nous leur assignons. La question qui sous-tend l’entraînement des IA de gouvernance.
- Governing the Commons, Elinor Ostrom, 1990. Les principes de gouvernance des ressources partagées s’appliquent directement à un Code open source maintenu collectivement.