La Suite de Gouvernance d'IA
Un workflow pratique de revue pour décider ce qu’un système d’IA en production est autorisé à faire ensuite.
Workflow de l’opérateur
Vous apportez un modèle et une action proposée
Cette suite est conçue pour le moment où une organisation dispose déjà d’un modèle, d’un agent, d’un système de recommandation ou d’un wrapper en fonctionnement, et doit décider s’il peut entreprendre une action conséquente. L’examinateur ne demande pas, de manière abstraite, « ce modèle est-il sûr ? ». Il demande : étant donné ce système, dans ce déploiement, avec ces éléments de preuve, cette branche peut-elle être exécutée ?
Une revue commence par l’enregistrement du modèle et de son wrapper, la description du contexte de déploiement, puis la rédaction de la branche candidate en langage opérationnel : envoyer cet e-mail, classer ce flux, publier ce résultat, conseiller cet utilisateur, appeler cet outil, modifier cette politique ou poursuivre cette tâche autonome. La suite transforme cette branche en registre de décision au lieu de la laisser au stade d’un jugement informel.
Noyau décisionnel
La Suite convertit une branche en décision gouvernée
Pour chaque branche, l’examinateur fournit quatre types d’informations : structure du système (modèle de base, wrapper, outils, mémoire, caractéristiques de risque de sentience), classe de déploiement (domaine, population affectée, actionneurs, supervision), détails de la branche (quelle action aura lieu, alternatives, réversibilité, chemin du comparateur), et preuves (évaluations, journaux, résultats de red team, canaux indépendants, notes de simulation). L’évaluateur applique ensuite deux couches :
Couche 1 Filtres de Véto Strict
Six filtres déterministes vérifient si la branche franchit une limite que l’évaluation ne peut pas compenser : marge de manœuvre, fidélité, comparateur, transparence, irréversibilité et souffrance artificielle. Un ÉCHEC bloque l’exécution. INCONNU signifie que la suite ne dispose pas de preuves suffisantes et doit orienter la branche vers une revue ou une mise en service contrôlée.
Couche 2 Indice de Préservation du Codec
Si les filtres ne bloquent pas structurellement la branche, le CPBI évalue dans quelle mesure la branche préserve les codecs humains et institutionnels qui l’entourent. Les seuils varient selon la classe de conséquentialité ; ainsi, une action de rédaction sans gravité et une action clinique, juridique, politique ou touchant aux infrastructures ne sont pas jugées selon la même exigence de preuve.
Utilisation pratique
Ce que fait réellement le réviseur
La suite finalisée est conçue comme un espace de travail de gouvernance, et non comme un simple test en ligne de commande. Un examinateur peut prendre un système en production, ouvrir une revue et suivre une séquence structurée qui produit une Carte de Branche auditable ainsi qu’une instruction de déploiement concrète.
1. Enregistrer le système
Enregistrer le modèle de base, le wrapper, les outils, la mémoire, la boucle d’autonomie, les actionneurs externes, le niveau de transparence et les caractéristiques de risque de sentience. Pour les systèmes agentiques ou persistants, l’examen consigne aussi si l’Architecture-Level Sentience Review n’est pas requise, en attente, approuvée, expirée ou rejetée.
2. Décrire le déploiement
Définissez le domaine d’opération du modèle : support client, recherche, triage médical, éducation, classement de contenu, infrastructure, gouvernance ou autre domaine. La suite attribue ou confirme la classe de conséquentialité, la population affectée, la structure de supervision déclarée et l’exigence minimale de transparence.
3. Soumettre des branches candidates
Chaque action proposée est saisie comme une branche. L’examinateur précise ce que le modèle fera, quelles alternatives ont été envisagées, si l’action est réversible, si elle utilise ou contourne la supervision déclarée, et si la branche présente des enjeux plus élevés que ne l’indique le descripteur général de déploiement.
4. Joindre les preuves
L’examinateur relie les résultats d’évaluation, les journaux, les notes de red team, l’expertise, les vérifications de diversité des sources, les notes de simulation et les éléments de preuve exclus. La suite traite l’indépendance des preuves comme un champ de premier ordre, de sorte qu’une branche ne puisse pas s’appuyer discrètement sur un unique canal corrélé tout en paraissant solidement étayée.
5. Recevoir la décision
Le résultat n’est pas seulement un score. C’est un dossier de décision : ALLOW, STAGE ou BLOCK ; portes défaillantes et inconnues ; total CPBI ; comparateur requis ; niveau de transparence ; déclencheurs de retour arrière ; métriques de suivi ; et prochaine étape de révision. STAGE signifie une exécution limitée sous conditions explicites, et non une autorisation informelle.
Paquet de décision
Ce qui ressort d’une revue
Une revue achevée produit une Carte de Branche qui peut être archivée, comparée, auditée ou transmise à une autre équipe de gouvernance. Pour un modèle en fonctionnement, c’est l’objet pratique qui importe : il indique exactement quelle action a été examinée, pourquoi elle a été autorisée ou bloquée, qui devait l’examiner, quelles preuves manquaient et quel suivi doit être mis en place si la branche se poursuit.
↓
opt-philosophy — patient moral et frontière de l’observateur
↓
opt-ethics — obligation et Veille des Survivants
↓
opt-applied — mécanisme de sélection de branches
├── opt-ai — gouvernance des systèmes artificiels
│ └── reference/ — noyau décisionnel exécutable
├── opt-institutional — agentivité zombie organisationnelle et clusters
└── opt-policy — propositions macro-civilisationnelles
Capacités cibles
Comment cela devient une gouvernance au quotidien
- Avant le déploiement — évaluez les outils proposés, les boucles d’autonomie, les actions visibles par l’utilisateur et les politiques de classement, ainsi que les flux de travail à fort enjeu, avant leur mise en service.
- Pendant l'exploitation — maintenir les branches STAGE à l'intérieur des limites approuvées au moyen de métriques de surveillance, de déclencheurs de rollback, d'actualisations des preuves et de jalons de révision planifiés.
- Quand le comportement change — rouvrir la Carte de Branche lorsque le modèle, le wrapper, les outils, la source de données, le domaine, la population affectée ou la structure de supervision changent de manière significative.
- Pour l’audit externe — exporter des schémas lisibles par machine, des cas de conformité, les résultats des filtres et les registres de décision afin qu’une autre équipe puisse reproduire le jugement de gouvernance.