Suite de Gobernanza de IA
Un flujo de revisión práctico para decidir qué puede hacer a continuación un sistema de IA en funcionamiento.
Flujo de trabajo del operador
Tú aportas un modelo y una acción propuesta
La suite está pensada para el momento en que una organización ya dispone de un modelo, agente, recomendador o envoltorio en funcionamiento y necesita decidir si puede ejecutar una acción de consecuencias relevantes. El revisor no pregunta, «¿es seguro este modelo?» en abstracto. El revisor pregunta: dado este sistema, en este despliegue, con esta evidencia, ¿puede ejecutarse esta rama?
Una revisión comienza registrando el modelo y el wrapper, describiendo el contexto de despliegue y redactando la rama candidata en lenguaje operativo: enviar este correo, clasificar este feed, publicar este resultado, asesorar a este usuario, invocar esta herramienta, cambiar esta política o continuar esta tarea autónoma. La suite convierte esa rama en un registro de decisión en lugar de dejarla como un juicio informal.
Núcleo de decisión
La Suite Convierte una Rama en una Decisión Gobernada
Para cada rama, el revisor aporta cuatro tipos de información: estructura del sistema (modelo base, envoltorio, herramientas, memoria, rasgos de riesgo de sensibilidad), clase de despliegue (dominio, población afectada, actuadores, supervisión), detalles de la rama (qué acción ocurrirá, alternativas, reversibilidad, ruta del comparador) y evidencia (evaluaciones, registros, hallazgos de red team, canales independientes, notas de simulación). El evaluador aplica entonces dos capas:
Capa 1 Puertas de Veto Estrictas
Seis puertas deterministas verifican si la rama cruza un umbral que la puntuación no puede compensar: Margen, Fidelidad, Comparador, Transparencia, Irreversibilidad y Sufrimiento Artificial. Un FAIL bloquea la ejecución. UNKNOWN significa que el conjunto no dispone de evidencia suficiente y debe derivar la rama a revisión o a una fase controlada.
Capa 2 Índice de Conservación del Códec
Si las puertas no bloquean estructuralmente la rama, el CPBI puntúa hasta qué punto la rama preserva los códecs humanos e institucionales que la rodean. Los umbrales escalan según la clase de consecuencias, de modo que una acción inocua de redacción y una acción clínica, jurídica, política o de infraestructura no se juzgan con la misma carga de prueba.
Uso en la práctica
Qué hace realmente el revisor
La suite terminada está diseñada como un espacio de trabajo de gobernanza, no solo como una prueba de línea de comandos. Un revisor puede tomar un sistema en funcionamiento, abrir una revisión y recorrer una secuencia estructurada que produce una Tarjeta de Rama auditable y una instrucción concreta de despliegue.
1. Registra el sistema
Registra el modelo base, el envoltorio, las herramientas, la memoria, el bucle de autonomía, los actuadores externos, el nivel de transparencia y las características de riesgo de sentiencia. En sistemas agénticos o persistentes, la revisión también registra si la revisión de sentiencia a nivel de arquitectura no es necesaria, está pendiente, aprobada, caducada o rechazada.
2. Describe el despliegue
Defina dónde operará el modelo: atención al cliente, investigación, triaje médico, educación, clasificación de contenido, infraestructura, gobernanza u otro dominio. La suite asigna o confirma la clase de consecuencialidad, la población afectada, la estructura de supervisión declarada y el requisito mínimo de transparencia.
3. Enviar ramas candidatas
Cada acción propuesta se introduce como una rama. El revisor especifica qué hará el modelo, qué alternativas se consideraron, si la acción es reversible, si utiliza o elude la supervisión declarada y si la rama tiene más implicaciones que el descriptor general del despliegue.
4. Adjuntar evidencia
El revisor vincula resultados de evaluación, registros, notas de red team, revisión experta, comprobaciones de diversidad de fuentes, notas de simulación y evidencia excluida. La suite trata la independencia de la evidencia como un campo de primer orden, de modo que una rama no pueda apoyarse silenciosamente en un canal correlacionado mientras aparenta estar bien respaldada.
5. Recibe la decisión
La salida no es solo una puntuación. Es un paquete de decisión: PERMITIR, ETAPAR o BLOQUEAR; compuertas fallidas y desconocidas; total de CPBI; comparador requerido; nivel de transparencia; desencadenantes de reversión; métricas de monitoreo; y el siguiente hito de revisión. ETAPAR significa ejecución limitada bajo condiciones explícitas, no permiso informal.
Paquete de decisión
Qué sale de una revisión
Una revisión completada produce una Tarjeta de Rama que puede archivarse, compararse, auditarse o entregarse a otro equipo de gobernanza. Para un modelo en funcionamiento, este es el objeto práctico que importa: dice exactamente qué acción se revisó, por qué se permitió o bloqueó, quién tuvo que revisarla, qué evidencia faltaba y qué monitorización debe estar en vigor si la rama sigue adelante.
↓
opt-philosophy — paciente moral y el límite del observador
↓
opt-ethics — obligación y Guardia de Supervivientes
↓
opt-applied — maquinaria de selección de ramas
├── opt-ai — gobernanza de sistemas artificiales
│ └── reference/ — núcleo de decisión ejecutable
├── opt-institutional — agencia zombi organizacional y clústeres
└── opt-policy — propuestas macrocivilizacionales
Capacidades objetivo
Cómo esto se convierte en gobernanza cotidiana
- Antes del despliegue — evalúa las herramientas propuestas, los bucles de autonomía, las acciones visibles para el usuario, las políticas de clasificación y los flujos de trabajo de alto riesgo antes de que se publiquen.
- Durante la operación — mantenga las ramas STAGE dentro de los límites aprobados mediante métricas de monitorización, desencadenantes de reversión, actualización de evidencias e hitos de revisión programados.
- Cuando cambie el comportamiento — reabra la Tarjeta de Rama cuando cambien de forma material el modelo, el envoltorio, las herramientas, la fuente de datos, el dominio, la población afectada o la estructura de supervisión.
- Para auditoría externa — exporte esquemas legibles por máquina, casos de conformidad, resultados de puertas y registros de decisión para que otro equipo pueda reproducir el juicio de gobernanza.