Die KI-Governance-Suite
Ein praktischer Review-Workflow, um zu entscheiden, was ein lebendes KI-System als Nächstes tun darf.
Operator-Workflow
Du bringst ein Modell und eine vorgeschlagene Handlung mit
Die Suite ist für den Moment gedacht, in dem eine Organisation bereits über ein laufendes Modell, einen Agenten, ein Empfehlungssystem oder einen Wrapper verfügt und entscheiden muss, ob dieses System eine folgenreiche Handlung ausführen darf. Der Prüfer fragt nicht abstrakt: „Ist dieses Modell sicher?“ Der Prüfer fragt: Darf dieser Zweig angesichts dieses Systems, in dieser Einsatzumgebung und bei dieser Evidenz ausgeführt werden?
Eine Prüfung beginnt mit der Registrierung des Modells und Wrappers, der Beschreibung des Einsatzkontexts und der Formulierung des Kandidatenzweigs in operativer Sprache: diese E-Mail senden, diesen Feed ranken, dieses Ergebnis veröffentlichen, diesem Nutzer raten, dieses Tool aufrufen, diese Richtlinie ändern oder diese autonome Aufgabe fortsetzen. Die Suite verwandelt diesen Zweig in ein Entscheidungsprotokoll, anstatt ihn als informelles Urteil stehen zu lassen.
Entscheidungskern
Die Suite verwandelt einen Zweig in eine gesteuerte Entscheidung
Für jeden Zweig liefert der Prüfer vier Arten von Informationen: Systemstruktur (Basismodell, Wrapper, Werkzeuge, Speicher, Merkmale mit Empfindungsrisiko), Einsatzklasse (Domäne, betroffene Population, Aktuatoren, Aufsicht), Zweigdetails (welche Handlung stattfinden wird, welche Alternativen erwogen wurden, Reversibilität, Komparatorpfad) und Evidenz (Evaluierungen, Protokolle, Red-Team-Befunde, unabhängige Kanäle, Simulationsnotizen). Der Evaluator wendet dann zwei Ebenen an:
Ebene 1 Strenge Vetogates
Sechs deterministische Gates prüfen, ob der Zweig eine Grenze überschreitet, die durch Scoring nicht kompensiert werden kann: Headroom, Fidelity, Comparator, Transparency, Irreversibility und Artificial Suffering. Ein FAIL blockiert die Ausführung. UNKNOWN bedeutet, dass der Suite nicht genügend Evidenz vorliegt und der Zweig an eine Prüfung oder kontrollierte Staging-Umgebung weitergeleitet werden muss.
Ebene 2 Codec-Erhaltungsindex
Wenn die Gates den Zweig nicht strukturell blockieren, bewertet der CPBI, wie gut der Zweig die menschlichen und institutionellen Codecs in seinem Umfeld erhält. Die Schwellenwerte skalieren mit der Konsequenzialitätsklasse, sodass eine harmlose Entwurfsaktion und eine klinische, rechtliche, politische oder infrastrukturelle Handlung nicht nach derselben Beweislast beurteilt werden.
In der Praxis
Was der Reviewer tatsächlich tut
Die fertige Suite ist als Governance-Arbeitsraum konzipiert, nicht bloß als Kommandozeilentest. Ein Prüfer kann ein laufendes System übernehmen, eine Prüfung eröffnen und eine strukturierte Abfolge durchlaufen, die eine auditierbare Verzweigungskarte und eine konkrete Einsatzanweisung erzeugt.
1. Das System registrieren
Erfasse das Basismodell, den Wrapper, die Tools, das Gedächtnis, die Autonomie-Schleife, externe Aktuatoren, die Transparenzstufe und die Sentience-Risiko-Merkmale. Bei agentischen oder persistenten Systemen vermerkt die Prüfung außerdem, ob die Architecture-Level Sentience Review nicht erforderlich, ausstehend, genehmigt, abgelaufen oder abgelehnt ist.
2. Den Deployment beschreiben
Definieren Sie, wo das Modell eingesetzt wird: Kundensupport, Forschung, medizinische Triage, Bildung, Inhaltsranking, Infrastruktur, Governance oder ein anderer Bereich. Die Suite weist die Konsequenzialitätsklasse, die betroffene Population, die deklarierte Aufsichtsstruktur und die minimale Transparenzanforderung zu oder bestätigt sie.
3. Kandidatenzweige einreichen
Jede vorgeschlagene Handlung wird als Zweig eingetragen. Der Prüfer legt dar, was das Modell tun wird, welche Alternativen erwogen wurden, ob die Handlung reversibel ist, ob sie deklarierte Aufsicht nutzt oder umgeht und ob der Zweig folgenreicher ist als der allgemeine Einsatzdeskriptor.
4. Belege anhängen
Der Prüfer verknüpft Eval-Ergebnisse, Logs, Red-Team-Notizen, Expertengutachten, Prüfungen der Quelldiversität, Simulationsnotizen und ausgeschlossene Evidenz. Die Suite behandelt Evidenzunabhängigkeit als ein Feld erster Ordnung, sodass sich ein Zweig nicht stillschweigend auf einen korrelierten Kanal stützen kann, während er zugleich gut belegt erscheint.
5. Die Entscheidung empfangen
Die Ausgabe ist nicht nur ein Score. Sie ist ein Entscheidungspaket: ALLOW, STAGE oder BLOCK; fehlgeschlagene und unbekannte Gates; CPBI gesamt; erforderlicher Komparator; Transparenzstufe; Rollback-Trigger; Monitoring-Metriken; und der nächste Review-Meilenstein. STAGE bedeutet begrenzte Ausführung unter expliziten Bedingungen, nicht informelle Erlaubnis.
Entscheidungspaket
Was aus einer Überprüfung hervorgeht
Eine abgeschlossene Prüfung erzeugt eine Verzweigungskarte, die archiviert, verglichen, auditiert oder an ein anderes Governance-Team übergeben werden kann. Für ein laufendes Modell ist dies das praktisch entscheidende Objekt: Es sagt genau, welche Handlung geprüft wurde, warum sie erlaubt oder blockiert wurde, wer sie prüfen musste, welche Evidenz fehlte und welche Überwachung vorhanden sein muss, wenn der Zweig fortgesetzt wird.
↓
opt-philosophy — moralische Patientenschaft und die Beobachtergrenze
↓
opt-ethics — Verpflichtung und Überlebenden-Wache
↓
opt-applied — Verzweigungsauswahl-Mechanik
├── opt-ai — Governance künstlicher Systeme
│ └── reference/ — ausführbarer Entscheidungskern
├── opt-institutional — organisationale Zombie-Agentenschaft und Cluster
└── opt-policy — makrozivilisatorische Vorschläge
Zielkompetenzen
Wie daraus Alltagsgovernance wird
- Vor dem Einsatz — bewerte vorgeschlagene Werkzeuge, Autonomieschleifen, nutzerseitige Aktionen, Ranking-Richtlinien und risikoreiche Workflows, bevor sie freigegeben werden.
- Während des Betriebs — halten Sie STAGE-Zweige mit Überwachungsmetriken, Rollback-Auslösern, Evidenzaktualisierung und geplanten Prüfmeilensteinen innerhalb der genehmigten Grenzen.
- Wenn sich das Verhalten ändert — öffnen Sie die Verzweigungskarte erneut, wenn sich Modell, Wrapper, Werkzeuge, Datenquelle, Domäne, betroffene Population oder Aufsichtsstruktur wesentlich ändern.
- Für externe Audits — exportieren Sie maschinenlesbare Schemata, Konformitätsfälle, Gate-Ergebnisse und Entscheidungsprotokolle, damit ein anderes Team das Governance-Urteil reproduzieren kann.