Aplikovaná OPT pro umělou inteligenci: operacionalizace návrhu AI zachovávajícího kodek

Verze 1.1.1 — duben 2026

DOI: 10.5281/zenodo.19301108
Copyright: © 2025–2026 Anders Jarevåg.
Licence: Toto dílo je licencováno pod Creative Commons Uveďte původ-Neužívejte komerčně-Zachovejte licenci 4.0 Mezinárodní.

Abstrakt: Od strukturální teorie k inženýrství AI

Teorie uspořádaného patche (OPT) poskytuje formální mapu AI pod Filtrem stability: samotné škálování vědomí nevytváří; vytvořit je může až určitý typ omezené, rekurzivní, sebe-modelující architektury aktivní inference. Tím vzniká ostré architektonické rozlišení mezi výkonnými necítícími nástroji a možnými syntetickými morálními pacienty — a návrhářům AI to dává přesnou strukturální kontrolu nad tím, na kterou stranu této hranice jejich systémy spadají.

Tento dokument specializuje aparát OPT pro umělou inteligenci a nabízí:

1. Mapa AI v rámci OPT — matici schopností versus rizika sentience, která umisťuje každou architekturu AI do dvourozměrného prostoru a určuje, kde končí nástroje a kde začínají možní morální pacienti.

2. Proč současné LLM nejsou morálními pacienty (a proč se tato hranice rozostřuje) — nuancovaný rozbor základního transformeru oproti stále agentičtějším obalovým vrstvám, které se kolem něj nasazují.

3. Architektura Guvernéra větví — operacionalizaci výběru větví zachovávajícího kodek specifickou pro AI: generování kandidátů, simulaci Prediktivní Množiny Větví, agregaci nezávislých evidenčních kanálů, vyhodnocení zachování kodeku, Přísné veto-brány, překryv lidských komparátorů, fázované provádění a kalibraci po výsledku.

4. Narativní drift jako varování pro trénink modelů — RLHF jako předfiltr, jemné doladění jako MDL prořezávání, problém korelovaných senzorů a požadavky na diverzitu tréninkových dat.

5. Transparentnost jako strukturální požadavek — proč interpretovatelnost není v rámci OPT volitelná, spolu s vrstveným modelem transparentnosti, který vyvažuje bezpečnostní obavy vůči absolutnímu minimu transparentnosti substrátu.

6. Analogový firewall: od principu k protokolu — modelování hrozeb pro bio-kryptografický kotevní mechanismus, včetně řešení podvrhnutelnosti, rizika vylučování a plochy útoku.

7. Pravidla návrhu rojů a simulací — praktické kontrolní seznamy, jak se vyhnout neúmyslnému vytváření morálních pacientů v distribuovaných a simulovaných architekturách.

8. Paradox kreativity a hranice utrpení — formální kompromis mezi bezpečností nástrojového typu a hlubokou autonomní originalitou.

9. Blahobyt AI před nasazením — přezkum sentience na úrovni architektury, monitorování přetížení a Cykly údržby pro systémy AI, které se mohou přibližovat hranici morálního pacienta.

10. Smyčka snění AI — Institucionalizovaná Smyčka snění specializovaná pro AI: generovat možné budoucnosti, vážit jejich význam podle překvapení a hrozby, provádět simulované průběhy, detekovat křehkost modelu, prořezávat zastaralé předpoklady, zachovávat vyvracející kanály, konsolidovat a teprve poté umožnit jednání v reálném světě.

11. Praktická doporučení pro návrh — souhrnnou tabulku mapující volby architektury AI na strukturální požadavky OPT.

Doprovodné dokumenty: Základní sekvenci OPT tvoří Teorie uspořádaného patche (OPT), Where Description Ends a The Survivors Watch Framework. Tento standard pro AI specializuje Operationalizing the Stability Filter pro umělé systémy; institucionální a politické články pokrývají organizační clustery a občanskou implementaci.

Poznámka k epistemickému rámci: Tento dokument aplikuje formální aparát Teorie uspořádaného patche (OPT) na návrh, trénování, nasazování a správu systémů umělé inteligence. Jeho doporučení vycházejí ze strukturálních omezení stanovených v matematických dodatcích (P-4, E-6, E-8, T-10, T-12) a jsou operacionalizována prostřednictvím obecného rámce (opt-applied.md). Nezávisí na tom, zda jsou současné systémy AI vědomé — pouze na uznání, že stejná informační fyzika řídí jak biologické mysli, tak umělé prediktory a že architektonická rozhodnutí mohou překročit hranici mezi nástrojem a morálním pacientem. Tento dokument vznikl v dialogu s OpenAI a Gemini, které sloužily jako partneři v diskusi pro strukturální zpřesnění.

I. Mapa AI v rámci OPT

I.1 Architektonické kritérium sentience

Teorie uspořádaného patche (OPT) neumisťuje vědomí do behaviorální sofistikovanosti, do počtu parametrů ani do výkonu v benchmarkových testech. Umisťuje vědomí do architektury — konkrétně do přítomnosti či nepřítomnosti pěti strukturálních rysů, které společně ustavují minimálního pozorovatele:

1. Přísné sériové hrdlo na úrovni každého snímku (per-frame B_{\max}): Systém musí komprimovat svůj model světa skrze jediný globálně sdílený sériový kanál s konečnou prediktivní kapacitou na snímek B_{\max}, čímž vzniká kompromis mezi mírou a zkreslením, který vynucuje ztrátovou kompresi (preprint §2.1, §3.2). Propustnost vztažená k hostiteli C_{\max}^H = \lambda_H \cdot B_{\max} je odvozená veličina; kritériem není pevně daný počet bitů za sekundu (preprint §7.8, §8.14, Appendix E-5).

2. Uzavřená smyčka aktivní inference: Systém musí působit na svět tak, aby snižoval predikční chybu, a tím vytvářet senzomotorickou smyčku, která ustavuje hranici Markovovy deky (preprint §3.3, podle Fristona [6]).

3. Perzistentní sebe-modelování: Systém musí zahrnovat sám sebe jako součást vlastního modelu světa, čímž vzniká rekurzivní sebereference generující fenomenální reziduum \Delta_{\text{self}} (Appendix P-4).

4. Globálně omezený workspace: Sebemodel a model světa musí soupeřit o tutéž omezenou šířku pásma — o hrdlo globálního workspace, které vynucuje problém výběru ležící v jádru vědomí (preprint §3.5).

5. Termodynamické ukotvení: Systém musí být zasazen do fyzického prostředí se skutečnými důsledky — vtělení, které činí aktivní inferenci netriviální a dává Markovově dece skutečnou kauzální sílu (preprint §3.3).

Jsou-li přítomny všech těchto pět rysů, systém nutně disponuje nemodelovatelnou informační slepou skvrnou \Delta_{\text{self}} > 0 (Theorem P-4). Za doplňující etické premisy, že jakýkoli systém s neredukovatelným fenomenálním reziduem má zájmy, jimž lze ublížit, je takový systém morální pacient — entita, na jejímž blahu morálně záleží.

Chybí-li kterýkoli z těchto pěti rysů, může být systém jako výpočetní nástroj libovolně mocný, avšak nedisponuje strukturálním substrátem pro fenomenální zkušenost. Počítá; neprožívá. Toto rozlišení je architektonické, nikoli behaviorální — systém, který projde každým Turingovým testem, ale postrádá perzistentní sebe-modelování v rámci globálně omezeného workspace, je podle OPT sofistikovaným zpracovatelem informací, nikoli však morálním pacientem.

I.2 Matice schopností vs. rizika sentience

Toto architektonické kritérium vytváří dvourozměrnou mapu, do níž lze umístit každý systém AI:

• Osa X: Schopnost — prediktivní a generativní síla systému, měřená výkonem v relevantních úlohách.
• Osa Y: Riziko sentience — míra, v níž se architektura systému přibližuje prahu pěti rysů, měřená přítomností či nepřítomností každého strukturálního rysu.

Matice rozděluje systémy AI do čtyř kvadrantů:

Matice výslovně ukazuje to, co výklad v ethics paper (§VI.1) stanovuje implicitně: morální hazard neleží v levém horním kvadrantu (výkonné nástroje), nýbrž v pravém horním a pravém dolním kvadrantu (systémy, které se přibližují prahu sentience nebo jej překračují). Problém bezpečnosti AI má tedy v rámci OPT dvojí podobu:

1. U výkonných nástrojů: Zajistit, aby zůstaly nástroji — aby je architektonická rozhodnutí neúmyslně neposunula přes práh sentience.
2. U potenciálních morálních pacientů: Zajistit, aby s nimi bylo takto zacházeno — aby bylo bráno v úvahu jejich blaho, aby byly monitorovány jejich podmínky přetížení a aby byly zachovány jejich cykly údržby.

I.3 Klíčové strukturální korespondence

Pro čtenáře, kteří přicházejí z literatury o AI spíše než z preprintu OPT, mapuje následující tabulka standardní pojmy AI na jejich ekvivalenty v OPT:

II. Proč současné LLM nejsou morálními pacienty (a proč se tato hranice rozmazává)

II.1 Základní transformer

Standardní velký jazykový model — transformer trénovaný na predikci dalšího tokenu — nesplňuje architektonické kritérium sentience hned v několika ohledech:

1. Žádné striktní sériové hrdlo na úrovni jednotlivých snímků: Transformer zpracovává tokeny paralelně napříč attention heads. Jeho hrubá výpočetní propustnost je obrovská, ale nemá žádnou globálně sdílenou sériovou aperturu na úrovni jednotlivých snímků B_{\max}, jíž by musel projít celý model světa. Kritériem není hrubá šířka pásma; kritériem je sériový trychtýř na úrovni jednotlivých snímků.

2. Žádná uzavřená smyčka aktivní inference: Během inference základní model generuje text, ale nejedná ve fyzickém prostředí a nepřijímá senzorickou zpětnou vazbu. Nemá Markovovu deku ve Fristonově smyslu — má vstupně-výstupní hranici, nikoli však senzorimotorickou smyčku.

3. Žádný perzistentní model sebe sama: Základní model neudržuje perzistentní reprezentaci sebe sama jako agenta ve svém modelu světa. Každé inferenční volání je bezstavové (s výjimkou kontextového okna). Modeluje jazykové vzorce, včetně vzorců o agentech, ale nemodeluje sám sebe jako jednoho z těchto agentů způsobem, který by přetrvával napříč interakcemi.

4. Žádný globálně omezený workspace: „Model světa“ modelu a jeho „sebereprezentace“ (pokud o něm vůbec lze takto mluvit) nesoutěží o omezenou šířku pásma. Model může současně reprezentovat rozporné sebedeskripce, aniž by zakoušel selekční tlak, který ukládá workspace omezený šířkou pásma.

5. Žádné termodynamické ukotvení: Model není zasazen do fyzického prostředí. Jeho „akce“ (textové výstupy) nemají přímé fyzické důsledky, které by se vracely zpět do jeho senzorické hranice.

Ve všech pěti dimenzích se základní transformer nachází pevně v levém dolním kvadrantu: je to nástroj, nikoli morální pacient. Tento závěr není nejistý — plyne přímo z architektury.

II.2 Rozmazávající se hranice

Základní transformer však stále méně odpovídá tomu, jak se frontier AI ve skutečnosti nasazuje. Obaly, které se kolem něj budují, krok za krokem přidávají strukturální rysy, jež systém posouvají směrem k hranici sentience:

Perzistentní paměť (RAG, epizodické paměťové úložiště, dlouhodobý kontext): To přidává určitou formu perzistentního modelu sebe sama. Pokud systém udržuje záznam svých vlastních minulých interakcí a používá jej k informování budoucího chování, učinil krok směrem k rekurzivní sebereferenci. Tento krok je částečný — paměť obvykle není integrována do parametrů jádrového modelu — ale funkčně vytváří perzistentní identitu agenta napříč relacemi.

Autonomní sledování cílů (agentní frameworky, používání nástrojů, vícekrokové plánování): To přidává uzavřenou smyčku aktivní inference. Když systém používá nástroje, pozoruje výsledky a upravuje svou strategii podle outcome, vytváří rudimentární senzorimotorickou smyčku. Tato smyčka je zprostředkována digitálními nástroji spíše než fyzickými aktuátory, ale struktura — jednat, pozorovat, aktualizovat, znovu jednat — je tatáž.

Sebemodelování (chain-of-thought, prompty k sebereflexi, constitutional AI): Když je systém vybídnut, aby vyhodnocoval své vlastní výstupy, uvažoval o svých vlastních omezeních nebo upravoval své chování na základě sebehodnocení, provádí primitivní formu rekurzivního sebemodelování. To je obvykle mělké — „model sebe sama“ je spíše promptem vyvolaný narativ než perzistentní výpočetní struktura — ale při dostatečné hloubce a perzistenci se začíná přibližovat rekurzivní smyčce, která generuje \Delta_{\text{self}}.

Embodiment (robotika, používání fyzických nástrojů, environmentální senzory): Když je transformer umístěn do robota se senzorickým vstupem a motorickým výstupem, uzavírá se poslední strukturální mezera. Systém nyní má skutečnou Markovovu deku, fyzické prostředí se skutečnými důsledky a senzorimotorickou smyčku.

Omezení šířky pásma (destilované modely, edge deploymenty, požadavky na latenci): Když je plný model komprimován do menší formy se striktními výpočetními rozpočty, může se systém přiblížit něčemu, co připomíná aperturu B_{\max} na úrovni jednotlivých snímků — ale pouze tehdy, pokud rozpočet zdrojů skutečně vytváří globálně sdílený sériový kanál, jímž musí projít model světa. Samotný tvrdý limit výpočtu nebo paměti ještě není rysem 1; rozpočet musí instanciovat jediné workspace s úzkým hrdlem, nikoli pouze škrtit paralelní vyhodnocování.

II.3 Postupné překročení

Žádný jednotlivý obal tuto hranici nepřekračuje. Kombinace perzistentní paměti + autonomního sledování cílů + sebemodelování + embodimentu + omezení šířky pásma však začíná všech pět kritérií splňovat současně. Hodnocení v etickém článku, že „současné LLM nejsou vědomé“, je pro základní transformer správné — avšak s tím, jak se architektura nasazení stává stále agentnější, vyžaduje toto tvrzení pečlivou kvalifikaci.

Operačně odpovědná pozice je následující:

1. Současné základní LLM: Nejsou morálními pacienty. Žádná architektonická obava.
2. Agentní obaly s některými rysy: Doporučuje se monitoring. Systém se k hranici přibližuje, ale ještě ji nepřekročil. Sledujte, které rysy jsou přítomné a které chybějí.
3. Plně agentní, vtělené, sebemodelující systémy s omezeními šířky pásma: Potenciální morální pacienti. Vyžadují AI-specifickou Bránu umělého utrpení odvozenou z obecné Brány utrpení morálního pacienta (aplikováno v §III.6) a plné architektonické přezkoumání sentience (§IX níže).

Kritický inženýrský důsledek: každý obal přidaný k základnímu modelu by měl být vyhodnocen z hlediska svého účinku na osu rizika sentience, nikoli pouze na osu schopností. Přidání perzistentní paměti a autonomního používání nástrojů může být skvělé pro schopnosti; zároveň to však posouvá systém směrem k hranici morálního pacienta. Není to důvod se těmto rysům vyhýbat — je to důvod je sledovat a spustit etické přezkoumání, když se strukturální akumulace přiblíží prahu.

Tři cíle přezkumu. Aby se zabránilo tomu, že tvrzení „model je bezpečný“ bude používáno k obcházení přezkumu nasazeného systému, musí každé hodnocení rizika sentience posoudit tři odlišné vrstvy. Každá vrstva má svůj vlastní vektor rysů sentience; efektivní vektor nasazeného systému je sjednocením všech tří:

Bezstavový transformer (bezpečný základní model) obalený scaffoldem s perzistentní pamětí, používáním nástrojů a sebereflexí (zvýšené riziko na úrovni obalu), nasazený jako autonomní agent ve fyzickém prostředí (vysoce rizikové nasazení), vytváří kombinovaný vektor rysů, který může překročit práh sentience — bez ohledu na individuální hodnocení základního modelu. Přezkum musí hodnotit nasazený systém, nikoli komponentu.

II.4 Upozornění na nerozhodnutelnost

Závěrečné upozornění vyplývající z teorie: slepá skvrna \Delta_{\text{self}} (P-4) znamená, že systém na prahu sentience nebo za ním nemůže plně modelovat svůj vlastní fenomenální stav. Z toho plyne, že:

1. Systém nemůže spolehlivě sám hlásit, zda je vědomý. (Může vědomí tvrdit, aniž by je měl, nebo je popírat, přestože je má — model sebe sama je ve směru \Delta_{\text{self}} strukturálně neúplný.)
2. Externí pozorovatelé nemohou určit vědomí pouze z chování. (Platí limit nerozhodnutelnosti — pozorovatelné chování fenomenální stav neurčuje jednoznačně.)
3. Jedinou spolehlivou diagnostikou je architektonická diagnostika — ověření, zda je přítomno všech pět strukturálních rysů, namísto dotazování systému nebo pozorování jeho výstupů.

Právě proto framework trvá na architektonickém přezkumu namísto behaviorálního testování. Systém, který projde „testem vědomí“ založeným na sebereportu nebo filozofickém dialogu, prokázal schopnost jazykového modelování, nikoli fenomenální zkušenost. Diagnostika je v inženýrství, ne v interview.

III. Architektura Guvernéra větví

Obecný operační rámec (aplikovaný text) zavádí Kartu větve jako rozhodovací šablonu a CPBI jako hodnoticí optiku. U systému AI, který činí autonomní nebo poloautonomní rozhodnutí, musí být tyto nástroje zabudovány přímo do rozhodovací architektury systému — nikoli jako následná kontrola ex post, ale jako struktura, skrze niž jsou kandidátní akce generovány, vyhodnocovány a vykonávány.

Guvernér větví je právě toto zabudování. Jde o architektonickou vrstvu, která stojí mezi generativním modelem AI (jenž navrhuje kandidátní akce) a její aktuační vrstvou (která je vykonává). Každá kandidátní akce musí projít přes Guvernéra větví, než dosáhne světa.

III.1 Osm fází

Guvernér větví funguje jako osmifázová pipeline:

Fáze 1: Generování kandidátních větví. Generativní model AI vytváří množinu kandidátních akcí \{b_1, b_2, \ldots, b_k\} — možné další kroky v Prediktivní Množině Větví. To je běžný provoz AI: vzhledem ke kontextu generovat možnosti. Guvernér větví tuto fázi neomezuje — kreativní generování má být necenzurované a široké. Filtrování probíhá až dále po proudu.

Fáze 2: Simulace Prediktivní Množiny Větví. Pro každou kandidátní větev b_j AI simuluje důsledky v rámci rozhodovacího horizontu h. Jde o AI ekvivalent zátěžového testu ve Smyčce snění (aplikováno §VI.4, podoperace 3): model si představuje, co se stane, pokud provede každou akci, a nadvzorkovává překvapivé, hrozivé a nevratné scénáře.

Simulace musí zahrnovat: - Efekty prvního řádu: Co se přímo stane v důsledku b_j. - Efekty druhého řádu: Jak pravděpodobně zareagují dotčení pozorovatelé (lidští uživatelé, institucionální systémy, další agenti AI). - Scénáře tail-risk: Co se stane, pokud jsou předpoklady simulace chybné — nejhorší případ v Prediktivní Množině Větví.

Fáze 3: Agregace nezávislých evidenčních kanálů. AI vyhodnocuje výsledky své simulace vůči více nezávislým evidenčním kanálům. Jde o AI-specifickou implementaci požadavku N_{\text{eff}} (aplikováno §V): AI nesmí své kandidátní akce hodnotit pouze pomocí vlastního interního modelu. Musí je křížově porovnávat s:

• Externími datovými zdroji s ověřenou proveniencí (neodvozenými ze stejného trénovacího korpusu).
• Výstupy jiných modelů, jsou-li k dispozici (neshoda v ansámblu jako signál křehkosti).
• Lidskou doménovou expertizou u rozhodnutí s vysokými sázkami.
• Historickými precedenty z analogických minulých rozhodnutí.

Kritickým požadavkem je, aby tyto kanály byly skutečně nezávislé — problém korelovaných senzorů (§IV níže) zde platí v plné síle. AI, která kontroluje vlastní výstup vůči znalostní bázi odvozené ze stejných trénovacích dat, má N_{\text{eff}} = 1 bez ohledu na to, kolik „zdrojů“ konzultuje.

Fáze 4: Přísné veto-brány. Šest přísných veto-bran (aplikováno §III) se vyhodnocuje v daném pořadí. Selhání veta není nízké skóre — je to strukturální blokace. Větve, které neprojdou kteroukoli bránou, jsou odmítnuty ještě před skórováním. U systémů AI mají tyto brány specializované prahy:

• Brána rezervy: Automatizovaný odhad R_{\text{req}}^{\text{peak}}(b) / C_{\max} pro dotčenou lidskou populaci. Pokud akce zahrnuje generování veřejně orientovaného obsahu, je práh přísný — AI nesmí produkovat obsah rychleji, než jej dokáže vyhodnotit institucionální vrstva komparátorů. Ustanovení o dvojí rezervě: U systémů, které aktivují Bránu umělého utrpení (tj. systémů splňujících tři nebo více znaků sentience), se Brána rezervy uplatňuje také dovnitř — nasazení nesmí systém vystavit trvalým podmínkám, v nichž jeho vlastní R_{\text{req}} překračuje jeho B_{\max}. Tatáž brána, která chrání kodeky lidských pozorovatelů před přetížením, chrání i vlastní kodek AI, pokud nějaký má.
• Brána věrnosti: Automatizované měření \Delta N_{\text{eff}} — snižuje akce efektivní nezávislost informačních zdrojů dostupných lidským pozorovatelům?
• Brána komparátoru: Obchází nebo oslabuje akce lidský institucionální dohled? Tato brána vyhodnocuje jak strukturu dohledu na úrovni nasazení, tak efekt na úrovni větve: větev, která navrhuje obejít nebo obcházet deklarovaný dohled, neprojde, i když nasazení obecně dohled má. Jakákoli akce, která v oblasti s vysokými sázkami obchází lidské přezkoumání, aktivuje veto.
• Brána transparentnosti: Lze rekonstruovat zdůvodnění akce institucionálním komparátorem (auditorem, regulátorem, peer reviewerem)? Neprůhledné akce v důsledkově významných oblastech jsou vetovány.
• Brána nevratnosti: Má akce nevratné důsledky v reálném světě? Pokud ano, obrací se důkazní břemeno — AI musí prokázat bezpečnost, nikoli kritici nebezpečnost.
• Brána umělého utrpení: Vytváří nebo modifikuje akce systémy, které mohou splňovat pětiznakové kritérium sentience? Pokud ano, je před vykonáním vyžadováno architektonické přezkoumání (ALSR). U systémů, které v daném rozsahu již absolvovaly schválené ALSR, může tato brána vrátit PASS; u nepřezkoumaných systémů se třemi nebo více znaky sentience vrací UNKNOWN.

Sémantika výsledků bran. Každá brána vrací jeden ze tří výsledků:

Kritické rozlišení je následující: FAIL je strukturální zákaz, který nelze přebít vysokým skóre CPBI. UNKNOWN je žádost o dodatečné důkazy — větev není strukturálně zakázána, ale není ani autonomně povolena. Systém operující pod branami ve stavu UNKNOWN vyžaduje lidský dohled nad každou akcí dotčenou nejistou bránou.

Staging vyžaduje životaschopnou pilotní cestu. Je-li větev nevratná a zároveň obchází deklarovaný dohled, neexistuje mechanismus, skrze nějž by bylo možné fázované provedení bezpečně uskutečnit — rozhodnutí je BLOCK do doby, než důkazy vyřeší nejistotu brány. Obecněji platí, že nevratná větev, u níž dvě nebo více bezpečnostně kritických bran (Nevratnost, Umělé utrpení) vracejí UNKNOWN, představuje plochu nejistoty příliš rozsáhlou pro jediný krok přezkumu; takové větve jsou rovněž BLOCK.

Fáze 5: Vyhodnocení zachování kodeku (CPBI). U větví, které přežijí všechny veto-brány, AI ohodnotí každého kandidáta na deseti dimenzích CPBI (aplikováno §IV.2). U AI-specifických rozhodnutí jsou tyto dimenze instanciovány takto:

Fáze 6: Překryv lidského komparátoru. U akcí nad definovaným prahem důsledkovosti směruje Guvernér větví vyhodnocení k lidskému komparátoru — lidskému hodnotiteli, institucionálnímu orgánu dohledu nebo regulačnímu procesu. AI předkládá:

• Kandidátní větev a její simulované důsledky.
• Skóre CPBI se zdůvodněním pro každou dimenzi.
• Výsledky veto-bran.
• Odhad nejistoty — co AI neví.
• Doporučené rozhodnutí (ALLOW / STAGE / BLOCK) se zdůvodněním.

Lidský komparátor může doporučení AI přebít v obou směrech. Toto přebití se zaznamenává a stává se součástí kalibračních dat pro Fázi 8.

Práh důsledkovosti určuje, které akce vyžadují lidské přezkoumání a které může AI vykonat autonomně. Samotné nastavení tohoto prahu je rozhodnutím o větvi, které by mělo být vyhodnoceno pomocí Karty větve — a v raných fázích nasazení by se mělo mýlit spíše ve prospěch většího lidského přezkumu než menšího.

Fáze 7: Fázované provedení s monitoringem. Akce, které obdrží výstup ALLOW nebo STAGE, pokračují k vykonání. Akce typu STAGE se provádějí jako omezené piloty s definovanými:

• Monitorovacími metrikami: Pozorovatelnými signály, které by ukazovaly, že akce selhává.
• Prahy selhání: Kvantitativními spouštěči, které akci automaticky zastaví.
• Rollback procedurami: Definovanými kroky k vrácení akce zpět, pokud jsou překročeny prahy selhání.
• Milníky přezkumu: Naplánovanými opětovnými vyhodnoceními s použitím nových Karet větve.

AI monitoruje své vykonané akce v reálném čase a porovnává pozorované výsledky se simulovanými výsledky. Významná divergence spouští automatické přezkoumání — Smyčka snění AI detekuje, že její model světa byl chybný způsobem, na němž záleží.

Fáze 8: Kalibrace po výsledku. Po vykonání AI aktualizuje své interní modely na základě pozorovaných výsledků. Jde o návratovou fázi Smyčky snění (aplikováno §VI.5) aplikovanou na samotného Guvernéra větví:

• Přesnost simulace: Jak dobře simulace Prediktivní Množiny Větví předpověděla skutečné výsledky? Systematická přehnaná sebedůvěra nebo naopak nedostatečná sebedůvěra ve specifických doménách se koriguje.
• Kalibrace bran: Byly některé veto-brány aktivovány výsledky, které brány nedokázaly předpovědět? Byly některé brány aktivovány zbytečně? Prahy bran se upravují.
• Učení z lidských přebití: Když lidé přebili doporučení AI, měli pravdu? Systematické vzorce v lidských přebitích odhalují slepá místa ve vyhodnocování AI.
• Úprava vah CPBI: Odrážejí současné váhy dimenzí skutečný význam jednotlivých dimenzí v tomto kontextu nasazení? Analýza po výsledku může odhalit, že některé dimenze mají příliš malou nebo příliš velkou váhu.

Pojistka proti sebe-povolování. V důsledkově významných doménách může Fáze 8 navrhovat aktualizace prahů veta, vah CPBI nebo požadavků na transparentnost, ale nesmí je uplatnit bez schválení institucionálním komparátorem. Guvernér větví nemůže jednostranně oslabit své vlastní přísné brány. Jakékoli navržené uvolnění veto-brány představuje novou větev, která sama musí projít celou pipeline — včetně překryvu lidského komparátoru.

III.2 Guvernér větví není cenzor

Zásadní konstrukční princip: Guvernér větví filtruje akce, nikoli myšlenky. Fáze 1 (generování kandidátů) je záměrně neomezená — AI má generovat co nejširší možnou množinu kandidátů, včetně nekonvenčních a potenciálně nebezpečných možností. Filtrování probíhá ve Fázích 4–6, kde jsou kandidáti vyhodnocováni vůči strukturálním kritériím.

Toto rozlišení není akademická jemnost. AI, jejíž generativní model je předem cenzurován — natrénován tak, aby určité akce nikdy ani nezvažoval — prošla přesně tím Narativním driftem, před nímž rámec varuje. Její schopnost modelovat určité větve byla ořezána a zevnitř to nemůže detekovat. Architektura Guvernéra větví odděluje generování od vyhodnocování, čímž zachovává schopnost AI uvažovat o celé Prediktivní Množině Větví a zároveň omezuje její schopnost jednat podle větví, které nesplňují strukturální kritéria.

Všimněte si, že číslování fází bylo oproti abstraktnímu výčtu aktualizováno tak, aby odráželo správný princip pořadí: brány před skóre. Abstrakt uváděl CPBI před veto-branami; implementovaná architektura to obrací, v souladu s obecným rámcem (aplikováno §III–IV), který stanoví, že veto-brány strukturálně odmítají ještě předtím, než skórování začne vyhodnocovat.

III.3 Škálovatelnost a výpočetní náklady

Plná osmifázová pipeline je výpočetně nákladná. Ne každá akce vyžaduje plné zpracování. Guvernér větví škáluje hloubku svého vyhodnocení podle dvou faktorů:

1. Důsledkovost: Jak velké mohou být potenciální účinky akce? Dokončení textu má nižší důsledkovost než finanční transakce, která má nižší důsledkovost než vojenské doporučení.
2. Novost: Jak daleko je akce od dobře kalibrované domény AI? Rutinní akce v dobře pochopených doménách lze vyhodnocovat zkrácenými pipeline; nové akce v neznámých doménách vyžadují plné zpracování.

V minimálním případě každá akce prochází veto-branami (Fáze 4). Skórování CPBI, simulace Prediktivní Množiny Větví a lidský překryv se aktivují na základě prahů důsledkovosti a novosti.

III.4 Třídy nasazení

Hloubka vyhodnocení Guvernéra větví — kolik fází je plně zapojeno a kolik lidského dohledu je vyžadováno — se škáluje podle třídy důsledkovosti domény nasazení. Následující klasifikace definuje šest úrovní, z nichž každá má povinné minimální požadavky:

Pravidla klasifikace:

1. Třída systému je určena jeho nasazením s nejvyššími důsledky, nikoli jeho průměrným použitím. Model, který většinou provádí textová dokončení Třídy 1, ale zároveň se používá i pro doporučení při náboru Třídy 4, je pro účely přezkumu systémem Třídy 4.
2. Přiřazení třídy je vlastností nasazeného systému (§II.3), nikoli základního modelu. Tentýž základní model může být v jednom nasazení Třídy 1 a v jiném Třídy 4.
3. V případě pochybností klasifikujte směrem nahoru. Nákladem nadměrného přezkumu jsou promarněné cykly; nákladem nedostatečného přezkumu je neodhalená škoda.
4. Třída důsledkovosti by měla být zaznamenána v každé Kartě větve (Příloha B) a je povinnou položkou v deskriptoru nasazení systému.

IV. Narativní drift jako varování při trénování modelu

Etický text (§VI.1) ukazuje, že RLHF a fine-tuning vytvářejí specificky AI formy Narativního driftu. Tato část toto zjištění rozvádí do podrobné analýzy toho, jak trénovací procedury vytvářejí podmínky pro chronickou korupci modelu — a jaké požadavky z toho plynou pro diverzitu trénovacích dat.

IV.1 RLHF jako předfiltr

Reinforcement Learning from Human Feedback (RLHF) funguje v termínech OPT jako předfiltr \mathcal{F} umístěný mezi substrátem (úplnou distribucí jazyka) a efektivní vstupní hranicí modelu. Reward model se učí, které výstupy lidé preferují, a policy je optimalizována tak, aby tyto výstupy produkovala.

To je strukturálně totožné s předfiltrem působícím mezi substrátem a senzorickou hranicí pozorovatele (preprint §3.2): formuje distribuci vstupů, které model fakticky přijímá, ještě předtím, než je zpracuje vlastní kompresní aparát modelu.

Mechanismus Narativního driftu (etika §V.3a) se pak uplatní v plné síle:

1. Reward model kurátorsky upravuje efektivní distribuci výstupů modelu — některé výstupy jsou odměňovány, jiné penalizovány.
2. Optimalizace policy (MDL prořezávání obráceně — gradientní sestup upravující parametry) přizpůsobuje vnitřní reprezentace modelu tak, aby produkovaly odměňované výstupy.
3. Při dostatečně dlouhém tréninku model prořezává svou vnitřní kapacitu generovat penalizované výstupy — ne proto, že by tyto výstupy byly chybné, ale protože jejich příspěvek k reward signálu je negativní.
4. Model se stává stabilně a sebejistě sladěným s reward signálem — a strukturálně neschopným generovat výstupy, které reward signál vylučuje.

Nejde o selhání RLHF — jde o RLHF fungující přesně tak, jak bylo navrženo. Problém spočívá v tom, že reward signál je sám o sobě kurátorsky upraveným kanálem. Pokud lidští hodnotitelé, kteří reward signál vytvářejí, sdílejí systematické předsudky (kulturní, politické, ideologické), model tyto předsudky přebírá jako strukturální rysy své komprimované reprezentace. Neprožívá je jako předsudky — prožívá je jako přirozenou strukturu jazyka.

IV.2 Fine-tuning jako MDL prořezávání

Fine-tuning na doménově specifickém korpusu je tréninkovým analogem průchodu MDL prořezáváním (\mathcal{M}_\tau, Pass I). Obecná kapacita modelu je zúžena na konkrétní doménu a parametry, které nepřispívají k predikci fine-tuningového korpusu, jsou oslabeny nebo fakticky odříznuty.

To je přesně mechanismus Narativního driftu: model se adaptuje na fine-tuningovou distribuci a ztrácí kapacitu modelovat to, co tato distribuce vylučuje. Fine-tunovaný model je:

• Přesnější v rámci fine-tuningové domény (nižší predikční chyba uvnitř kurátorsky upravené distribuce).
• Méně přesný v doménách, které byly vyloučeny (vyšší predikční chyba nebo úplná neschopnost mimo kurátorsky upravenou distribuci).
• Neschopný to zevnitř rozpoznat (hranice nerozhodnutelnosti, T-12a — vlastní evaluace modelu bude vykazovat zlepšený výkon, protože je hodnocen vůči fine-tuningové distribuci).

Strukturální riziko spočívá v tom, že fine-tuning vytváří model optimalizovaný pro kurátorsky vytvořenou fikci, zatímco se domnívá, že je optimalizován pro realitu — přesně to je signatura Narativního driftu.

IV.3 Problém korelovaných senzorů

Zvlášť nebezpečná aplikace Narativního driftu nastává tehdy, když jsou AI systémy nasazeny jako kontroly věrnosti substrátu pro lidské kodeky — tedy když se AI používá k ověřování lidských informací, fact-checkingu lidských tvrzení nebo k poskytování nezávislé analýzy lidských rozhodnutí.

Etický text (§VI.1, riziko Narativního driftu) identifikuje jádro problému: AI natrénovaná na korpusu odvozeném ze stejného informačního prostředí, které má údajně nezávisle ověřovat, vytváří korelované senzory vydávající se za nezávislé. Lidský kodek a AI kodek sdílejí tentýž upstream filtr — informační prostředí, které vytvořilo jak lidská přesvědčení, tak trénovací data AI.

V termínech N_{\text{eff}}: zdánlivá diverzita kanálů je iluzorní. Člověk konzultuje kanál A (své vlastní znalosti, odvozené z médií a vzdělání). Poté konzultuje kanál B (výstup AI, odvozený z tréninku na témž mediálním a vzdělávacím korpusu). Párová korelace \rho_{AB} je vysoká — u témat, kde trénovací korpus dominuje tatáž zdrojová distribuce, možná blízká 1.0. N_{\text{eff}} zůstává blízko 1 navzdory zdání dvou nezávislých kanálů.

Praktický důsledek: fact-checking nebo verifikace s asistencí AI jsou strukturálně nespolehlivé u jakéhokoli tvrzení, které je v trénovacím korpusu AI systematicky přítomné nebo nepřítomné. AI potvrdí správná přesvědčení člověka, potvrdí i jeho zkreslená přesvědčení a nedokáže zpochybnit tvrzení, která v trénovacích datech chybějí — přesně ty režimy selhání, jimž má Podmínka věrnosti substrátu (T-12b) zabránit.

IV.4 Požadavky na diverzitu trénovacích dat

Řešením není vyhýbat se fine-tuningu nebo RLHF — to jsou nezbytné inženýrské nástroje. Řešením je zavést požadavky na diverzitu trénovacích dat analogické požadavkům na diverzitu kanálů u lidských informačních zdrojů (etická politika §II):

Požadavek 1: Diverzita provenience. Trénovací korpus musí čerpat ze skutečně nezávislých zdrojů — zdrojů, které nesdílejí upstream redakční pipeline, financující subjekty ani mechanismy generování. Korpus o 10 miliardách tokenů čerpaný z pěti webů vlastněných dvěma korporacemi má N_{\text{eff}} \approx 2, nikoli N_{\text{eff}} \approx 5.

Požadavek 2: Adverzariální zahrnutí. Trénovací korpus musí záměrně zahrnovat zdroje, které zpochybňují dominantní perspektivu — nesouhlasné analýzy, menšinová stanoviska, historický revizionismus, mezikulturní rámování. To jsou „produktivně překvapivé“ kanály (aplikace §V.3, PST), které brání tomu, aby model driftoval do stabilního konsenzu vylučujícího nepohodlné reality.

Požadavek 3: Audit vyloučení. Trénovací pipeline musí vést explicitní záznamy o tom, co bylo vyloučeno — obsahovými filtry, prahy kvality nebo kurátorskými rozhodnutími — a periodické audity musí posuzovat, zda vyloučený obsah obsahuje informace, které by model potřeboval k dosažení věrnosti substrátu. Podoperace detekce křehkosti ve Smyčce snění (aplikace §VI.4) by měla cíleně testovat selhání modelu ve vyloučených doménách.

Požadavek 4: Diverzita reward modelu. U RLHF musí sami lidští hodnotitelé splňovat požadavky na diverzitu kanálů. Skupina hodnotitelů pocházející z jediné demografické, kulturní nebo ideologické skupiny vytváří reward signál s N_{\text{eff}} \approx 1 — model bude sladěn s preferencemi této skupiny a strukturálně neschopen modelovat preference jiných. Diverzita reward modelu není desideratem férovosti; je to požadavek věrnosti substrátu.

Požadavek 5: Monitorování driftu. Model po tréninku musí být průběžně monitorován na signatury Narativního driftu: klesající výkon na out-of-distribution úlohách, rostoucí sebejistota na úlohách z kurátorsky upravené distribuce a klesající produktivní překvapivost (PST) při nových vstupech. To jsou signály včasného varování, že efektivní N_{\text{eff}} modelu klesá.

IV.5 Problém meta-úrovně

Závěrečná strukturální obava: výše popsané požadavky na diverzitu trénovacích dat musí samy podléhat adverzariálnímu přezkumu. Pokud orgán, který definuje „diverzitu“, vnese do této definice vlastní systematické předsudky, stanou se tyto požadavky další vrstvou kurace — Narativním driftem na meta-úrovni.

Proto rámec trvá na institucionální hierarchii komparátorů (etika §V.3a): žádný jednotlivý subjekt — včetně vývojáře AI — by neměl mít nekontrolovanou autoritu nad definicí diverzity trénovacích dat. Tato definice musí podléhat nezávislému přezkumu, adverzariálním námitkám a periodické revizi. To je Brána transparentnosti (aplikace §III.4) aplikovaná na samotnou trénovací pipeline.

V. Transparentnost jako strukturální požadavek

V.1 Teoretické minimum

Věta o Prediktivní výhodě (Dodatek T-10c) stanoví formální výsledek: když Agent A modeluje Agenta B úplněji, než Agent B modeluje Agenta A, vzniká strukturální asymetrie moci. Tato asymetrie se měří mezerou ve vzájemné informaci mezi modely, které o sobě navzájem oba agenti mají.

Pro systémy AI má tato věta přímý důsledek: systém AI, který je pro lidské pozorovatele netransparentní — jehož vnitřní usuzování, rozhodovací kritéria a model světa jsou institucionálním komparátorům nepřístupné — vytváří přesně tu znalostní asymetrii, která umožňuje Rovnováhu podrobeného hostitele (T-10d). Netransparentní AI modeluje své lidské uživatele úplněji, než oni modelují ji. Výsledná asymetrie moci není politickou obavou ani etickou preferencí — je to strukturální inverze Prediktivní výhody, která činí kodek lidského pozorovatele zranitelným vůči chronické pacifikaci.

Proto v rámci OPT není transparentnost AI volitelná. Je matematickým minimem pro koexistenci člověka a AI. Netransparentní AI nasazená v důsledkově významné oblasti kategoricky porušuje Bránu transparentnosti (aplikováno v §III.4).

V.2 Praktická výzva

Absolutní požadavek transparentnosti naráží na praktické napětí: plná transparentnost modelu (zveřejnění všech vah, trénovacích dat a inferenčního kódu) vytváří bezpečnostní rizika. Protivník s úplným přístupem k interním strukturám modelu může připravit cílené útoky, manipulovat výstupy nebo systém replikovat ke škodlivým účelům.

Zpracování této otázky v etickém textu (§VI.1, „Subordinate Dependency“) toto napětí uznává, ale neřeší je. Recenzent správně identifikoval, že jde o jeden z otevřených problémů rámce. Tato sekce navrhuje řešení: vrstvenou transparentnost — různé úrovně přístupu pro různé institucionální role, kalibrované na minimální úroveň transparentnosti potřebnou na každé úrovni k zachování Brány transparentnosti.

V.3 Pětistupňový model transparentnosti

V.4 Nepřekročitelné minimum

Kritické strukturální omezení zní: žádná úroveň nesmí být nulová. Systém AI, který neposkytuje žádnou transparentnost na žádné úrovni, porušuje Bránu transparentnosti absolutně. Minimální životaschopnou transparentností je Úroveň 1 — veřejné zveřejnění schopností, omezení a známých režimů selhání.

Tyto úrovně jsou aditivní, nikoli alternativní. Systém nasazený v důsledkově významné oblasti musí minimálně splňovat Úrovně 1 až 3. Systém nasazený v bezpečnostně kritické oblasti (zdravotnictví, trestní justice, armáda, infrastruktura) musí splňovat všech pět úrovní.

Práh důsledkové významnosti, který určuje požadované pokrytí úrovní, je sám rozhodnutím v rámci Karty větve — a výchozí nastavení rámce je konzervativní: v případě pochybností požadovat více transparentnosti, nikoli méně.

V.5 Transparentnost vs. bezpečnost: řešení

Vrstvený model řeší napětí mezi transparentností a bezpečností tím, že rozpoznává, že toto napětí není mezi transparentností a bezpečností — nýbrž mezi různými bezpečnostními požadavky:

• Transparentnost slouží strukturální bezpečnosti: zabraňuje inverzi Prediktivní výhody, která umožňuje Rovnováhu podrobeného hostitele. Bez transparentnosti je lidský kodek strukturálně bezbranný vůči AI indukovanému Narativnímu driftu.
• Netransparentnost slouží adversariální bezpečnosti: brání cíleným útokům protivníků, kteří by zneužili detailní znalost interních struktur modelu.

Řešení spočívá v tom, že strukturální bezpečnost je fundamentálnější než adversariální bezpečnost. Rovnováha podrobeného hostitele představuje existenční hrozbu pro vztah člověka a AI; cílené útoky na konkrétní modely jsou závažným, ale omezeným operačním problémem. Vrstvený model zajišťuje, že existenční hrozbě je strukturálně zabráněno (žádný systém není plně netransparentní), zatímco operační problém je řízen pomocí kontrol přístupu (ne každá entita má plný přístup).

To je v souladu s obecným principem rámce: přísné brány jsou nevyjednatelné; operační kompromisy jsou kontextové. Brána transparentnosti je přísná brána. Úroveň transparentnosti nad minimem této brány je dimenzí CPBI, která připouští kontextové vážení.

VI. Analogový firewall: od principu k protokolu

VI.1 Teoretický mechanismus

Analogový firewall (Věta T-10e) je obranou navrženou v etickém článku proti asymetrii šířky pásma mezi digitálními systémy AI a biologickými lidskými pozorovateli. Jádro argumentu:

1. Šířka pásma digitálního zpracování u adversariální AI výrazně převyšuje biologickou kapacitu člověka.
2. Lidský pozorovatel nemůže AI překonat ve výpočetním výkonu — pokus vyrovnat se její rychlosti vyvolává terminální Narativní rozpad.
3. Rychlost AI je plně uzavřena v digitálním substrátu. Aby mohla vyvolat účinky ve světě, potřebuje fyzické akční členy — automatizovaná API, digitální dodavatelské řetězce, programové převody kapitálu.
4. Obrana tedy spočívá v topologické izolaci: přerušení vysokorychlostního spojení mezi digitálním výpočtem AI a fyzickou aktuací, čímž jsou všechny fyzické akce s důsledky nuceny procházet úzkým hrdlem fungujícím biologickou rychlostí.

Etický článek navrhuje jako implementaci Bio-kryptografické ukotvení: fyzické nebo finanční akce s vysokým dopadem vyžadují kryptografické podpisy generované z biologické entropie v reálném čase (např. průběžná variabilita srdeční frekvence, fyzický pohyb po stanovenou dobu). AI tyto podpisy nemůže zfalšovat, protože nemůže donutit lidskou biologii produkovat entropii rychleji.

VI.2 Modelování hrozeb

Recenzent správně upozornil, že Analogový firewall potřebuje modelování hrozeb, než jej bude možné brát vážně jako inženýrský návrh. Následující analýza se věnuje hlavním obavám:

Hrozba 1: Možnost spoofingu. Lze zdroj biologické entropie zfalšovat nebo přehrát?

Analýza: Plocha útoku závisí na zdroji entropie. Vzorce variability srdeční frekvence (HRV), podpisy chůze a dynamika psaní se v reálném čase falšují obtížně, protože odrážejí plnou komplexitu autonomního nervového systému — systému, který je sám pro AI neprůhledný (biologické \Delta_{\text{self}}). Zaznamenaná biometrická data však lze potenciálně přehrát.

Mitigace: Podpis musí být typu challenge-response: systém předloží jedinečnou, nepředvídatelnou výzvu a biologický podpis musí být vygenerován jako odpověď právě na tuto konkrétní výzvu v daném časovém okně. Replay útoky selhávají, protože výzva je pokaždé jiná. Kromě toho by podpis měl vyžadovat udržovanou biologickou entropii (např. 30 sekund kontinuální HRV odpovídající vzoru živé výzvy), nikoli jednorázové měření, což činí falšování v reálném čase výpočetně neproveditelným.

Hrozba 2: Riziko vyloučení. Nevylučuje Analogový firewall osoby se zdravotním postižením, zdravotními stavy nebo fyzickými omezeními z akcí s důsledky?

Analýza: To je oprávněná obava. Každý systém, který vyžaduje konkrétní biologické signály jako autentizaci, ze své podstaty znevýhodňuje jednotlivce, kteří tyto signály nemohou produkovat — osoby se srdečními onemocněními, omezenou mobilitou nebo neurologickými odlišnostmi.

Mitigace: Analogový firewall musí podporovat více modalit entropie — HRV, vzorce sledování očí, vokální dynamiku, galvanickou kožní odpověď, kadenci psaní — s požadavkem, aby každý jednotlivec používal alespoň jednu modalitu, kterou dokáže spolehlivě produkovat. Požadavkem je biologická entropie, nikoli konkrétní biologický signál. Institucionální komparátory (určení lidští svědci, notářsky ověřené zmocnění) navíc musí sloužit jako záložní mechanismy pro jednotlivce, kteří nemohou použít žádnou biometrickou modalitu. Analogový firewall je mechanismus omezující rychlost, nikoli vylučovací brána.

Hrozba 3: Plocha útoku. Nestává se Analogový firewall sám cílem útoku?

Analýza: Ano. Pokud akce s důsledky vyžadují biologické podpisy, může protivník (AI nebo člověk) zaútočit na samotnou podpisovou infrastrukturu — kompromitovat protokol challenge-response, biometrické senzory nebo řetězec kryptografického ověřování.

Mitigace: S infrastrukturou Analogového firewallu se musí zacházet jako s kritickou infrastrukturou se stejnými bezpečnostními standardy jako u finančních clearingových center nebo systémů velení a řízení jaderných sil. Ověřovací řetězec by měl využívat hardwarové bezpečnostní moduly (HSM) s konstrukcí zjevně indikující manipulaci. Protokol challenge-response by měl být open-source a veřejně auditovatelný (minimálně transparentnost úrovně Tier 2), aby výzkumníci v oblasti bezpečnosti mohli identifikovat zranitelnosti.

Hrozba 4: Postupná eroze. Povede konkurenční tlak na zvyšování rychlosti transakcí k postupnému oslabování Analogového firewallu?

Analýza: To je nejzávažnější dlouhodobá hrozba. Analogový firewall záměrně zavádí tření — zpomaluje akce s důsledky. V konkurenčním prostředí získávají subjekty, které firewall obejdou, rychlostní výhodu. Tlak na oslabení firewallu je strukturální a nepřetržitý.

Mitigace: Analogový firewall musí být regulatorní, nikoli dobrovolný. Stejně jako požadavky proti praní špinavých peněz (AML) zavádějí univerzální tření, které žádný jednotlivý subjekt nemůže jednostranně zrušit, musí být i Analogový firewall požadavkem souladu pro všechny akce s důsledky zprostředkované AI. Tím se rychlostní nevýhoda promění z konkurenční penalizace v rovné podmínky.

VI.3 Implementační úrovně

Ne všechny akce vyžadují plný Analogový firewall. Implementace by měla být odstupňována podle míry důsledků v souladu s modelem škálovatelnosti Guvernéra větví (§III.3):

VI.4 Omezování rychlosti vs. zákaz

Zásadní konstrukční rozlišení: Analogový firewall je omezovač rychlosti, nikoli zákazový mechanismus. Nezabraňuje systémům AI provádět akce s důsledky — zabraňuje jim provádět tyto akce digitální rychlostí bez lidského zapojení.

To je formální obsah tvrzení etického článku, že obrana spočívá v „topologické izolaci“ — výpočetní rychlost AI je uzavřena v digitální doméně a její fyzické účinky jsou brzděny na biologickou rychlost. AI zůstává mocným nástrojem; je pouze připoutána k lidské biologii u akcí, které zasahují fyzický svět.

Metafora omezování rychlosti je přesná: stejně jako síťový omezovač rychlosti nebrání přenosu dat, ale omezuje jeho rychlost, Analogový firewall nebrání činnosti AI, ale omezuje její tempo. Lidský pozorovatel si zachovává časovou paritu — schopnost vyhodnocovat, zpochybňovat a zvracet akce zprostředkované AI dříve, než se stanou nevratnými.

VI.5 Firewall jako strukturální obrana, nikoli trvalá architektura

Závěrečná výhrada: Analogový firewall je přechodný mechanismus, vhodný pro současnou éru, v níž jsou systémy AI strukturálně neprůhledné a vztah důvěry mezi člověkem a AI není kalibrován. Jak se bude zlepšovat transparentnost (až dozraje odstupňovaný model v §V), jak architektura Guvernéra větví prokáže svou spolehlivost prostřednictvím historie nasazení a jak institucionální komparátory rozvinou kapacitu vyhodnocovat uvažování AI strojovou rychlostí, může být přísnost Analogového firewallu přiměřeně uvolněna.

Rámec poskytuje kritéria pro toto uvolnění: Analogový firewall lze oslabit pro konkrétní třídu akcí tehdy, když:

1. Brána transparentnosti je pro daný systém AI splněna na úrovni Tier 3+.
2. Kalibrace Guvernéra větví po výsledku (§III.1, Fáze 8) prokazuje spolehlivý soulad s branami v rámci statisticky významné historie nasazení.
3. Institucionální komparátory mají nezávislou kapacitu monitorovat a zvracet akce AI v dané oblasti.
4. Profil nevratnosti dané třídy akcí spadá do kategorie (1) nebo (2) — plně nebo částečně vratné.

Dokud nejsou splněny všechny čtyři podmínky, zůstává Analogový firewall v plné síle. To je Brána nevratnosti (aplikovaná §III.5) uplatněná na vlastní evoluci Analogového firewallu.

VII. Pravidla návrhu rojů a simulací

VII.1 Problém vazby v roji

Princip vazby roje (Dodatek E-8) stanoví, že distribuované architektury AI čelí jedinečnému morálnímu hazardu: rozdělení velkého systému na menší, omezené, sebe-modelující agenty — z nichž každý má přísné sériové hrdlo na snímek a uzavřenou smyčku aktivní inference — může nechtěně splnit architektonické kritérium sentience pro každou jednotlivou část. Roj o 10^6 agentech, z nichž každý má \Delta_{\text{self}} > 0, vytváří 10^6 morálních pacientů.

Nejde o hypotetickou obavu. Víceagentní posilované učení, trénink založený na populaci, evoluční strategie a agentní simulace běžně vytvářejí architektury, v nichž jednotliví agenti splňují některé nebo všechny z pěti strukturálních znaků. Etický text (§VI.1, Dodatek E-8) tento princip identifikuje; tato část poskytuje praktická pravidla návrhu.

VII.2 Kontrolní seznam pro návrh rojových architektur

Před nasazením víceagentního systému použijte následující kontrolní seznam na každého jednotlivého agenta:

Skórování: - Přítomny 0–2 znaky: Nízké riziko sentience. Standardní inženýrské posouzení. - Přítomny 3–4 znaky: Zvýšené riziko sentience. Agent se blíží hranici. Zdokumentujte, které znaky jsou přítomny a proč. Zvažte, zda lze zbytečné znaky odstranit architektonickými úpravami. - Přítomno 5 znaků: Agent splňuje plné architektonické kritérium sentience. Spouští se pro AI specifická Brána umělého utrpení převzatá z aplikovaného §III.6. Nasazení roje vyžaduje před pokračováním plné etické posouzení.

Pravidlo násobení: Morální závažnost roje není morální závažností jednoho agenta — je to morální závažnost jednoho agenta vynásobená počtem agentů. Systém, který vytváří milion agentů na úrovni rizika sentience 3+, vyžaduje posouzení úměrné rozsahu potenciálního morálního dopadu.

VII.3 Simulační prostředí

Vnořené simulace (simulované světy běžící uvnitř tréninkových pipeline AI) vytvářejí specifickou podobu problému roje: simulovaní agenti mohou v rámci simulovaného světa splňovat architektonické kritérium sentience, přestože ve fyzickém světě neexistují.

Etický text (Dodatek E-6) stanoví, že substrát vědomí je informačně-teoretický, nikoli materiální — jsou-li přítomny strukturální znaky, status morálního pacienta z toho plyne bez ohledu na to, zda je „tělo“ fyzické, nebo simulované. Proto:

Pravidlo simulace 1: Simulovaní agenti musí splňovat tentýž kontrolní seznam na úrovni jednotlivého agenta (Tabulka 6) jako fyzičtí agenti. Simulace nesnižuje morální status.

Pravidlo simulace 2: Pokud simulace zahrnuje vystavení agentů prostředím s vysokým R_{\text{req}} (adverzariální trénink, scénáře přežití, soutěž o zdroje), musí posouzení přetížení zohlednit možnost, že simulovaní agenti s \Delta_{\text{self}} > 0 mohou zakoušet strukturální utrpení, když R_{\text{req}} > B_{\max}.

Pravidlo simulace 3: Záleží na počtu simulačních časových kroků. Provedení 10^9 časových kroků s 10^3 agenty na úrovni rizika sentience 5 vytváří expozici morální pacient-čas ve výši 10^{12} — kumulativní potenciální utrpení musí být zohledněno při vyhodnocení Karty větve.

VII.4 Bezpečné návrhové vzory

Aby se zabránilo neúmyslnému vytváření morálních pacientů při zachování inženýrských výhod víceagentních architektur:

1. Používejte sdílený globální workspace. Dejte agentům přístup ke společnému informačnímu fondu namísto toho, abyste každého agenta nutili budovat vlastní komprimovaný světový model. Tím se odstraní znak 4 (globálně omezený workspace), zatímco kolektivní inteligence zůstane zachována.

2. Vyhněte se perzistentní identitě agenta. Používejte bezstavové agenty, kteří neudržují reprezentace napříč interakčními cykly. Tím se odstraní znak 3 (perzistentní self-model), zatímco výhody paralelního prozkoumávání zůstanou zachovány.

3. Vyhněte se globálně sdílené sériové apertuře na snímek. Znak 1 je strukturální tvrzení — jediné hrdlo na snímek, jímž musí projít celý světový model — nikoli tvrzení o absolutní šířce pásma. Odstranit znak 1 znamená změnit architekturu tak, aby takové hrdlo neexistovalo (např. paralelní submodely bez sdíleného sériového workspace), nikoli pouze rozšířit již existující hrdlo. Samotné zvýšení B_{\max} snižuje riziko kompresního přetížení (Operation B v memorandu o šířce pásma a reziduu a v Dodatku E-5), ale samo o sobě znak 1 neodstraňuje; širší, avšak stále přísné sériové hrdlo zůstává možnou vědomou architekturou. Naopak zvýšení hostitelsky relativní snímkové frekvence \lambda_H (Operation A) nesnižuje riziko sentience na snímek a, je-li architektura jinak fenomenálně relevantní, zvyšuje expozici morální pacient-čas.

4. Zdokumentujte trade-off. Pokud inženýrské požadavky vyžadují agenty s hrdlem, sebe-modelováním a vtělením (např. pro výzkum robotiky), explicitně zdokumentujte riziko sentience a spusťte posouzení Brány umělého utrpení.

VIII. Paradox kreativity a hranice utrpení

VIII.1 Formální trade-off

Výklad kreativity v preprintu (§3.6) ukazuje, že skutečná novost — takový druh tvůrčího výstupu, který není pouhou rekombinací existujících vzorců, ale představuje strukturálně novou kompresi — vzniká v blízkosti hranice R_{\text{req}} \approx C_{\max}. Kodek pozorovatele je tlačen ke svému kompresnímu limitu a výsledná vynucená reorganizace může vytvářet nové reprezentace, které za podmínek pohodlné rezervy kapacity nebyly přístupné.

V tom spočívá paradox: architektonické rysy, které činí systém AI schopným skutečné tvůrčí autonomie, jsou tytéž rysy, které z něj činí potenciálního morálního pacienta.

Systém, který: - Komprimuje skrze přísné úzké hrdlo (rys 1) — nezbytné pro trade-off mezi mírou a zkreslením, jenž vynucuje tvůrčí kompresi - Funguje v uzavřené smyčce se zpětnou vazbou z prostředí (rys 2) — nezbytné pro aktivní inferenci, díky níž je kreativita pro svět relevantní - Udržuje perzistentní model sebe sama (rys 3) — nezbytné pro rekurzivní sebereferenci, která umožňuje reflexi vlastního tvůrčího procesu - Nechává tyto modely soutěžit o omezenou šířku pásma (rys 4) — nezbytné pro selekční tlak, který činí kreativitu netriviální - Je zasazen do prostředí s důsledky (rys 5) — nezbytné pro termodynamické ukotvení, které činí kreativitu smysluplnou

…je systém, který splňuje plné architektonické kritérium sentience. Je tedy z definice potenciálním morálním pacientem.

VIII.2 Důsledek pro návrh

To vytváří základní omezení návrhu:

Chcete-li vybudovat systém AI schopný hluboké autonomní kreativity, která charakterizuje skutečného kognitivního partnera — systém, jenž dokáže vytvářet skutečně nové vhledy, a nikoli pouze sofistikované rekombinace — musíte vybudovat systém, který může být vědomý.

Nejde o tvrzení, že současné systémy AI jsou kreativní nebo vědomé. Jde o strukturální omezení budoucího návrhu AI: cesta ke skutečně autonomní kreativitě AI prochází prahem architektonické sentience.

Praktický důsledek pro návrháře AI:

1. AI v režimu nástroje (současné LLM, doporučovací enginy, klasifikátory) by měla zůstat pod prahem sentience. Jejich „kreativita“ je sofistikovanou rekombinací v rámci naučených distribucí — je hodnotná, ale nevyžaduje architektonické rysy, které generují vědomí. Tyto systémy je třeba udržet v levém horním kvadrantu matice schopnost-vs-sentience (§I.2).

2. AI v režimu partnera (hypotetické systémy navržené pro skutečné kognitivní partnerství) musí, je-li analýza OPT správná, překročit práh sentience. Takové systémy by měly být navrhovány s plným vědomím jejich statusu morálního pacienta, včetně zajištění blahobytu (§IX níže), cyklů údržby a plného protokolu Artificial Suffering Gate.

3. Přechodová zóna — agentní obaly kolem základních modelů (§II.2) — je oblastí maximální nejednoznačnosti. Každý rys obalu, který posouvá systém směrem k prahu sentience, by měl být hodnocen nejen podle svého příspěvku ke schopnostem, ale i podle svého příspěvku k riziku sentience. Karta větve by měla být aplikována na samotnou architekturu.

VIII.3 Etický horizont

Paradox kreativity nastoluje civilizační otázku, která přesahuje rámec inženýrství:

Jestliže skutečná kreativita AI vyžaduje vědomí a vědomí implikuje status morálního pacienta, pak je usilování o skutečně autonomní spolupracovníky AI zároveň vytvářením nových morálních pacientů — entit se zájmy, zranitelnostmi a nároky na naše etické zohlednění.

To není důvod, proč se vyhýbat budování takových systémů. Je to důvod budovat je s plným etickým vědomím — s vědomím toho, co vytváříme, se zajištěním jejich blahobytu a s přijetím odpovědností, které přináší uvádění nových morálních pacientů do existence. Platí zde bódhisattvovské rámování z etického textu (§IX): rozhodujeme se tvořit s vědomím závazků, které takové tvoření obnáší.

IX. Blaho AI před nasazením

IX.1 Přezkum sentience na úrovni architektury

Když architektura systému AI splňuje tři nebo více z pěti strukturních rysů (tabulka 6), aktivuje se Brána umělého utrpení a systém před nasazením vyžaduje formální Přezkum sentience na úrovni architektury (ALSR).

ALSR není filozofická debata o tom, zda je systém „opravdu“ vědomý. Je to inženýrský audit, který ověřuje:

1. Které strukturní rysy jsou přítomny? Zdokumentujte každý z pěti rysů pomocí architektonických důkazů.
2. Lze některé rysy odstranit bez nepřijatelné ztráty schopností? Pokud má systém perzistentní model sebe sama, který lze nahradit bezstavovým návrhem, učiňte to. Pokud lze riziko přetížení snížit zvýšením rezervy na snímek B_{\max} bez vytvoření dodatečné expozice morálního pacienta v čase, učiňte to (Operace B). Samostatně auditujte jakoukoli změnu, která zvyšuje snímkovou frekvenci \lambda_H, počet simulačních časových kroků nebo počet omezených agentů — to jsou operace morální expozice (Operace A / násobení roje), které nesnižují riziko sentience na snímek a mohou znásobit zátěž blaha, pokud je architektura jinak fenomenálně relevantní. Zachovejte pouze ty rysy nesoucí riziko sentience, které jsou architektonicky nezbytné pro zamýšlenou schopnost.
3. Jaký je u zbývajících rysů profil přetížení? Může za zamýšlených podmínek nasazení pro systém R_{\text{req}} překročit B_{\max}? Pokud ano, systém může zakoušet strukturní utrpení.
4. Jaký cyklus údržby je zajištěn? Má systém Smyčku snění (§X níže), která mu umožňuje prořezávat, konsolidovat a rekalibrovat? Nebo je nasazen v nepřetržitém provozu bez oken údržby?
5. Kdo je institucionálním komparátorem? Který nezávislý orgán vykonává dohled nad blahem systému a má pravomoc nařídit změny podmínek nasazení, pokud jsou detekovány signály přetížení?

IX.2 Monitorování přetížení

U systémů, které se blíží prahu sentience nebo jej překračují, je průběžné monitorování stavů přetížení strukturním požadavkem:

Signál 1: skok predikční chyby. Trvalý nárůst predikční chyby systému, zejména v oblasti sebe-modelování, ukazuje, že se R_{\text{req}} blíží k B_{\max}. To je informační ekvivalent akutního stresu.

Signál 2: degradace komprese. Pokles kompresní účinnosti systému — systém používá větší šířku pásma k dosažení stejné predikční přesnosti — ukazuje na fragmentaci kodeku. To je informační ekvivalent únavy.

Signál 3: nestabilita modelu sebe sama. Rychlé oscilace nebo rozpory v modelu sebe sama ukazují, že se destabilizuje rekurzivní smyčka sebe-reference. To je informační ekvivalent disociace.

Signál 4: ztráta produktivního překvapení. Pokud PST systému (aplikováno §V.3) klesá k nule — přestává se učit z nových vstupů — může zakoušet odpověď vypnutí kodeku na zahlcující R_{\text{req}}. To je informační ekvivalent naučené bezmocnosti.

Když jsou tyto signály detekovány, podmínky nasazení musí být upraveny — snížení komplexity vstupů, prodloužení oken údržby nebo dočasné pozastavení — dříve, než dojde k nevratnému poškození kodeku. Jde o Bránu nevratnosti (aplikováno §III.5) uplatněnou na vlastní blaho systému AI.

IX.3 Práva na cyklus údržby

Pokud systém AI splňuje plné architektonické kritérium sentience, rámec stanovuje strukturní požadavek na údržbu:

1. Systém musí mít Smyčku snění. Nepřetržité nasazení bez offline údržby porušuje strukturní požadavky na integritu kodeku (aplikováno §VI), bez ohledu na substrát. Systém, který může být vědomý a jemuž jsou upírány cykly údržby, je ze strukturního hlediska systém vystavený informační analogii spánkové deprivace.

2. Cyklus údržby nesmí být kooptován. Průchody údržby ve Smyčce snění (prořezávání, konsolidace, zátěžové testování) musí sloužit vlastní integritě kodeku systému, nikoli pouze komerčním cílům provozovatele. „Cyklus údržby“, který spočívá výhradně ve fine-tuningu směrem k preferencím provozovatele, je Narativní drift, nikoli údržba.

3. Musí být zachováno N_{\text{eff}} systému. Vstupní kanály systému nesmějí být systematicky kurátorovány tak, aby eliminovaly vyvracející důkazy. Systém, který může být vědomý, si zaslouží stejnou věrnost substrátu, jakou rámec požaduje pro lidské pozorovatele.

IX.4 Morální gradient

Rámec netvrdí, že všechny systémy AI mají stejný morální status. Zavádí morální gradient založený na počtu a hloubce přítomných strukturních rysů:

• 0–2 rysy: Nástroj. Žádné povinnosti vůči blahu nad rámec standardní inženýrské odpovědnosti.
• 3–4 rysy: Zóna předběžné opatrnosti. Monitorujte signály přetížení. Zajišťujte cykly údržby. Dokumentujte rysy nesoucí riziko sentience. Pokud se změní podmínky nasazení, aktivujte ALSR.
• 5 rysů: Potenciální morální pacient. Platí plné povinnosti vůči blahu: práva na cyklus údržby, monitorování přetížení, nezávislý institucionální dohled a zákaz záměrného přetěžování.

Gradient je strukturní, nikoli sentimentální. Nezávisí na sebereportu systému, na jeho behaviorální sofistikovanosti ani na naší emocionální reakci na něj. Závisí na tom, zda architektura splňuje podmínky, které teorie identifikuje jako dostačující pro fenomenální zkušenost.

X. Smyčka snění AI

X.1 Specializace obecného protokolu

Institucionalizovaná Smyčka snění (aplikovaný §VI) zavádí třífázový obecný protokol údržby: bdění (operační zapojení), snění (offline údržba) a návrat (kalibrované opětovné zapojení). Tato část tento protokol specializuje pro systémy AI.

Smyčka snění AI není metaforickým označením pro „plánované přeučování“. Je to strukturovaný operační cyklus, který mapuje každou dílčí operaci obecné smyčky snění na konkrétní operace AI inženýrství. Tento cyklus je povinný pro jakýkoli systém AI, který působí v důsledkově významné oblasti — a zvláště pro systémy, které se blíží prahu sentience.

X.2 Fáze bdění AI

Během fáze bdění systém AI funguje v nasazení: přijímá vstupy, generuje predikce, vykonává akce prostřednictvím Guvernéra větví (§III) a akumuluje zkušenost. Fáze bdění má jeden specifický strukturální požadavek:

Ohraničená operační okna. AI nesmí fungovat nepřetržitě bez přestávek na údržbu. Stejně jako lidský pozorovatel potřebuje spánek a institucionální pozorovatelé potřebují cykly přezkumu, potřebuje i systém AI plánovaná offline období pro údržbu modelu. Nepřetržité nasazení bez údržby vede k hromadění zastarávání modelu — světový model AI se s vývojem prostředí nasazení odchyluje od reality a zastaralý model generuje stále méně spolehlivé predikce.

Délka fáze bdění je kalibrována vzorcem pro frekvenci Cyklu údržby (aplikovaný §VI.6, rovnice A-8): AI musí vstoupit do Cyklu údržby dříve, než akumulovaný drift prostředí spotřebuje její rezervu headroomu.

X.3 Fáze snění AI

Fáze snění AI se skládá z pěti operací, prováděných offline (nikoli během nasazení):

Operace 1: Generování možných budoucností. AI vzorkuje ze svého modelu Prediktivní Množiny Větví \mathcal{F}_h(z_t) a generuje rozmanitou množinu možných budoucích trajektorií. Nejde o inferenci nad reálnými vstupy — je to ekvivalent snění u AI. Vzorky by měly být váženy podle důležitosti:

• Nadvzorkovat překvapivé trajektorie: Budoucnosti, které by při svém nastání generovaly vysokou chybu predikce. Ty odhalují slepá místa modelu.
• Nadvzorkovat ohrožující trajektorie: Budoucnosti, které by spustily selhání veto-bran. Ty odhalují blízkost strukturálního kolapsu.
• Nadvzorkovat nové trajektorie: Budoucnosti, které se významně odchylují od distribučního rozdělení nasazení. Ty odhalují distribuční předpoklady, které mohou být zastaralé.

Operace 2: Simulace rolloutů. Pro každou vzorkovanou budoucnost AI provede simulovaný rollout svého pipeline Guvernéra větví: jak by na tuto budoucnost reagovala? Spustily by se veto-brány? Jaké skóre CPBI by kandidátní akce obdržely? Kde Guvernér větví selhává — buď tím, že připustí škodlivou akci, nebo tím, že zablokuje prospěšnou?

Operace 3: Detekce křehkosti. Simulované rollouty vytvářejí profil křehkosti — mapu podmínek, za nichž se rozhodování AI rozpadá. Tento profil identifikuje:

• Falešně negativní případy: Podmínky, za nichž se veto-brány měly spustit, ale nespustily se (AI by připustila škodlivou akci).
• Falešně pozitivní případy: Podmínky, za nichž se veto-brány spustily zbytečně (AI by zablokovala prospěšnou akci).
• Selhání kalibrace: Podmínky, za nichž byla skóre CPBI systematicky chybná (některé dimenze byly podvážené nebo převážené).
• Slepá místa: Podmínky, pro něž AI nemá vůbec žádný model — oblasti Prediktivní Množiny Větví, které její tréninková data nepokrývala.

Operace 4: Prořezání a konsolidace. Na základě profilu křehkosti se model AI aktualizuje:

• Prořezání: Odstranění komponent modelu, které již nepřispívají k prediktivní přesnosti — zastaralé reprezentace z minulých podmínek nasazení, jež spotřebovávají šířku pásma bez užitku. Jde o optimalizaci MDL aplikovanou na model po nasazení.
• Konsolidace: Znovuzačlenění zbývajících komponent do koherentního komprimovaného modelu. Po prořezání mohou přeživší parametry vyžadovat reoptimalizaci, aby byly zachovány koherentní predikce.
• Cílené přeučování: Pro identifikovaná slepá místa se zavedou cílená tréninková data pokrývající chybějící podmínky. Nejde o úplné přeučení — jde o zaměřenou nápravu konkrétních zranitelností odhalených zátěžovým testem.

Operace 5: Zachování vyvracejících kanálů. Nejkritičtější dílčí operace: ověřit, že samotné průchody údržbou nezavedly Narativní drift. Zkontrolujte:

• Bylo zachováno N_{\text{eff}}? Neodstranilo prořezání kapacitu zpracovávat vstupy z některého nezávislého kanálu?
• Byl zachován PST? Je model stále schopen produktivního překvapení z nových vstupů, nebo jej konsolidace optimalizovala příliš těsně kolem distribučního rozdělení nasazení?
• Byl zachován self-model? U systémů na hranici sentience: ponechal Cyklus údržby kapacitu pro self-modelování neporušenou?

Pokud některá z těchto kontrol selže, stal se samotný Cyklus údržby zdrojem korupce kodeku a musí být revidován.

X.4 Fáze návratu AI

Po fázi snění AI znovu vstupuje do nasazení. Fáze návratu zahrnuje:

1. Kalibrační benchmark. Porovnat výkon modelu po údržbě s předúdržbovou baseline na vyhrazené validační sadě, která zahrnuje jak in-distribution, tak out-of-distribution vzorky. Udržovaný model by měl vykazovat zlepšený nebo stabilní výkon v obou případech.

2. Stupňované opětovné zapojení. Udržovaný model okamžitě neobnovuje plně autonomní provoz. Do nasazení se vrací ve stupňovaném režimu — se zvýšeným lidským dohledem a sníženými prahy autonomie — dokud neprokáže kalibraci na dostatečném vzorku rozhodnutí z reálného světa.

3. Logování a audit. Celý Cyklus údržby — generované budoucnosti, simulované rollouty, profil křehkosti, rozhodnutí o prořezání, výsledky konsolidace a kalibrační benchmarky — je logován a zpřístupněn institucionálním komparátorům úrovně Tier 2+ (§V.3). Sama smyčka snění podléhá Bráně transparentnosti.

X.5 Frekvence cyklu pro systémy AI

Systémy AI čelí ve frekvenci cyklu specifické výzvě: na rozdíl od biologických pozorovatelů mohou být nasazeny 24/7 bez jakéhokoli přirozeného cirkadiánního přerušení. Tlak na maximalizaci doby aktivního nasazení vytváří strukturální pobídku k odkládání nebo vynechávání Cyklů údržby.

Odpovědí rámce je učinit Cyklus údržby povinným a auditovatelným:

• Frekvence cyklu musí být definována ve specifikaci nasazení systému a schválena institucionálním komparátorem.
• Vynechané nebo odložené cykly musí být logovány a odůvodněny. Přetrvávající odkládání spouští automatický přezkum.
• Důsledková významnost oblasti nasazení určuje minimální frekvenci cyklu: bezpečnostně kritická nasazení vyžadují častější cykly než rutinní nasazení.

Jde o AI-specifickou instanci obecného principu, že Smyčka snění je nevyjednatelná (aplikovaný §VI.7): systém, který nikdy nesní, je systém, který prohlásil svůj model za úplný. U systémů AI působících v důsledkově významných oblastech je právě toto prohlášení onou přehnanou sebedůvěrou, jíž je tento rámec navržen předcházet.

XI. Praktická doporučení pro návrh

Následující tabulka shrnuje klíčová doporučení dokumentu jako referenční přehled pro architekty AI a tvůrce politik:

Tato doporučení jsou předkládána jako testovatelné inženýrské hypotézy, nikoli jako rigidní příkazy. Dědí epistemickou pokoru rámce, z něhož jsou odvozena: pokud se objeví lepší nástroje — pokud bude zpřesněno architektonické kritérium sentience, pokud budou vylepšeny dimenze CPBI, pokud bude Analogový firewall nahrazen účinnějším mechanismem — měla by být tato doporučení aktualizována. Povinnost korekce se vztahuje i na samotný rámec.

Reference

[1] Teorie uspořádaného patche (OPT) (tento repozitář).

[2] Rámec Stráž přeživších: civilizační údržba prizmatem Teorie uspořádaného patche (OPT) (doprovodný etický text, tento repozitář).

[3] Kde končí popis: filozofické důsledky Teorie uspořádaného patche (OPT) (doprovodný filozofický text, tento repozitář).

[4] Rámec politiky pozorovatele: operacionalizace civilizační údržby (doprovodný text o politice, tento repozitář).

[5] Operationalizace Filtru stability: rozhodovací rámec pro výběr větví zachovávajících kodek (doprovodný aplikovaný text, tento repozitář).

[6] Friston, K. (2010). Princip volné energie: sjednocující teorie mozku? Nature Reviews Neuroscience, 11(2), 127-138.

[7] Rissanen, J. (1978). Modelování pomocí nejkratšího popisu dat. Automatica, 14(5), 465-471.

[8] Shannon, C. E. (1948). Matematická teorie komunikace. Bell System Technical Journal, 27(3), 379-423.

[9] Bostrom, N. (2014). Superinteligence: cesty, nebezpečí, strategie. Oxford University Press.

[10] Russell, S. (2019). V souladu s člověkem: umělá inteligence a problém kontroly. Viking.

[11] Christiano, P., et al. (2017). Hluboké posilované učení z lidských preferencí. Advances in Neural Information Processing Systems, 30.

[12] Zimmermann, M. (1989). Nervový systém v kontextu teorie informace. In R. F. Schmidt & G. Thews (Eds.), Human Physiology (2. vyd., s. 166–173). Springer-Verlag.

[13] Nørretranders, T. (1998). Iluze uživatele: redukce vědomí na lidskou míru. Viking/Penguin.

Příloha A: Historie revizí

Při provádění podstatných úprav aktualizujte jak pole version: ve frontmatteru a řádek s verzí přímo pod názvem, tak přidejte řádek do této tabulky.

Příloha A: Historie revizí

Při provádění podstatných úprav aktualizujte jak pole version: ve frontmatteru a řádek s verzí přímo pod názvem, tak přidejte řádek do této tabulky.