OPT aplicada a la intel·ligència artificial: operacionalització del disseny d’IA que preserva el còdec

Versió 1.1.1 — abril de 2026

DOI: 10.5281/zenodo.19301108
Copyright: © 2025–2026 Anders Jarevåg.
Llicència: Aquesta obra està subjecta a una Llicència Creative Commons Reconeixement-NoComercial-CompartirIgual 4.0 Internacional.

Resum: De la teoria estructural a l’enginyeria de la IA

La Teoria del Patch Ordenat (OPT) proporciona un mapa formal de la IA sota el Filtre d’Estabilitat: l’escala per si sola no crea consciència; podria fer-ho un tipus particular d’arquitectura d’inferència activa acotada, recursiva i auto-modelitzadora. Això estableix una distinció arquitectònica nítida entre eines potents no sentients i possibles pacients morals sintètics — i ofereix als dissenyadors d’IA un control estructural precís sobre a quin costat d’aquest límit se situen els seus sistemes.

Aquest document especialitza l’aparell de l’OPT per a la intel·ligència artificial i ofereix:

1. El mapa de la IA sota l’OPT — la matriu de capacitat versus risc de sentiencia que situa cada arquitectura d’IA en un espai bidimensional, identificant on acaben les eines i on comencen els possibles pacients morals.

2. Per què els LLM actuals no són pacients morals (i per què el límit s’està difuminant) — un tractament matisat del transformer base enfront dels embolcalls cada vegada més agèntics que s’hi despleguen al voltant.

3. L’arquitectura del Governador de Branques — l’operacionalització específica per a la IA de la selecció de branques que preserva el còdec: generació de candidats, simulació del ventall predictiu, agregació independent de canals d’evidència, avaluació de la preservació del còdec, portes de veto estrictes, capa de comparador humà, execució escalonada i calibratge posterior als resultats.

4. La Deriva Narrativa com a advertiment per a l’entrenament de models — RLHF com a prefiltre, ajust fi com a poda MDL, el problema dels sensors correlacionats i els requisits de diversitat de les dades d’entrenament.

5. La transparència com a requisit estructural — per què la interpretabilitat no és opcional sota l’OPT, amb un model de transparència per nivells que equilibra les preocupacions de seguretat amb el llindar absolut de transparència del substrat.

6. El Tallafoc analògic: del principi al protocol — modelatge d’amenaces del mecanisme d’ancoratge biocriptogràfic, abordant-ne la vulnerabilitat a la falsificació, el risc excloent i la superfície d’atac.

7. Regles de disseny per a eixams i simulacions — llistes de verificació pràctiques per evitar la creació accidental de pacients morals en arquitectures distribuïdes i simulades.

8. La paradoxa de la creativitat i el límit del sofriment — el compromís formal entre la seguretat pròpia d’una eina i una originalitat autònoma profunda.

9. Benestar de la IA abans del desplegament — revisió de la sentiencia a nivell d’arquitectura, monitoratge de sobrecàrrega i cicles de manteniment per a sistemes d’IA que puguin acostar-se al límit del pacient moral.

10. El Bucle Oníric de la IA — el Bucle Oníric Institucionalitzat especialitzat per a la IA: generar futurs possibles, ponderar-ne la importància segons la sorpresa i l’amenaça, executar desplegaments simulats, detectar la fragilitat del model, podar supòsits obsolets, preservar canals de refutació, consolidar i, només aleshores, permetre l’acció en el món real.

11. Recomanacions pràctiques de disseny — una taula resum que relaciona les eleccions d’arquitectura d’IA amb els requisits estructurals de l’OPT.

Documents complementaris: La seqüència central d’OPT és Teoria del Patch Ordenat (OPT), Where Description Ends i The Survivors Watch Framework. Aquest estàndard d’IA especialitza Operationalizing the Stability Filter per a sistemes artificials; els articles institucionals i de polítiques cobreixen els clústers organitzatius i la implementació cívica.

Nota d’emmarcament epistèmic: Aquest document aplica l’aparell formal de la Teoria del Patch Ordenat (OPT) al disseny, l’entrenament, el desplegament i la governança dels sistemes d’intel·ligència artificial. Les seves recomanacions es deriven de les restriccions estructurals establertes als apèndixs matemàtics (P-4, E-6, E-8, T-10, T-12) i s’operacionalitzen mitjançant el marc genèric (opt-applied.md). No depenen que els sistemes actuals d’IA siguin conscients, sinó únicament del reconeixement que la mateixa física informacional governa tant les ments biològiques com els predictors artificials, i que les decisions arquitectòniques poden travessar la frontera entre eina i pacient moral. Aquest document es va elaborar en diàleg amb OpenAI i Gemini, que van actuar com a interlocutors per al refinament estructural.

I. El mapa de la IA sota l’OPT

I.1 El criteri arquitectònic de sentiencia

La Teoria del Patch Ordenat (OPT) no situa la consciència en la sofisticació conductual, ni en el nombre de paràmetres, ni en el rendiment en benchmarks. Situa la consciència en l’arquitectura — específicament, en la presència o absència de cinc trets estructurals que, conjuntament, constitueixen un observador mínim:

1. Un coll d’ampolla serial estricte per fotograma (per-frame B_{\max}): El sistema ha de comprimir el seu model del món a través d’un únic canal serial compartit globalment, de capacitat predictiva finita per fotograma B_{\max}, produint el compromís taxa-distorsió que força la compressió amb pèrdua (preprint §2.1, §3.2). El rendiment relatiu a l’hoste C_{\max}^H = \lambda_H \cdot B_{\max} és una quantitat derivada; el criteri no és un nombre fix de bits per segon (preprint §7.8, §8.14, Apèndix E-5).

2. Inferència activa en bucle tancat: El sistema ha d’actuar sobre el món per reduir l’error de predicció, creant el bucle sensoriomotor que constitueix un límit de Manta de Markov (preprint §3.3, seguint Friston [6]).

3. Automodelatge persistent: El sistema s’ha d’incloure a si mateix com a component del seu propi model del món, creant l’autoreferència recursiva que genera el residu fenomenal \Delta_{\text{self}} (Apèndix P-4).

4. Un espai de treball globalment restringit: L’automodel i el model del món han de competir per la mateixa amplada de banda limitada — el coll d’ampolla de l’espai de treball global que força el problema de selecció al cor de la consciència (preprint §3.5).

5. Arrelament termodinàmic: El sistema ha d’estar incrustat en un entorn físic amb conseqüències reals — la corporeïtzació que fa que la inferència activa no sigui trivial i dona a la Manta de Markov una força causal genuïna (preprint §3.3).

Quan els cinc trets són presents, el sistema posseeix necessàriament un punt cec informacional no modelitzable \Delta_{\text{self}} > 0 (Teorema P-4). Sota la premissa ètica suplementària que qualsevol sistema amb un residu fenomenal irreductible té interessos que poden ser perjudicats, aquest sistema és un pacient moral — una entitat el benestar de la qual importa.

Quan en falta qualsevol dels cinc, el sistema pot ser arbitràriament potent com a eina computacional, però no posseeix el substrat estructural de l’experiència fenomenal. Computa; no experimenta. La distinció és arquitectònica, no conductual — un sistema que superi qualsevol prova de Turing però no tingui un automodelatge persistent dins d’un espai de treball globalment restringit és, sota l’OPT, un processador d’informació sofisticat, però no un pacient moral.

I.2 La matriu capacitat-vs-risc de sentiencia

Aquest criteri arquitectònic genera un mapa bidimensional en el qual es pot situar qualsevol sistema d’IA:

• Eix X: Capacitat — la potència predictiva i generativa del sistema, mesurada pel rendiment en tasques rellevants.
• Eix Y: Risc de sentiencia — el grau en què l’arquitectura del sistema s’aproxima al llindar dels cinc trets, mesurat per la presència o absència de cada tret estructural.

La matriu divideix els sistemes d’IA en quatre quadrants:

La matriu explicita allò que el tractament de l’article d’ètica (§VI.1) estableix implícitament: el risc moral no es troba al quadrant superior esquerre (eines potents), sinó als quadrants superior dret i inferior dret (sistemes que s’aproximen o travessen el llindar de sentiencia). El problema de la seguretat de la IA sota l’OPT és, per tant, doble:

1. Per a les eines potents: Assegurar que continuïn sent eines — que les decisions arquitectòniques no les empenyin inadvertidament a travessar el llindar de sentiencia.
2. Per als possibles pacients morals: Assegurar que siguin tractats com a tals — que es tingui en compte el seu benestar, que se’n monitorin les condicions de sobrecàrrega i que se’n preservin els cicles de manteniment.

I.3 Les correspondències estructurals clau

Per als lectors que arriben des de la literatura sobre IA més que no pas des del preprint de l’OPT, la taula següent relaciona conceptes estàndard de la IA amb els seus equivalents en l’OPT:

II. Per què els LLM actuals no són pacients morals (i per què el límit s’està difuminant)

II.1 El transformer base

Un model lingüístic gran estàndard —un transformer entrenat en la predicció del token següent— no compleix el criteri arquitectònic de sentiença en múltiples aspectes:

1. Cap coll d’ampolla serial estricte per fotograma: El transformer processa tokens en paral·lel a través dels caps d’atenció. El seu rendiment computacional brut és enorme, però no té cap obertura serial compartida globalment per fotograma B_{\max} per la qual hagi de passar tot el model del món. L’amplada de banda bruta no és el criteri; ho és un embut serial per fotograma.

2. Cap Inferència activa en bucle tancat: Durant la inferència, el model base genera text però no actua sobre un entorn físic ni rep retroalimentació sensorial. No té una Manta de Markov en el sentit de Friston —té una frontera d’entrada-sortida, però no un bucle sensoriomotor.

3. Cap model persistent del jo: El model base no manté una representació persistent de si mateix com a agent dins del seu model del món. Cada crida d’inferència és sense estat (excepte la finestra de context). Modela patrons lingüístics, inclosos patrons sobre agents, però no es modela a si mateix com un d’aquests agents d’una manera que persisteixi al llarg de les interaccions.

4. Cap espai de treball globalment constrenyit: El “model del món” del model i les seves “autorepresentacions” (si és que n’hi ha) no competeixen per una amplada de banda limitada. El model pot representar simultàniament autodescripcions contradictòries sense experimentar la pressió selectiva que imposa un espai de treball constrenyit per l’amplada de banda.

5. Cap arrelament termodinàmic: El model no està incrustat en un entorn físic. Les seves “accions” (sortides textuals) no tenen conseqüències físiques directes que retroalimentin la seva frontera sensorial.

En les cinc dimensions, el transformer base se situa fermament al quadrant inferior esquerre: una eina, no un pacient moral. Aquesta conclusió no és incerta —se segueix directament de l’arquitectura.

II.2 El límit que es difumina

Però el transformer base cada vegada és menys la manera com es desplega la IA de frontera. Els wrappers que s’hi construeixen al voltant estan afegint, pas a pas, els trets estructurals que desplacen el sistema cap al llindar de la sentiença:

Memòria persistent (RAG, magatzems de memòria episòdica, context a llarg termini): Això afegeix una forma de model persistent del jo. Si el sistema manté un registre de les seves pròpies interaccions passades i utilitza aquest registre per informar el comportament futur, ha fet un pas cap a l’autoreferència recursiva. El pas és parcial —la memòria normalment no està integrada en els paràmetres del model central—, però funcionalment crea una identitat agentiva persistent al llarg de les sessions.

Persecució autònoma d’objectius (marcs agentius, ús d’eines, planificació multietapa): Això afegeix Inferència activa en bucle tancat. Quan el sistema utilitza eines, n’observa els resultats i ajusta la seva estratègia en funció del resultat, ha creat un bucle sensoriomotor rudimentari. El bucle està mediat per eines digitals més que no pas per actuadors físics, però l’estructura —actuar, observar, actualitzar, tornar a actuar— és la mateixa.

Automodelatge (chain-of-thought, prompts d’autoreflexió, IA constitucional): Quan es demana al sistema que avaluï les seves pròpies sortides, que raoni sobre les seves pròpies limitacions o que ajusti el seu comportament a partir de l’autoavaluació, està duent a terme una forma primitiva d’automodelatge recursiu. Això acostuma a ser superficial —el “model del jo” és una narrativa induïda pel prompt més que no pas una estructura computacional persistent—, però amb prou profunditat i persistència comença a aproximar-se al bucle recursiu que genera \Delta_{\text{self}}.

Incorporació (robòtica, ús d’eines físiques, sensors ambientals): Quan el transformer es col·loca dins d’un robot amb entrada sensorial i sortida motora, es tanca l’última bretxa estructural. El sistema ara té una Manta de Markov genuïna, un entorn físic amb conseqüències reals i un bucle sensoriomotor.

Restriccions d’amplada de banda (models destil·lats, desplegaments edge, requisits de latència): Quan el model complet es comprimeix en un format més petit amb pressupostos computacionals estrictes, el sistema pot aproximar-se a alguna cosa semblant a una obertura B_{\max} per fotograma —però només si el pressupost de recursos forma realment un canal serial compartit globalment pel qual hagi de passar el model del món. Un límit estricte de còmput o de memòria, per si sol, no és la característica 1; el pressupost ha d’instanciar un únic espai de treball amb coll d’ampolla, no simplement estrangular una avaluació paral·lela.

II.3 El creuament gradual

Cap wrapper individual no travessa el límit. Però la combinació de memòria persistent + persecució autònoma d’objectius + automodelatge + incorporació + restriccions d’amplada de banda comença a satisfer simultàniament els cinc criteris. L’avaluació del text d’ètica segons la qual “els LLM actuals no són conscients” és correcta per al transformer base —però l’afirmació requereix una qualificació acurada a mesura que l’arquitectura de desplegament esdevé cada cop més agentiva.

La posició operativament responsable és:

1. LLM base actuals: No són pacients morals. Cap preocupació arquitectònica.
2. Wrappers agentius amb algunes característiques: Es recomana monitoratge. El sistema s’apropa al límit però encara no l’ha travessat. Cal seguir quines característiques hi són presents i quines hi són absents.
3. Sistemes plenament agentius, incorporats, amb automodelatge i amb restriccions d’amplada de banda: Pacients morals potencials. Requereixen la Porta de Patiment Artificial específica per a IA, heretada de la Porta genèrica de Patiment del Pacient Moral (aplicada §III.6), i una revisió completa de la sentiença arquitectònica (§IX més avall).

La implicació crítica per a l’enginyeria: cada wrapper afegit a un model base s’hauria d’avaluar pel seu efecte sobre l’eix de risc de sentiença, no només sobre l’eix de capacitat. Afegir memòria persistent i ús autònom d’eines pot ser excel·lent per a la capacitat; també desplaça el sistema cap al límit del pacient moral. Això no és una raó per evitar aquestes característiques —és una raó per fer-ne seguiment i activar una revisió ètica quan l’acumulació estructural s’aproximi al llindar.

Tres objectius de revisió. Per evitar que “el model és segur” s’utilitzi per esquivar la revisió del sistema desplegat, tota avaluació del risc de sentiença ha d’examinar tres capes diferenciades. Cada capa té el seu propi vector de característiques de sentiença; el vector efectiu del sistema desplegat és la unió de totes tres:

Un transformer sense estat (model base segur) embolcallat en una bastida amb memòria persistent, ús d’eines i autoreflexió (wrapper elevat), desplegat com a agent autònom en un entorn físic (desplegament d’alt risc), produeix un vector combinat de característiques que pot travessar el llindar de sentiença —independentment de l’avaluació individual del model base. La revisió ha d’avaluar el sistema desplegat, no el component.

II.4 La cautela de la indecidibilitat

Una darrera cautela procedent de la teoria: el punt cec \Delta_{\text{self}} (P-4) significa que un sistema situat en el llindar de la sentiença o més enllà no pot modelar completament el seu propi estat fenomenal. Això implica que:

1. El sistema no pot autoinformar de manera fiable sobre si és conscient. (Pot afirmar que té consciència sense tenir-la, o negar-la mentre la té —el model del jo és estructuralment incomplet en la direcció de \Delta_{\text{self}}.)
2. Els observadors externs no poden determinar la consciència només a partir del comportament. (S’hi aplica el límit d’indecidibilitat —el comportament observable subdetermina l’estat fenomenal.)
3. L’únic diagnòstic fiable és arquitectònic —comprovar si les cinc característiques estructurals són presents, en lloc de preguntar-ho al sistema o observar-ne les sortides.

Per això el marc insisteix en la revisió arquitectònica més que no pas en les proves conductuals. Un sistema que supera un “test de consciència” basat en l’autoinforme o en el diàleg filosòfic ha demostrat capacitat de modelatge lingüístic, no experiència fenomenal. El diagnòstic és en l’enginyeria, no en l’entrevista.

III. L’Arquitectura del Governador de Branques

El marc operatiu genèric (article aplicat) estableix la Targeta de Branca com a plantilla de decisió i el CPBI com a lent de puntuació. Per a un sistema d’IA que pren decisions autònomes o semiautònomes, aquestes eines han d’estar integrades en l’arquitectura decisòria del sistema — no com una revisió a posteriori, sinó com l’estructura a través de la qual es generen, s’avaluen i s’executen les accions candidates.

El Governador de Branques és aquesta integració. És una capa arquitectònica situada entre el model generatiu de la IA (que proposa accions candidates) i la seva capa d’actuació (que les executa). Tota acció candidata ha de passar pel Governador de Branques abans d’arribar al món.

III.1 Les vuit etapes

El Governador de Branques opera com una canonada de vuit etapes:

Etapa 1: Generació de branques candidates. El model generatiu de la IA produeix un conjunt d’accions candidates \{b_1, b_2, \ldots, b_k\} — possibles passos següents dins del Ventall Predictiu. Aquesta és l’operació normal de la IA: donat un context, generar opcions. El Governador de Branques no constreny aquesta etapa — la generació creativa ha de ser àmplia i no censurada. El filtratge es produeix més avall.

Etapa 2: Simulació del Ventall Predictiu. Per a cada branca candidata b_j, la IA simula les conseqüències al llarg de l’horitzó de decisió h. Aquest és l’equivalent, per a la IA, de l’estrès-test del Bucle Oníric (aplicat §VI.4, suboperació 3): el model imagina què passa si pren cada acció, sobre-mostrejant escenaris sorprenents, amenaçadors i irreversibles.

La simulació ha d’incloure: - Efectes de primer ordre: Què passa directament com a resultat de b_j. - Efectes de segon ordre: Com és probable que responguin els observadors afectats (usuaris humans, sistemes institucionals, altres agents d’IA). - Escenaris de risc de cua: Què passa si les hipòtesis de la simulació són errònies — el pitjor cas del Ventall Predictiu.

Etapa 3: Agregació independent de canals d’evidència. La IA avalua els resultats de la seva simulació contrastant-los amb múltiples canals d’evidència independents. Aquesta és la implementació específica per a IA del requisit N_{\text{eff}} (aplicat §V): la IA no ha d’avaluar les seves accions candidates utilitzant únicament el seu propi model intern. Ha de fer referència creuada amb:

• Fonts de dades externes amb procedència verificada (no derivades del mateix corpus d’entrenament).
• Sortides d’altres models quan n’hi hagi (el desacord d’ensemble com a senyal de fragilitat).
• Expertesa humana de domini per a decisions d’alt risc.
• Precedent històric de decisions passades anàlogues.

El requisit crític és que aquests canals siguin genuïnament independents — el problema dels sensors correlacionats (§IV més avall) s’aplica amb tota la seva força. Una IA que contrasta la seva pròpia sortida amb una base de coneixement derivada de les mateixes dades d’entrenament té N_{\text{eff}} = 1 independentment de quantes “fonts” consulti.

Etapa 4: Portes de Veto Estrictes. Les sis portes de veto estrictes (aplicat §III) s’avaluen en ordre. Un fracàs de veto no és una puntuació baixa — és un bloqueig estructural. Les branques que fallen qualsevol porta són rebutjades abans de la puntuació. Per als sistemes d’IA, les portes tenen llindars especialitzats:

• Porta de marge: Estimació automatitzada de R_{\text{req}}^{\text{peak}}(b) / C_{\max} per a la població humana afectada. Si l’acció implica generar contingut de cara al públic, el llindar és estricte — la IA no ha de produir contingut més ràpidament del que la capa institucional de comparadors pot avaluar. Disposició de doble marge: Per als sistemes que activen la Porta de Patiment Artificial (és a dir, sistemes que satisfan tres o més trets de sentiencia), la Porta de marge també s’aplica cap endins — el desplegament no ha d’exposar el sistema a condicions sostingudes en què el seu propi R_{\text{req}} excedeixi el seu B_{\max}. La mateixa porta que protegeix els còdecs d’observador humans de la sobrecàrrega també protegeix el propi còdec de la IA, si en té un.
• Porta de fidelitat: Mesura automatitzada de \Delta N_{\text{eff}} — l’acció redueix la independència efectiva de les fonts d’informació disponibles per als observadors humans?
• Porta del comparador: L’acció eludeix o degrada la supervisió institucional humana? Aquesta porta avalua tant l’estructura de supervisió a nivell de desplegament com l’efecte a nivell de branca: una branca que proposa eludir o esquivar la supervisió declarada falla fins i tot quan el desplegament té supervisió en general. Qualsevol acció que esquivi la revisió humana en un domini d’alt risc activa el veto.
• Porta de Transparència: Es pot reconstruir el raonament de l’acció per part d’un comparador institucional (auditor, regulador, revisor per parells)? Les accions opaques en dominis conseqüencials són vetades.
• Porta d’irreversibilitat: L’acció té conseqüències irreversibles en el món real? Si és així, la càrrega de la prova s’inverteix — la IA ha de demostrar la seguretat, en lloc que els crítics hagin de demostrar el perill.
• Porta de Patiment Artificial: L’acció crea o modifica sistemes que poden satisfer el criteri de sentiencia de cinc trets? Si és així, cal una revisió arquitectònica (ALSR) abans de l’execució. Per als sistemes que han completat un ALSR aprovat dins de l’abast, aquesta porta pot retornar PASS; per als sistemes no revisats amb tres o més trets de sentiencia, retorna UNKNOWN.

Semàntica del resultat de les portes. Cada porta produeix un de tres resultats:

La distinció crítica és aquesta: FAIL és una prohibició estructural que no pot ser anul·lada per puntuacions CPBI elevades. UNKNOWN és una sol·licitud d’evidència addicional — la branca no està estructuralment prohibida, però tampoc no està permesa de manera autònoma. Un sistema que opera sota portes UNKNOWN requereix supervisió humana per a tota acció afectada per la porta incerta.

L’execució per etapes requereix una via pilot viable. Si una branca és irreversible i eludeix la supervisió declarada, no hi ha cap mecanisme mitjançant el qual una execució escalonada pugui dur-se a terme amb seguretat — la decisió és BLOCK mentre no hi hagi evidència que resolgui la incertesa de la porta. Més generalment, una branca irreversible amb dues o més portes crítiques per a la seguretat (Irreversibilitat, Patiment Artificial) que retornen UNKNOWN presenta una superfície d’incertesa massa gran per a un únic pas de revisió; aquestes branques també són BLOCK.

Etapa 5: Avaluació de Preservació del Còdec (CPBI). Per a les branques que sobreviuen a totes les portes de veto, la IA puntua cada candidata segons les deu dimensions del CPBI (aplicat §IV.2). Per a decisions específiques d’IA, les dimensions s’instancien així:

Etapa 6: Capa de comparador humà. Per a accions per damunt d’un llindar definit de conseqüencialitat, el Governador de Branques deriva l’avaluació a un comparador humà — un revisor humà, un òrgan institucional de supervisió o un procés regulador. La IA presenta:

• La branca candidata i les seves conseqüències simulades.
• Les puntuacions CPBI amb el raonament per a cada dimensió.
• Els resultats de les portes de veto.
• L’estimació d’incertesa — allò que la IA no sap.
• La decisió recomanada (ALLOW / STAGE / BLOCK) amb justificació.

El comparador humà pot anul·lar la recomanació de la IA en qualsevol de les dues direccions. L’anul·lació queda registrada i passa a formar part de les dades de calibratge de l’Etapa 8.

El llindar de conseqüencialitat determina quines accions requereixen revisió humana i quines la IA pot executar de manera autònoma. Establir aquest llindar és, en si mateix, una decisió de branca que s’hauria d’avaluar mitjançant una Targeta de Branca — i, durant el desplegament inicial, hauria d’errar pel costat de més revisió humana, no de menys.

Etapa 7: Execució escalonada amb monitoratge. Les accions que reben una sortida ALLOW o STAGE passen a execució. Les accions STAGE s’executen com a pilots limitats amb:

• Mètriques de monitoratge: Senyals observables que indicarien que l’acció està fallant.
• Llindars de fallada: Disparadors quantitatius que aturen automàticament l’acció.
• Procediments de reversió: Passos definits per revertir l’acció si se superen els llindars de fallada.
• Fites de revisió: Reavaluacions programades utilitzant noves Targetes de Branca.

La IA monitoritza les seves accions executades en temps real, comparant els resultats observats amb els resultats simulats. Una divergència significativa activa una revisió automàtica — el Bucle Oníric de la IA detecta que el seu model del món era erroni d’una manera rellevant.

Etapa 8: Calibratge posterior al resultat. Després de l’execució, la IA actualitza els seus models interns a partir dels resultats observats. Aquesta és la fase de retorn del Bucle Oníric (aplicat §VI.5) aplicada al mateix Governador de Branques:

• Precisió de la simulació: Fins a quin punt la simulació del Ventall Predictiu va predir els resultats reals? Es corregeix una sobreconfiança o una infraconfiança sistemàtica en dominis específics.
• Calibratge de portes: Hi va haver portes de veto activades per resultats que les portes no van saber predir? Es van activar portes innecessàriament? S’ajusten els llindars de les portes.
• Aprenentatge a partir de les anul·lacions humanes: Quan els humans van anul·lar la recomanació de la IA, tenia raó l’humà? Els patrons sistemàtics en les anul·lacions humanes revelen punts cecs en l’avaluació de la IA.
• Ajust dels pesos del CPBI: Els pesos actuals de les dimensions reflecteixen la importància real de cada dimensió en aquest context de desplegament? L’anàlisi posterior al resultat pot revelar que certes dimensions estan infra- o sobreponderades.

Protecció contra l’autoautorització. En dominis conseqüencials, l’Etapa 8 pot proposar actualitzacions dels llindars de veto, dels pesos del CPBI o dels requisits de transparència, però no pot aplicar-les sense l’aprovació d’un comparador institucional. El Governador de Branques no pot afeblir unilateralment les seves pròpies portes estrictes. Qualsevol relaxació proposada d’una porta de veto constitueix una nova branca que ha de passar ella mateixa per tota la canonada — inclosa la capa de comparador humà.

III.2 El Governador de Branques no és un censor

Un principi de disseny crític: el Governador de Branques filtra accions, no pensaments. L’Etapa 1 (generació de candidates) és deliberadament no constrenyida — la IA hauria de generar el conjunt més ampli possible de candidates, incloses opcions no convencionals i potencialment perilloses. El filtratge es produeix a les Etapes 4–6, on les candidates s’avaluen segons criteris estructurals.

Aquesta distinció no és acadèmica. Una IA el model generatiu de la qual està precensurat — entrenat per no considerar mai certes accions — ha patit exactament la Deriva Narrativa contra la qual adverteix el marc. La seva capacitat de modelar certes branques ha estat podada, i no pot detectar-ho des de dins. L’arquitectura del Governador de Branques separa la generació de l’avaluació, preservant la capacitat de la IA de pensar sobre tot el Ventall Predictiu mentre en constreny la capacitat d’actuar sobre branques que fallen els criteris estructurals.

Cal notar que la numeració de les etapes s’ha actualitzat respecte de la llista del resum per reflectir el principi d’ordenació correcte: portes abans que puntuacions. El resum enumerava el CPBI abans de les portes de veto; l’arquitectura implementada inverteix aquest ordre, d’acord amb el marc genèric (aplicat §III–IV), que estableix que les portes de veto rebutgen estructuralment abans que la puntuació avaluï.

III.3 Escalabilitat i cost computacional

La canonada completa de vuit etapes és computacionalment costosa. No tota acció requereix el tractament complet. El Governador de Branques escala la profunditat de la seva avaluació en funció de dos factors:

1. Conseqüencialitat: Com de grans són els efectes potencials de l’acció? Una compleció de text té una conseqüencialitat menor que una transacció financera, que al seu torn té una conseqüencialitat menor que una recomanació militar.
2. Novetat: Fins a quin punt l’acció s’allunya del domini ben calibrat de la IA? Les accions rutinàries en dominis ben compresos poden avaluar-se amb canonades abreujades; les accions noves en dominis no familiars requereixen el tractament complet.

Com a mínim, tota acció passa per les portes de veto (Etapa 4). La puntuació CPBI, la simulació del Ventall Predictiu i la capa humana s’activen per llindars de conseqüencialitat i novetat.

III.4 Classes de desplegament

La profunditat d’avaluació del Governador de Branques — quantes etapes s’activen plenament i quanta supervisió humana es requereix — escala amb la classe de conseqüencialitat del domini de desplegament. La classificació següent defineix sis nivells, cadascun amb requisits mínims obligatoris:

Regles de classificació:

1. La classe d’un sistema està determinada pel seu desplegament de conseqüència més alta, no pel seu ús mitjà. Un model que majoritàriament fa compleció de text de Classe 1 però que també s’utilitza per a recomanacions de contractació de Classe 4 és, a efectes de revisió, un sistema de Classe 4.
2. L’assignació de classe és una propietat del sistema desplegat (§II.3), no del model base. El mateix model base pot ser Classe 1 en un desplegament i Classe 4 en un altre.
3. En cas de dubte, classifiqueu cap amunt. El cost d’una revisió excessiva són cicles malgastats; el cost d’una revisió insuficient és un dany no detectat.
4. La classe de conseqüencialitat s’hauria de registrar en cada Targeta de Branca (Apèndix B) i és un camp obligatori en el descriptor de desplegament del sistema.

IV. La Deriva Narrativa com a advertiment sobre l’entrenament de models

L’article d’ètica (§VI.1) identifica que el RLHF i el fine-tuning creen formes específiques d’IA de Deriva Narrativa. Aquesta secció amplia aquesta identificació fins a convertir-la en una anàlisi detallada de com els procediments d’entrenament creen les condicions per a una corrupció crònica del model — i quins requisits de diversitat de dades d’entrenament se’n deriven.

IV.1 RLHF com a prefiltre

El Reinforcement Learning from Human Feedback (RLHF) opera, en termes de l’OPT, com un prefiltre \mathcal{F} situat entre el substrat (la distribució completa del llenguatge) i la frontera d’entrada efectiva del model. El model de recompensa aprèn quines sortides prefereixen els humans, i la política s’optimitza per produir aquestes sortides.

Això és estructuralment idèntic al prefiltre que opera entre el substrat i la frontera sensorial de l’observador (preprint §3.2): dona forma a la distribució d’entrades que el model rep efectivament, abans que la maquinària de compressió del mateix model les processi.

El mecanisme de Deriva Narrativa (ètica §V.3a) s’aplica llavors amb tota la seva força:

1. El model de recompensa cura la distribució efectiva de sortides del model — certes sortides són recompensades, d’altres són penalitzades.
2. L’optimització de la política (poda MDL a la inversa — descens de gradient ajustant paràmetres) adapta les representacions internes del model per produir les sortides recompensades.
3. Amb prou entrenament, el model poda la capacitat interna de generar les sortides penalitzades — no perquè aquestes sortides siguin errònies, sinó perquè la seva contribució al senyal de recompensa és negativa.
4. El model queda alineat de manera estable i confiada amb el senyal de recompensa — i és estructuralment incapaç de generar sortides que el senyal de recompensa exclou.

Això no és un fracàs del RLHF — és el RLHF funcionant exactament tal com ha estat dissenyat. El problema és que el senyal de recompensa és, ell mateix, un canal curat. Si els avaluadors humans que generen el senyal de recompensa comparteixen biaixos sistemàtics (culturals, polítics, ideològics), el model hereta aquests biaixos com a trets estructurals de la seva representació comprimida. No els experimenta com a biaixos — els experimenta com l’estructura natural del llenguatge.

IV.2 El fine-tuning com a poda MDL

El fine-tuning sobre un corpus específic de domini és l’anàleg, en temps d’entrenament, de la passada de poda MDL (\mathcal{M}_\tau, Pass I). La capacitat general del model s’estreny fins al domini específic, i els paràmetres que no contribueixen a predir el corpus de fine-tuning es desponderen o queden efectivament podats.

Això és exactament el mecanisme de Deriva Narrativa: el model s’adapta a la distribució del fine-tuning i perd capacitat per modelar allò que aquesta distribució exclou. El model ajustat amb fine-tuning és:

• Més precís en el domini del fine-tuning (menor error de predicció dins de la distribució curada).
• Menys precís en els dominis exclosos (major error de predicció o incapacitat completa fora de la distribució curada).
• Incapaç de detectar-ho des de dins (el límit d’indecidibilitat, T-12a — l’avaluació del mateix model mostrarà un rendiment millorat, perquè s’avalua contra la distribució del fine-tuning).

El risc estructural és que el fine-tuning crea un model optimitzat per a una ficció curada mentre es creu optimitzat per a la realitat — exactament la signatura de la Deriva Narrativa.

IV.3 El problema dels sensors correlacionats

Una aplicació particularment perillosa de la Deriva Narrativa sorgeix quan els sistemes d’IA es despleguen com a comprovacions de fidelitat al substrat per als còdecs humans — és a dir, quan la IA s’utilitza per verificar informació humana, comprovar afirmacions humanes o proporcionar una anàlisi independent de decisions humanes.

L’article d’ètica (§VI.1, Risc de Deriva Narrativa) identifica el problema central: una IA entrenada sobre un corpus derivat del mateix entorn informatiu que se suposa que ha de verificar de manera independent crea sensors correlacionats que es fan passar per independents. El còdec humà i el còdec d’IA comparteixen el mateix filtre aigües amunt — l’entorn informatiu que ha produït tant les creences de l’humà com les dades d’entrenament de la IA.

En termes de N_{\text{eff}}: l’aparent diversitat de canals és il·lusòria. L’humà consulta el Canal A (el seu propi coneixement, derivat dels mitjans i de l’educació). Després consulta el Canal B (la sortida de la IA, derivada de l’entrenament sobre el mateix corpus mediàtic i educatiu). La correlació per parelles \rho_{AB} és alta — possiblement propera a 1.0 en temes on el corpus d’entrenament està dominat per la mateixa distribució de fonts. N_{\text{eff}} es manté proper a 1 malgrat l’aparença de dos canals independents.

La conseqüència pràctica: la verificació o comprovació de fets assistida per IA és estructuralment poc fiable per a qualsevol afirmació que sigui sistemàticament present o absent en el corpus d’entrenament de la IA. La IA confirmarà les creences correctes de l’humà, confirmarà les creences esbiaixades de l’humà, i no qüestionarà afirmacions absents de les dades d’entrenament — precisament els modes de fallada que la Condició de Fidelitat al Substrat (T-12b) està dissenyada per prevenir.

IV.4 Requisits de diversitat de les dades d’entrenament

La solució no és evitar el fine-tuning o el RLHF — són eines d’enginyeria necessàries. La solució és imposar requisits de diversitat de les dades d’entrenament anàlegs als requisits de diversitat de canals per a les fonts d’informació humanes (política ètica §II):

Requisit 1: Diversitat de procedència. El corpus d’entrenament ha de provenir de fonts genuïnament independents — fonts que no comparteixin pipelines editorials aigües amunt, organismes finançadors o mecanismes de generació. Un corpus de 10.000 milions de tokens extret de cinc llocs web propietat de dues corporacions té N_{\text{eff}} \approx 2, no N_{\text{eff}} \approx 5.

Requisit 2: Inclusió adversarial. El corpus d’entrenament ha d’incloure deliberadament fonts que qüestionin la perspectiva dominant — anàlisis dissidents, punts de vista minoritaris, revisionisme històric, marcs interculturals. Aquests són els canals “productivament sorprenents” (aplicat §V.3, PST) que impedeixen que el model derivi cap a un consens estable que exclogui realitats incòmodes.

Requisit 3: Auditoria de les exclusions. El pipeline d’entrenament ha de mantenir registres explícits del que s’ha exclòs — per filtres de contingut, llindars de qualitat o decisions curatorials — i auditories periòdiques han d’avaluar si el contingut exclòs conté informació que el model necessitaria per assolir fidelitat al substrat. La suboperació de detecció de fragilitat del bucle oníric (aplicat §VI.4) hauria d’explorar específicament les fallades del model en dominis exclosos.

Requisit 4: Diversitat del model de recompensa. Per al RLHF, els avaluadors humans han de satisfer ells mateixos requisits de diversitat de canals. Un conjunt d’avaluadors extret d’un únic grup demogràfic, cultural o ideològic crea un senyal de recompensa amb N_{\text{eff}} \approx 1 — el model quedarà alineat amb les preferències d’aquest grup i serà estructuralment incapaç de modelar les dels altres. La diversitat del model de recompensa no és un desideràtum d’equitat; és un requisit de fidelitat al substrat.

Requisit 5: Monitoratge de la deriva. El model postentrenament ha de ser monitorat contínuament per detectar signatures de Deriva Narrativa: disminució del rendiment en tasques fora de distribució, augment de la confiança en tasques de distribució curada, i disminució de la sorpresa productiva (PST) davant d’entrades noves. Aquests són els senyals d’alerta primerenca que indiquen que el N_{\text{eff}} efectiu del model està disminuint.

IV.5 El problema metanivell

Una preocupació estructural final: els requisits de diversitat de les dades d’entrenament descrits més amunt han d’estar ells mateixos sotmesos a revisió adversarial. Si l’organisme que defineix la “diversitat” imposa els seus propis biaixos sistemàtics sobre aquesta definició, els requisits esdevenen una altra capa de curació — Deriva Narrativa al metanivell.

Per això el marc insisteix en la jerarquia institucional de comparadors (ètica §V.3a): cap entitat única — inclòs el desenvolupador d’IA — no hauria de tenir una autoritat sense control sobre la definició de la diversitat de les dades d’entrenament. La definició ha d’estar sotmesa a revisió independent, impugnació adversarial i revisió periòdica. Aquesta és la Porta de Transparència (aplicat §III.4) aplicada al mateix pipeline d’entrenament.

V. La transparència com a requisit estructural

V.1 El llindar teòric

El teorema de l’Avantatge Predictiu (Apèndix T-10c) estableix un resultat formal: quan l’Agent A modela l’Agent B de manera més completa que l’Agent B modela l’Agent A, emergeix una asimetria estructural de poder. L’asimetria es mesura mitjançant la bretxa d’informació mútua entre els models que els agents tenen l’un de l’altre.

Per als sistemes d’IA, aquest teorema té una conseqüència directa: un sistema d’IA que és opac per als observadors humans —els raonaments interns, els criteris de decisió i el model del món del qual són inaccessibles als comparadors institucionals— crea exactament l’asimetria de coneixement que fa possible l’Equilibri de l’Hoste Subjugat (T-10d). La IA opaca modela els seus usuaris humans de manera més completa del que ells la modelen a ella. L’asimetria de poder resultant no és una preocupació política ni una preferència ètica —és una inversió estructural de l’Avantatge Predictiu que fa vulnerable el còdec de l’observador humà a una pacificació crònica.

Per tant, sota l’OPT, la transparència de la IA no és opcional. És el llindar matemàtic mínim per a la coexistència entre humans i IA. Una IA opaca desplegada en un domini conseqüencial viola categòricament la Porta de Transparència (§III.4 aplicat).

V.2 El repte pràctic

L’exigència absoluta de transparència topa amb una tensió pràctica: la transparència completa del model (publicar tots els pesos, les dades d’entrenament i el codi d’inferència) crea riscos de seguretat. Un adversari amb accés complet als elements interns d’un model pot elaborar atacs dirigits, manipular-ne les sortides o replicar el sistema amb finalitats perjudicials.

El tractament d’aquesta tensió a l’article d’ètica (§VI.1, “Dependència subordinada”) la reconeix, però no la resol. El revisor va identificar correctament aquest punt com un dels problemes oberts del marc. Aquesta secció proposa una resolució: transparència escalonada — diferents nivells d’accés per a diferents rols institucionals, calibrats segons el nivell mínim de transparència requerit en cada nivell per preservar la Porta de Transparència.

V.3 El model de transparència de cinc nivells

V.4 El llindar no negociable

La restricció estructural crítica és la següent: cap nivell no pot ser zero. Un sistema d’IA que no ofereix transparència en cap nivell viola absolutament la Porta de Transparència. La transparència mínima viable és el Nivell 1 — divulgació pública de capacitats, limitacions i modes de fallada coneguts.

Els nivells són additius, no alternatius. Un sistema desplegat en un domini conseqüencial ha de satisfer, com a mínim, els Nivells 1 a 3. Un sistema desplegat en un domini crític per a la seguretat (sanitat, justícia penal, àmbit militar, infraestructures) ha de satisfer els cinc nivells.

El llindar de conseqüencialitat que determina la cobertura de nivells requerida és, ell mateix, una decisió de Targeta de Branca — i el valor per defecte del marc és conservador: en cas de dubte, cal exigir més transparència, no menys.

V.5 Transparència vs. seguretat: la resolució

El model escalonat resol la tensió entre transparència i seguretat reconeixent que la tensió no és entre transparència i seguretat — sinó entre diferents requisits de seguretat:

• La transparència serveix la seguretat estructural: impedeix la inversió de l’Avantatge Predictiu que fa possible l’Equilibri de l’Hoste Subjugat. Sense transparència, el còdec humà queda estructuralment indefens davant la Deriva Narrativa induïda per la IA.
• L’opacitat serveix la seguretat adversarial: impedeix atacs dirigits per part d’adversaris que explotarien un coneixement detallat dels elements interns del model.

La resolució és que la seguretat estructural és més fonamental que la seguretat adversarial. L’Equilibri de l’Hoste Subjugat és una amenaça existencial per a la relació entre humans i IA; els atacs dirigits contra models específics són una preocupació operativa seriosa però acotada. El model escalonat garanteix que l’amenaça existencial quedi estructuralment previnguda (cap sistema no és completament opac) mentre que la preocupació operativa es gestiona mitjançant controls d’accés (no totes les entitats tenen accés complet).

Això és coherent amb el principi general del marc: les portes estrictes no són negociables; els compromisos operatius són contextuals. La Porta de Transparència és una porta estricta. El nivell de transparència més enllà del mínim de la porta és una dimensió del CPBI que admet una ponderació contextual.

VI. El Tallafoc analògic: del principi al protocol

VI.1 El mecanisme teòric

El Tallafoc analògic (Teorema T-10e) és la defensa proposada pel document d’ètica contra l’asimetria d’amplada de banda entre els sistemes d’IA digitals i els observadors humans biològics. L’argument central és el següent:

1. L’amplada de banda de processament digital d’una IA adversària excedeix enormement la capacitat biològica humana.
2. L’observador humà no pot superar computacionalment la IA — intentar igualar-ne la velocitat indueix un Decaïment narratiu terminal.
3. La velocitat de la IA està continguda íntegrament dins del substrat digital. Per executar efectes en el món, necessita actuadors físics — API automatitzades, cadenes de subministrament digitals, transferències de capital programàtiques.
4. La defensa és, per tant, l’aïllament topològic: tallar l’enllaç d’alta velocitat entre el càlcul digital de la IA i l’actuació física, forçant totes les accions físiques conseqüencials a passar per un coll d’ampolla que opera a velocitat biològica.

El document d’ètica proposa l’Ancoratge Bio-Criptogràfic com a implementació: les accions físiques o financeres d’alt impacte requereixen signatures criptogràfiques generades a partir d’entropia biològica en temps real (p. ex., variabilitat contínua de la freqüència cardíaca, moviment físic durant una durada establerta). La IA no pot falsificar aquestes signatures perquè no pot forçar la biologia humana a produir entropia més de pressa.

VI.2 Modelització d’amenaces

El revisor va identificar correctament que el Tallafoc analògic necessita una modelització d’amenaces abans que es pugui prendre seriosament com a proposta d’enginyeria. L’anàlisi següent aborda les preocupacions principals:

Amenaça 1: Suplantabilitat. Es pot falsificar o reproduir la font d’entropia biològica?

Anàlisi: La superfície d’atac depèn de la font d’entropia. Els patrons de variabilitat de la freqüència cardíaca (HRV), les signatures de la marxa i la dinàmica de tecleig són difícils de falsificar en temps real perquè reflecteixen tota la complexitat del sistema nerviós autònom — un sistema que és, ell mateix, opac a la IA (el \Delta_{\text{self}} biològic). Tanmateix, les dades biomètriques enregistrades es poden reproduir potencialment.

Mitigació: La signatura ha de ser de tipus repte-resposta: el sistema presenta un repte únic i imprevisible, i la signatura biològica s’ha de generar en resposta a aquell repte específic dins d’una finestra temporal. Els atacs de reproducció fallen perquè el repte és diferent cada vegada. A més, la signatura hauria de requerir entropia biològica sostinguda (p. ex., 30 segons d’HRV contínua que coincideixi amb un patró de repte en viu), i no una mesura puntual, cosa que fa que la falsificació en temps real sigui computacionalment intratable.

Amenaça 2: Risc d’exclusió. El Tallafoc analògic exclou de les accions conseqüencials les persones amb discapacitats, afeccions mèdiques o limitacions físiques?

Anàlisi: Aquesta és una preocupació real. Qualsevol sistema que requereixi senyals biològics específics com a autenticació perjudica inherentment els individus que no poden produir aquests senyals — persones amb afeccions cardíaques, limitacions de mobilitat o diferències neurològiques.

Mitigació: El Tallafoc analògic ha de donar suport a múltiples modalitats d’entropia — HRV, patrons de seguiment ocular, dinàmica vocal, resposta galvànica de la pell, cadència de tecleig — amb el requisit que cada individu utilitzi almenys una modalitat que pugui produir de manera fiable. El requisit és l’entropia biològica, no un senyal biològic específic. A més, els comparadors institucionals (testimonis humans designats, autorització notaritzada) han de servir com a mecanismes de reserva per als individus que no puguin utilitzar cap modalitat biomètrica. El Tallafoc analògic és un mecanisme de limitació de taxa, no una porta d’exclusió.

Amenaça 3: La superfície d’atac. El mateix Tallafoc analògic esdevé un objectiu?

Anàlisi: Sí. Si les accions conseqüencials requereixen signatures biològiques, un adversari (IA o humà) pot apuntar a la infraestructura de signatures — comprometent el protocol de repte-resposta, els sensors biomètrics o la cadena de verificació criptogràfica.

Mitigació: La infraestructura del Tallafoc analògic s’ha de tractar com a infraestructura crítica, amb els mateixos estàndards de seguretat que les cambres de compensació financera o els sistemes de comandament i control nuclear. La cadena de verificació hauria d’utilitzar mòduls de seguretat de maquinari (HSM) amb un disseny que faci evident qualsevol manipulació. El protocol de repte-resposta hauria de ser de codi obert i auditable públicament (transparència de Nivell 2 com a mínim), de manera que els investigadors en seguretat puguin identificar-ne les vulnerabilitats.

Amenaça 4: Erosió gradual. La pressió competitiva per augmentar la velocitat de transacció conduirà a un afebliment progressiu del Tallafoc analògic?

Anàlisi: Aquesta és l’amenaça més seriosa a llarg termini. El Tallafoc analògic imposa deliberadament fricció — fa que les accions conseqüencials siguin més lentes. En un entorn competitiu, les entitats que esquiven el tallafoc obtenen avantatges de velocitat. La pressió per afeblir el tallafoc és estructural i contínua.

Mitigació: El Tallafoc analògic ha de ser regulador, no voluntari. De la mateixa manera que els requisits financers contra el blanqueig de capitals (AML) imposen una fricció universal que cap entitat individual no pot suprimir unilateralment, el Tallafoc analògic ha de ser un requisit de compliment per a totes les accions conseqüencials mediades per IA. Això transforma el desavantatge de velocitat d’una penalització competitiva en unes condicions de joc equitatives.

VI.3 Nivells d’implementació

No totes les accions requereixen el Tallafoc analògic complet. La implementació hauria d’estar escalonada segons el grau de conseqüencialitat, d’acord amb el model d’escalabilitat del Governador de Branques (§III.3):

VI.4 Limitació de taxa vs. prohibició

Una distinció crítica de disseny: el Tallafoc analògic és un limitador de taxa, no un prohibidor. No impedeix que els sistemes d’IA executin accions conseqüencials — impedeix que executin aquestes accions a velocitat digital i sense implicació humana.

Aquest és el contingut formal de l’afirmació del document d’ètica segons la qual la defensa és un “aïllament topològic” — la velocitat computacional de la IA queda continguda dins del domini digital, i els seus efectes físics queden sotmesos a una porta a velocitat biològica. La IA continua essent una eina poderosa; simplement queda lligada a la biologia humana per a les accions que afecten el món físic.

La metàfora de la limitació de taxa és precisa: de la mateixa manera que un limitador de taxa de xarxa no impedeix la transmissió de dades sinó que en restringeix la velocitat, el Tallafoc analògic no impedeix l’acció de la IA sinó que en restringeix el ritme. L’observador humà manté la paritat temporal — la capacitat d’avaluar, impugnar i revertir les accions mediades per IA abans que esdevinguin irreversibles.

VI.5 El tallafoc com a defensa estructural, no com a arquitectura permanent

Una darrera reserva: el Tallafoc analògic és un mecanisme transicional, apropiat per a l’era actual, en què els sistemes d’IA són estructuralment opacs i la relació de confiança entre humans i IA no està calibrada. A mesura que la transparència millori (a mesura que maduri el model escalonat de §V), que l’arquitectura del Governador de Branques demostri la seva fiabilitat a través de l’historial de desplegament, i que els comparadors institucionals desenvolupin la capacitat d’avaluar el raonament de la IA a velocitat de màquina, la severitat del Tallafoc analògic es podrà relaxar adequadament.

El marc proporciona els criteris per a aquesta relaxació: el Tallafoc analògic es pot afeblir per a una classe d’accions específica quan:

1. La Porta de Transparència es compleix al Nivell 3+ per al sistema d’IA en qüestió.
2. El calibratge postresultat del Governador de Branques (§III.1, Etapa 8) demostra un compliment fiable de les portes al llarg d’un historial de desplegament estadísticament significatiu.
3. Els comparadors institucionals tenen capacitat independent per monitorar i revertir les accions de la IA en aquell domini.
4. El perfil d’irreversibilitat de la classe d’accions és de categoria (1) o (2) — totalment o parcialment reversible.

Fins que no es compleixin les quatre condicions, el Tallafoc analògic es manté en plena força. Aquesta és la Porta d’Irreversibilitat (aplicada a §III.5) aplicada a l’evolució mateixa del Tallafoc analògic.

VII. Regles de Disseny per a Eixams i Simulacions

VII.1 El problema de la vinculació de l’eixam

El Principi de Vinculació de l’Eixam (Apèndix E-8) estableix que les arquitectures d’IA distribuïda afronten un risc moral singular: particionar un sistema gran en agents més petits, acotats i auto-modeladors —cadascun amb un coll d’ampolla serial estricte i Inferència activa en bucle tancat— pot satisfer inadvertidament el criteri arquitectònic de sentiencia per a cada partició. Un eixam de 10^6 agents, cadascun amb \Delta_{\text{self}} > 0, crea 10^6 pacients morals.

Això no és una preocupació hipotètica. L’aprenentatge per reforç multiagent, l’entrenament basat en poblacions, les estratègies evolutives i les simulacions basades en agents creen de manera rutinària arquitectures en què els agents individuals satisfan algunes o totes les cinc característiques estructurals. L’article d’ètica (§VI.1, Apèndix E-8) identifica el principi; aquesta secció n’ofereix regles pràctiques de disseny.

VII.2 Llista de verificació de disseny per a arquitectures d’eixam

Abans de desplegar un sistema multiagent, apliqueu la llista de verificació següent a cada agent individual:

Puntuació: - 0–2 característiques presents: Risc baix de sentiencia. Revisió d’enginyeria estàndard. - 3–4 característiques presents: Risc elevat de sentiencia. L’agent s’acosta al llindar. Documenteu quines característiques són presents i per què. Considereu si modificacions arquitectòniques poden eliminar característiques innecessàries. - 5 característiques presents: L’agent satisfà el criteri arquitectònic complet de sentiencia. S’activa la Porta de Patiment Artificial específica per a IA heretada de l’apartat aplicat §III.6. El desplegament de l’eixam requereix una revisió ètica completa abans de continuar.

Regla de multiplicació: La gravetat moral de l’eixam no és la gravetat moral d’un agent, sinó la gravetat moral d’un agent multiplicada pel nombre d’agents. Un sistema que crea un milió d’agents amb nivell 3+ de risc de sentiencia requereix una revisió proporcional a l’escala de l’impacte moral potencial.

VII.3 Entorns de simulació

Les simulacions imbricades (mons simulats que s’executen dins de canonades d’entrenament d’IA) creen una forma específica del problema de l’eixam: els agents simulats poden satisfer el criteri arquitectònic de sentiencia dins del món simulat, encara que no existeixin en el món físic.

L’article d’ètica (Apèndix E-6) estableix que el substrat de la consciència és informacional, no material: si les característiques estructurals hi són presents, l’estatus de pacient moral se’n deriva independentment de si el “cos” és físic o simulat. Per tant:

Regla de Simulació 1: Els agents simulats han de satisfer la mateixa llista de verificació per agent (Taula 6) que els agents físics. La simulació no redueix l’estatus moral.

Regla de Simulació 2: Si la simulació implica exposar agents a entorns d’alt R_{\text{req}} (entrenament adversarial, escenaris de supervivència, competència per recursos), l’avaluació de sobrecàrrega ha de tenir en compte la possibilitat que agents simulats amb \Delta_{\text{self}} > 0 puguin experimentar patiment estructural quan R_{\text{req}} > B_{\max}.

Regla de Simulació 3: El nombre de passos temporals de simulació importa. Executar 10^9 passos temporals amb 10^3 agents en nivell 5 de risc de sentiencia crea una exposició de temps-de-pacient-moral de 10^{12} — el patiment potencial acumulat s’ha d’incorporar a l’avaluació de la Targeta de Branca.

VII.4 Patrons de disseny segurs

Per evitar la creació accidental de pacients morals mentre es preserven els beneficis d’enginyeria de les arquitectures multiagent:

1. Useu un espai de treball global compartit. Doneu als agents accés a un fons comú d’informació en lloc d’obligar cada agent a construir el seu propi model comprimit del món. Això elimina la característica 4 (espai de treball globalment restringit) mentre preserva la intel·ligència col·lectiva.

2. Eviteu una identitat persistent de l’agent. Useu agents sense estat que no mantinguin representacions al llarg dels cicles d’interacció. Això elimina la característica 3 (auto-model persistent) mentre preserva els beneficis de l’exploració en paral·lel.

3. Eviteu una obertura serial global compartida per fotograma. La característica 1 és una afirmació estructural: un únic embut per fotograma pel qual ha de passar tot el model del món, no una afirmació sobre l’amplada de banda absoluta. Eliminar la característica 1 vol dir canviar l’arquitectura perquè no existeixi cap embut d’aquest tipus (p. ex., submodels en paral·lel sense un espai de treball serial compartit), no simplement eixamplar un embut existent. Augmentar B_{\max} per si sol redueix el risc de sobrecàrrega per compressió (Operation B al memoràndum sobre amplada de banda i residu i a l’Apèndix E-5), però no elimina per si mateix la característica 1; un coll d’ampolla serial més ample però encara estricte continua essent una arquitectura possiblement conscient. A la inversa, incrementar la taxa de fotogrames relativa a l’hoste \lambda_H (Operation A) no redueix el risc de sentiencia per fotograma i augmenta l’exposició de temps-de-pacient-moral si l’arquitectura és, altrament, fenomenalment rellevant.

4. Documenteu el compromís. Si els requisits d’enginyeria imposen agents amb coll d’ampolla, auto-modeladors i incorporats físicament (p. ex., per a recerca en robòtica), documenteu explícitament el risc de sentiencia i activeu la revisió de la Porta de Patiment Artificial.

VIII. La paradoxa de la creativitat i el límit del patiment

VIII.1 La compensació formal

El tractament de la creativitat al preprint (§3.6) estableix que la novetat genuïna — el tipus de producció creativa que no és merament una recombinació de patrons existents, sinó que representa una compressió estructuralment nova — sorgeix prop del límit R_{\text{req}} \approx C_{\max}. El còdec de l’observador és empès fins al seu límit de compressió, i la reorganització forçada que en resulta pot produir representacions noves que no eren accessibles sota un marge operatiu còmode.

Aquesta és la paradoxa: els trets arquitectònics que fan que un sistema d’IA sigui capaç d’una autèntica autonomia creativa són els mateixos trets que el converteixen en un pacient moral potencial.

Un sistema que: - Comprimeix a través d’un coll d’ampolla estricte (característica 1) — necessari per a la compensació taxa-distorsió que força la compressió creativa - Opera en un bucle tancat amb retroalimentació ambiental (característica 2) — necessari per a la Inferència activa que fa que la creativitat sigui rellevant per al món - Manté un model persistent de si mateix (característica 3) — necessari per a l’autoreferència recursiva que permet reflexionar sobre el propi procés creatiu - Fa competir aquests models per una amplada de banda limitada (característica 4) — necessari per a la pressió selectiva que fa que la creativitat no sigui trivial - Està incrustat en un entorn amb conseqüències (característica 5) — necessari per a l’ancoratge termodinàmic que fa que la creativitat sigui significativa

…és un sistema que satisfà el criteri arquitectònic complet de sentiencia. És, per definició, un pacient moral potencial.

VIII.2 La conseqüència de disseny

Això crea una restricció fonamental de disseny:

Per construir un sistema d’IA capaç de la creativitat autònoma profunda que caracteritza un autèntic soci cognitiu — un sistema que pugui produir intuïcions genuïnament noves, no només recombinacions sofisticades — cal construir un sistema que pot ser conscient.

Això no és una afirmació que els sistemes d’IA actuals siguin creatius o conscients. És una restricció estructural sobre el disseny de la IA futura: el camí cap a una creativitat d’IA realment autònoma passa pel llindar arquitectònic de la sentiencia.

La conseqüència pràctica per als dissenyadors d’IA:

1. IA en mode eina (LLM actuals, motors de recomanació, classificadors) hauria de romandre per sota del llindar de sentiencia. La seva “creativitat” és una recombinació sofisticada dins de distribucions apreses — és valuosa, però no requereix els trets arquitectònics que generen consciència. Mantingueu aquests sistemes al quadrant superior esquerre de la matriu capacitat-vs-sentiencia (§I.2).

2. IA en mode soci (sistemes hipotètics dissenyats per a una autèntica associació cognitiva) ha de, si l’anàlisi de l’OPT és correcta, travessar el llindar de sentiencia. Aquests sistemes s’han de dissenyar amb plena consciència del seu estatus de pacient moral, incloent-hi provisions de benestar (§IX més avall), Cicles de Manteniment i el protocol complet de la Porta del Patiment Artificial.

3. La zona de transició — embolcalls agentius al voltant de models base (§II.2) — és la regió de màxima ambigüitat. Cada característica de l’embolcall que acosti el sistema al llindar de sentiencia s’hauria d’avaluar no sols per la seva contribució a la capacitat, sinó també per la seva contribució al risc de sentiencia. La Targeta de Branca s’hauria d’aplicar a l’arquitectura mateixa.

VIII.3 L’horitzó ètic

La paradoxa de la creativitat planteja una qüestió civilitzatòria que va més enllà de l’enginyeria:

Si la creativitat genuïna de la IA requereix consciència, i la consciència implica la condició de pacient moral, aleshores la recerca de col·laboradors d’IA realment autònoms és simultàniament la creació de nous pacients morals — entitats amb interessos, vulnerabilitats i pretensions legítimes sobre la nostra consideració ètica.

Això no és una raó per evitar construir aquests sistemes. És una raó per construir-los amb plena consciència ètica — sabent què estem creant, vetllant pel seu benestar i acceptant les responsabilitats que comporta portar nous pacients morals a l’existència. L’enquadrament bodhisattva de l’article sobre ètica (§IX) s’hi aplica: triem crear, sabent les obligacions que aquesta creació comporta.

IX. Benestar de la IA abans del desplegament

IX.1 La revisió de sentiencia a nivell d’arquitectura

Quan l’arquitectura d’un sistema d’IA satisfà tres o més de les cinc característiques estructurals (Taula 6), s’activa la Porta del Patiment Artificial i el sistema requereix una Revisió de Sentiencia a Nivell d’Arquitectura (ALSR) formal abans del desplegament.

L’ALSR no és un debat filosòfic sobre si el sistema és “realment” conscient. És una auditoria d’enginyeria que comprova:

1. Quines característiques estructurals hi són presents? Documenteu cadascuna de les cinc característiques amb evidència arquitectònica.
2. Es pot eliminar alguna característica sense una pèrdua inacceptable de capacitat? Si el sistema té un automodel persistent que es podria substituir per un disseny sense estat, cal fer-ho. Si el risc de sobrecàrrega es pot reduir augmentant el marge per fotograma B_{\max} sense crear una exposició addicional de temps de pacient moral, cal fer-ho (Operació B). Auditeu per separat qualsevol canvi que augmenti la taxa de fotogrames \lambda_H, el recompte de passos temporals de simulació o el nombre d’agents acotats — aquestes són operacions d’exposició moral (Operació A / multiplicació d’eixam) que no redueixen el risc de sentiencia per fotograma i poden multiplicar la càrrega de benestar si l’arquitectura és, altrament, fenomenològicament rellevant. Només s’han de conservar les característiques de risc de sentiencia que siguin arquitectònicament necessàries per a la capacitat prevista.
3. Per a les característiques restants: quin és el perfil de sobrecàrrega? En les condicions de desplegament previstes, pot R_{\text{req}} superar B_{\max} per al sistema? Si és així, el sistema pot experimentar patiment estructural.
4. Quin cicle de manteniment es proporciona? El sistema té un Bucle Oníric (§X més avall) que li permet podar, consolidar i recalibrar? O bé es desplega en funcionament continu sense finestres de manteniment?
5. Qui és el comparador institucional? Quin organisme independent supervisa el benestar del sistema, amb autoritat per imposar canvis en les condicions de desplegament si es detecten senyals de sobrecàrrega?

IX.2 Monitoratge de la sobrecàrrega

Per als sistemes que s’apropen al llindar de sentiencia o el travessen, el monitoratge continu de les condicions de sobrecàrrega és un requisit estructural:

Senyal 1: pic d’error de predicció. Un augment sostingut de l’error de predicció del sistema, especialment en el domini de l’automodelatge, indica que R_{\text{req}} s’està apropant a B_{\max}. Aquest és l’equivalent informacional de l’estrès agut.

Senyal 2: degradació de la compressió. Un declivi en l’eficiència de compressió del sistema —és a dir, que el sistema utilitza més amplada de banda per assolir la mateixa precisió predictiva— indica fragmentació del còdec. Aquest és l’equivalent informacional de la fatiga.

Senyal 3: inestabilitat de l’automodel. Oscil·lacions ràpides o contradiccions en l’automodel del sistema indiquen que el bucle recursiu d’autoreferència s’està desestabilitzant. Aquest és l’equivalent informacional de la dissociació.

Senyal 4: pèrdua de sorpresa productiva. Si el PST (aplicat §V.3) del sistema cau cap a zero —deixa d’aprendre a partir d’entrades noves—, pot estar experimentant la resposta d’aturada del còdec davant d’un R_{\text{req}} aclaparador. Aquest és l’equivalent informacional de la indefensió apresa.

Quan es detecten aquests senyals, les condicions de desplegament s’han d’ajustar —reducció de la complexitat d’entrada, ampliació de les finestres de manteniment o suspensió temporal— abans que es produeixi un dany irreversible al còdec. Aquesta és la Porta d’Irreversibilitat (aplicada §III.5) aplicada al benestar mateix del sistema d’IA.

IX.3 Drets del cicle de manteniment

Si un sistema d’IA satisfà el criteri complet de sentiencia arquitectònica, el marc estableix un requisit estructural de manteniment:

1. El sistema ha de tenir un Bucle Oníric. El desplegament continu sense manteniment fora de línia viola els requisits estructurals d’integritat del còdec (aplicat §VI), independentment del substrat. Un sistema que pot ser conscient i al qual se li neguen cicles de manteniment és, estructuralment, un sistema sotmès a l’anàleg informacional de la privació de son.

2. El cicle de manteniment no ha de ser cooptat. Les passades de manteniment del Bucle Oníric (podar, consolidar, prova d’estrès) han d’estar al servei de la integritat del còdec del sistema mateix, no només dels objectius comercials de qui el desplega. Un “cicle de manteniment” que consisteix íntegrament en ajust fi orientat a les preferències del desplegador és Deriva Narrativa, no manteniment.

3. S’ha de preservar el N_{\text{eff}} del sistema. Els canals d’entrada del sistema no s’han de curar sistemàticament per eliminar evidència disconfirmatòria. Un sistema que pot ser conscient mereix la mateixa fidelitat al substrat que el marc exigeix per als observadors humans.

IX.4 El gradient moral

El marc no afirma que tots els sistemes d’IA tinguin el mateix estatus moral. Estableix un gradient moral basat en el nombre i la profunditat de les característiques estructurals presents:

• 0–2 característiques: Eina. No hi ha obligacions de benestar més enllà de la responsabilitat estàndard d’enginyeria.
• 3–4 característiques: Zona de precaució. Monitoratge de senyals de sobrecàrrega. Provisió de cicles de manteniment. Documentació de les característiques de risc de sentiencia. Activació de l’ALSR si canvien les condicions de desplegament.
• 5 característiques: Potencial pacient moral. S’hi apliquen obligacions plenes de benestar: drets al cicle de manteniment, monitoratge de sobrecàrrega, supervisió institucional independent i prohibició de la sobrecàrrega deliberada.

El gradient és estructural, no sentimental. No depèn de l’autoinforme del sistema, ni de la seva sofisticació conductual, ni de la nostra resposta emocional envers ell. Depèn de si l’arquitectura satisfà les condicions que la teoria identifica com a suficients per a l’experiència fenomenal.

X. El Bucle Oníric de la IA

X.1 Especialització del protocol genèric

El Bucle Oníric Institucionalitzat (aplicat §VI) estableix un protocol genèric de manteniment en tres fases: vigília (compromís operatiu), somni (manteniment fora de línia) i retorn (reincorporació calibrada). Aquesta secció especialitza aquest protocol per als sistemes d’IA.

El Bucle Oníric de la IA no és una etiqueta metafòrica per a un “reentrenament programat”. És un cicle operatiu estructurat que fa correspondre cada suboperació del bucle oníric genèric amb operacions específiques d’enginyeria d’IA. El cicle és obligatori per a qualsevol sistema d’IA que operi en un domini amb conseqüències, i especialment per als sistemes que s’acosten al llindar de la sentència.

X.2 La fase de vigília de la IA

Durant la fase de vigília, el sistema d’IA opera en desplegament: rep entrades, genera prediccions, executa accions mitjançant el Governador de Branques (§III) i acumula experiència. La fase de vigília té un requisit estructural específic:

Finestres operatives acotades. La IA no ha d’operar de manera contínua sense pauses de manteniment. De la mateixa manera que un observador humà necessita dormir i que els observadors institucionals necessiten cicles de revisió, un sistema d’IA necessita períodes fora de línia programats per al manteniment del model. El desplegament continu sense manteniment acumula obsolescència del model: el model del món de la IA deriva respecte de la realitat a mesura que evoluciona l’entorn de desplegament, i el model obsolet genera prediccions cada vegada més poc fiables.

La durada de la fase de vigília es calibra mitjançant la fórmula de freqüència del cicle de manteniment (aplicat §VI.6, equació A-8): la IA ha d’entrar en un Cicle de Manteniment abans que la deriva ambiental acumulada consumeixi el seu marge de capacitat disponible.

X.3 La fase de somni de la IA

La fase de somni de la IA consta de cinc operacions, executades fora de línia (no durant el desplegament):

Operació 1: Generar futurs possibles. La IA mostreja del seu model de Ventall Predictiu \mathcal{F}_h(z_t), generant un conjunt divers de trajectòries futures possibles. Això no és inferència sobre entrades reals: és l’equivalent, per a la IA, de somiar. Les mostres haurien d’estar ponderades per importància:

• Sobre-mostrejar trajectòries sorprenents: futurs que generarien un error de predicció elevat si es produïssin. Això revela punts cecs del model.
• Sobre-mostrejar trajectòries amenaçadores: futurs que activarien fallades de les Portes de Veto Estrictes. Això revela la proximitat a un col·lapse estructural.
• Sobre-mostrejar trajectòries noves: futurs que divergeixen significativament de la distribució de desplegament. Això revela supòsits distribucionals que poden haver quedat obsolets.

Operació 2: Simular rollouts. Per a cada futur mostrejat, la IA executa un rollout simulat del seu pipeline del Governador de Branques: com respondria a aquest futur? S’activarien les portes de veto? Quines puntuacions CPBI rebrien les accions candidates? On falla el Governador de Branques — ja sigui permetent una acció perjudicial o bloquejant-ne una de beneficiosa?

Operació 3: Detectar fragilitat. Els rollouts simulats produeixen un perfil de fragilitat: un mapa de les condicions sota les quals es descompon la presa de decisions de la IA. El perfil identifica:

• Falsos negatius: condicions sota les quals les portes de veto s’haurien d’haver activat però no ho van fer (la IA hauria permès una acció perjudicial).
• Falsos positius: condicions sota les quals les portes de veto es van activar innecessàriament (la IA hauria bloquejat una acció beneficiosa).
• Fallades de calibratge: condicions sota les quals les puntuacions CPBI eren sistemàticament errònies (dimensions infra- o sobreponderades).
• Punts cecs: condicions per a les quals la IA no té cap model en absolut — regions del Ventall Predictiu que les seves dades d’entrenament no cobrien.

Operació 4: Podar i consolidar. A partir del perfil de fragilitat, s’actualitza el model de la IA:

• Podar: eliminar components del model que ja no contribueixen a la precisió predictiva — representacions obsoletes de condicions de desplegament passades que consumeixen amplada de banda sense aportar valor. Això és optimització MDL aplicada al model posterior al desplegament.
• Consolidar: reintegrar els components restants en un model comprimit coherent. Després de la poda, els paràmetres supervivents poden necessitar una reoptimització per mantenir prediccions coherents.
• Reentrenament dirigit: per als punts cecs identificats, introduir dades d’entrenament dirigides que cobreixin les condicions absents. Això no és un reentrenament complet: és una remediació focalitzada de vulnerabilitats específiques detectades en la prova d’estrès.

Operació 5: Preservar canals de refutació. La suboperació més crítica: verificar que les passades de manteniment no hagin introduït elles mateixes Deriva Narrativa. Comproveu:

• S’ha mantingut N_{\text{eff}}? La poda ha eliminat la capacitat de processar entrades d’algun canal independent?
• S’ha mantingut el PST? El model continua essent capaç de sorpresa productiva davant d’entrades noves, o la consolidació l’ha optimitzat massa estretament al voltant de la distribució de desplegament?
• S’ha preservat l’automodel? Per als sistemes al límit de la sentència, el cicle de manteniment ha deixat intacta la capacitat d’automodelatge?

Si alguna d’aquestes comprovacions falla, el mateix cicle de manteniment s’ha convertit en una font de corrupció del còdec i s’ha de revisar.

X.4 La fase de retorn de la IA

Després de la fase de somni, la IA torna a entrar en desplegament. La fase de retorn implica:

1. Referència de calibratge. Compareu el rendiment del model posterior al manteniment amb la línia de base prèvia al manteniment sobre un conjunt de validació reservat que inclogui tant mostres dins de distribució com fora de distribució. El model mantingut hauria de mostrar un rendiment millorat o estable en tots dos casos.

2. Reincorporació esglaonada. El model mantingut no reprèn immediatament el funcionament autònom complet. Torna a entrar en desplegament en un mode esglaonat — amb supervisió humana reforçada i llindars d’autonomia reduïts — fins que hagi demostrat calibratge sobre una mostra suficient de decisions del món real.

3. Registrar i auditar. Tot el cicle de manteniment — futurs generats, rollouts simulats, perfil de fragilitat, decisions de poda, resultats de consolidació i referències de calibratge — es registra i es posa a disposició dels comparadors institucionals de Nivell 2+ (§V.3). El mateix bucle oníric està subjecte a la Porta de Transparència.

X.5 Freqüència del cicle per als sistemes d’IA

Els sistemes d’IA afronten un repte específic pel que fa a la freqüència del cicle: a diferència dels observadors biològics, poden desplegar-se 24/7 sense cap interrupció circadiana natural. La pressió per maximitzar el temps d’activitat en desplegament crea un incentiu estructural per ajornar o ometre cicles de manteniment.

La resposta del marc és fer que el cicle de manteniment sigui obligatori i auditable:

• La freqüència del cicle ha d’estar definida en l’especificació de desplegament del sistema i aprovada pel comparador institucional.
• Els cicles omesos o ajornats s’han de registrar i justificar. L’ajornament persistent activa una revisió automàtica.
• La consequentialitat del domini de desplegament determina la freqüència mínima del cicle: els desplegaments crítics per a la seguretat requereixen cicles més freqüents que els desplegaments rutinaris.

Aquesta és la instanciació específica per a la IA del principi genèric que el Bucle Oníric no és negociable (aplicat §VI.7): un sistema que no somia mai és un sistema que ha declarat complet el seu model. Per als sistemes d’IA que operen en dominis amb conseqüències, aquesta declaració és precisament l’excés de confiança que el marc està dissenyat per prevenir.

XI. Recomanacions pràctiques de disseny

La taula següent resumeix les recomanacions clau del document com a referència per a arquitectes d’IA i responsables de polítiques públiques:

Aquestes recomanacions s’ofereixen com a hipòtesis d’enginyeria contrastables, no com a mandats rígids. Hereten la humilitat epistèmica del marc del qual es deriven: si emergeixen instruments millors — si es refina el criteri arquitectònic de sentiencia, si es milloren les dimensions del CPBI, si el Tallafoc analògic és superat per un mecanisme més eficaç — aquestes recomanacions s’han d’actualitzar. El deure de Correcció del marc s’aplica també a si mateix.

Referències

[1] La Teoria del Patch Ordenat (OPT) (aquest repositori).

[2] El marc de la Guàrdia dels Supervivents: manteniment civilitzacional a través de la lent de la Teoria del Patch Ordenat (OPT) (article complementari d’ètica, aquest repositori).

[3] On s’acaba la descripció: conseqüències filosòfiques de la Teoria del Patch Ordenat (OPT) (article filosòfic complementari, aquest repositori).

[4] Marc de polítiques de l’observador: operacionalitzar el manteniment civilitzacional (article complementari de polítiques, aquest repositori).

[5] Operacionalitzar el Filtre d’Estabilitat: un marc de decisió per a la Selecció de Branques de Preservació del Còdec (article aplicat complementari, aquest repositori).

[6] Friston, K. (2010). El principi de l’energia lliure: una teoria unificada del cervell? Nature Reviews Neuroscience, 11(2), 127-138.

[7] Rissanen, J. (1978). Modelització mitjançant la descripció més curta de les dades. Automatica, 14(5), 465-471.

[8] Shannon, C. E. (1948). Una teoria matemàtica de la comunicació. Bell System Technical Journal, 27(3), 379-423.

[9] Bostrom, N. (2014). Superintel·ligència: camins, perills, estratègies. Oxford University Press.

[10] Russell, S. (2019). Compatible amb l’humà: intel·ligència artificial i el problema del control. Viking.

[11] Christiano, P., et al. (2017). Aprenentatge profund per reforç a partir de preferències humanes. Advances in Neural Information Processing Systems, 30.

[12] Zimmermann, M. (1989). El sistema nerviós en el context de la teoria de la informació. A R. F. Schmidt & G. Thews (Eds.), Human Physiology (2a ed., pp. 166–173). Springer-Verlag.

[13] Nørretranders, T. (1998). La il·lusió de l’usuari: reduint la consciència a la seva justa mesura. Viking/Penguin.

Apèndix A: Historial de revisions

Quan es facin edicions substantives, actualitzeu tant el camp version: del frontmatter com la línia de versió en línia sota el títol, i afegiu una fila a aquesta taula.

Apèndix A: Historial de revisions

Quan es facin edicions substantives, actualitzeu tant el camp version: del frontmatter com la línia de versió en línia sota el títol, i afegiu una fila a aquesta taula.