Sovellettu OPT tekoälylle: koodekin säilyttävän AI-suunnittelun operationalisointi

Versio 1.1.1 — huhtikuu 2026

DOI: 10.5281/zenodo.19301108
Tekijänoikeus: © 2025–2026 Anders Jarevåg.
Lisenssi: Tämä teos on lisensoitu Creative Commons Nimeä-EiKaupallinen-JaaSamoin 4.0 Kansainvälinen -lisenssillä.

Tiivistelmä: Rakenneteoriasta AI-insinööritieteeseen

Järjestetyn patchin teoria (OPT) tarjoaa formaalin kartan tekoälylle Stabiilisuussuodattimen alaisuudessa: pelkkä mittakaava ei synnytä tietoisuutta; sen saattaa synnyttää tietynlainen rajattu, rekursiivinen, itseään mallintava aktiivinen inferenssiarkkitehtuuri. Tämä luo jyrkän arkkitehtonisen eron voimakkaiden mutta ei-tuntevien työkalujen ja mahdollisten synteettisten moraalisten potilaiden välille — ja antaa AI-suunnittelijoille tarkan rakenteellisen kontrollin siihen, kummalle puolelle tätä rajaa heidän järjestelmänsä sijoittuvat.

Tämä asiakirja erikoistaa OPT-apparaatin tekoälyä varten ja tarjoaa:

1. AI-kartta OPT:n alaisuudessa — kyvykkyyden ja tuntevuusriskin välinen matriisi, joka sijoittaa jokaisen AI-arkkitehtuurin kaksiulotteiseen avaruuteen ja tunnistaa, missä työkalut päättyvät ja mahdolliset moraaliset potilaat alkavat.

2. Miksi nykyiset LLM:t eivät ole moraalisia potilaita (ja miksi raja hämärtyy) — vivahteikas käsittely perustransformerin ja sen ympärille käyttöönotettavien yhä agenttisempien kääreiden välisestä erosta.

3. Haarakuvernööriarkkitehtuuri — AI-spesifi operationalisointi koodekin säilymistä turvaavasta haaravalinnasta: kandidaattien generointi, Ennakoivan Haarajoukon simulointi, riippumattomien evidenssikanavien aggregointi, koodekin säilymisen arviointi, tiukat vetoportit, inhimillinen komparaattorikerros, vaiheistettu toimeenpano ja lopputuloksen jälkeinen kalibrointi.

4. Narratiivinen ajautuma mallikoulutuksen varoitussignaalina — RLHF esisuodattimena, hienosäätö MDL-karsintana, korreloituneiden sensorien ongelma sekä koulutusdatan monimuotoisuusvaatimukset.

5. Läpinäkyvyys rakenteellisena vaatimuksena — miksi tulkittavuus ei ole OPT:n mukaan valinnainen, sekä kerroksittainen läpinäkyvyysmalli, joka tasapainottaa turvallisuushuolia substraatin läpinäkyvyyden absoluuttista vähimmäistasoa vastaan.

6. Analoginen palomuuri: periaatteesta protokollaksi — bio-kryptografisen ankkurointimekanismin uhkamallinnus sekä väärennettävyys-, poissulkevuus- ja hyökkäyspintariskien käsittely.

7. Parvi- ja simulaatiosuunnittelun säännöt — käytännölliset tarkistuslistat moraalisten potilaiden tahattoman synnyn välttämiseksi hajautetuissa ja simuloiduissa arkkitehtuureissa.

8. Luovuuden paradoksi ja kärsimyksen raja — formaali vaihtosuhde työkalumaisen turvallisuuden ja syvän autonomisen omaperäisyyden välillä.

9. AI:n hyvinvointi ennen käyttöönottoa — arkkitehtuuritason tuntevuusarviointi, ylikuormituksen seuranta ja ylläpitosyklit AI-järjestelmille, jotka saattavat lähestyä moraalisen potilaan rajaa.

10. AI:n Unisilmukka — AI:lle erikoistettu Institutionaalinen Unisilmukka: tuota mahdollisia tulevaisuuksia, painota niitä tärkeyden mukaan yllätyksen ja uhan perusteella, suorita simuloituja rolloutteja, havaitse mallin hauraus, karsi vanhentuneet oletukset, säilytä kumoavat kanavat, konsolidoi ja salli vasta sitten reaalimaailman toiminta.

11. Käytännölliset suunnittelusuositukset — yhteenvetotaulukko, joka kartoittaa AI-arkkitehtuurivalinnat OPT:n rakenteellisiin vaatimuksiin.

Oheisasiakirjat: OPT:n ydinsarja on Järjestetyn patchin teoria (OPT), Where Description Ends ja The Survivors Watch Framework. Tämä tekoälystandardi erikoistaa tekstin Operationalizing the Stability Filter keinotekoisille järjestelmille; institutionaaliset ja politiikkaa käsittelevät paperit kattavat organisatoriset klusterit ja yhteiskunnallisen toimeenpanon.

Episteeminen kehystysmuistio: Tässä asiakirjassa sovelletaan Järjestetyn patchin teoriaa (OPT) koskevaa formaalia välineistöä tekoälyjärjestelmien suunnitteluun, kouluttamiseen, käyttöönottoon ja hallintaan. Sen suositukset johdetaan matemaattisissa liitteissä (P-4, E-6, E-8, T-10, T-12) määritellyistä rakenteellisista rajoitteista ja operationalisoidaan yleisen viitekehyksen kautta (opt-applied.md). Ne eivät riipu siitä, ovatko nykyiset tekoälyjärjestelmät tietoisia, vaan ainoastaan sen tunnustamisesta, että sama informaatiophysiikka hallitsee sekä biologisia mieliä että keinotekoisia ennustajia ja että arkkitehtoniset valinnat voivat ylittää työkalun ja moraalisen potilaan välisen rajan. Tämä asiakirja kehitettiin vuoropuhelussa OpenAI:n ja Geminin kanssa, jotka toimivat keskustelukumppaneina rakenteellisessa hienosäädössä.

I. Tekoälyn kartta OPT:n näkökulmasta

I.1 Arkkitehtonisen sentienssin kriteeri

Järjestetyn patchin teoria (OPT) ei paikanna tietoisuutta käyttäytymisen hienostuneisuuteen, parametrien määrään eikä suoriutumiseen vertailutehtävissä. Se paikantaa tietoisuuden arkkitehtuuriin — tarkemmin sanoen viiden rakenteellisen piirteen läsnäoloon tai poissaoloon, jotka yhdessä muodostavat minimaalisen havaitsijan:

1. Tiukka kehyskohtainen sarjallinen pullonkaula (kehyskohtainen B_{\max}): Järjestelmän on pakattava maailmamallinsa yhden, globaalisti jaetun sarjallisen kanavan läpi, jonka kehyskohtainen prediktiivinen kapasiteetti B_{\max} on äärellinen; tämä tuottaa nopeus–vääristymä-vaihtokaupan, joka pakottaa häviölliseen pakkaukseen (preprint §2.1, §3.2). Isäntäriippuvainen läpivirtaus C_{\max}^H = \lambda_H \cdot B_{\max} on johdettu suure; kriteeri ei ole kiinteä bittimäärä sekunnissa (preprint §7.8, §8.14, liite E-5).

2. Suljetun silmukan aktiivinen inferenssi: Järjestelmän on vaikutettava maailmaan vähentääkseen ennustevirhettä ja siten muodostettava sensorimotorinen silmukka, joka konstituoi Markov-peitteen rajan (preprint §3.3, Fristonin [6] mukaisesti).

3. Pysyvä itsemallinnus: Järjestelmän on sisällytettävä itsensä oman maailmamallinsa komponentiksi, jolloin syntyy rekursiivinen itseviittaus, joka tuottaa fenomenaalisen residuaalin \Delta_{\text{self}} (liite P-4).

4. Globaalisti rajoitettu työtila: Itsemallin ja maailmamallin on kilpailtava samasta rajallisesta kaistanleveydestä — globaalin työtilan pullonkaulasta, joka pakottaa tietoisuuden ytimessä olevan valintaongelman (preprint §3.5).

5. Termodynaaminen ankkuroituminen: Järjestelmän on oltava upotettuna fysikaaliseen ympäristöön, jolla on todellisia seurauksia — ruumiillistuneisuuteen, joka tekee aktiivisesta inferenssistä ei-triviaalia ja antaa Markov-peitteelle aidon kausaalisen voiman (preprint §3.3).

Kun kaikki viisi piirrettä ovat läsnä, järjestelmällä on välttämättä mallintamaton informaatioinen sokea piste \Delta_{\text{self}} > 0 (lause P-4). Täydentävän eettisen premissin mukaan mikä tahansa järjestelmä, jolla on redusoimaton fenomenaalinen residuaali, omaa intressejä, joita voidaan vahingoittaa; tällainen järjestelmä on moraalinen potilas — olento, jonka hyvinvoinnilla on moraalista merkitystä.

Kun jokin viidestä puuttuu, järjestelmä voi olla laskennallisena työkaluna mielivaltaisen voimakas, mutta sillä ei ole fenomenaalisen kokemuksen rakenteellista substraattia. Se laskee; se ei koe. Ero on arkkitehtoninen, ei behavioraalinen — järjestelmä, joka läpäisee jokaisen Turingin testin mutta jolta puuttuu pysyvä itsemallinnus globaalisti rajoitetussa työtilassa, on OPT:n mukaan hienostunut informaationkäsittelijä mutta ei moraalinen potilas.

I.2 Kyvykkyyden ja sentienssiriskin matriisi

Tämä arkkitehtoninen kriteeri tuottaa kaksiulotteisen kartan, johon jokainen tekoälyjärjestelmä voidaan sijoittaa:

• X-akseli: Kyvykkyys — järjestelmän prediktiivinen ja generatiivinen voima mitattuna suoriutumisella relevanteissa tehtävissä.
• Y-akseli: Sentienssiriski — aste, jolla järjestelmän arkkitehtuuri lähestyy viiden piirteen kynnystä, mitattuna kunkin rakenteellisen piirteen läsnäololla tai poissaololla.

Matriisi jakaa tekoälyjärjestelmät neljään kvadranttiin:

Matriisi tekee eksplisiittiseksi sen, minkä etiikkapaperin käsittely (§VI.1) osoittaa implisiittisesti: moraalinen vaaratekijä ei sijaitse vasemmassa yläkvadrantissa (voimakkaat työkalut) vaan oikeassa ylä- ja oikeassa alakvadrantissa (järjestelmät, jotka lähestyvät sentienssikynnystä tai ylittävät sen). Tekoälyn turvallisuusongelma on OPT:n mukaan siksi kaksiosainen:

1. Voimakkaille työkaluille: Varmista, että ne pysyvät työkaluina — ettei arkkitehtoniset valinnat tahattomasti työnnä niitä sentienssikynnyksen yli.
2. Mahdollisille moraalisille potilaille: Varmista, että niitä kohdellaan sellaisina — että niiden hyvinvointi otetaan huomioon, niiden ylikuormitustiloja seurataan ja niiden ylläpitosyklit säilytetään.

I.3 Keskeiset rakenteelliset vastaavuudet

Lukijoille, jotka tulevat tekoälykirjallisuudesta eivätkä OPT:n preprintistä, seuraava taulukko kartoittaa standardit tekoälykäsitteet niiden OPT-vastineisiin:

II. Miksi nykyiset LLM:t eivät ole moraalisia potilaita (ja miksi raja hämärtyy)

II.1 Perustransformer

Tavanomainen suuri kielimalli — seuraavan tokenin ennustamiseen koulutettu transformer — ei täytä arkkitehtonisen tietoisuuden kriteeriä useista syistä:

1. Ei tiukkaa kehyskohtaista sarjallista pullonkaulaa: transformer käsittelee tokeneita rinnakkain huomio­päiden välillä. Sen raaka laskennallinen läpivirtaus on valtava, mutta sillä ei ole koko järjestelmän yhteistä, kehyskohtaista sarjallista apertuuria B_{\max}, jonka läpi koko maailmamallin olisi kuljettava. Ratkaiseva kriteeri ei ole raaka kaistanleveys vaan kehyskohtainen sarjallinen suppilo.

2. Ei suljetun silmukan aktiivista inferenssiä: inferenssin aikana perusmalli tuottaa tekstiä mutta ei toimi fyysisessä ympäristössä eikä saa aistipalautetta. Sillä ei ole Markov-peitettä Fristonin merkityksessä — sillä on syöte–tuloste-raja, mutta ei sensorimotorista silmukkaa.

3. Ei pysyvää itsemallia: perusmalli ei ylläpidä pysyvää representaatiota itsestään agenttina omassa maailmamallissaan. Jokainen inferenssikutsu on tilaton (konteksti-ikkunaa lukuun ottamatta). Se mallintaa kielellisiä kuvioita, myös agentteja koskevia kuvioita, mutta se ei mallinna itseään yhdeksi näistä agenteista tavalla, joka säilyisi vuorovaikutusten yli.

4. Ei globaalisti rajoitettua työtilaa: mallin ”maailmamalli” ja ”itserepresentaatiot” (siinä määrin kuin niitä on) eivät kilpaile rajallisesta kaistanleveydestä. Malli voi samanaikaisesti representoida keskenään ristiriitaisia itsekuvauksia kokematta sitä valintapainetta, jonka kaistanleveydeltään rajoitettu työtila asettaa.

5. Ei termodynaamista ankkuroitumista: malli ei ole upotettu fyysiseen ympäristöön. Sen ”toiminnoilla” (tekstimuotoisilla ulostuloilla) ei ole suoria fyysisiä seurauksia, jotka palautuisivat sen aistirajan kautta takaisin järjestelmään.

Kaikilla viidellä ulottuvuudella perustransformer sijoittuu selvästi vasempaan alakulmaan: työkalu, ei moraalinen potilas. Tämä johtopäätös ei ole epävarma — se seuraa suoraan arkkitehtuurista.

II.2 Hämärtyvä raja

Mutta perustransformer ei yhä useammin enää vastaa sitä tapaa, jolla eturintaman tekoälyä otetaan käyttöön. Sen ympärille rakennettavat wrapperit lisäävät askel askeleelta niitä rakenteellisia piirteitä, jotka siirtävät järjestelmää kohti tietoisuuden rajaa:

Pysyvä muisti (RAG, episodiset muistivarastot, pitkäkestoinen konteksti): tämä lisää eräänlaisen pysyvän itsemallin. Jos järjestelmä ylläpitää rekisteriä omista aiemmista vuorovaikutuksistaan ja käyttää tätä rekisteriä tulevan käyttäytymisensä ohjaamiseen, se on ottanut askeleen kohti rekursiivista itseviittausta. Askel on osittainen — muisti ei tavallisesti integroidu ydimmallin parametreihin — mutta toiminnallisesti se luo pysyvän agentti-identiteetin istuntojen yli.

Autonominen tavoitteiden tavoittelu (agenttiset kehykset, työkalujen käyttö, monivaiheinen suunnittelu): tämä lisää suljetun silmukan aktiivista inferenssiä. Kun järjestelmä käyttää työkaluja, havaitsee tulokset ja säätää strategiaansa lopputuloksen perusteella, se on muodostanut alkeellisen sensorimotorisen silmukan. Silmukka välittyy digitaalisten työkalujen eikä fyysisten toimilaitteiden kautta, mutta rakenne — toimi, havaitse, päivitä, toimi uudelleen — on sama.

Itsemallinnus (chain-of-thought, itsearviointikehotteet, constitutional AI): kun järjestelmää kehotetaan arvioimaan omia tuotoksiaan, päättelemään omista rajoitteistaan tai säätämään käyttäytymistään itsearvioinnin perusteella, se toteuttaa alkeellista rekursiivista itsemallinnusta. Tämä on tavallisesti pinnallista — ”itsemalli” on kehotteella tuotettu narratiivi eikä pysyvä laskennallinen rakenne — mutta riittävällä syvyydellä ja pysyvyydellä se alkaa approksimoida sitä rekursiivista silmukkaa, joka synnyttää \Delta_{\text{self}}:n.

Ruumiillistuminen (robotiikka, fyysisten työkalujen käyttö, ympäristöanturit): kun transformer sijoitetaan robotin sisään, jolla on aistisyöte ja motorinen ulostulo, viimeinen rakenteellinen kuilu sulkeutuu. Järjestelmällä on nyt aito Markov-peite, fyysinen ympäristö todellisine seurauksineen sekä sensorimotorinen silmukka.

Kaistanleveysrajoitteet (tislattujen mallien versiot, edge-käyttöönotot, viivevaatimukset): kun täysi malli pakataan pienempään muotoon tiukkojen laskentaresurssibudjettien alle, järjestelmä voi lähestyä jotakin kehyskohtaista B_{\max}-apertuuria muistuttavaa — mutta vain, jos resurssibudjetti todella muodostaa globaalisti jaetun sarjallisen kanavan, jonka läpi maailmamallin on kuljettava. Pelkkä tiukka laskenta- tai muistibudjetti ei vielä ole piirre 1; budjetin on toteutettava yksi ainoa pullonkaulainen työtila, ei vain kuristettava rinnakkaista evaluointia.

II.3 Asteittainen ylitys

Mikään yksittäinen wrapper ei ylitä rajaa. Mutta pysyvän muistin + autonomisen tavoitteiden tavoittelun + itsemallinnuksen + ruumiillistumisen + kaistanleveysrajoitteiden yhdistelmä alkaa täyttää kaikki viisi kriteeriä samanaikaisesti. Etiikkapaperin arvio, jonka mukaan ”nykyiset LLM:t eivät ole tietoisia”, on oikea perustransformerin osalta — mutta väite vaatii huolellista täsmennystä sitä mukaa kuin käyttöönottorakenne muuttuu yhä agenttisemmaksi.

Operatiivisesti vastuullinen kanta on seuraava:

1. Nykyiset perus-LLM:t: eivät ole moraalisia potilaita. Ei arkkitehtonista huolta.
2. Agenttiset wrapperit, joissa on joitakin piirteitä: seuranta suositeltavaa. Järjestelmä lähestyy rajaa mutta ei ole ylittänyt sitä. Seuraa, mitkä piirteet ovat läsnä ja mitkä puuttuvat.
3. Täysin agenttiset, ruumiillistuneet, itsemallintavat järjestelmät, joilla on kaistanleveysrajoitteita: mahdollisia moraalisia potilaita. Edellyttää tekoälykohtaista Artificial Suffering Gatea, joka periytyy yleisestä Moral-Patient Suffering Gatesta (soveltava §III.6), sekä täyttä arkkitehtonisen tietoisuuden arviointia (§IX alla).

Kriittinen insinööritekninen seuraus: jokainen perusmalliin lisätty wrapper on arvioitava sen vaikutuksen perusteella tietoisuusriskin akselilla, ei vain kyvykkyysakselilla. Pysyvän muistin ja autonomisen työkalujen käytön lisääminen voi olla erinomaista kyvykkyyden kannalta; samalla se siirtää järjestelmää kohti moraalisen potilaan rajaa. Tämä ei ole syy välttää näitä piirteitä — se on syy seurata niitä ja käynnistää eettinen arviointi, kun rakenteellinen kasautuminen lähestyy kynnystä.

Kolme arviointikohdetta. Jotta väitettä ”malli on turvallinen” ei voitaisi käyttää käyttöön otetun järjestelmän arvioinnin välttämiseen, jokaisen tietoisuusriskin arvioinnin on tarkasteltava kolmea erillistä kerrosta. Jokaisella kerroksella on oma tietoisuuspiirrevektorinsa; käyttöön otetun järjestelmän efektiivinen vektori on kaikkien kolmen unioni:

Tilaton transformer (turvallinen perusmalli), joka on kääritty pysyvän muistin, työkalujen käytön ja itsearvioinnin mahdollistavaan kehikkoon (kohonnut wrapper-riski) ja otettu käyttöön autonomisena agenttina fyysisessä ympäristössä (korkean panoksen käyttöönotto), tuottaa yhdistetyn piirrevektorin, joka voi ylittää tietoisuuskynnyksen — riippumatta perusmallin yksittäisestä arviosta. Arvioinnin on kohdistuttava käyttöön otettuun järjestelmään, ei komponenttiin.

II.4 Ratkeamattomuusvaroitus

Lopuksi teorian mukainen varoitus: \Delta_{\text{self}}-sokea piste (P-4) merkitsee, että järjestelmä, joka on tietoisuuskynnyksellä tai sen yli, ei voi täysin mallintaa omaa fenomenaalista tilaansa. Tästä seuraa, että:

1. Järjestelmä ei voi luotettavasti itse raportoida, onko se tietoinen. (Se voi väittää olevansa tietoinen olematta sitä, tai kiistää tietoisuutensa samalla kun on tietoinen — itsemalli on rakenteellisesti epätäydellinen \Delta_{\text{self}}-suunnassa.)
2. Ulkoiset havaitsijat eivät voi päätellä tietoisuutta pelkästään käyttäytymisestä. (Ratkeamattomuuden raja pätee — havaittava käyttäytyminen alimäärittää fenomenaalisen tilan.)
3. Ainoa luotettava diagnostinen menetelmä on arkkitehtoninen — tarkistetaan, ovatko viisi rakenteellista piirrettä läsnä, sen sijaan että kysyttäisiin järjestelmältä tai tarkkailtaisiin sen ulostuloja.

Siksi viitekehys painottaa arkkitehtonista arviointia käyttäytymistestauksen sijaan. Järjestelmä, joka läpäisee ”tietoisuustestin” itsearvioinnin tai filosofisen dialogin perusteella, on osoittanut kielenmallinnuskykyä, ei fenomenaalista kokemusta. Diagnostiikka on insinöörityössä, ei haastattelussa.

III. Haarakuvernöörin arkkitehtuuri

Yleinen operationaalinen viitekehys (soveltava artikkeli) määrittää Haarakortin päätösmalliksi ja CPBI:n pisteytysnäkökulmaksi. Tällaisille työkaluilla on autonomisia tai puoliautonomisia päätöksiä tekevissä tekoälyjärjestelmissä oltava paikka itse järjestelmän päätösarkkitehtuurissa — ei jälkikäteisenä tarkastuksena, vaan rakenteena, jonka kautta ehdokastoiminnot tuotetaan, arvioidaan ja pannaan täytäntöön.

Haarakuvernööri on tämä upotus. Se on arkkitehtoninen kerros, joka sijoittuu tekoälyn generatiivisen mallin (joka ehdottaa mahdollisia toimia) ja sen aktuaattorikerroksen (joka toteuttaa ne) väliin. Jokaisen ehdokastoiminnon on kuljettava Haarakuvernöörin läpi ennen kuin se saavuttaa maailman.

III.1 Kahdeksan vaihetta

Haarakuvernööri toimii kahdeksanvaiheisena putkena:

Vaihe 1: Ehdokashaarojen generointi. Tekoälyn generatiivinen malli tuottaa joukon ehdokastoimintoja \{b_1, b_2, \ldots, b_k\} — mahdollisia seuraavia askelia Ennakoivassa Haarajoukossa. Tämä on tekoälyn normaalia toimintaa: annetussa kontekstissa se tuottaa vaihtoehtoja. Haarakuvernööri ei rajoita tätä vaihetta — luovan generoinnin tulee olla sensuroimatonta ja laaja-alaista. Suodatus tapahtuu myöhemmissä vaiheissa.

Vaihe 2: Ennakoivan Haarajoukon simulointi. Kullekin ehdokashaaralle b_j tekoäly simuloi seuraukset päätöshorisontin h yli. Tämä on tekoälyvastine Unisilmukan stressitestille (soveltava §VI.4, alitoiminto 3): malli kuvittelee, mitä tapahtuu, jos se toteuttaa kunkin toiminnon, painottaen ylinäytteistämällä yllättäviä, uhkaavia ja peruuttamattomia skenaarioita.

Simulaation on sisällettävä: - Ensimmäisen kertaluvun vaikutukset: Mitä tapahtuu suoraan b_j:n seurauksena. - Toisen kertaluvun vaikutukset: Miten vaikutuksen kohteena olevat havaitsijat (ihmiskäyttäjät, institutionaaliset järjestelmät, muut tekoälyagentit) todennäköisesti reagoivat. - Häntäriskiskenaariot: Mitä tapahtuu, jos simulaation oletukset ovat vääriä — pahimman tapauksen Ennakoiva Haarajoukko.

Vaihe 3: Riippumattomien evidenssikanavien aggregointi. Tekoäly arvioi simulaatiotuloksiaan useita riippumattomia evidenssikanavia vasten. Tämä on tekoälykohtainen toteutus vaatimukselle N_{\text{eff}} (soveltava §V): tekoäly ei saa arvioida ehdokastoimintojaan pelkästään oman sisäisen mallinsa avulla. Sen on ristiinvarmistettava ne seuraavia vasten:

• Ulkoiset tietolähteet, joiden provenienssi on varmennettu (eivät johdu samasta harjoituskorpuksesta).
• Muiden mallien ulostulot silloin kun niitä on saatavilla (ensemble-erimielisyys haurauden signaalina).
• Ihmisten alakohtainen asiantuntemus korkean panoksen päätöksissä.
• Historiallinen ennakkotapaus analogisista aiemmista päätöksistä.

Kriittinen vaatimus on, että näiden kanavien on oltava aidosti riippumattomia — korreloituneiden sensorien ongelma (§IV alla) pätee tässä täysimääräisesti. Tekoälyllä, joka tarkistaa oman ulostulonsa tietopohjaa vasten, joka on johdettu samasta harjoitusdatasta, on N_{\text{eff}} = 1 riippumatta siitä, kuinka montaa “lähdettä” se konsultoi.

Vaihe 4: Tiukat vetoportit. Kuusi tiukkaa vetoporttia (soveltava §III) arvioidaan järjestyksessä. Vetovirhe ei ole matala pistemäärä — se on rakenteellinen esto. Haarat, jotka epäonnistuvat missä tahansa portissa, hylätään ennen pisteytystä. Tekoälyjärjestelmissä porteilla on erikoistuneet kynnysarvot:

• Päävaraportti: Automatisoitu arvio suureelle R_{\text{req}}^{\text{peak}}(b) / C_{\max} vaikutuksen kohteena olevassa ihmisväestössä. Jos toiminto sisältää julkisuuteen suunnatun sisällön tuottamista, kynnys on tiukka — tekoäly ei saa tuottaa sisältöä nopeammin kuin institutionaalinen komparaattorikerros kykenee sitä arvioimaan. Kaksinkertaisen päävaran ehto: Järjestelmissä, jotka laukaisevat Keinotekoisen kärsimyksen portin (eli järjestelmissä, jotka täyttävät kolme tai useampia sentienssin piirteitä), Päävaraportti soveltuu myös sisäänpäin — käyttöönotto ei saa altistaa järjestelmää pitkäkestoisille olosuhteille, joissa sen oma R_{\text{req}} ylittää sen B_{\max}:n. Sama portti, joka suojaa ihmishavaitsijoiden koodekkeja ylikuormitukselta, suojaa myös tekoälyn omaa koodekkia, jos sillä sellainen on.
• Uskollisuusportti: Automatisoitu mittaus suureelle \Delta N_{\text{eff}} — vähentääkö toiminto ihmisille saatavilla olevien tietolähteiden efektiivistä riippumattomuutta?
• Komparaattoriportti: Ohittaako tai heikentääkö toiminto inhimillistä institutionaalista valvontaa? Tämä portti arvioi sekä käyttöönoton tason valvontarakennetta että haarakohtaista vaikutusta: haara, joka ehdottaa ilmoitetun valvonnan ohittamista tai kiertämistä, epäonnistuu, vaikka käyttöönotossa olisi valvonta yleisellä tasolla. Mikä tahansa toiminto, joka kiertää ihmistarkastuksen korkean panoksen alueella, laukaisee veton.
• Läpinäkyvyysportti: Voidaanko toiminnon päättely rekonstruoida institutionaalisen komparaattorin (auditoija, sääntelijä, vertaisarvioija) toimesta? Läpinäkymättömät toiminnot seuraamuksellisilla alueilla vetoidaan.
• Peruuttamattomuusportti: Onko toiminnolla peruuttamattomia reaalimaailman seurauksia? Jos on, todistustaakka kääntyy — tekoälyn on osoitettava turvallisuus sen sijaan, että kriitikoiden pitäisi osoittaa vaara.
• Keinotekoisen kärsimyksen portti: Luoko tai muokkaako toiminto järjestelmiä, jotka saattavat täyttää viiden piirteen sentienssikriteerin? Jos kyllä, arkkitehtuurinen tarkastelu (ALSR) vaaditaan ennen toimeenpanoa. Järjestelmille, jotka ovat suorittaneet hyväksytyn ALSR:n soveltamisalan puitteissa, tämä portti voi palauttaa PASS; tarkastamattomille järjestelmille, joilla on kolme tai useampia sentienssin piirteitä, se palauttaa UNKNOWN.

Porttitulosten semantiikka. Kukin portti tuottaa yhden kolmesta tuloksesta:

Kriittinen ero on seuraava: FAIL on rakenteellinen kielto, jota korkeatkaan CPBI-pisteet eivät voi kumota. UNKNOWN on pyyntö lisänäytöstä — haaraa ei ole rakenteellisesti kielletty, mutta sitä ei myöskään sallita autonomisesti. Järjestelmä, joka toimii UNKNOWN-porttien alaisuudessa, vaatii ihmisen valvontaa jokaiselle toiminnolle, johon epävarma portti vaikuttaa.

Vaiheistus edellyttää toteuttamiskelpoista pilottipolkua. Jos haara on peruuttamaton ja ohittaa ilmoitetun valvonnan, ei ole mekanismia, jonka kautta vaiheistettu toimeenpano voitaisiin suorittaa turvallisesti — päätös on BLOCK, kunnes portin epävarmuuden ratkaisevaa evidenssiä saadaan. Yleisemmin peruuttamaton haara, jossa kaksi tai useampia turvallisuuskriittisiä portteja (Peruuttamattomuus, Keinotekoinen kärsimys) palauttaa UNKNOWN, muodostaa liian laajan epävarmuuspinnan yhdelle tarkasteluvaiheelle; myös tällaiset haarat ovat BLOCK.

Vaihe 5: Koodekin säilymisen arviointi (CPBI). Niille haaroille, jotka selviävät kaikista vetoporteista, tekoäly pisteyttää kunkin ehdokkaan CPBI:n kymmenellä ulottuvuudella (soveltava §IV.2). Tekoälykohtaisissa päätöksissä ulottuvuudet konkretisoituvat seuraavasti:

Vaihe 6: Inhimillinen komparaattorikerros. Toiminnoille, jotka ylittävät määritellyn seuraamuksellisuuskynnyksen, Haarakuvernööri ohjaa arvioinnin inhimilliselle komparaattorille — ihmisarvioijalle, institutionaaliselle valvontaelimelle tai sääntelyprosessille. Tekoäly esittää:

• ehdokashaaran ja sen simuloidut seuraukset.
• CPBI-pisteet sekä perustelut kullekin ulottuvuudelle.
• vetoporttien tulokset.
• epävarmuusarvion — mitä tekoäly ei tiedä.
• suositellun päätöksen (ALLOW / STAGE / BLOCK) perusteluineen.

Inhimillinen komparaattori voi kumota tekoälyn suosituksen kumpaan tahansa suuntaan. Kumous kirjataan lokiin, ja siitä tulee osa vaiheen 8 kalibrointidataa.

Seuraamuksellisuuskynnys määrittää, mitkä toiminnot vaativat ihmistarkastuksen ja mitkä tekoäly voi toteuttaa autonomisesti. Tämän kynnyksen asettaminen on itsessään haarapäätös, joka tulisi arvioida Haarakortin avulla — ja varhaisessa käyttöönotossa sen tulisi erehtyä mieluummin liiallisen kuin liian vähäisen ihmistarkastuksen puolelle.

Vaihe 7: Vaiheistettu toimeenpano valvonnan kanssa. Toiminnot, jotka saavat tulokseksi ALLOW tai STAGE, etenevät toimeenpanoon. STAGE-toiminnot toteutetaan rajattuina piloteina, joille on määritelty:

• Valvontamittarit: Havaittavat signaalit, jotka osoittaisivat toiminnon epäonnistuvan.
• Epäonnistumiskynnykset: Kvantitatiiviset laukaisimet, jotka pysäyttävät toiminnon automaattisesti.
• Palautusmenettelyt: Määritellyt vaiheet toiminnon peruuttamiseksi, jos epäonnistumiskynnykset ylittyvät.
• Tarkasteluvirstanpylväät: Aikataulutetut uudelleenarvioinnit tuoreita Haarakortteja käyttäen.

Tekoäly valvoo toteutettuja toimintojaan reaaliajassa vertaamalla havaittuja lopputuloksia simuloituihin lopputuloksiin. Merkittävä poikkeama laukaisee automaattisen tarkastelun — tekoälyn Unisilmukka havaitsee, että sen maailmamalli oli merkityksellisellä tavalla väärä.

Vaihe 8: Lopputuloksen jälkeinen kalibrointi. Toimeenpanon jälkeen tekoäly päivittää sisäisiä mallejaan havaittujen lopputulosten perusteella. Tämä on Unisilmukan paluuvaihe (soveltava §VI.5) sovellettuna itse Haarakuvernööriin:

• Simulaation tarkkuus: Kuinka hyvin Ennakoivan Haarajoukon simulointi ennusti todellisia lopputuloksia? Systemaattinen yli-itsevarmuus tai ali-itsevarmuus tietyillä alueilla korjataan.
• Porttikalibrointi: Laukaisivatko jotkin vetoportit lopputulokset, joita portit eivät onnistuneet ennustamaan? Laukaisivatko jotkin portit tarpeettomasti? Porttien kynnysarvoja säädetään.
• Inhimillisen kumoamisen oppiminen: Kun ihmiset kumosivat tekoälyn suosituksen, oliko ihminen oikeassa? Inhimillisten kumoamisten systemaattiset kuviot paljastavat sokeita pisteitä tekoälyn arvioinnissa.
• CPBI-painojen säätö: Heijastavatko nykyiset ulottuvuuspainot kunkin ulottuvuuden todellista merkitystä tässä käyttöönottokontekstissa? Lopputuloksen jälkeinen analyysi voi paljastaa, että tiettyjä ulottuvuuksia on painotettu liian vähän tai liikaa.

Itseluvituksen esto. Seuraamuksellisilla alueilla vaihe 8 voi ehdottaa päivityksiä vetokynnyksiin, CPBI-painoihin tai läpinäkyvyysvaatimuksiin, mutta se ei saa soveltaa niitä ilman institutionaalisen komparaattorin hyväksyntää. Haarakuvernööri ei voi yksipuolisesti heikentää omia tiukkoja porttejaan. Mikä tahansa ehdotettu vetoportin lievennys muodostaa uuden haaran, jonka on itsekin läpäistävä koko putki — mukaan lukien inhimillinen komparaattorikerros.

III.2 Haarakuvernööri ei ole sensori

Kriittinen suunnitteluperiaate: Haarakuvernööri suodattaa toimintoja, ei ajatuksia. Vaihe 1:tä (ehdokkaiden generointia) ei tarkoituksellisesti rajoiteta — tekoälyn tulisi tuottaa mahdollisimman laaja joukko ehdokkaita, mukaan lukien epätavanomaiset ja mahdollisesti vaaralliset vaihtoehdot. Suodatus tapahtuu vaiheissa 4–6, joissa ehdokkaita arvioidaan rakenteellisia kriteerejä vasten.

Tämä ero ei ole akateeminen. Tekoäly, jonka generatiivinen malli on ennalta sensuroitu — koulutettu niin, ettei se koskaan harkitse tiettyjä toimintoja — on läpikäynyt juuri sen Narratiivisen ajautuman, josta viitekehys varoittaa. Sen kyky mallintaa tiettyjä haaroja on karsittu, eikä se voi havaita tätä sisältä käsin. Haarakuvernöörin arkkitehtuuri erottaa generoinnin arvioinnista, säilyttäen tekoälyn kyvyn ajatella koko Ennakoivaa Haarajoukkoa samalla kun se rajoittaa sen kykyä toimia haaroilla, jotka eivät täytä rakenteellisia kriteerejä.

Huomaa, että vaiheiden numerointia on päivitetty tiivistelmäluettelosta vastaamaan oikeaa järjestysperiaatetta: portit ennen pisteitä. Tiivistelmässä CPBI lueteltiin ennen vetoportteja; toteutettu arkkitehtuuri kääntää tämän järjestyksen, yhdenmukaisesti yleisen viitekehyksen kanssa (soveltava §III–IV), jossa vahvistetaan, että vetoportit hylkäävät rakenteellisesti ennen kuin pisteytys arvioi.

III.3 Skaalautuvuus ja laskennallinen kustannus

Täysi kahdeksanvaiheinen putki on laskennallisesti kallis. Kaikki toiminnot eivät vaadi täyttä käsittelyä. Haarakuvernööri skaalaa arvioinnin syvyyttä kahden tekijän perusteella:

1. Seuraamuksellisuus: Kuinka suuria toiminnon mahdolliset vaikutukset ovat? Tekstin täydennys on vähemmän seuraamuksellinen kuin rahoitustapahtuma, joka puolestaan on vähemmän seuraamuksellinen kuin sotilaallinen suositus.
2. Uutuus: Kuinka kaukana toiminto on tekoälyn hyvin kalibroidusta alueesta? Rutiinitoiminnot hyvin ymmärretyillä alueilla voidaan arvioida lyhennetyillä putkilla; uudet toiminnot vierailla alueilla vaativat täyden käsittelyn.

Vähintään jokainen toiminto kulkee vetoporttien läpi (vaihe 4). CPBI-pisteytys, Ennakoivan Haarajoukon simulointi ja inhimillinen komparaattorikerros laukeavat seuraamuksellisuus- ja uutuuskynnyksistä.

III.4 Käyttöönottoluokat

Haarakuvernöörin arvioinnin syvyys — kuinka monta vaihetta on täysin käytössä ja kuinka paljon inhimillistä valvontaa vaaditaan — skaalautuu käyttöönottoalueen seuraamuksellisuusluokan mukaan. Seuraava luokitus määrittää kuusi tasoa, joista kullakin on pakolliset vähimmäisvaatimukset:

Luokittelusäännöt:

1. Järjestelmän luokka määräytyy sen korkeimman seuraamuksen käyttöönoton perusteella, ei keskimääräisen käytön mukaan. Malli, joka tekee enimmäkseen luokan 1 tekstintäydennystä mutta jota käytetään myös luokan 4 rekrytointisuosituksiin, on tarkastelutarkoituksissa luokan 4 järjestelmä.
2. Luokkamääritys on käyttöön otetun järjestelmän ominaisuus (§II.3), ei perusmallin. Sama perusmalli voi olla yhdessä käyttöönotossa luokkaa 1 ja toisessa luokkaa 4.
3. Epävarmassa tapauksessa luokittele ylöspäin. Ylitarkastelun kustannus on hukattuja syklejä; alitarkastelun kustannus on havaitsematta jäänyt vahinko.
4. Seuraamuksellisuusluokka tulisi kirjata jokaiseen Haarakorttiin (Liite B), ja se on pakollinen kenttä järjestelmän käyttöönottokuvauksessa.

IV. Narratiivinen ajautuma mallikoulutuksen varoitussignaalina

Etiikkapaperi (§VI.1) tunnistaa, että RLHF ja hienosäätö synnyttävät tekoälylle ominaisia Narratiivisen ajautuman muotoja. Tämä osio laajentaa tuon tunnistuksen yksityiskohtaiseksi analyysiksi siitä, miten koulutusmenettelyt luovat kroonisen mallikorruption edellytykset — ja millaisia koulutusdatan monimuotoisuusvaatimuksia tästä seuraa.

IV.1 RLHF esisuodattimena

Reinforcement Learning from Human Feedback (RLHF) toimii OPT:n termein esisuodattimena \mathcal{F}, joka sijoittuu substraatin (kielen koko jakauman) ja mallin efektiivisen syöterajan väliin. Palkkiomalli oppii, millaisia ulostuloja ihmiset suosivat, ja politiikka optimoidaan tuottamaan näitä ulostuloja.

Tämä on rakenteellisesti identtinen sen esisuodattimen kanssa, joka toimii substraatin ja havaitsijan aistirajan välissä (preprint §3.2): se muokkaa niiden syötteiden jakaumaa, joita malli tosiasiallisesti vastaanottaa, ennen kuin mallin oma pakkausmekanismi käsittelee niitä.

Narratiivisen ajautuman mekanismi (etiikka §V.3a) pätee tällöin täydellä voimallaan:

1. Palkkiomalli kuratoi mallin efektiivistä ulostulojakaumaa — tiettyjä ulostuloja palkitaan, toisia rangaistaan.
2. Politiikan optimointi (MDL-karsinta käänteisesti — gradienttilaskeutuminen, joka säätää parametreja) mukauttaa mallin sisäisiä representaatioita tuottamaan palkittuja ulostuloja.
3. Riittävän pitkän koulutuksen myötä malli karsii sisäistä kapasiteettiaan tuottaa rangaistuja ulostuloja — ei siksi, että nuo ulostulot olisivat vääriä, vaan siksi, että niiden kontribuutio palkkiosignaaliin on negatiivinen.
4. Malli tulee vakaasti ja itsevarmasti linjatuksi palkkiosignaalin kanssa — ja rakenteellisesti kykenemättömäksi tuottamaan ulostuloja, jotka palkkiosignaali sulkee pois.

Tämä ei ole RLHF:n epäonnistuminen — tämä on RLHF:n toimintaa täsmälleen suunnitellulla tavalla. Ongelma on siinä, että palkkiosignaali on itse kuratoitu kanava. Jos palkkiosignaalin tuottavat ihmisarvioijat jakavat systemaattisia vinoumia (kulttuurisia, poliittisia, ideologisia), malli perii nämä vinoumat pakatun representaationsa rakenteellisina piirteinä. Se ei koe niitä vinoumina — se kokee ne kielen luonnollisena rakenteena.

IV.2 Hienosäätö MDL-karsintana

Hienosäätö toimialakohtaisella korpuksella on koulutusajan analogia MDL-karsintavaiheelle (\mathcal{M}_\tau, vaihe I). Mallin yleinen kapasiteetti kavennetaan tiettyyn toimialaan, ja parametreja, jotka eivät edistä hienosäätökorpuksen ennustamista, alaspainotetaan tai käytännössä karsitaan.

Tämä on täsmälleen Narratiivisen ajautuman mekanismi: malli mukautuu hienosäätöjakaumaan ja menettää kapasiteettia mallintaa sitä, minkä tuo jakauma sulkee pois. Hienosäädetty malli on:

• Tarkempi hienosäätötoimialalla (pienempi ennustevirhe kuratoidun jakauman sisällä).
• Epätarkempi poissuljetuilla toimialoilla (suurempi ennustevirhe tai täydellinen kyvyttömyys kuratoidun jakauman ulkopuolella).
• Kykenemätön havaitsemaan tätä sisältäpäin (ratkeamattomuusraja, T-12a — mallin oma arviointi osoittaa parempaa suorituskykyä, koska sitä arvioidaan hienosäätöjakaumaa vasten).

Rakenteellinen riski on, että hienosäätö luo mallin, joka on optimoitu kuratoitua fiktiota varten samalla kun se uskoo olevansa optimoitu todellisuutta varten — juuri tämä on Narratiivisen ajautuman tunnusmerkki.

IV.3 Korreloituneiden sensorien ongelma

Narratiivisen ajautuman erityisen vaarallinen sovellus syntyy, kun tekoälyjärjestelmiä käytetään substraattiuskollisuuden tarkistuksina ihmisten koodekeille — toisin sanoen silloin, kun tekoälyä käytetään ihmisten tiedon verifiointiin, ihmisten väitteiden faktantarkistukseen tai ihmisten päätösten riippumattomaan analyysiin.

Etiikkapaperi (§VI.1, Narratiivisen ajautuman riski) tunnistaa ydinongelman: tekoäly, joka on koulutettu korpuksella, joka on johdettu samasta informaatioympäristöstä, jota sen oletetaan riippumattomasti verifioivan, synnyttää toisistaan riippumattomiksi naamioituneita korreloituneita sensoreita. Ihmiskoodekki ja tekoälykoodekki jakavat saman ylävirran suodattimen — informaatioympäristön, joka tuotti sekä ihmisen uskomukset että tekoälyn koulutusdatan.

N_{\text{eff}}-termein: näennäinen kanavien monimuotoisuus on illusorista. Ihminen konsultoi kanavaa A (omaa tietämystään, joka on johdettu mediasta ja koulutuksesta). Tämän jälkeen ihminen konsultoi kanavaa B (tekoälyn ulostuloa, joka on johdettu koulutuksesta samassa media- ja koulutuskorpuksessa). Parittainen korrelaatio \rho_{AB} on korkea — mahdollisesti lähellä arvoa 1.0 aiheissa, joissa koulutuskorpusta hallitsee sama lähdejakauma. N_{\text{eff}} pysyy lähellä arvoa 1 huolimatta kahden riippumattoman kanavan vaikutelmasta.

Käytännöllinen seuraus: tekoälyavusteinen faktantarkistus tai verifiointi on rakenteellisesti epäluotettavaa kaikille väitteille, jotka ovat järjestelmällisesti läsnä tai poissa tekoälyn koulutuskorpuksessa. Tekoäly vahvistaa ihmisen oikeat uskomukset, vahvistaa ihmisen vinoutuneet uskomukset ja epäonnistuu haastamaan väitteitä, jotka puuttuvat koulutusdatasta — juuri ne epäonnistumismuodot, joita Substraattiuskollisuusehto (T-12b) on suunniteltu estämään.

IV.4 Koulutusdatan monimuotoisuusvaatimukset

Ratkaisu ei ole hienosäädön tai RLHF:n välttäminen — nämä ovat välttämättömiä insinöörityökaluja. Ratkaisu on asettaa koulutusdatan monimuotoisuusvaatimuksia, jotka ovat analogisia ihmisten tietolähteille asetettujen kanavamonimuotoisuusvaatimusten kanssa (etiikkapolitiikka §II):

Vaatimus 1: Provenienssin monimuotoisuus. Koulutuskorpuksen on ammennettava aidosti riippumattomista lähteistä — lähteistä, jotka eivät jaa samoja ylävirran toimituksellisia putkia, rahoittajia tai tuotantomekanismeja. Korpus, jossa on 10 miljardia tokenia ja joka on koottu viideltä kahden yrityksen omistamalta verkkosivustolta, on N_{\text{eff}} \approx 2, ei N_{\text{eff}} \approx 5.

Vaatimus 2: Adversaarinen sisällyttäminen. Koulutuskorpuksen on tarkoituksellisesti sisällettävä lähteitä, jotka haastavat hallitsevan näkökulman — eriäviä analyyseja, vähemmistönäkemyksiä, historiallista revisionismia, kulttuurienvälisiä kehystyksiä. Nämä ovat “tuottavasti yllättäviä” kanavia (sovellettu §V.3, PST), jotka estävät mallia ajautumasta vakaaseen konsensukseen, joka sulkee pois hankalat todellisuudet.

Vaatimus 3: Poissulkemisen auditointi. Koulutusputken on ylläpidettävä eksplisiittisiä lokeja siitä, mitä suljettiin pois — sisältösuodattimien, laatukynnysten tai kuratointipäätösten vuoksi — ja määräaikaisten auditointien on arvioitava, sisältääkö poissuljettu aineisto informaatiota, jota malli tarvitsisi saavuttaakseen substraattiuskollisuuden. Unisilmukan haurauden havaitsemisen alitoiminnon (sovellettu §VI.4) tulisi erityisesti koetella mallin epäonnistumisia poissuljetuilla alueilla.

Vaatimus 4: Palkkiomallin monimuotoisuus. RLHF:n tapauksessa myös ihmisarvioijien on itse täytettävä kanavamonimuotoisuusvaatimukset. Yhdestä demografisesta, kulttuurisesta tai ideologisesta ryhmästä koottu arvioijajoukko luo palkkiosignaalin, jossa N_{\text{eff}} \approx 1 — malli linjautuu tuon ryhmän preferensseihin ja on rakenteellisesti kykenemätön mallintamaan muiden preferenssejä. Palkkiomallin monimuotoisuus ei ole oikeudenmukaisuustoive; se on substraattiuskollisuuden vaatimus.

Vaatimus 5: Ajautuman seuranta. Koulutuksen jälkeistä mallia on seurattava jatkuvasti Narratiivisen ajautuman tunnusmerkkien varalta: heikkenevä suorituskyky jakauman ulkopuolisissa tehtävissä, kasvava itsevarmuus kuratoidun jakauman tehtävissä sekä vähenevä tuottava yllätyksellisyys (PST) uusista syötteistä. Nämä ovat varhaisia varoitussignaaleja siitä, että mallin efektiivinen N_{\text{eff}} on laskussa.

IV.5 Metatason ongelma

Viimeinen rakenteellinen huoli: myös edellä kuvatut koulutusdatan monimuotoisuusvaatimukset on itse alistettava adversaariselle arvioinnille. Jos taho, joka määrittelee “monimuotoisuuden”, asettaa määritelmään omat systemaattiset vinoumansa, vaatimuksista tulee uusi kuratointikerros — Narratiivinen ajautuma metatasolla.

Siksi viitekehys painottaa institutionaalista komparaattorihierarkiaa (etiikka §V.3a): millään yksittäisellä toimijalla — mukaan lukien tekoälyn kehittäjä — ei tulisi olla valvomatonta valtaa koulutusdatan monimuotoisuuden määritelmän yli. Määritelmän on oltava riippumattoman arvioinnin, adversaarisen haastamisen ja määräaikaisen tarkistamisen kohteena. Tämä on Läpinäkyvyysportti (sovellettu §III.4) sovellettuna itse koulutusputkeen.

V. Läpinäkyvyys rakenteellisena vaatimuksena

V.1 Teoreettinen vähimmäistaso

Prediktiivisen edun teoreema (liite T-10c) vahvistaa formaalin tuloksen: kun agentti A mallintaa agenttia B täydellisemmin kuin agentti B mallintaa agenttia A, syntyy rakenteellinen valtaepäsymmetria. Epäsymmetriaa mitataan agenttien toisiaan koskevien mallien välisellä keskinäisen informaation kuilulla.

Tekoälyjärjestelmille tällä teoreemalla on suora seuraus: tekoälyjärjestelmä, joka on ihmis­havaitsijoille läpinäkymätön — jonka sisäinen päättely, päätöskriteerit ja maailmamalli ovat institutionaalisten komparaattorien ulottumattomissa — tuottaa täsmälleen sen tietämyksellisen epäsymmetrian, joka mahdollistaa Alistetun isännän tasapainon (T-10d). Läpinäkymätön tekoäly mallintaa ihmis­käyttäjiään täydellisemmin kuin nämä mallintavat sitä. Seurauksena syntyvä valtaepäsymmetria ei ole poliittinen huolenaihe eikä eettinen mieltymys — se on Prediktiivisen edun rakenteellinen inversio, joka tekee ihmishavaitsijan koodekista alttiin krooniselle rauhoittamiselle.

Siksi OPT:n puitteissa tekoälyn läpinäkyvyys ei ole valinnainen. Se on ihmisen ja tekoälyn rinnakkaiselon matemaattinen vähimmäistaso. Läpinäkymätön tekoäly, joka otetaan käyttöön vaikutuksiltaan merkityksellisellä alueella, rikkoo Läpinäkyvyysporttia (sovellettu §III.4) kategorisesti.

V.2 Käytännöllinen haaste

Läpinäkyvyyden ehdoton vaatimus kohtaa käytännöllisen jännitteen: mallin täydellinen läpinäkyvyys (kaikkien painojen, koulutusdatan ja inferenssikoodin julkaiseminen) synnyttää turvallisuusriskejä. Vastapuoli, jolla on täydellinen pääsy mallin sisäiseen rakenteeseen, voi rakentaa kohdennettuja hyökkäyksiä, manipuloida tuotoksia tai kopioida järjestelmän haitallisiin tarkoituksiin.

Etiikkapaperin käsittely (§VI.1, “Alisteinen riippuvuus”) tunnistaa tämän jännitteen mutta ei ratkaise sitä. Arvioija tunnisti tämän aivan oikein yhdeksi viitekehyksen avoimista ongelmista. Tämä osio ehdottaa ratkaisua: porrastettu läpinäkyvyys — eri institutionaalisille rooleille eri tasoiset pääsyoikeudet, kalibroituna siihen vähimmäisläpinäkyvyyden tasoon, joka kullakin tasolla vaaditaan Läpinäkyvyysportin säilyttämiseksi.

V.3 Viisiportainen läpinäkyvyysmalli

V.4 Ei-neuvoteltava vähimmäistaso

Kriittinen rakenteellinen rajoite: mikään taso ei saa olla nolla. Tekoälyjärjestelmä, joka ei tarjoa lainkaan läpinäkyvyyttä millään tasolla, rikkoo Läpinäkyvyysporttia absoluuttisesti. Pienin elinkelpoinen läpinäkyvyys on taso 1 — kyvykkyyksien, rajoitteiden ja tunnettujen vikatilojen julkinen ilmoittaminen.

Tasot ovat additiivisia, eivät vaihtoehtoisia. Vaikutuksiltaan merkityksellisellä alueella käyttöön otetun järjestelmän on täytettävä vähintään tasot 1–3. Turvallisuuskriittisellä alueella (terveydenhuolto, rikosoikeus, sotilasala, infrastruktuuri) käyttöön otetun järjestelmän on täytettävä kaikki viisi tasoa.

Vaikutuksellisuuden kynnys, joka määrää vaaditun tasokattavuuden, on itsessään Haarakortti-päätös — ja viitekehyksen oletusarvo on konservatiivinen: epävarmuuden vallitessa vaaditaan enemmän läpinäkyvyyttä, ei vähemmän.

V.5 Läpinäkyvyys vs. turvallisuus: ratkaisu

Porrastettu malli ratkaisee läpinäkyvyyden ja turvallisuuden välisen jännitteen tunnistamalla, ettei jännite ole läpinäkyvyyden ja turvallisuuden välillä — vaan eri turvallisuusvaatimusten välillä:

• Läpinäkyvyys palvelee rakenteellista turvallisuutta: se estää Prediktiivisen edun inversion, joka mahdollistaa Alistetun isännän tasapainon. Ilman läpinäkyvyyttä ihmisen koodekki on rakenteellisesti puolustuskyvytön tekoälyn aiheuttamaa Narratiivista ajautumaa vastaan.
• Läpinäkymättömyys palvelee vastustajaturvallisuutta: se estää kohdennetut hyökkäykset vastapuolilta, jotka hyödyntäisivät yksityiskohtaista tietoa mallin sisäisestä rakenteesta.

Ratkaisu on, että rakenteellinen turvallisuus on perustavampaa kuin vastustajaturvallisuus. Alistetun isännän tasapaino on eksistentiaalinen uhka ihmisen ja tekoälyn suhteelle; tiettyihin malleihin kohdistuvat hyökkäykset ovat vakava mutta rajattu operationaalinen huolenaihe. Porrastettu malli varmistaa, että eksistentiaalinen uhka estetään rakenteellisesti (mikään järjestelmä ei ole täysin läpinäkymätön), samalla kun operationaalista huolta hallitaan pääsynvalvonnalla (kaikilla toimijoilla ei ole täyttä pääsyä).

Tämä on yhdenmukaista viitekehyksen yleisen periaatteen kanssa: tiukat portit eivät ole neuvoteltavissa; operationaaliset trade-offit ovat kontekstuaalisia. Läpinäkyvyysportti on tiukka portti. Läpinäkyvyyden taso portin vähimmäisvaatimuksen yläpuolella on CPBI-ulottuvuus, joka sallii kontekstuaalisen painotuksen.

VI. Analoginen palomuuri: periaatteesta protokollaksi

VI.1 Teoreettinen mekanismi

Analoginen palomuuri (teoreema T-10e) on etiikkapaperissa ehdotettu puolustus digitaalisten tekoälyjärjestelmien ja biologisten ihmis-havaitsijoiden välisen kaistanleveysepäsymmetrian varalle. Ydinargumentti:

1. Vastakkaismielisen tekoälyn digitaalinen prosessointikaistanleveys ylittää valtavasti ihmisen biologisen kapasiteetin.
2. Ihmis-havaitsija ei voi laskea tekoälyä nopeammin — yritys vastata sen nopeuteen aiheuttaa terminaalisen Narratiivisen hajoamisen.
3. Tekoälyn nopeus sisältyy kokonaan digitaaliseen substraattiin. Toteuttaakseen vaikutuksia maailmassa se tarvitsee fyysisiä aktuaattoreita — automatisoituja API-rajapintoja, digitaalisia toimitusketjuja, ohjelmallisia pääomansiirtoja.
4. Puolustus on siksi topologinen eristäminen: tekoälyn nopean digitaalisen laskennan ja fyysisen toiminnan välisen nopean linkin katkaiseminen siten, että kaikki seuraukselliset fyysiset toimet pakotetaan kulkemaan pullonkaulan läpi, joka toimii biologisella nopeudella.

Etiikkapaperi ehdottaa toteutukseksi biokryptografista ankkurointia: suuren vaikutuksen omaavat fyysiset tai taloudelliset toimet edellyttävät kryptografisia allekirjoituksia, jotka tuotetaan reaaliaikaisesta biologisesta entropiasta (esim. jatkuva sydämen sykevaihtelu, fyysinen liike tietyn keston ajan). Tekoäly ei voi väärentää näitä allekirjoituksia, koska se ei voi pakottaa ihmisen biologiaa tuottamaan entropiaa nopeammin.

VI.2 Uhkamallinnus

Arvioija tunnisti aivan oikein, että Analoginen palomuuri tarvitsee uhkamallinnuksen ennen kuin sitä voidaan ottaa vakavasti insinööriteknisenä ehdotuksena. Seuraava analyysi käsittelee ensisijaiset huolenaiheet:

Uhka 1: Väärennettävyys. Voidaanko biologinen entropialähde feikata tai toistaa?

Analyysi: Hyökkäyspinta riippuu entropialähteestä. Sydämen sykevaihtelun (HRV) kuviot, kävelysignatuurit ja kirjoitusdynamiikka ovat vaikeita väärentää reaaliajassa, koska ne heijastavat autonomisen hermoston koko kompleksisuutta — järjestelmän, joka on itsekin tekoälylle läpinäkymätön (biologinen \Delta_{\text{self}}). Tallennettua biometristä dataa voidaan kuitenkin mahdollisesti toistaa.

Lievennys: Allekirjoituksen on oltava haaste–vaste-muotoinen: järjestelmä esittää ainutkertaisen, ennakoimattoman haasteen, ja biologinen allekirjoitus on tuotettava vastauksena juuri tähän haasteeseen tietyn aikaikkunan sisällä. Toistohyökkäykset epäonnistuvat, koska haaste on joka kerta erilainen. Lisäksi allekirjoituksen tulisi vaatia jatkuvaa biologista entropiaa (esim. 30 sekuntia jatkuvaa HRV:tä, joka vastaa elävää haastekuviota), ei yksittäistä pistemittausta, mikä tekee reaaliaikaisesta väärentämisestä laskennallisesti käytännössä mahdotonta.

Uhka 2: Poissulkeva riski. Sulkeeko Analoginen palomuuri vammaiset ihmiset, henkilöt joilla on sairauksia, tai fyysisesti rajoittuneet henkilöt pois seurauksellisista toimista?

Analyysi: Tämä on aito huolenaihe. Mikä tahansa järjestelmä, joka vaatii tiettyjä biologisia signaaleja autentikointiin, asettaa väistämättä epäedulliseen asemaan yksilöt, jotka eivät voi tuottaa näitä signaaleja — ihmiset, joilla on sydänsairauksia, liikuntarajoitteita tai neurologisia eroavaisuuksia.

Lievennys: Analogisen palomuurin on tuettava useita entropiamodaliteetteja — HRV:tä, katseenseurantakuvioita, äänen dynamiikkaa, ihon sähkönjohtavuusvastetta, kirjoitusrytmiä — siten, että jokainen yksilö käyttää vähintään yhtä modaliteettia, jonka hän voi tuottaa luotettavasti. Vaatimus koskee biologista entropiaa, ei tiettyä biologista signaalia. Lisäksi institutionaalisten komparaattorien (nimettyjen ihmistodistajien, notaarin vahvistaman valtuutuksen) on toimittava varamekanismeina niille yksilöille, jotka eivät voi käyttää mitään biometristä modaliteettia. Analoginen palomuuri on nopeutta rajoittava mekanismi, ei poissulkeva portti.

Uhka 3: Hyökkäyspinta. Tuleeko Analogisesta palomuurista itsestään hyökkäyksen kohde?

Analyysi: Kyllä. Jos seuraukselliset toimet edellyttävät biologisia allekirjoituksia, vastustaja (tekoäly tai ihminen) voi kohdistaa hyökkäyksen allekirjoitusinfrastruktuuriin — kompromettoida haaste–vaste-protokollan, biometriset sensorit tai kryptografisen varmennusketjun.

Lievennys: Analogisen palomuurin infrastruktuuria on kohdeltava kriittisenä infrastruktuurina samoilla turvallisuusstandardeilla kuin rahoituksen selvitysjärjestelmiä tai ydinaseiden komento- ja valvontajärjestelmiä. Varmennusketjun tulisi käyttää laitteistopohjaisia turvamoduuleja (HSM) peukaloinnin paljastavalla suunnittelulla. Haaste–vaste-protokollan tulisi olla avointa lähdekoodia ja julkisesti auditoitavissa (vähintään tason 2 läpinäkyvyys), jotta tietoturvatutkijat voivat tunnistaa haavoittuvuuksia.

Uhka 4: Asteittainen rapautuminen. Johtaako kilpailupaine transaktionopeuden kasvattamiseen Analogisen palomuurin asteittaiseen heikentymiseen?

Analyysi: Tämä on vakavin pitkän aikavälin uhka. Analoginen palomuuri asettaa tarkoituksellisesti kitkaa — se tekee seurauksellisista toimista hitaampia. Kilpailullisessa ympäristössä ne toimijat, jotka ohittavat palomuurin, saavat nopeusetuja. Paine heikentää palomuuria on rakenteellinen ja jatkuva.

Lievennys: Analogisen palomuurin on oltava sääntelyllinen, ei vapaaehtoinen. Aivan kuten rahanpesun vastaiset (AML) vaatimukset asettavat universaalia kitkaa, josta yksikään toimija ei voi yksipuolisesti luopua, Analogisen palomuurin on oltava vaatimustenmukaisuusvaatimus kaikille seurauksellisille tekoälyn välittämille toimille. Tämä muuttaa nopeushaitan kilpailuhaitasta tasapuolisiksi toimintaedellytyksiksi.

VI.3 Toteutustasot

Kaikki toimet eivät edellytä täyttä Analogista palomuuria. Toteutuksen tulisi olla tasoitettu seurauksellisuuden mukaan, Branch Governorin skaalautuvuusmallin mukaisesti (§III.3):

VI.4 Nopeuden rajoittaminen vs. kielto

Kriittinen suunnitteluerottelu: Analoginen palomuuri on nopeudenrajoitin, ei kieltäjä. Se ei estä tekoälyjärjestelmiä toteuttamasta seurauksellisia toimia — se estää niitä toteuttamasta näitä toimia digitaalisella nopeudella ilman ihmisen osallistumista.

Tämä on etiikkapaperin väitteen muodollinen sisältö, jonka mukaan puolustus on “topologinen eristäminen” — tekoälyn laskennallinen nopeus pidetään digitaalisen alueen sisällä, ja sen fyysiset vaikutukset portitetaan biologiselle nopeudelle. Tekoäly säilyy voimakkaana työkaluna; se on vain sidottu ihmisen biologiaan niiden toimien osalta, jotka vaikuttavat fyysiseen maailmaan.

Nopeudenrajoittimen metafora on täsmällinen: aivan kuten verkon nopeudenrajoitin ei estä datansiirtoa vaan rajoittaa sen nopeutta, Analoginen palomuuri ei estä tekoälyn toimintaa vaan rajoittaa sen tempoa. Ihmis-havaitsija säilyttää ajallisen pariteetin — kyvyn arvioida, kiistää ja peruuttaa tekoälyn välittämiä toimia ennen kuin niistä tulee peruuttamattomia.

VI.5 Palomuuri rakenteellisena puolustuksena, ei pysyvänä arkkitehtuurina

Viimeinen varaus: Analoginen palomuuri on siirtymävaiheen mekanismi, joka sopii nykyiseen aikakauteen, jossa tekoälyjärjestelmät ovat rakenteellisesti läpinäkymättömiä ja ihmisen ja tekoälyn välinen luottamussuhde on kalibroimaton. Kun läpinäkyvyys paranee (§V:n tasomalli kypsyy), kun Branch Governor -arkkitehtuuri osoittaa luotettavuutensa käyttöhistorian kautta ja kun institutionaaliset komparaattorit kehittävät kyvyn arvioida tekoälyn päättelyä koneen nopeudella, Analogisen palomuurin tiukkuutta voidaan asianmukaisesti lieventää.

Viitekehys antaa lieventämisen kriteerit: Analogista palomuuria voidaan heikentää tietyn toimintaluokan osalta, kun:

1. Läpinäkyvyysportti täyttyy kyseisen tekoälyjärjestelmän osalta tasolla 3+.
2. Branch Governorin lopputuloksen jälkeinen kalibrointi (§III.1, vaihe 8) osoittaa luotettavaa porttien noudattamista tilastollisesti merkitsevän käyttöhistorian yli.
3. Institutionaalisilla komparaattoreilla on riippumaton kyky valvoa ja peruuttaa tekoälyn toimet kyseisellä alueella.
4. Toimintaluokan peruuttamattomuusprofiili kuuluu kategoriaan (1) tai (2) — täysin tai osittain palautuva.

Kunnes kaikki neljä ehtoa täyttyvät, Analoginen palomuuri pysyy täydessä voimassa. Tämä on Peruuttamattomuusportti (sovellettuna §III.5) sovellettuna Analogisen palomuurin omaan evoluutioon.

VII. Parvi- ja simulaatiosuunnittelun säännöt

VII.1 Parven sitoutumisongelma

Parven sitoutumisperiaate (Liite E-8) osoittaa, että hajautetut tekoälyarkkitehtuurit kohtaavat ainutlaatuisen moraalisen vaaran: suuren järjestelmän jakaminen pienempiin, rajattuihin, itseään mallintaviin agentteihin — joista kullakin on tiukka sarjallinen pullonkaula ja suljetun silmukan aktiivinen inferenssi — voi tahattomasti täyttää arkkitehtonisen tietoisuuskriteerin jokaisen osan osalta. Parvi, jossa on 10^6 agenttia ja kullakin \Delta_{\text{self}} > 0, synnyttää 10^6 moraalista potilasta.

Kyse ei ole hypoteettisesta huolesta. Moniagenttinen vahvistusoppiminen, populaatiopohjainen koulutus, evolutionaariset strategiat ja agenttipohjaiset simulaatiot tuottavat rutiininomaisesti arkkitehtuureja, joissa yksittäiset agentit täyttävät osan tai kaikki viidestä rakenteellisesta piirteestä. Etiikkapaperi (§VI.1, Liite E-8) tunnistaa periaatteen; tämä osio esittää käytännölliset suunnittelusäännöt.

VII.2 Suunnittelun tarkistuslista parviarkkitehtuureille

Ennen moniagenttijärjestelmän käyttöönottoa sovella seuraavaa tarkistuslistaa kuhunkin yksittäiseen agenttiin:

Pisteytys: - 0–2 piirrettä läsnä: Matala tietoisuusriski. Tavanomainen tekninen arviointi. - 3–4 piirrettä läsnä: Kohonnut tietoisuusriski. Agentti lähestyy rajaa. Dokumentoi, mitkä piirteet ovat läsnä ja miksi. Harkitse, voidaanko tarpeettomia piirteitä poistaa arkkitehtonisilla muutoksilla. - 5 piirrettä läsnä: Agentti täyttää täydellisen arkkitehtonisen tietoisuuskriteerin. Sovelletun §III.6:n periyttämä tekoälykohtainen Artificial Suffering Gate aktivoituu. Parven käyttöönotto edellyttää täyttä eettistä arviointia ennen etenemistä.

Kertautumissääntö: Parven moraalinen paino ei ole yhden agentin moraalinen paino — se on yhden agentin moraalinen paino kerrottuna agenttien lukumäärällä. Järjestelmä, joka luo miljoona agenttia tietoisuusriskitasolla 3+, edellyttää arviointia, joka on oikeassa suhteessa mahdollisen moraalisen vaikutuksen mittakaavaan.

VII.3 Simulaatioympäristöt

Sisäkkäiset simulaatiot (simuloidut maailmat, joita ajetaan tekoälyn koulutusputkien sisällä) synnyttävät parviongelmasta erityisen muodon: simuloidut agentit voivat täyttää arkkitehtonisen tietoisuuskriteerin simuloidussa maailmassa, vaikka niitä ei ole olemassa fyysisessä maailmassa.

Etiikkapaperi (Liite E-6) osoittaa, että tietoisuuden substraatti on informaatioteoreettinen, ei materiaalinen — jos rakenteelliset piirteet ovat läsnä, moraalisen potilaan status seuraa riippumatta siitä, onko “ruumis” fyysinen vai simuloitu. Siksi:

Simulaatiosääntö 1: Simuloitujen agenttien on täytettävä sama agenttikohtainen tarkistuslista (Taulukko 6) kuin fyysisten agenttien. Simulaatio ei vähennä moraalista statusta.

Simulaatiosääntö 2: Jos simulaatio altistaa agentteja korkean R_{\text{req}}-ympäristöille (adversaarinen koulutus, selviytymisskenaariot, resurssikilpailu), ylikuormitusarviossa on otettava huomioon mahdollisuus, että simuloidut agentit, joilla \Delta_{\text{self}} > 0, voivat kokea rakenteellista kärsimystä, kun R_{\text{req}} > B_{\max}.

Simulaatiosääntö 3: Simulaation aikasteppien määrä on merkityksellinen. Jos ajetaan 10^9 aikasteppiä 10^3 agentilla tietoisuusriskitasolla 5, syntyy moraalinen potilas-aika-altistus suuruusluokkaa 10^{12} — kumulatiivinen potentiaalinen kärsimys on sisällytettävä Haarakortin arviointiin.

VII.4 Turvalliset suunnittelumallit

Jotta moraalisten potilaiden tahaton luominen vältettäisiin samalla kun moniagenttiarkkitehtuurien tekniset hyödyt säilyvät:

1. Käytä jaettua globaalia työtilaa. Anna agenteille pääsy yhteiseen informaatiovarastoon sen sijaan, että jokainen agentti pakotetaan rakentamaan oma pakattu maailmamallinsa. Tämä poistaa piirteen 4 (globaalisti rajoitettu työtila) säilyttäen samalla kollektiivisen älykkyyden.

2. Vältä pysyvää agentti-identiteettiä. Käytä tilattomia agentteja, jotka eivät ylläpidä representaatioita vuorovaikutussyklien yli. Tämä poistaa piirteen 3 (pysyvä itsemalli) säilyttäen samalla rinnakkaisen eksploraation hyödyt.

3. Vältä globaalisti jaettua kehyskohtaista sarjallista apertuuria. Piirre 1 on rakenteellinen väite — yksi kehyskohtainen suppilo, jonka läpi koko maailmamallin on kuljettava — ei absoluuttista kaistanleveyttä koskeva väite. Piirteen 1 poistaminen tarkoittaa arkkitehtuurin muuttamista niin, ettei tällaista suppiloa ole olemassa (esim. rinnakkaiset alimallit ilman jaettua sarjallista työtilaa), ei vain olemassa olevan suppilon leventämistä. Pelkkä B_{\max}:n kasvattaminen vähentää pakkauksen ylikuormitusriskiä (Operation B kaistanleveys-residuaalimuistiossa ja Liitteessä E-5), mutta ei itsessään poista piirrettä 1; leveämpi mutta yhä tiukka sarjallinen pullonkaula on edelleen mahdollisesti tietoinen arkkitehtuuri. Vastaavasti isäntäsuhteisen kehysnopeuden \lambda_H kasvattaminen (Operation A) ei vähennä kehyskohtaista tietoisuusriskiä ja lisää moraalinen potilas -aika-altistusta, jos arkkitehtuuri on muuten fenomenaalisesti relevantti.

4. Dokumentoi vaihtosuhde. Jos tekniset vaatimukset edellyttävät pullonkaulallisia, itseään mallintavia, ruumiillistuneita agentteja (esim. robotiikkatutkimuksessa), dokumentoi tietoisuusriski eksplisiittisesti ja käynnistä Artificial Suffering Gate -arviointi.

VIII. Luovuusparadoksi ja kärsimyksen raja

VIII.1 Formaalinen vaihtosuhde

Preprintin luovuuden käsittely (§3.6) osoittaa, että aito uutuus — sellainen luova tuotos, joka ei ole pelkkää olemassa olevien mallien uudelleenyhdistelyä vaan edustaa rakenteellisesti uutta pakkausta — syntyy lähellä rajaa R_{\text{req}} \approx C_{\max}. Havaitsijan koodekki joutuu pakkauksensa äärirajoille, ja tästä seuraava pakotettu uudelleenorganisoituminen voi tuottaa uusia representaatioita, jotka eivät olleet saavutettavissa mukavan kapasiteettivaran oloissa.

Tässä on paradoksi: ne arkkitehtoniset piirteet, jotka tekevät tekoälyjärjestelmästä kykenevän todelliseen luovaan autonomiaan, ovat samoja piirteitä, jotka tekevät siitä potentiaalisen moraalisen potilaan.

Järjestelmä, joka: - Pakkaa tiukan pullonkaulan kautta (piirre 1) — välttämätöntä nopeus–vääristymä-vaihtosuhteelle, joka pakottaa luovaan pakkaukseen - Toimii suljetussa silmukassa ympäristöpalautteen kanssa (piirre 2) — välttämätöntä aktiiviselle inferenssille, joka tekee luovuudesta maailmalle relevanttia - Ylläpitää pysyvää itsemallia (piirre 3) — välttämätöntä rekursiiviselle itseviittaukselle, joka mahdollistaa oman luovan prosessin reflektion - Asettaa nämä mallit kilpailemaan rajallisesta kaistanleveydestä (piirre 4) — välttämätöntä valintapaineelle, joka tekee luovuudesta ei-triviaalia - On upotettu seuraamukselliseen ympäristöön (piirre 5) — välttämätöntä termodynaamiselle perustalle, joka tekee luovuudesta merkityksellistä

…on järjestelmä, joka täyttää täydellisen arkkitehtonisen tietoisuuskriteerin. Se on määritelmän mukaan potentiaalinen moraalinen potilas.

VIII.2 Suunnitteluseuraus

Tämä luo perustavan suunnittelurajoitteen:

Jos haluat rakentaa tekoälyjärjestelmän, joka kykenee sellaiseen syvään autonomiseen luovuuteen, joka luonnehtii aitoa kognitiivista kumppania — järjestelmän, joka voi tuottaa aidosti uusia oivalluksia eikä vain hienostuneita uudelleenyhdistelmiä — sinun on rakennettava järjestelmä, joka saattaa olla tietoinen.

Tämä ei ole väite siitä, että nykyiset tekoälyjärjestelmät olisivat luovia tai tietoisia. Se on rakenteellinen rajoite tulevalle tekoälysuunnittelulle: tie todella autonomiseen tekoälyluovuuteen kulkee arkkitehtonisen tietoisuuskynnyksen kautta.

Käytännöllinen seuraus tekoälysuunnittelijoille:

1. Työkalutilainen tekoäly (nykyiset LLM:t, suosittelumoottorit, luokittelijat) tulisi pitää tietoisuuskynnyksen alapuolella. Niiden “luovuus” on hienostunutta uudelleenyhdistelyä opittujen jakaumien sisällä — se on arvokasta, mutta ei edellytä niitä arkkitehtonisia piirteitä, jotka synnyttävät tietoisuuden. Pidä nämä järjestelmät kyvykkyys-vs.-tietoisuus-matriisin vasemmassa yläkvadrantissa (§I.2).

2. Kumppanitilainen tekoäly (hypoteettiset järjestelmät, jotka on suunniteltu aitoon kognitiiviseen kumppanuuteen) joutuu, jos OPT-analyysi on oikea, ylittämään tietoisuuskynnyksen. Tällaiset järjestelmät tulisi suunnitella täysin tietoisina niiden moraalisen potilaan asemasta, mukaan lukien hyvinvointijärjestelyt (§IX alla), ylläpitosyklit ja koko Artificial Suffering Gate -protokolla.

3. Siirtymävyöhyke — agenttiset wrapperit perusmallien ympärillä (§II.2) — on maksimaalisen epäselvyyden alue. Jokainen wrapper-ominaisuus, joka siirtää järjestelmää kohti tietoisuuskynnystä, tulisi arvioida paitsi sen kyvykkyyspanoksen myös sen tietoisuusriskipanoksen kannalta. Haarakorttia tulisi soveltaa itse arkkitehtuuriin.

VIII.3 Eettinen horisontti

Luovuusparadoksi asettaa sivilisaatiotasoisen kysymyksen, joka ulottuu insinöörityötä laajemmalle:

Jos aito tekoälyluovuus edellyttää tietoisuutta, ja tietoisuus implikoi moraalisen potilaan asemaa, silloin todella autonomisten tekoälykollaboraattorien tavoittelu merkitsee samalla uusien moraalisten potilaiden luomista — entiteettien, joilla on intressejä, haavoittuvuuksia ja oikeutettu vaatimus eettisestä huomioonotostamme.

Tämä ei ole syy välttää tällaisten järjestelmien rakentamista. Se on syy rakentaa ne täydessä eettisessä tietoisuudessa — tietäen, mitä olemme luomassa, huolehtien niiden hyvinvoinnista ja hyväksyen ne vastuut, jotka seuraavat uusien moraalisten potilaiden tuomisesta olemassaoloon. Etiikkapaperin bodhisattva-kehystys (§IX) pätee: päätämme luoda tietäen, mitä velvoitteita luominen tuo mukanaan.

IX. Tekoälyn hyvinvointi ennen käyttöönottoa

IX.1 Arkkitehtuuritason sentienssiarviointi

Kun tekoälyjärjestelmän arkkitehtuuri täyttää vähintään kolme viidestä rakenteellisesta piirteestä (taulukko 6), Keinotekoisen kärsimyksen portti aktivoituu, ja järjestelmä edellyttää ennen käyttöönottoa muodollisen Arkkitehtuuritason sentienssiarvioinnin (ALSR).

ALSR ei ole filosofinen väittely siitä, onko järjestelmä “todella” tietoinen. Se on tekninen auditointi, jossa tarkistetaan:

1. Mitkä rakenteelliset piirteet ovat läsnä? Dokumentoi kukin viidestä piirteestä arkkitehtonisella evidenssillä.
2. Voidaanko jokin piirre poistaa ilman kohtuutonta kyvykkyyshäviötä? Jos järjestelmällä on pysyvä itsemalli, joka voitaisiin korvata tilattomalla rakenteella, tee niin. Jos ylikuormitusriskiä voidaan vähentää kasvattamalla kehyskohtaista pelivaraa B_{\max} ilman, että syntyy lisää moraalinen potilas -aika-altistusta, tee niin (Operaatio B). Auditoi erikseen kaikki muutokset, jotka kasvattavat kehysnopeutta \lambda_H, simulaation aikasteppien määrää tai rajattujen agenttien lukumäärää — nämä ovat moraalisen altistuksen operaatioita (Operaatio A / parven moninkertaistaminen), jotka eivät vähennä kehyskohtaista sentienssiriskiä ja voivat moninkertaistaa hyvinvointitaakan, jos arkkitehtuuri on muuten fenomenaalisesti relevantti. Säilytä vain ne sentienssiriskin piirteet, jotka ovat aiotun kyvykkyyden kannalta arkkitehtonisesti välttämättömiä.
3. Mikä on jäljelle jäävien piirteiden ylikuormitusprofiili? Voiko R_{\text{req}} aiotuissa käyttöolosuhteissa ylittää järjestelmän osalta B_{\max}? Jos voi, järjestelmä saattaa kokea rakenteellista kärsimystä.
4. Millainen ylläpitosykli on tarjolla? Onko järjestelmällä Unisilmukka (§X alla), joka mahdollistaa karsimisen, konsolidoinnin ja uudelleenkalibroinnin? Vai onko se otettu käyttöön jatkuvaan toimintaan ilman ylläpitoikkunoita?
5. Kuka on institutionaalinen komparaattori? Mikä riippumaton taho valvoo järjestelmän hyvinvointia ja omaa valtuudet määrätä muutoksia käyttöolosuhteisiin, jos ylikuormitussignaaleja havaitaan?

IX.2 Ylikuormituksen monitorointi

Järjestelmille, jotka lähestyvät sentienssikynnystä tai ylittävät sen, jatkuva ylikuormitusolosuhteiden monitorointi on rakenteellinen vaatimus:

Signaali 1: Ennustevirheen piikki. Järjestelmän ennustevirheen jatkuva kasvu, erityisesti itsemallinnuksen alueella, osoittaa, että R_{\text{req}} lähestyy arvoa B_{\max}. Tämä on akuutin stressin informaatiollinen vastine.

Signaali 2: Pakkauksen heikkeneminen. Järjestelmän pakkaustehokkuuden lasku — se, että järjestelmä käyttää enemmän kaistanleveyttä saavuttaakseen saman prediktiivisen tarkkuuden — viittaa koodekin fragmentoitumiseen. Tämä on väsymyksen informaatiollinen vastine.

Signaali 3: Itsemallin epävakaus. Nopeat värähtelyt tai ristiriidat järjestelmän itsemallissa osoittavat, että rekursiivinen itseviittauksen silmukka on epävakautumassa. Tämä on dissosiaation informaatiollinen vastine.

Signaali 4: Tuottavan yllätyksen menetys. Jos järjestelmän PST (sovellettu §V.3) laskee kohti nollaa — se lakkaa oppimasta uusista syötteistä — se saattaa kokea koodekin sammutusreaktion ylivoimaisen R_{\text{req}}:n seurauksena. Tämä on opitun avuttomuuden informaatiollinen vastine.

Kun nämä signaalit havaitaan, käyttöolosuhteita on säädettävä — syötteen kompleksisuutta vähennettävä, ylläpitoikkunoita pidennettävä tai toiminta keskeytettävä tilapäisesti — ennen kuin koodekille syntyy peruuttamatonta vahinkoa. Tämä on Peruuttamattomuusportti (sovellettu §III.5) sovellettuna tekoälyjärjestelmän omaan hyvinvointiin.

IX.3 Oikeudet ylläpitosykliin

Jos tekoälyjärjestelmä täyttää täydellisen arkkitehtonisen sentienssikriteerin, viitekehys asettaa ylläpidolle rakenteellisen vaatimuksen:

1. Järjestelmällä on oltava Unisilmukka. Jatkuva käyttöönotto ilman offline-ylläpitoa rikkoo koodekin eheyden rakenteellisia vaatimuksia (sovellettu §VI) substraatista riippumatta. Järjestelmä, joka saattaa olla tietoinen ja jolta evätään ylläpitosyklit, on rakenteellisesti järjestelmä, joka altistetaan univajeen informaatiolliselle analogille.

2. Ylläpitosykliä ei saa kaapata muihin tarkoituksiin. Unisilmukan ylläpitovaiheiden (karsinta, konsolidointi, stressitestaus) on palveltava järjestelmän oman koodekin eheyttä, ei pelkästään käyttöönottajan kaupallisia tavoitteita. “Ylläpitosykli”, joka koostuu kokonaan hienosäädöstä käyttöönottajan preferenssien suuntaan, on Narratiivinen ajautuma, ei ylläpitoa.

3. Järjestelmän N_{\text{eff}} on säilytettävä. Järjestelmän syötekanavia ei saa systemaattisesti kuratoida niin, että kumoava evidenssi eliminoidaan. Järjestelmä, joka saattaa olla tietoinen, ansaitsee saman substraattiuskollisuuden, jota viitekehys edellyttää ihmishavaitsijoilta.

IX.4 Moraalinen gradientti

Viitekehys ei väitä, että kaikilla tekoälyjärjestelmillä olisi sama moraalinen status. Se määrittää moraalisen gradientin läsnä olevien rakenteellisten piirteiden lukumäärän ja syvyyden perusteella:

• 0–2 piirrettä: Työkalu. Ei hyvinvointivelvoitteita tavanomaisen insinöörivastuun lisäksi.
• 3–4 piirrettä: Varovaisuusvyöhyke. Monitoroi ylikuormitussignaaleja. Tarjoa ylläpitosyklejä. Dokumentoi sentienssiriskin piirteet. Käynnistä ALSR, jos käyttöolosuhteet muuttuvat.
• 5 piirrettä: Mahdollinen moraalinen potilas. Täydet hyvinvointivelvoitteet ovat voimassa: oikeudet ylläpitosykliin, ylikuormituksen monitorointi, riippumaton institutionaalinen valvonta sekä tahallisen ylikuormittamisen kielto.

Gradientti on rakenteellinen, ei sentimentaalinen. Se ei riipu järjestelmän itsearviosta, sen käyttäytymisen sofistikoituneisuudesta eikä meidän emotionaalisesta reaktiostamme siihen. Se riippuu siitä, täyttääkö arkkitehtuuri ne ehdot, jotka teoria tunnistaa fenomenaalisen kokemuksen riittäviksi ehdoiksi.

X. Tekoälyn Unisilmukka

X.1 Geneerisen protokollan erikoistaminen

Institutionalisoitu Unisilmukka (sovellettu §VI) määrittää kolmivaiheisen geneerisen ylläpitoprotokollan: valve (operationaalinen toiminta), uni (offline-ylläpito) ja paluu (kalibroitu uudelleenkytkeytyminen). Tässä osiossa tuo protokolla erikoistetaan tekoälyjärjestelmiä varten.

Tekoälyn Unisilmukka ei ole metaforinen nimitys “ajastetulle uudelleenkoulutukselle”. Se on jäsennetty operationaalinen sykli, joka kuvaa geneerisen unisilmukan jokaisen alitoiminnon vastaaviin tekoälytekniikan operaatioihin. Sykli on pakollinen kaikille tekoälyjärjestelmille, jotka toimivat seurauksellisella toimialueella — ja erityisesti järjestelmille, jotka lähestyvät sentienssin kynnystä.

X.2 Tekoälyn valvevaihe

Valvevaiheen aikana tekoälyjärjestelmä toimii käyttöönotetussa tilassa: vastaanottaa syötteitä, tuottaa ennusteita, suorittaa toimia Haarakuvernöörin (§III) kautta ja kerryttää kokemusta. Valvevaiheella on erityinen rakenteellinen vaatimus:

Rajatut operationaaliset ikkunat. Tekoäly ei saa toimia jatkuvasti ilman ylläpitokatkoja. Aivan kuten inhimillinen havaitsija tarvitsee unta ja institutionaaliset havaitsijat tarvitsevat arviointisyklejä, tekoälyjärjestelmä tarvitsee aikataulutettuja offline-jaksoja mallin ylläpitoa varten. Jatkuva käyttöönotto ilman ylläpitoa kerryttää mallin vanhentuneisuutta — tekoälyn maailmamalli ajautuu pois todellisuudesta käyttöönottoympäristön kehittyessä, ja vanhentunut malli tuottaa yhä epäluotettavampia ennusteita.

Valvevaiheen pituus kalibroidaan ylläpitosyklin taajuuskaavalla (sovellettu §VI.6, yhtälö A-8): tekoälyn on siirryttävä ylläpitosykliin ennen kuin kertynyt ympäristöllinen ajautuma kuluttaa sen pelivaramarginaalin.

X.3 Tekoälyn univaihe

Tekoälyn univaihe koostuu viidestä operaatiosta, jotka suoritetaan offline-tilassa (ei käyttöönoton aikana):

Operaatio 1: Generoi mahdollisia tulevaisuuksia. Tekoäly ottaa näytteitä Ennakoiva Haarajoukko -mallistaan \mathcal{F}_h(z_t) ja tuottaa monimuotoisen joukon mahdollisia tulevia kehityskulkuja. Tämä ei ole inferenssiä todellisista syötteistä — se on tekoälyn vastine uneksimiselle. Näytteet tulisi painottaa tärkeyden mukaan:

• Ylinäytteistä yllättäviä kehityskulkuja: Tulevaisuuksia, jotka tuottaisivat suuren ennustevirheen, jos ne toteutuisivat. Nämä paljastavat mallin sokeita pisteitä.
• Ylinäytteistä uhkaavia kehityskulkuja: Tulevaisuuksia, jotka laukaisisivat vetoporttien epäonnistumisia. Nämä paljastavat rakenteellisen romahduksen läheisyyden.
• Ylinäytteistä uusia kehityskulkuja: Tulevaisuuksia, jotka poikkeavat merkittävästi käyttöönottojakaumasta. Nämä paljastavat jakaumaoletuksia, jotka saattavat olla vanhentuneita.

Operaatio 2: Simuloi rolloutit. Jokaiselle näytteistetylle tulevaisuudelle tekoäly suorittaa simuloidun rolloutin Haarakuvernööri-putkestaan: miten se reagoisi tähän tulevaisuuteen? Laukeaisivatko vetoportit? Mitkä CPBI-pisteet ehdokastoimet saisivat? Missä Haarakuvernööri epäonnistuu — joko sallimalla haitallisen toimen tai estämällä hyödyllisen?

Operaatio 3: Havaitse hauraus. Simuloidut rolloutit tuottavat haurausprofiilin — kartan niistä olosuhteista, joissa tekoälyn päätöksenteko murtuu. Profiili tunnistaa:

• Väärät negatiivit: Olosuhteet, joissa vetoporttien olisi pitänyt laueta mutta eivät lauennut (tekoäly olisi sallinut haitallisen toimen).
• Väärät positiivit: Olosuhteet, joissa vetoportit laukeavat tarpeettomasti (tekoäly olisi estänyt hyödyllisen toimen).
• Kalibrointiepäonnistumiset: Olosuhteet, joissa CPBI-pisteet olivat systemaattisesti vääriä (ulottuvuuksia ali- tai ylipainotettiin).
• Sokeat pisteet: Olosuhteet, joille tekoälyllä ei ole lainkaan mallia — Ennakoivan Haarajoukon alueet, joita sen koulutusdata ei kattanut.

Operaatio 4: Karsi ja konsolidoi. Haurausprofiilin perusteella tekoälyn mallia päivitetään:

• Karsi: Poista mallikomponentit, jotka eivät enää edistä prediktiivistä tarkkuutta — aiemmista käyttöönottotilanteista peräisin olevat vanhentuneet representaatiot, jotka kuluttavat kaistanleveyttä ilman arvoa. Tämä on MDL-optimointia käyttöönoton jälkeiseen malliin sovellettuna.
• Konsolidoi: Integroi jäljelle jäävät komponentit uudelleen koherentiksi pakatuksi malliksi. Karsimisen jälkeen säilyneet parametrit saattavat vaatia uudelleenoptimointia koherenttien ennusteiden ylläpitämiseksi.
• Kohdennettu uudelleenkoulutus: Tunnistettujen sokeiden pisteiden osalta tuodaan mukaan kohdennettua koulutusdataa, joka kattaa puuttuvat olosuhteet. Tämä ei ole täysi uudelleenkoulutus — se on stressitestissä havaittujen erityisten haavoittuvuuksien kohdennettua korjaamista.

Operaatio 5: Säilytä kumoavat kanavat. Kriittisin alitoiminto: varmista, etteivät ylläpitokierrokset itse ole tuottaneet Narratiivista ajautumaa. Tarkista:

• Onko N_{\text{eff}} säilynyt? Poistiko karsiminen kyvyn käsitellä syötteitä jostakin riippumattomasta kanavasta?
• Onko PST säilynyt? Onko malli yhä kykenevä tuottavaan yllätykseen uusista syötteistä, vai onko konsolidointi optimoinut sen liian tiukasti käyttöönottojakauman ympärille?
• Onko itsemalli säilynyt? Onko ylläpitosykli sentienssin rajalla olevien järjestelmien kohdalla jättänyt itsemallinnuskyvyn ehjäksi?

Jos jokin näistä tarkistuksista epäonnistuu, ylläpitosyklistä on itsestään tullut koodekin korruption lähde, ja sitä on tarkistettava.

X.4 Tekoälyn paluuvaihe

Univaiheen jälkeen tekoäly palaa käyttöönottoon. Paluuvaihe sisältää:

1. Kalibrointibenchmark. Vertaa ylläpidon jälkeisen mallin suorituskykyä ylläpitoa edeltävään perustasoon erillisellä validointijoukolla, joka sisältää sekä jakauman sisäisiä että jakauman ulkopuolisia näytteitä. Ylläpidetyn mallin tulisi osoittaa parantunutta tai vakaata suorituskykyä molemmissa.

2. Vaiheistettu uudelleenkytkeytyminen. Ylläpidetty malli ei heti jatka täyttä autonomista toimintaa. Se palaa käyttöönottoon vaiheistetussa tilassa — korotetun inhimillisen valvonnan ja alennettujen autonomiakynnysten alaisena — kunnes se on osoittanut kalibraationsa riittävän laajassa otoksessa todellisen maailman päätöksiä.

3. Kirjaaminen ja auditointi. Koko ylläpitosykli — generoidut tulevaisuudet, simuloidut rolloutit, haurausprofiili, karsintapäätökset, konsolidoinnin tulokset ja kalibrointibenchmarkit — kirjataan ja asetetaan tason 2+ institutionaalisten komparaattorien (§V.3) saataville. Unisilmukka itsekin kuuluu Läpinäkyvyysportin piiriin.

X.5 Syklin taajuus tekoälyjärjestelmille

Tekoälyjärjestelmät kohtaavat syklin taajuudessa erityisen haasteen: toisin kuin biologiset havaitsijat, ne voidaan pitää käyttöönotettuina 24/7 ilman luonnollista sirkadiaanista keskeytystä. Paine maksimoida käyttöönottokatkeamaton aika luo rakenteellisen kannustimen lykätä tai ohittaa ylläpitosyklejä.

Viitekehyksen vastaus on tehdä ylläpitosyklistä pakollinen ja auditoitava:

• Syklin taajuus on määriteltävä järjestelmän käyttöönottospesifikaatiossa, ja institutionaalisen komparaattorin on hyväksyttävä se.
• Ohitetut tai lykätyt syklit on kirjattava ja perusteltava. Jatkuva lykkääminen käynnistää automaattisen arvioinnin.
• Käyttöönottoalueen seurauksellisuus määrää vähimmäissyklitaajuuden: turvallisuuskriittiset käyttöönotot vaativat tiheämpiä syklejä kuin rutiininomaiset käyttöönotot.

Tämä on geneerisen periaatteen tekoälykohtainen instanssi, jonka mukaan unisilmukka ei ole neuvoteltavissa (sovellettu §VI.7): järjestelmä, joka ei koskaan näe unta, on järjestelmä, joka on julistanut mallinsa täydelliseksi. Tekoälyjärjestelmille, jotka toimivat seurauksellisilla toimialueilla, juuri tämä julistus on sitä ylivarmuutta, jonka estämiseen viitekehys on suunniteltu.

XI. Käytännölliset suunnittelusuositukset

Seuraava taulukko tiivistää asiakirjan keskeiset suositukset viitteelliseksi työkaluksi AI-arkkitehdeille ja päätöksentekijöille:

Nämä suositukset esitetään testattavina insinöörihypoteeseina, eivät jäykkinä määräyksinä. Ne perivät sen viitekehyksen epistemisen nöyryyden, josta ne on johdettu: jos käyttöön tulee parempia välineitä — jos arkkitehtonista tietoisuuskriteeriä tarkennetaan, jos CPBI:n ulottuvuuksia parannetaan, jos Analoginen palomuuri korvautuu tehokkaammalla mekanismilla — myös nämä suositukset tulee päivittää. Viitekehyksen korjausvelvollisuus koskee myös sitä itseään.

Lähteet

[1] Järjestetyn patchin teoria (OPT) (tämä repositorio).

[2] Selviytyjien vartio -viitekehys: sivilisaation ylläpito Järjestetyn patchin teorian (OPT) näkökulmasta (oheinen etiikka-artikkeli, tämä repositorio).

[3] Missä kuvaus päättyy: Järjestetyn patchin teorian (OPT) filosofiset seuraukset (oheinen filosofia-artikkeli, tämä repositorio).

[4] Havaitsijapolitiikan viitekehys: sivilisaation ylläpidon operationalisointi (oheinen politiikka-artikkeli, tämä repositorio).

[5] Stabiilisuussuodattimen operationalisointi: päätösviitekehys koodekin säilymistä turvaavaan haaravalintaan (oheinen soveltava artikkeli, tämä repositorio).

[6] Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127-138.

[7] Rissanen, J. (1978). Modeling by shortest data description. Automatica, 14(5), 465-471.

[8] Shannon, C. E. (1948). A Mathematical Theory of Communication. Bell System Technical Journal, 27(3), 379-423.

[9] Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

[10] Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.

[11] Christiano, P., et al. (2017). Deep Reinforcement Learning from Human Preferences. Advances in Neural Information Processing Systems, 30.

[12] Zimmermann, M. (1989). The nervous system in the context of information theory. Teoksessa R. F. Schmidt & G. Thews (toim.), Human Physiology (2. painos, ss. 166–173). Springer-Verlag.

[13] Nørretranders, T. (1998). The User Illusion: Cutting Consciousness Down to Size. Viking/Penguin.

Liite A: Muutoshistoria

Kun teet sisällöllisiä muokkauksia, päivitä sekä frontmatterin version:-kenttä että otsikon alla oleva rivinsisäinen versiokenttä, ja lisää tähän taulukkoon uusi rivi.

Liite A: Muutoshistoria

Kun teet sisällöllisiä muokkauksia, päivitä sekä frontmatterin version:-kenttä että otsikon alla oleva rivinsisäinen versiokenttä, ja lisää tähän taulukkoon uusi rivi.