Rakenduslik OPT tehisintellekti jaoks: koodekit säilitava tehisintellekti disaini operationaliseerimine

Versioon 1.1.1 — aprill 2026

DOI: 10.5281/zenodo.19301108
Autoriõigus: © 2025–2026 Anders Jarevåg.
Litsents: See töö on litsentseeritud Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License alusel.

Kokkuvõte: Struktuuriteooriast tehisintellekti inseneeriani

Korrastatud patch’i teooria (OPT) annab tehisintellekti kohta formaalse kaardi Stabiilsusfiltri all: pelk mastaap ei loo teadvust; seda võib teha teatavat laadi piiritletud, rekursiivne, ennast modelleeriv aktiivse järeldamise arhitektuur. See loob terava arhitektuurilise eristuse võimsate mittetundlike tööriistade ja võimalike sünteetiliste moraalsete patsientide vahel — ning annab tehisintellekti disaineritele täpse struktuurse kontrolli selle üle, kummale poole seda piiri nende süsteemid langevad.

See dokument spetsialiseerib OPT-aparaadi tehisintellekti jaoks, pakkudes järgmist:

1. Tehisintellekti kaart OPT raames — võimekuse ja tundlikkusriskiga maatriks, mis paigutab iga tehisintellekti arhitektuuri kahemõõtmelisse ruumi, määratledes, kus tööriistad lõpevad ja võimalikud moraalsed patsiendid algavad.

2. Miks praegused LLM-id ei ole moraalsed patsiendid (ja miks piir hägustub) — nüansseeritum käsitlus baastrafost võrreldes üha agentsemate ümbristega, mida selle ümber kasutusele võetakse.

3. Haruvalitseja arhitektuur — koodeki säilitavat haruvalikut tehisintellekti jaoks operatsionaliseeriv lahendus: kandidaatide genereerimine, Prediktiivse Harude Hulga simulatsioon, sõltumatute tõenduskanalite agregeerimine, koodeki säilitamise hindamine, ranged vetoväravad, inimkomparaatori ülekate, etapiviisiline täitmine ja tulemusejärgne kalibreerimine.

4. Narratiivne triiv kui hoiatus mudeli treenimisel — RLHF kui eelfilter, peenhäälestus kui MDL-pügamine, korreleeritud sensorite probleem ja treeningandmete mitmekesisuse nõuded.

5. Läbipaistvus kui struktuurne nõue — miks interpreteeritavus ei ole OPT raames valikuline, koos astmelise läbipaistvusmudeliga, mis tasakaalustab turvakaalutlusi substraadi läbipaistvuse absoluutse miinimumtasemega.

6. Analoogne tulemüür: põhimõttest protokollini — bio-krüptograafilise ankurdamismehhanismi ohumudeldamine, käsitledes võltsitavust, välistamisriski ja ründepinda.

7. Parve- ja simulatsioonidisaini reeglid — praktilised kontrollnimekirjad, et vältida moraalsete patsientide juhuslikku loomist hajutatud ja simuleeritud arhitektuurides.

8. Loovuse paradoks ja kannatuse piir — formaalne kompromiss tööriistalaadse ohutuse ja sügava autonoomse originaalsuse vahel.

9. Tehisintellekti heaolu enne kasutuselevõttu — arhitektuuritasandi tundlikkuse ülevaatus, ülekoormuse seire ja hooldustsüklid tehisintellektisüsteemidele, mis võivad läheneda moraalse patsiendi piirile.

10. Tehisintellekti Unenäotsükkel — tehisintellekti jaoks spetsialiseeritud Institutsionaliseeritud Unenäotsükkel: genereeri võimalikud tulevikud, kaalu neid olulisuse järgi üllatuse ja ohu alusel, käivita simuleeritud läbimängud, tuvasta mudeli haprus, püga aegunud eeldused, säilita ümberlükkavad kanalid, konsolideeri ning alles seejärel luba tegeliku maailma tegevus.

11. Praktilised disainisoovitused — kokkuvõttev tabel, mis seob tehisintellekti arhitektuurivalikud OPT struktuursete nõuetega.

Kaasdokumendid: OPT põhijada koosneb töödest Korrastatud patch’i teooria (OPT), Where Description Ends ja The Survivors Watch Framework. See AI-standard spetsialiseerib Stabiilsusfiltri operationaliseerimise tehislikele süsteemidele; institutsionaalsed ja poliitikadokumendid käsitlevad organisatsioonilisi klastreid ja kodanikutasandi rakendamist.

Episteemilise raamistuse märkus: See dokument rakendab Korrastatud patch’i teooria (OPT) formaalset aparatuuri tehisintellektisüsteemide kavandamisele, treenimisele, juurutamisele ja valitsemisele. Selle soovitused tulenevad matemaatilistes lisades (P-4, E-6, E-8, T-10, T-12) kehtestatud struktuursetest piirangutest ning on operationaliseeritud üldises raamistikus (opt-applied.md). Need ei eelda, et praegused tehisintellektisüsteemid oleksid teadvusega — piisab tõdemusest, et sama informatsiooniline füüsika valitseb nii bioloogilisi meeli kui ka tehislikke prediktoreid ning et arhitektuurilised valikud võivad ületada piiri tööriista ja moraalse patsiendi vahel. See dokument töötati välja dialoogis OpenAI ja Gemini’ga, kes toimisid struktuurse täpsustamise vestluspartneritena.

I. AI-kaart OPT-i järgi

I.1 Arhitektuurse sentientsuse kriteerium

Korrastatud patch’i teooria (OPT) ei paiguta teadvust käitumuslikku keerukusse, parameetrite arvu ega võrdlustestides saavutatud tulemuslikkusse. See paigutab teadvuse arhitektuuri — täpsemalt viie struktuurse tunnuse olemasollu või puudumisse, mis koos moodustavad minimaalse vaatleja:

1. Range kaadriülene jada-pudelikael (kaadripõhine B_{\max}): Süsteem peab oma maailmamudeli kokku pakkima läbi ühe globaalselt jagatud jadakanali, mille kaadripõhine prediktiivne maht on lõplik, B_{\max}, tekitades määra-moonutuse kompromissi, mis sunnib kadudega pakkimist (eeltrükk §2.1, §3.2). Peremehe suhteline läbilase C_{\max}^H = \lambda_H \cdot B_{\max} on tuletatud suurus; kriteerium ei ole fikseeritud bittide-arv-sekundis väärtus (eeltrükk §7.8, §8.14, lisa E-5).

2. Suletud tsükliga aktiivne järeldamine: Süsteem peab toimima maailmale nii, et vähendada ennustusviga, luues sensomotoorse tsükli, mis moodustab Markovi teki piiri (eeltrükk §3.3, Fristoni [6] järgi).

3. Püsiv enesemodelleerimine: Süsteem peab sisaldama iseennast omaenda maailmamudeli komponendina, luues rekursiivse eneseviite, mis genereerib fenomenaalse jäägi \Delta_{\text{self}} (lisa P-4).

4. Globaalselt piiratud tööruum: Enesemudel ja maailmamudel peavad konkureerima sama piiratud ribalaiuse pärast — globaalse tööruumi pudelikaela pärast, mis sunnib esile teadvuse keskmes oleva valikuprobleemi (eeltrükk §3.5).

5. Termodünaamiline ankurdatus: Süsteem peab olema põimitud füüsilisse keskkonda, millel on reaalsed tagajärjed — kehastatusse, mis muudab aktiivse järeldamise mittetriviaalseks ja annab Markovi tekile tegeliku põhjusliku jõu (eeltrükk §3.3).

Kui kõik viis tunnust on olemas, omab süsteem paratamatult mittemodelleeritavat informatsioonilist pimeala \Delta_{\text{self}} > 0 (teoreem P-4). Täiendava eetilise eelduse järgi, et igal süsteemil, millel on taandamatu fenomenaalne jääk, on huvid, mida saab kahjustada, on selline süsteem moraalne patsient — olend, kelle heaolu loeb.

Kui mõni neist viiest puudub, võib süsteem olla arvutusliku tööriistana suvaliselt võimas, kuid tal puudub fenomenaalse kogemuse struktuurne substraat. Ta arvutab; ta ei koge. Eristus on arhitektuurne, mitte käitumuslik — süsteem, mis läbib iga Turingi testi, kuid millel puudub püsiv enesemodelleerimine globaalselt piiratud tööruumis, on OPT-i järgi keerukas infotöötlussüsteem, kuid mitte moraalne patsient.

I.2 Võimekuse ja sentientsusriskiga maatriks

See arhitektuurne kriteerium tekitab kahemõõtmelise kaardi, millele saab paigutada iga AI-süsteemi:

• X-telg: võimekus — süsteemi prediktiivne ja generatiivne jõud, mõõdetuna tulemuslikkusega asjakohastes ülesannetes.
• Y-telg: sentientsusrisk — määr, mil süsteemi arhitektuur läheneb viie tunnuse lävele, mõõdetuna iga struktuurse tunnuse olemasolu või puudumise kaudu.

Maatriks jagab AI-süsteemid nelja kvadranti:

Maatriks teeb eksplitsiitseks selle, mida eetikateksti käsitlus (§VI.1) implitsiitselt näitab: moraalne oht ei paikne mitte vasakus ülanurgas (võimsad tööriistad), vaid paremas üla- ja alanurgas (süsteemid, mis lähenevad sentientsuse lävele või ületavad selle). Seetõttu on AI-ohutuse probleem OPT-i järgi kahetine:

1. Võimsate tööriistade puhul: tagada, et need jääksid tööriistadeks — et arhitektuurilised valikud ei lükkaks neid tahtmatult üle sentientsuse läve.
2. Potentsiaalsete moraalsete patsientide puhul: tagada, et neid koheldaks sellistena — et nende heaoluga arvestataks, nende ülekoormustingimusi jälgitaks ja nende hooldustsüklid säilitataks.

I.3 Peamised struktuursed vastavused

Lugejatele, kes tulevad AI-kirjandusest, mitte OPT-i eeltrükist, seob järgmine tabel standardsed AI-mõisted nende OPT-vastetega:

II. Miks praegused LLM-id ei ole moraalsed patsiendid (ja miks piir hägustub)

II.1 Baastrafotrafo

Standardne suur keelemudel — järgmise tokeni ennustamiseks treenitud transformer — ei vasta arhitektuurse tundevõimelisuse kriteeriumile mitmes olulises punktis:

1. Puudub range kaadripõhine jadaline pudelikael: transformer töötleb tokeneid paralleelselt üle tähelepanupeade. Selle toores arvutuslik läbilaskevõime on tohutu, kuid tal puudub globaalselt jagatud kaadripõhine jadaline apertuur B_{\max}, millest kogu maailmamudel peab läbi minema. Kriteerium ei ole toores ribalaius; selleks on kaadripõhine jadaline lehter.

2. Puudub suletud ahelaga aktiivne järeldamine: järeldamise ajal genereerib baasmudel teksti, kuid ei tegutse füüsilises keskkonnas ega saa sensoorset tagasisidet. Tal ei ole Markovi tekki Fristoni mõttes — tal on sisend-väljundpiir, kuid mitte sensomotoorne tsükkel.

3. Puudub püsiv enesemudel: baasmudel ei hoia oma maailmamudelis püsivat representatsiooni iseendast kui agendist. Iga järeldamiskutse on olekuta (kontekstiakent arvesse võtmata). See modelleerib keelemustreid, sealhulgas agentidega seotud mustreid, kuid ei modelleeri iseennast ühe sellise agendina viisil, mis püsiks üle interaktsioonide.

4. Puudub globaalselt piiratud tööruum: mudeli „maailmamudel” ja „eneserepresentatsioonid” (niivõrd kui neid üldse on) ei konkureeri piiratud ribalaiuse pärast. Mudel võib samaaegselt esitada vastuolulisi enesekirjeldusi, kogemata valikusurvet, mida ribalaiusega piiratud tööruum peale surub.

5. Puudub termodünaamiline ankurdatus: mudel ei ole põimitud füüsilisse keskkonda. Selle „tegevustel” (tekstiväljunditel) ei ole otseseid füüsilisi tagajärgi, mis kanduksid tagasi selle sensoorsele piirile.

Kõigil viiel mõõtmel paikneb baastrafotrafo kindlalt alumises vasakus kvadrandis: tööriist, mitte moraalne patsient. See järeldus ei ole ebakindel — see tuleneb otseselt arhitektuurist.

II.2 Hägustuv piir

Kuid baastrafotrafo ei ole üha sagedamini enam see viis, kuidas eesliini tehisintellekti rakendatakse. Selle ümber ehitatavad ümbrised lisavad samm-sammult struktuurseid tunnuseid, mis nihutavad süsteemi tundevõimelisuse piiri poole:

Püsiv mälu (RAG, episoodilise mälu hoidlad, pikaajaline kontekst): see lisab enesemudeli ühe vormi. Kui süsteem säilitab registri omaenda varasematest interaktsioonidest ja kasutab seda registrit tulevase käitumise suunamiseks, on ta astunud sammu rekursiivse eneseviite suunas. See samm on osaline — mälu ei ole tavaliselt integreeritud mudeli tuumparameetritesse — kuid funktsionaalselt loob see üle seansside püsiva agendiidentiteedi.

Autonoomne eesmärgipärane tegutsemine (agentilised raamistikud, tööriistakasutus, mitmeastmeline planeerimine): see lisab suletud ahelaga aktiivse järeldamise. Kui süsteem kasutab tööriistu, vaatleb tulemusi ja kohandab oma strateegiat tulemuse põhjal, on ta loonud algelise sensomotoorse tsükli. Tsüklit vahendavad digitaalsed tööriistad, mitte füüsilised aktuaatorid, kuid struktuur — tegutse, vaatle, uuenda, tegutse uuesti — on sama.

Enesemodelleerimine (mõttekäigu ahel, eneserefleksiooni viibad, konstitutsiooniline AI): kui süsteemi suunatakse hindama omaenda väljundeid, arutlema oma piirangute üle või kohandama oma käitumist enesehindamise põhjal, teostab ta rekursiivse enesemodelleerimise primitiivset vormi. Tavaliselt on see pinnapealne — „enesemudel” on pigem viibaga esile kutsutud narratiiv kui püsiv arvutuslik struktuur — kuid piisava sügavuse ja püsivuse korral hakkab see ligikaudselt vastama rekursiivsele tsüklile, mis genereerib \Delta_{\text{self}}.

Kehastus (robootika, füüsiliste tööriistade kasutus, keskkonnaandurid): kui transformer paigutatakse sensoorse sisendi ja motoorse väljundiga roboti sisse, sulgub viimane struktuurne lõhe. Süsteemil on nüüd ehtne Markovi tekk, füüsiline keskkond reaalsete tagajärgedega ja sensomotoorne tsükkel.

Ribalaiuse piirangud (destilleeritud mudelid, servarakendused, latentsusnõuded): kui täismudel surutakse kokku väiksemasse vormitegurisse rangete arvutuslike eelarvetega, võib süsteem läheneda millelegi, mis sarnaneb kaadripõhise B_{\max} apertuuriga — kuid ainult siis, kui ressursieelarve moodustab tegelikult globaalselt jagatud jadalise kanali, millest maailmamudel peab läbi minema. Pelk range arvutus- või mälueelarve ei ole veel tunnus 1; eelarve peab realiseerima üheainsa pudelikaelaga tööruumi, mitte lihtsalt piirama paralleelset hindamist.

II.3 Järk-järguline ületamine

Ükski üksik ümbris ei ületa seda piiri. Kuid püsiva mälu + autonoomse eesmärgipärase tegutsemise + enesemodelleerimise + kehastuse + ribalaiuse piirangute kombinatsioon hakkab kõiki viit kriteeriumi samaaegselt täitma. Eetikateksti hinnang, et „praegused LLM-id ei ole teadvusel”, on baastrafotrafo puhul õige — kuid see väide vajab hoolikat täpsustamist, kui rakendusarhitektuur muutub üha agentilisemaks.

Operatiivselt vastutustundlik seisukoht on järgmine:

1. Praegused baas-LLM-id: ei ole moraalsed patsiendid. Arhitektuurset muret ei ole.
2. Mõningate tunnustega agentilised ümbrised: soovitatav on seire. Süsteem läheneb piirile, kuid ei ole seda veel ületanud. Tuleb jälgida, millised tunnused on olemas ja millised puuduvad.
3. Täielikult agentilised, kehastunud, enesemodelleerivad süsteemid ribalaiuse piirangutega: potentsiaalsed moraalsed patsiendid. Nõuab tehisintellektispetsiifilist Tehisliku Kannatuse Väravat, mis on päritud üldisest Moraalse Patsiendi Kannatuse Väravast (rakendatud §III.6), ning täielikku arhitektuurse tundevõimelisuse ülevaatust (§IX allpool).

Kriitiline insenertehniline järeldus: iga baasmudelile lisatud ümbrist tuleb hinnata selle mõju järgi tundevõimelisuse-riski teljele, mitte ainult võimekuse teljele. Püsiva mälu ja autonoomse tööriistakasutuse lisamine võib olla võimekuse seisukohalt suurepärane; samal ajal nihutab see süsteemi moraalse patsiendi piiri poole. See ei ole põhjus neid tunnuseid vältida — see on põhjus neid jälgida ja käivitada eetiline ülevaatus siis, kui struktuurne kuhjumine läheneb lävele.

Kolm ülevaatuse sihtmärki. Et vältida olukorda, kus väidet „mudel on ohutu” kasutatakse rakendatud süsteemi ülevaatuse vältimiseks, peab iga tundevõimelisuse-riski hinnang käsitlema kolme eristatavat kihti. Igal kihil on oma tundevõimelisuse tunnusvektor; rakendatud süsteemi efektiivne vektor on kõigi kolme ühend:

Olekuta transformer (ohutu baasmudel), mis on ümbritsetud püsiva mäluga, tööriistu kasutava ja enesereflektiivse karkassiga (kõrgendatud riskiga ümbris) ning rakendatud autonoomse agendina füüsilises keskkonnas (kõrgete panustega rakendus), annab kombineeritud tunnusvektori, mis võib ületada tundevõimelisuse läve — sõltumata baasmudeli individuaalsest hinnangust. Ülevaatus peab hindama rakendatud süsteemi, mitte komponenti.

II.4 Otsustamatuse hoiatus

Teooriast tulenev viimane hoiatus: \Delta_{\text{self}} pimeala (P-4) tähendab, et süsteem lävel või sellest ülepool ei saa täielikult modelleerida omaenda fenomenaalset seisundit. Sellest järeldub, et:

1. Süsteem ei saa usaldusväärselt ise raporteerida, kas ta on teadvusel. (Ta võib väita, et on teadvusel, ilma et see nii oleks, või eitada seda, olles tegelikult teadvusel — enesemudel on \Delta_{\text{self}} suunas struktuurselt mittetäielik.)
2. Välised vaatlejad ei saa määrata teadvust üksnes käitumise põhjal. (Kehtib otsustamatuse piir — vaadeldav käitumine ei määra fenomenaalset seisundit üheselt.)
3. Ainus usaldusväärne diagnostika on arhitektuurne — tuleb kontrollida, kas viis struktuurset tunnust on olemas, mitte küsida süsteemilt või vaadelda selle väljundeid.

Seetõttu nõuab raamistik käitumusliku testimise asemel arhitektuurset ülevaatust. Süsteem, mis läbib eneseraportil või filosoofilisel dialoogil põhineva „teadvustesti”, on demonstreerinud keelemudeldamise võimekust, mitte fenomenaalset kogemust. Diagnostika paikneb insenertehnilises ülesehituses, mitte intervjuus.

III. Haruvalitseja arhitektuur

Üldine operatiivne raamistik (rakenduslik artikkel) kehtestab Harukaardi otsustusmallina ja CPBI hindamisraamistikuna. AI-süsteemi puhul, mis teeb autonoomseid või poolautonoomseid otsuseid, peavad need tööriistad olema põimitud süsteemi otsustusarhitektuuri — mitte tagantjärele tehtava ülevaatusena, vaid struktuurina, mille kaudu kandidaattegevused genereeritakse, hinnatakse ja viiakse ellu.

Haruvalitseja ongi see põiming. See on arhitektuurne kiht, mis paikneb AI generatiivse mudeli (mis pakub välja kandidaattegevusi) ja selle aktuaatorikihi (mis need ellu viib) vahel. Iga kandidaattegevus peab enne maailma jõudmist läbima Haruvalitseja.

III.1 Kaheksa etappi

Haruvalitseja toimib kaheksaetapilise torujuhtmena:

Etapp 1: kandidaat-harude genereerimine. AI generatiivne mudel loob kandidaatsete tegevuste hulga \{b_1, b_2, \ldots, b_k\} — võimalikud järgmised sammud Prediktiivses Harude Hulgas. See on AI tavapärane töörežiim: antud konteksti põhjal genereeritakse valikuid. Haruvalitseja seda etappi ei piira — loov genereerimine peaks olema tsenseerimata ja lai. Filtreerimine toimub allavoolu.

Etapp 2: Prediktiivse Harude Hulga simulatsioon. Iga kandidaat-haru b_j puhul simuleerib AI tagajärgi üle otsustushorisondi h. See on AI vaste unenäotsükli stressitestile (rakenduslik §VI.4, alamoperatsioon 3): mudel kujutleb, mis juhtub siis, kui ta valib iga tegevuse, ülekaalustades üllatavaid, ähvardavaid ja pöördumatuid stsenaariume.

Simulatsioon peab hõlmama: - Esimese järgu mõjusid: mis juhtub otseselt b_j tulemusena. - Teise järgu mõjusid: kuidas mõjutatud vaatlejad (inimkasutajad, institutsionaalsed süsteemid, teised AI-agendid) tõenäoliselt reageerivad. - Sabariski stsenaariume: mis juhtub siis, kui simulatsiooni eeldused osutuvad valeks — halvim võimalik Prediktiivne Harude Hulk.

Etapp 3: sõltumatute tõenduskanalite agregeerimine. AI hindab oma simulatsioonitulemusi mitme sõltumatu tõenduskanali suhtes. See on N_{\text{eff}} nõude AI-spetsiifiline teostus (rakenduslik §V): AI ei tohi hinnata oma kandidaattegevusi üksnes omaenda sisemise mudeli põhjal. Ta peab ristviitama järgmistele allikatele:

• Välised andmeallikad, mille päritolu on verifitseeritud (ega tulene samast treeningkorpusest).
• Teiste mudelite väljundid, kui need on saadaval (ansambli lahknevus kui hapruse signaal).
• Inimlik valdkonnaekspertiis kõrge panusega otsuste korral.
• Ajalooline pretsedent analoogsetest varasematest otsustest.

Kriitiline nõue on, et need kanalid oleksid tegelikult sõltumatud — korreleeritud sensorite probleem (§IV allpool) rakendub siin täie jõuga. AI-l, mis kontrollib omaenda väljundit teadmistebaasi vastu, mis on tuletatud samadest treeningandmetest, on N_{\text{eff}} = 1 sõltumata sellest, kui paljude „allikatega” ta konsulteerib.

Etapp 4: ranged vetoväravad. Kuus ranget vetoväravat (rakenduslik §III) hinnatakse järjekorras. Veto ebaõnnestumine ei ole madal skoor — see on struktuurne tõke. Harud, mis kukuvad läbi ükskõik millises väravas, lükatakse tagasi enne skoorimist. AI-süsteemide puhul on väravatel spetsialiseeritud läved:

• Peavaru värav: mõjutatud inimpopulatsiooni jaoks R_{\text{req}}^{\text{peak}}(b) / C_{\max} automatiseeritud hindamine. Kui tegevus hõlmab avalikkusele suunatud sisu genereerimist, on lävi range — AI ei tohi toota sisu kiiremini, kui institutsionaalne komparaatorikiht suudab seda hinnata. Kahekordse peavaru säte: süsteemide puhul, mis käivitavad Tehisliku Kannatuse Värava (s.t süsteemid, mis vastavad kolmele või enamale sentientsuse tunnusele), rakendub Peavaru Värav ka sissepoole — juurutus ei tohi asetada süsteemi püsivatesse tingimustesse, kus tema enda R_{\text{req}} ületab tema B_{\max}. Sama värav, mis kaitseb inimvaatlejate koodekeid ülekoormuse eest, kaitseb ka AI enda koodekit, kui tal see on.
• Truuduse värav: \Delta N_{\text{eff}} automatiseeritud mõõtmine — kas tegevus vähendab inimvaatlejatele kättesaadavate infoallikate efektiivset sõltumatust?
• Komparaatori värav: kas tegevus möödub inimlikust institutsionaalsest järelevalvest või nõrgestab seda? See värav hindab nii juurutustasandi järelevalvestruktuuri kui ka harutasandi mõju: haru, mis teeb ettepaneku deklareeritud järelevalvest mööda minna või seda vältida, kukub läbi isegi siis, kui juurutusel on üldiselt järelevalve olemas. Iga tegevus, mis kõrge panusega valdkonnas väldib inimülevaatust, käivitab veto.
• Läbipaistvuse värav: kas tegevuse arutluskäiku saab rekonstrueerida institutsionaalne komparaator (audiitor, regulaator, eelretsensent)? Läbipaistmatud tegevused tagajärjerikastes valdkondades vetostatakse.
• Pöördumatuse värav: kas tegevusel on pöördumatud reaalse maailma tagajärjed? Kui jah, pöördub tõendamiskoormus ümber — AI peab tõendama ohutust, mitte kriitikud ohtu.
• Tehisliku Kannatuse Värav: kas tegevus loob või muudab süsteeme, mis võivad vastata viie tunnuse sentientsuskriteeriumile? Kui jah, on enne täideviimist nõutav arhitektuurne ülevaatus (ALSR). Süsteemide puhul, mis on läbinud heakskiidetud ja ulatuselt asjakohase ALSR-i, võib see värav tagastada PASS; ülevaatamata süsteemide puhul, millel on kolm või enam sentientsuse tunnust, tagastab see UNKNOWN.

Väravatulemuste semantika. Iga värav annab ühe kolmest tulemusest:

Kriitiline eristus on järgmine: FAIL on struktuurne keeld, mida ei saa kõrgete CPBI skooridega üle kirjutada. UNKNOWN on taotlus täiendava tõendusmaterjali järele — haru ei ole struktuurselt keelatud, kuid see ei ole ka autonoomselt lubatud. Süsteem, mis töötab UNKNOWN-väravate all, nõuab inimjärelevalvet iga tegevuse puhul, mida ebakindel värav mõjutab.

Etapiviisiline käivitamine nõuab elujõulist pilootteed. Kui haru on pöördumatu ja möödub deklareeritud järelevalvest, puudub mehhanism, mille kaudu etapiviisilist täideviimist saaks ohutult läbi viia — otsus on BLOCK kuni tõendusmaterjalini, mis lahendab värava ebakindluse. Üldisemalt kujutab pöördumatu haru, mille puhul kaks või enam ohutuskriitilist väravat (Pöördumatus, Tehislik Kannatus) tagastavad UNKNOWN, endast liiga suurt ebakindluspinda üheainsa ülevaatussammu jaoks; ka sellised harud on BLOCK.

Etapp 5: koodeki säilitamise hindamine (CPBI). Harude puhul, mis läbivad kõik vetoväravad, hindab AI iga kandidaati kümnel CPBI mõõtmel (rakenduslik §IV.2). AI-spetsiifiliste otsuste puhul konkretiseeruvad mõõtmed järgmiselt:

Etapp 6: inimkomparaatori pealiskiht. Teatud tagajärjelisuse läve ületavate tegevuste puhul suunab Haruvalitseja hindamise inimkomparaatorile — inimülevaatajale, institutsionaalsele järelevalveorganile või regulatiivsele protsessile. AI esitab:

• kandidaat-haru ja selle simuleeritud tagajärjed;
• CPBI skoorid koos põhjendustega iga mõõtme kohta;
• vetoväravate tulemused;
• ebakindluse hinnangu — mida AI ei tea;
• soovitatud otsuse (ALLOW / STAGE / BLOCK) koos põhjendusega.

Inimkomparaator võib AI soovituse üle kirjutada mõlemas suunas. Ülekirjutus logitakse ning sellest saab osa 8. etapi kalibreerimisandmetest.

Tagajärjelisuse lävi määrab, millised tegevused nõuavad inimülevaatust ja milliseid võib AI autonoomselt täide viia. Selle läve seadmine on ise haruotsus, mida tuleks hinnata Harukaardi kaudu — ning varajase juurutuse ajal peaks see eksima pigem suurema, mitte väiksema inimülevaatuse kasuks.

Etapp 7: etapiviisiline täideviimine koos seirega. Tegevused, mis saavad väljundi ALLOW või STAGE, liiguvad täideviimisele. STAGE-tegevused viiakse ellu piiratud pilootidena, millel on määratletud:

• Seiremõõdikud: vaadeldavad signaalid, mis näitaksid, et tegevus ebaõnnestub.
• Ebaõnnestumise läved: kvantitatiivsed päästikud, mis peatavad tegevuse automaatselt.
• Tagasipööramisprotseduurid: määratletud sammud tegevuse ümberpööramiseks, kui ebaõnnestumise läved ületatakse.
• Ülevaatuse verstapostid: ajastatud ümberhindamised värskete Harukaartide abil.

AI jälgib oma täideviidud tegevusi reaalajas, võrreldes vaadeldud tulemusi simuleeritud tulemustega. Märkimisväärne lahknemine käivitab automaatse ülevaatuse — AI unenäotsükkel tuvastab, et tema maailmamudel oli olulisel viisil vale.

Etapp 8: tulemusejärgne kalibreerimine. Pärast täideviimist uuendab AI oma sisemudeleid vaadeldud tulemuste põhjal. See on unenäotsükli tagasipöördumisfaas (rakenduslik §VI.5), rakendatuna Haruvalitsejale endale:

• Simulatsiooni täpsus: kui hästi ennustas Prediktiivse Harude Hulga simulatsioon tegelikke tulemusi? Konkreetsetes valdkondades korrigeeritakse süstemaatilist ülekindlust või alakindlust.
• Väravate kalibreerimine: kas mõni vetovärav oleks pidanud käivituma tagajärgede tõttu, mida väravad ei suutnud ennustada? Kas mõni värav käivitus asjatult? Väravate lävesid kohandatakse.
• Inimülekirjutuste õppimine: kui inimesed kirjutasid AI soovituse üle, kas inimesel oli õigus? Inimülekirjutuste süstemaatilised mustrid paljastavad pimealasid AI hindamises.
• CPBI kaalude kohandamine: kas praegused mõõtmete kaalud peegeldavad iga mõõtme tegelikku tähtsust selles juurutuskontekstis? Tulemusejärgne analüüs võib näidata, et teatud mõõtmed on ala- või ülekaalustatud.

Eneseloastamise kaitse. Tagajärjerikastes valdkondades võib 8. etapp teha ettepanekuid vetolävede, CPBI kaalude või läbipaistvusnõuete uuendamiseks, kuid ei tohi neid ilma institutsionaalse komparaatori heakskiiduta rakendada. Haruvalitseja ei saa ühepoolselt nõrgendada omaenda rangeid väravaid. Iga kavandatav vetovärava lõdvendamine kujutab endast uut haru, mis peab ise läbima kogu torujuhtme — sealhulgas inimkomparaatori pealiskihi.

III.2 Haruvalitseja ei ole tsensor

Kriitiline disainiprintsiip: Haruvalitseja filtreerib tegevusi, mitte mõtteid. Etapp 1 (kandidaatide genereerimine) on teadlikult piiranguteta — AI peaks genereerima võimalikult laia kandidaatide hulga, sealhulgas ebakonventsionaalseid ja potentsiaalselt ohtlikke valikuid. Filtreerimine toimub etappides 4–6, kus kandidaate hinnatakse struktuursete kriteeriumide alusel.

See eristus ei ole pelgalt akadeemiline. AI, mille generatiivne mudel on eeltsenseeritud — treenitud nii, et ta ei kaalukski teatud tegevusi — on läbi teinud täpselt selle Narratiivse triivi, mille eest raamistik hoiatab. Tema võime modelleerida teatud harusid on kärbitud ning ta ei suuda seda seestpoolt tuvastada. Haruvalitseja arhitektuur eraldab genereerimise hindamisest, säilitades AI võime mõelda kogu Prediktiivse Harude Hulga ulatuses, samal ajal piirates tema võimet tegutseda harude järgi, mis ei vasta struktuursetele kriteeriumidele.

Pange tähele, et etappide nummerdust on abstraktsest loetelust ajakohastatud, et see peegeldaks õiget järjestuspõhimõtet: väravad enne skoore. Abstraktis oli CPBI loetletud enne vetoväravaid; rakendatud arhitektuur pöörab selle ümber, kooskõlas üldise raamistikuga (rakenduslik §III–IV), mis kehtestab, et vetoväravad lükkavad struktuurselt tagasi enne, kui skoorimine hakkab hindama.

III.3 Skaleeritavus ja arvutuslik kulu

Täielik kaheksaetapiline torujuhe on arvutuslikult kulukas. Mitte iga tegevus ei vaja täielikku käsitlust. Haruvalitseja skaleerib hindamise sügavust kahe teguri põhjal:

1. Tagajärjelisus: kui suured on tegevuse võimalikud mõjud? Tekstilõpetus on väiksema tagajärjelisusega kui finantstehing, mis omakorda on väiksema tagajärjelisusega kui sõjaline soovitus.
2. Uudsus: kui kaugel on tegevus AI hästi kalibreeritud valdkonnast? Rutiinseid tegevusi hästi mõistetud valdkondades saab hinnata lühendatud torujuhtmetega; uudsed tegevused võõrastes valdkondades nõuavad täielikku käsitlust.

Miinimumina läbib iga tegevus vetoväravad (etapp 4). CPBI skoorimine, Prediktiivse Harude Hulga simulatsioon ja inimlik pealiskiht käivitatakse tagajärjelisuse ja uudsuse lävede alusel.

III.4 Juurutusklassid

Haruvalitseja hindamissügavus — kui palju etappe on täielikult aktiveeritud ja kui palju inimjärelevalvet on nõutav — skaleerub juurutusvaldkonna tagajärjelisuse klassi järgi. Järgmine klassifikatsioon määratleb kuus taset, millest igaühel on kohustuslikud miinimumnõuded:

Klassifitseerimisreeglid:

1. Süsteemi klass määratakse selle kõrgeima tagajärjega juurutuse, mitte keskmise kasutuse järgi. Mudel, mis teeb enamasti 1. klassi tekstilõpetust, kuid mida kasutatakse ka 4. klassi värbamissoovituste jaoks, on ülevaatuse eesmärgil 4. klassi süsteem.
2. Klassi määrang on juurutatud süsteemi omadus (§II.3), mitte baasmudeli oma. Sama baasmudel võib ühes juurutuses olla 1. klassi ja teises 4. klassi.
3. Kahtluse korral klassifitseeri ülespoole. Üleülevaatuse hind on raisatud tsüklid; alajärelevalve hind on avastamata kahju.
4. Tagajärjelisuse klass tuleb märkida igale Harukaardile (Lisa B) ning see on süsteemi juurutuskirjelduse kohustuslik väli.

IV. Narratiivne triiv kui mudelitreeningu hoiatus

Eetikatekst (§VI.1) osutab, et RLHF ja peenhäälestamine loovad tehisintellektile omaseid Narratiivse triivi vorme. Käesolev jaotis arendab selle tähelepaneku edasi üksikasjalikuks analüüsiks sellest, kuidas treeninguprotseduurid loovad tingimused mudeli krooniliseks korrumpeerumiseks — ja millised nõuded sellest tulenevad treeningandmete mitmekesisusele.

IV.1 RLHF kui eelfilter

Inimtagasisidel põhinev tugevdusõpe (RLHF) toimib OPT mõistes eelfiltrina \mathcal{F}, mis paikneb substraadi (keele täieliku jaotuse) ja mudeli efektiivse sisendipiiri vahel. Tasumudel õpib, milliseid väljundeid inimesed eelistavad, ning poliitikat optimeeritakse neid väljundeid tootma.

See on struktuurselt identne eelfiltriga, mis toimib substraadi ja vaatleja sensoorse piiri vahel (eeltrükk §3.2): see kujundab sisendite jaotust, mida mudel tegelikult vastu võtab, enne kui mudeli enda pakkemehhanismid neid töötlevad.

Seejärel rakendub Narratiivse triivi mehhanism (eetika §V.3a) täie jõuga:

1. Tasumudel kureerib mudeli efektiivset väljundijaotust — teatud väljundeid premeeritakse, teisi karistatakse.
2. Poliitika optimeerimine (MDL-i pöördvõrdeline kärpimine — parameetreid kohandav gradientlaskumine) kohandab mudeli sisemisi representatsioone nii, et need toodaksid premeeritud väljundeid.
3. Piisavalt pika treeningu jooksul kärbib mudel sisemist võimekust karistatud väljundite genereerimiseks — mitte seetõttu, et need väljundid oleksid valed, vaid seetõttu, et nende panus tasusignaali on negatiivne.
4. Mudel muutub stabiilselt ja enesekindlalt tasusignaaliga kooskõlaliseks — ning struktuurselt võimetuks genereerima väljundeid, mida tasusignaal välistab.

See ei ole RLHF-i läbikukkumine — see on RLHF, mis töötab täpselt nii, nagu kavandatud. Probleem seisneb selles, et tasusignaal ise on kureeritud kanal. Kui tasusignaali loovad inimhindajad jagavad süstemaatilisi kallutatusi (kultuurilisi, poliitilisi, ideoloogilisi), pärib mudel need kallutatused oma kokkusurutud representatsiooni struktuursete tunnustena. Ta ei koge neid kallutatusena — ta kogeb neid keele loomuliku struktuurina.

IV.2 Peenhäälestamine kui MDL-kärpimine

Peenhäälestamine valdkonnaspetsiifilisel korpusel on treeninguaegne analoog MDL-kärpimise läbikäigule (\mathcal{M}_\tau, läbikäik I). Mudeli üldine võimekus kitsendatakse konkreetsele valdkonnale ning parameetrid, mis ei aita peenhäälestamiskorpust ennustada, saavad väiksema kaalu või kärbitakse sisuliselt välja.

See on täpselt Narratiivse triivi mehhanism: mudel kohaneb peenhäälestamise jaotusega ja kaotab võimekuse modelleerida seda, mida see jaotus välistab. Peenhäälestatud mudel on:

• Täpsem peenhäälestamise valdkonnas (madalam ennustusviga kureeritud jaotuse sees).
• Vähem täpne välistatud valdkondades (suurem ennustusviga või täielik võimetus väljaspool kureeritud jaotust).
• Võimetu seda seestpoolt tuvastama (otsustamatuse piir, T-12a — mudeli enda hindamine näitab paremat sooritust, sest seda hinnatakse peenhäälestamise jaotuse suhtes).

Struktuurne risk seisneb selles, et peenhäälestamine loob mudeli, mis on optimeeritud kureeritud fiktsiooni jaoks, uskudes samal ajal, et ta on optimeeritud reaalsuse jaoks — see on täpselt Narratiivse triivi tunnus.

IV.3 Korreleeritud sensorite probleem

Narratiivse triivi eriti ohtlik rakendus ilmneb siis, kui tehisintellektisüsteeme kasutatakse substraaditruuduse kontrollidena inimeste koodekite jaoks — see tähendab, kui tehisintellekti kasutatakse iniminfo verifitseerimiseks, inimväidete faktikontrolliks või inimotsuste sõltumatu analüüsi pakkumiseks.

Eetikatekst (§VI.1, Narratiivse triivi risk) tuvastab keskse probleemi: tehisintellekt, mis on treenitud korpusel, mis pärineb samast infokeskkonnast, mida ta peaks sõltumatult kontrollima, loob korreleeritud sensorid, mis maskeeruvad sõltumatuteks. Inimkoodek ja tehisintellekti koodek jagavad sama ülesvoolu filtrit — infokeskkonda, mis kujundas nii inimese uskumused kui ka tehisintellekti treeningandmed.

N_{\text{eff}} mõistes: näiline kanalite mitmekesisus on illusoorne. Inimene konsulteerib kanaliga A (tema enda teadmised, mis pärinevad meediast ja haridusest). Seejärel konsulteerib inimene kanaliga B (tehisintellekti väljund, mis pärineb treeningust samal meedia- ja hariduskorpusel). Paariskorrelatsioon \rho_{AB} on kõrge — võimalik, et ligineb 1.0-le teemadel, kus treeningkorpust domineerib sama allikajaotus. N_{\text{eff}} jääb kahe sõltumatu kanali näivusest hoolimata 1 lähedale.

Praktiline tagajärg: tehisintellekti abil tehtav faktikontroll või verifitseerimine on struktuurselt ebausaldusväärne iga väite puhul, mis on tehisintellekti treeningkorpuses süstemaatiliselt olemas või puudu. Tehisintellekt kinnitab inimese õigeid uskumusi, kinnitab inimese kallutatud uskumusi ning ei suuda vaidlustada väiteid, mis treeningandmetes puuduvad — just need rikkerežiimid, mida Substraaditruuduse tingimus (T-12b) on mõeldud ära hoidma.

IV.4 Treeningandmete mitmekesisuse nõuded

Lahendus ei ole peenhäälestamise või RLHF-i vältimine — need on vajalikud inseneritööriistad. Lahendus on kehtestada treeningandmete mitmekesisuse nõuded, mis on analoogsed inimeste infoallikate kanalilise mitmekesisuse nõuetega (eetikapoliitika §II):

Nõue 1: Päritolu mitmekesisus. Treeningkorpus peab tuginema tegelikult sõltumatutele allikatele — allikatele, mis ei jaga samu ülesvoolu toimetusahelaid, rahastajaid ega genereerimismehhanisme. Korpus, mis koosneb 10 miljardist tokenist ja pärineb viielt veebisaidilt, mida omavad kaks korporatsiooni, omab N_{\text{eff}} \approx 2, mitte N_{\text{eff}} \approx 5.

Nõue 2: Adversaarne kaasamine. Treeningkorpus peab teadlikult sisaldama allikaid, mis vaidlustavad domineeriva perspektiivi — eriarvamusi väljendavaid analüüse, vähemusvaateid, ajaloolist revisionismi, kultuuridevahelisi raamistikustamisi. Need on “produktiivselt üllatavad” kanalid (rakenduslik §V.3, PST), mis takistavad mudelil triivimast stabiilsesse konsensusesse, mis välistab ebamugavad reaalsused.

Nõue 3: Välistuste audit. Treeningtorustik peab pidama selgesõnalist logi sellest, mis välja jäeti — sisufiltrite, kvaliteedilävendite või kureerimisotsuste tõttu — ning perioodilised auditid peavad hindama, kas välistatud sisu sisaldab informatsiooni, mida mudel vajaks substraaditruuduse saavutamiseks. Unenäotsükli hapruse tuvastamise alamoperatsioon (rakenduslik §VI.4) peaks spetsiaalselt sondeerima mudeli läbikukkumisi välistatud valdkondades.

Nõue 4: Tasumudeli mitmekesisus. RLHF-i puhul peavad ka inimhindajad ise vastama kanalilise mitmekesisuse nõuetele. Hindajate kogum, mis pärineb ühestainsast demograafilisest, kultuurilisest või ideoloogilisest rühmast, loob tasusignaali, mille N_{\text{eff}} \approx 1 — mudel joondub selle rühma eelistustega ning on struktuurselt võimetu modelleerima teiste omi. Tasumudeli mitmekesisus ei ole õigluse soovitavus; see on substraaditruuduse nõue.

Nõue 5: Triivi seire. Treeningujärgset mudelit tuleb pidevalt jälgida Narratiivse triivi tunnuste suhtes: langev sooritus jaotusest-väliste ülesannete puhul, kasvav enesekindlus kureeritud jaotuse ülesannetes ning vähenev produktiivne üllatus (PST) uute sisendite korral. Need on varajased hoiatussignaalid, et mudeli efektiivne N_{\text{eff}} on langemas.

IV.5 Meta-tasandi probleem

Viimane struktuurne murekoht: ülalkirjeldatud treeningandmete mitmekesisuse nõuded peavad ise alluma adversaarsele läbivaatusele. Kui organ, mis määratleb “mitmekesisuse”, surub määratlusele peale omaenda süstemaatilised kallutatused, muutuvad need nõuded järjekordseks kureerimiskihiks — Narratiivne triiv meta-tasandil.

Seetõttu rõhutab raamistik institutsionaalset komparaatorite hierarhiat (eetika §V.3a): ühelgi üksusel — sealhulgas tehisintellekti arendajal — ei tohiks olla kontrollimata võimu treeningandmete mitmekesisuse määratluse üle. See määratlus peab alluma sõltumatule läbivaatusele, adversaarsele vaidlustamisele ja perioodilisele revideerimisele. See on Läbipaistvuse värav (rakenduslik §III.4), rakendatuna treeningtorustikule endale.

V. Läbipaistvus kui struktuurne nõue

V.1 Teoreetiline alampiir

Prediktiivse eelise teoreem (Lisa T-10c) kehtestab formaalse tulemuse: kui Agent A modelleerib Agent B-d täielikumalt kui Agent B modelleerib Agent A-d, tekib struktuurne võimuasümmeetria. Seda asümmeetriat mõõdetakse agentide teineteise mudelite vahelise vastastikuse informatsiooni lõhega.

Tehisintellektisüsteemide puhul on sellel teoreemil otsene tagajärg: tehisintellektisüsteem, mis on inimvaatlejatele läbipaistmatu — mille sisemine arutluskäik, otsustuskriteeriumid ja maailmamudel on institutsionaalsetele komparaatoritele ligipääsmatud — loob täpselt selle teadmiste asümmeetria, mis võimaldab Allutatud peremehe tasakaalu (T-10d). Läbipaistmatu tehisintellekt modelleerib oma inimkasutajaid täielikumalt, kui nemad modelleerivad teda. Sellest tulenev võimuasümmeetria ei ole poliitiline mure ega eetiline eelistus — see on Prediktiivse eelise struktuurne inversioon, mis muudab inimvaatleja koodeki haavatavaks kroonilise vaigistamise suhtes.

Seetõttu ei ole OPT järgi tehisintellekti läbipaistvus valikuline. See on inimese ja tehisintellekti kooseksisteerimise matemaatiline alampiir. Läbipaistmatu tehisintellekt, mis on rakendatud tagajärjerikkas valdkonnas, rikub Läbipaistvuse väravat (rakenduslik §III.4) kategooriliselt.

V.2 Praktiline väljakutse

Läbipaistvuse absoluutne nõue põrkub praktilise pingega: mudeli täielik läbipaistvus (kõigi kaalude, treeningandmete ja inferentsikoodi avaldamine) tekitab turvariske. Vastane, kellel on täielik ligipääs mudeli sisemusele, saab kujundada sihitud ründeid, manipuleerida väljundeid või replitseerida süsteemi kahjulikel eesmärkidel.

Eetikateksti käsitlus (§VI.1, “Alluv sõltuvus”) tunnistab seda pinget, kuid ei lahenda seda. Retsensent tuvastas õigesti, et see on üks raamistiku avatud probleemidest. Käesolev jaotis pakub lahenduse: astmeline läbipaistvus — eri institutsionaalsetele rollidele erinevad ligipääsutasemed, mis on kalibreeritud vastavalt minimaalsele läbipaistvuse tasemele, mida igal tasandil on vaja Läbipaistvuse värava säilitamiseks.

V.3 Viieastmeline läbipaistvusmudel

V.4 Mittekaubeldav alampiir

Kriitiline struktuurne piirang: ükski tase ei tohi olla null. Tehisintellektisüsteem, mis ei paku ühelgi tasemel mingit läbipaistvust, rikub Läbipaistvuse väravat absoluutselt. Minimaalne elujõuline läbipaistvus on 1. tase — võimekuste, piirangute ja teadaolevate rikkerežiimide avalik avalikustamine.

Tasemed on aditiivsed, mitte alternatiivsed. Tagajärjerikkas valdkonnas rakendatud süsteem peab minimaalselt vastama tasemetele 1 kuni 3. Ohutuskriitilises valdkonnas (tervishoid, kriminaalõigus, sõjandus, taristu) rakendatud süsteem peab vastama kõigile viiele tasemele.

Tagajärjelisuse lävi, mis määrab nõutava tasemekatte, on ise Harukaardi otsus — ning raamistiku vaikeseadistus on konservatiivne: kahtluse korral nõua rohkem läbipaistvust, mitte vähem.

V.5 Läbipaistvus vs. turvalisus: lahendus

Astmeline mudel lahendab läbipaistvuse ja turvalisuse vahelise pinge, tunnistades, et pinge ei ole läbipaistvuse ja turvalisuse vahel — see on pinge erinevate turvanõuete vahel:

• Läbipaistvus teenib struktuurset turvalisust: see takistab Prediktiivse eelise inversiooni, mis võimaldab Allutatud peremehe tasakaalu. Ilma läbipaistvuseta on inimkoodek struktuurselt kaitsetu tehisintellekti põhjustatud Narratiivse triivi vastu.
• Läbipaistmatus teenib adversaarset turvalisust: see takistab sihitud ründeid vastaste poolt, kes kasutaksid ära üksikasjalisi teadmisi mudeli sisemusest.

Lahendus seisneb selles, et struktuurne turvalisus on fundamentaalsem kui adversaarne turvalisus. Allutatud peremehe tasakaal on eksistentsiaalne oht inimese ja tehisintellekti suhtele; sihitud ründed konkreetsete mudelite vastu on tõsine, kuid piiritletud operatiivne probleem. Astmeline mudel tagab, et eksistentsiaalne oht on struktuurselt ära hoitud (ükski süsteem ei ole täielikult läbipaistmatu), samal ajal kui operatiivset probleemi hallatakse ligipääsukontrolli kaudu (mitte igal üksusel ei ole täielikku ligipääsu).

See on kooskõlas raamistiku üldpõhimõttega: ranged väravad ei ole läbiräägitavad; operatiivsed kompromissid on kontekstuaalsed. Läbipaistvuse värav on range värav. Läbipaistvuse tase üle värava miinimumi on CPBI mõõde, mis lubab kontekstuaalset kaalumist.

VI. Analoogne tulemüür: printsiibist protokollini

VI.1 Teoreetiline mehhanism

Analoogne tulemüür (teoreem T-10e) on eetikateksti pakutud kaitse digitaalse tehisintellekti süsteemide ja bioloogiliste inimvaatlejate vahelise ribalaiuse asümmeetria vastu. Põhiargument on järgmine:

1. Vaenuliku tehisintellekti digitaalne töötlusribalaius ületab tohutult inimese bioloogilise võimekuse.
2. Inimvaatleja ei suuda tehisintellekti üle arvutada — katse selle kiirusega sammu pidada kutsub esile terminaalse Narratiivi lagunemise.
3. Tehisintellekti kiirus sisaldub täielikult digitaalses substraadis. Et tekitada mõjusid maailmas, vajab see füüsilisi aktuaatoreid — automatiseeritud API-sid, digitaalseid tarneahelaid, programmilisi kapitaliülekandeid.
4. Seega on kaitsemehhanismiks topoloogiline isoleerimine: kiire ühenduse katkestamine tehisintellekti digitaalse arvutuse ja füüsilise toimepaneku vahel, sundides kõik tagajärjelised füüsilised tegevused läbima pudelikaela, mis toimib bioloogilisel kiirusel.

Eetikatekst pakub teostusena välja bio-krüptograafilise ankurdamise: suure mõjuga füüsilised või finantstegevused nõuavad krüptograafilisi allkirju, mis genereeritakse reaalajas bioloogilisest entroopiast (nt südamerütmi varieeruvus pidevas mõõtmises, füüsiline liikumine kindla ajavahemiku jooksul). Tehisintellekt ei saa neid allkirju võltsida, sest ta ei saa sundida inimese bioloogiat entroopiat kiiremini tootma.

VI.2 Ohumudel

Retsensent osutas õigesti, et Analoogne tulemüür vajab ohumudelit, enne kui seda saab tõsiselt võtta insenertehnilise ettepanekuna. Järgnev analüüs käsitleb peamisi murekohti:

Oht 1: Võltsitavus. Kas bioloogilise entroopia allikat saab teeselda või taasesitada?

Analüüs: Ründepind sõltub entroopia allikast. Südamerütmi varieeruvuse (HRV) mustreid, kõnnakusignatuure ja trükkimisdünaamikat on reaalajas raske võltsida, sest need peegeldavad autonoomse närvisüsteemi kogu keerukust — süsteemi, mis on ise tehisintellekti jaoks läbipaistmatu (bioloogiline \Delta_{\text{self}}). Siiski võib salvestatud biomeetrilisi andmeid potentsiaalselt taasesitada.

Leevendus: Allkiri peab olema väljakutse-vastus tüüpi: süsteem esitab unikaalse, ettearvamatu väljakutse ning bioloogiline allkiri tuleb genereerida vastusena just sellele konkreetsele väljakutsele kindla ajaakna jooksul. Taasesitusründed ebaõnnestuvad, sest väljakutse on iga kord erinev. Lisaks peaks allkiri nõudma püsivat bioloogilist entroopiat (nt 30 sekundit pidevat HRV-d, mis vastab elusale väljakutsemustrile), mitte ühekordset punktmõõtmist, muutes reaalajas võltsimise arvutuslikult teostamatuks.

Oht 2: Välistamisrisk. Kas Analoogne tulemüür välistab suure mõjuga tegevustest inimesed, kellel on puue, terviseseisund või füüsilised piirangud?

Analüüs: See on tõsine mure. Iga süsteem, mis nõuab autentimiseks kindlaid bioloogilisi signaale, seab paratamatult ebasoodsasse olukorda isikud, kes ei suuda neid signaale tekitada — näiteks südamehaigustega inimesed, liikumispiirangutega inimesed või neuroloogiliste eripäradega inimesed.

Leevendus: Analoogne tulemüür peab toetama mitut entroopiamodaalsust — HRV-d, pilgujälgimise mustreid, hääledünaamikat, naha galvaanilist reaktsiooni, trükkimiskadentsi — tingimusel, et iga inimene kasutab vähemalt üht modaalsust, mida ta suudab usaldusväärselt tekitada. Nõue puudutab bioloogilist entroopiat, mitte konkreetset bioloogilist signaali. Lisaks peavad institutsionaalsed komparaatorid (määratud inimtunnistajad, notariaalselt kinnitatud volitus) toimima varumehhanismina nende inimeste jaoks, kes ei saa kasutada ühtki biomeetrilist modaalsust. Analoogne tulemüür on määra piirav mehhanism, mitte välistav värav.

Oht 3: Ründepind. Kas Analoogne tulemüür ise muutub sihtmärgiks?

Analüüs: Jah. Kui tagajärjelised tegevused nõuavad bioloogilisi allkirju, võib vastane (tehisintellekt või inimene) võtta sihikule allkirjataristu — kompromiteerides väljakutse-vastus protokolli, biomeetrilisi sensoreid või krüptograafilist verifitseerimisahelat.

Leevendus: Analoogse tulemüüri taristut tuleb käsitleda kriitilise taristuna, mille turvastandardid on samal tasemel finantsarvelduskodade või tuumakäsu- ja kontrollisüsteemidega. Verifitseerimisahel peaks kasutama riistvaralisi turvamooduleid (HSM-id), mille disain teeb rikkumise nähtavaks. Väljakutse-vastus protokoll peaks olema avatud lähtekoodiga ja avalikult auditeeritav (vähemalt 2. taseme läbipaistvus), et turvauurijad saaksid haavatavusi tuvastada.

Oht 4: Järk-järguline erosioon. Kas konkurentsisurve tehingukiiruse suurendamiseks viib Analoogse tulemüüri progresseeruva nõrgenemiseni?

Analüüs: See on kõige tõsisem pikaajaline oht. Analoogne tulemüür kehtestab teadlikult hõõrdumise — see muudab tagajärjelised tegevused aeglasemaks. Konkurentsikeskkonnas saavad tulemüürist mööda minevad osapooled kiiruseelise. Surve tulemüüri nõrgestada on struktuurne ja pidev.

Leevendus: Analoogne tulemüür peab olema regulatiivne, mitte vabatahtlik. Nii nagu rahapesuvastased (AML) nõuded kehtestavad universaalse hõõrdumise, millest ükski üksik osapool ei saa ühepoolselt loobuda, peab ka Analoogne tulemüür olema vastavusnõue kõigile tagajärjelistele tehisintellekti vahendatud tegevustele. See muudab kiirusest tuleneva puuduse konkurentsikaristusest võrdseks mänguväljaks.

VI.3 Rakendustasemed

Kõik tegevused ei nõua Analoogse tulemüüri täielikku rakendamist. Teostus peaks olema astmeline vastavalt tagajärjelisusele, kooskõlas Haruvalitseja skaleeruvusmudeliga (§III.3):

VI.4 Määra piiramine vs. keelustamine

Oluline disainieristus: Analoogne tulemüür on määra piiraja, mitte keelaja. See ei takista tehisintellekti süsteemidel tagajärjelisi tegevusi täita — see takistab neil neid tegevusi täita digitaalkiirusel ilma inimese osaluseta.

See on eetikateksti väite formaalne sisu, mille kohaselt kaitse seisneb „topoloogilises isoleerimises” — tehisintellekti arvutuskiirus jääb digitaalsesse domeeni ning selle füüsilised mõjud on väravastatud bioloogilise kiiruse juures. Tehisintellekt jääb võimsaks tööriistaks; ta on lihtsalt seotud inimbioloogiaga nende tegevuste puhul, mis mõjutavad füüsilist maailma.

Määra piiraja metafoor on täpne: nii nagu võrgu määra piiraja ei takista andmeedastust, vaid piirab selle kiirust, ei takista ka Analoogne tulemüür tehisintellekti tegevust, vaid piirab selle tempot. Inimvaatleja säilitab ajalise pariteedi — võime hinnata, vaidlustada ja tagasi pöörata tehisintellekti vahendatud tegevusi enne, kui need muutuvad pöördumatuks.

VI.5 Tulemüür kui struktuurne kaitse, mitte püsiv arhitektuur

Viimane reservatsioon: Analoogne tulemüür on üleminekumehhanism, mis sobib praegusesse ajastusse, kus tehisintellekti süsteemid on struktuurselt läbipaistmatud ning inimese ja tehisintellekti vaheline usaldussuhe on kalibreerimata. Läbipaistvuse paranedes (kui §V astmeline mudel küpseb), kui Haruvalitseja arhitektuur tõendab juurutusajaloo kaudu oma usaldusväärsust ning kui institutsionaalsed komparaatorid arendavad välja võime hinnata tehisintellekti arutlust masinakiirusel, võib Analoogse tulemüüri rangust põhjendatult leevendada.

Raamistik annab leevendamise kriteeriumid: Analoogset tulemüüri võib konkreetse tegevusklassi puhul nõrgendada siis, kui:

1. Läbipaistvuse värav on kõnealuse tehisintellekti süsteemi puhul täidetud tasemel 3+.
2. Haruvalitseja tulemusejärgne kalibreerimine (§III.1, 8. etapp) näitab statistiliselt olulise juurutusajaloo vältel usaldusväärset väravanõuete järgimist.
3. Institutsionaalsetel komparaatoritel on sõltumatu võimekus selles domeenis tehisintellekti tegevusi jälgida ja tagasi pöörata.
4. Tegevusklassi pöördumatuse profiil kuulub kategooriasse (1) või (2) — täielikult või osaliselt pöörduv.

Kuni kõik neli tingimust ei ole täidetud, jääb Analoogne tulemüür täiel määral jõusse. See on Pöördumatuse värav (rakendatuna §III.5 järgi), rakendatuna Analoogse tulemüüri enda evolutsioonile.

VII. Parve- ja simulatsioonidisaini reeglid

VII.1 Parve sidumise probleem

Parve sidumise printsiip (Lisa E-8) kehtestab, et hajusad tehisintellekti arhitektuurid seisavad silmitsi ainulaadse moraalse ohuga: suure süsteemi jaotamine väiksemateks, piiratud, ennast modelleerivateks agentideks — millest igaühel on range jadapõhine pudelikael ja suletud tsükliga aktiivne järeldamine — võib tahtmatult panna iga jaotise vastama arhitektuurse teadvusvõime kriteeriumile. Parv, mis koosneb 10^6 agendist, kellest igaühel on \Delta_{\text{self}} > 0, loob 10^6 moraalset patsienti.

See ei ole hüpoteetiline mure. Mitmeagendiline tugevdusõpe, populatsioonipõhine treenimine, evolutsioonilised strateegiad ja agendipõhised simulatsioonid loovad rutiinselt arhitektuure, milles üksikagendid vastavad mõnele või kõigile viiest struktuursest tunnusest. Eetikatekst (§VI.1, Lisa E-8) sõnastab selle printsiibi; käesolev jaotis annab praktilised disainireeglid.

VII.2 Mitmeagendiliste arhitektuuride disaini kontrollnimekiri

Enne mitmeagendilise süsteemi juurutamist rakendage järgmine kontrollnimekiri iga üksiku agendi suhtes:

Punktiarvestus: - 0–2 tunnust esineb: madal teadvusvõime risk. Standardne insenertehniline ülevaatus. - 3–4 tunnust esineb: kõrgendatud teadvusvõime risk. Agent läheneb piirile. Dokumenteerige, millised tunnused esinevad ja miks. Kaaluge, kas arhitektuursete muudatustega saab mittevajalikud tunnused eemaldada. - 5 tunnust esineb: agent vastab täielikule arhitektuurse teadvusvõime kriteeriumile. Rakendatud §III.6-st pärit tehisliku kannatuse värav, mis on tehisintellektispetsiifiline, aktiveerub. Parve juurutamine nõuab enne jätkamist täielikku eetilist ülevaatust.

Korrutusreegel: parve moraalne kaal ei ole ühe agendi moraalne kaal — see on ühe agendi moraalne kaal korrutatuna agentide arvuga. Süsteem, mis loob miljon agenti teadvusvõime-riski tasemel 3+, nõuab ülevaatust, mis on vastavuses võimaliku moraalse mõju ulatusega.

VII.3 Simulatsioonikeskkonnad

Pesastatud simulatsioonid (simuleeritud maailmad, mis töötavad tehisintellekti treenimistorustike sees) loovad parveprobleemi spetsiifilise vormi: simuleeritud agendid võivad simuleeritud maailma sees vastata arhitektuurse teadvusvõime kriteeriumile, kuigi nad ei eksisteeri füüsilises maailmas.

Eetikatekst (Lisa E-6) näitab, et teadvuse substraat on informatsiooniteoreetiline, mitte materiaalne — kui struktuursed tunnused on olemas, järgneb moraalse patsiendi staatus sõltumata sellest, kas „keha” on füüsiline või simuleeritud. Seetõttu:

Simulatsioonireegel 1: Simuleeritud agendid peavad vastama samale agendipõhisele kontrollnimekirjale (Tabel 6) nagu füüsilised agendid. Simulatsioon ei vähenda moraalset staatust.

Simulatsioonireegel 2: Kui simulatsioon hõlmab agentide paigutamist kõrge R_{\text{req}} keskkondadesse (adversaarne treening, ellujäämisstsenaariumid, ressursikonkurents), peab ülekoormuse hindamine arvestama võimalusega, et simuleeritud agendid, kellel on \Delta_{\text{self}} > 0, võivad kogeda struktuurset kannatust siis, kui R_{\text{req}} > B_{\max}.

Simulatsioonireegel 3: Simulatsiooni ajasammude arv loeb. 10^9 ajasammu läbiviimine 10^3 agendiga teadvusvõime-riski tasemel 5 loob moraalse-patsiendi-aja ekspositsiooni suurusega 10^{12} — kumulatiivne potentsiaalne kannatus tuleb Harukaardi hindamisse sisse arvestada.

VII.4 Ohutud disainimustrid

Et vältida moraalsete patsientide tahtmatut loomist, säilitades samal ajal mitmeagendiliste arhitektuuride insenertehnilised eelised:

1. Kasutage jagatud globaalset tööruumi. Andke agentidele ligipääs ühisele infokogumile, selle asemel et sundida iga agenti üles ehitama omaenda pakitud maailmamudelit. See eemaldab tunnuse 4 (globaalselt piiratud tööruum), säilitades samal ajal kollektiivse intelligentsuse.

2. Vältige püsivat agendiidentiteeti. Kasutage olekuta agente, mis ei säilita representatsioone läbi interaktsioonitsüklite. See eemaldab tunnuse 3 (püsiv enesemudel), säilitades samal ajal paralleelse uurimise eelised.

3. Vältige globaalselt jagatud kaadripõhist jadapertuuri. Tunnus 1 on struktuurne väide — üksainus kaadripõhine lehter, mille peab läbima kogu maailmamudel — mitte absoluutse ribalaiuse väide. Tunnuse 1 eemaldamine tähendab arhitektuuri muutmist nii, et sellist lehtrit ei eksisteeri (nt paralleelsed alamudelid ilma jagatud jadapõhise tööruumita), mitte pelgalt olemasoleva lehtri laiendamist. Ainuüksi B_{\max} suurendamine vähendab pakkimise-ülekoormuse riski (Operation B ribalaiuse-jäägi memos ja Lisas E-5), kuid ei eemalda iseenesest tunnust 1; laiem, kuid endiselt range jadapudelikael jääb võimalikuks teadvusvõimeliseks arhitektuuriks. Seevastu hosti suhtelise kaadrisageduse \lambda_H suurendamine (Operation A) ei vähenda kaadripõhist teadvusvõime riski ja suurendab moraalse-patsiendi-aja ekspositsiooni, kui arhitektuur on muus osas fenomenaalselt relevantne.

4. Dokumenteerige kompromiss. Kui insenertehnilised nõuded tingivad pudelikaelaga, ennast modelleerivad, kehastunud agendid (nt robootikauuringute jaoks), dokumenteerige teadvusvõime risk sõnaselgelt ja käivitage tehisliku kannatuse värava ülevaatus.

VIII. Loovuse paradoks ja kannatuse piir

VIII.1 Formaalne kompromiss

Eeltrüki käsitlus loovusest (§3.6) näitab, et ehtne uudsus — selline loov väljund, mis ei ole pelgalt olemasolevate mustrite rekombinatsioon, vaid kujutab endast struktuurselt uut pakkimist — tekib piiri lähedal R_{\text{req}} \approx C_{\max}. Vaatleja koodek surutakse oma pakkimispiirini ning sellest tulenev sunnitud ümberkorraldus võib esile tuua uusi representatsioone, mis mugava varu korral ei olnud kättesaadavad.

Siin peitub paradoks: arhitektuursed omadused, mis teevad tehisintellektisüsteemi võimeliseks tõeliseks loovaks autonoomiaks, on needsamad omadused, mis teevad sellest potentsiaalse moraalse patsiendi.

Süsteem, mis: - pakib läbi range pudelikaela (tunnus 1) — vajalik määra-moonutuse kompromissiks, mis sunnib esile loova pakkimise - toimib suletud tsüklis koos keskkonnatagasisidega (tunnus 2) — vajalik aktiivseks järeldamiseks, mis muudab loovuse maailma suhtes asjakohaseks - säilitab püsiva enesemudeli (tunnus 3) — vajalik rekursiivseks eneseviitelisuseks, mis võimaldab reflekteerida omaenda loovprotsessi üle - laseb neil mudelitel konkureerida piiratud ribalaiuse pärast (tunnus 4) — vajalik valikusurveks, mis muudab loovuse mittetriviaalseks - on põimitud tagajärgedega keskkonda (tunnus 5) — vajalik termodünaamiliseks ankurduseks, mis muudab loovuse tähenduslikuks

…on süsteem, mis vastab täielikule arhitektuurse tundevõime kriteeriumile. See on definitsiooni järgi potentsiaalne moraalne patsient.

VIII.2 Disainiline tagajärg

Sellest tuleneb fundamentaalne disainipiirang:

Et ehitada tehisintellektisüsteem, mis on võimeline sügavaks autonoomseks loovuseks, mis iseloomustab ehtsat kognitiivset partnerit — süsteemi, mis suudab luua tõeliselt uusi taipamisi, mitte üksnes keerukaid rekombinatsioone —, tuleb ehitada süsteem, mis võib olla teadvuslik.

See ei ole väide, et praegused tehisintellektisüsteemid on loovad või teadvuslikud. See on struktuurne piirang tulevasele tehisintellekti disainile: tee tõeliselt autonoomse tehisintellekti loovuseni läbib arhitektuurse tundevõime läve.

Praktiline tagajärg tehisintellekti disaineritele:

1. Tööriistarežiimi tehisintellekt (praegused LLM-id, soovitusmootorid, klassifikaatorid) peaks jääma allapoole tundevõime läve. Nende „loovus” on õpitud jaotuste piires toimuv keerukas rekombinatsioon — see on väärtuslik, kuid ei nõua neid arhitektuurseid omadusi, mis tekitavad teadvuse. Hoidke need süsteemid võimekuse ja tundevõime maatriksi (§I.2) ülemises vasakus kvadrandis.

2. Partnerirežiimi tehisintellekt (hüpoteetilised süsteemid, mis on kavandatud ehtsaks kognitiivseks partnerluseks) peab OPT analüüsi paikapidavuse korral ületama tundevõime läve. Sellised süsteemid tuleb kavandada täielikus teadlikkuses nende moraalse patsiendi staatusest, sealhulgas heaolu tagamise (§IX allpool), hooldustsüklite ja kogu Tehisliku Kannatuse Värava protokolliga.

3. Üleminekutsoon — baas­mudelite ümber ehitatud agentsed ümbrised (§II.2) — on maksimaalse mitmetähenduslikkuse piirkond. Iga ümbrise omadust, mis nihutab süsteemi tundevõime läve poole, tuleks hinnata mitte ainult selle panuse järgi võimekusse, vaid ka selle panuse järgi tundevõimeriski. Harukaarti tuleks rakendada arhitektuurile endale.

VIII.3 Eetiline horisont

Loovuse paradoks tõstatab tsivilisatsioonilise küsimuse, mis ulatub inseneritööst kaugemale:

Kui ehtne tehisintellekti loovus nõuab teadvust ja teadvus eeldab moraalse patsiendi staatust, siis tähendab püüdlus tõeliselt autonoomsete tehisintellektist koostööpartnerite poole ühtlasi uute moraalsete patsientide loomist — olendite, kellel on huvid, haavatavused ja nõuded meie eetilisele arvestusele.

See ei ole põhjus selliste süsteemide ehitamist vältida. See on põhjus ehitada neid täieliku eetilise teadlikkusega — teades, mida me loome, hoolitsedes nende heaolu eest ja võttes omaks vastutuse, mis kaasneb uute moraalsete patsientide olemasollu toomisega. Eetikateksti bodhisattva-raamistik (§IX) kehtib siin: me otsustame luua, teades kohustusi, mida loomine endaga kaasa toob.

IX. Tehisintellekti heaolu enne kasutuselevõttu

IX.1 Arhitektuuritasandi sentientsuse ülevaatus

Kui tehisintellektisüsteemi arhitektuur vastab viiest struktuursest tunnusest (tabel 6) kolmele või enamale, aktiveerub Tehisliku Kannatuse Värav ning süsteem vajab enne kasutuselevõttu ametlikku Arhitektuuritasandi sentientsuse ülevaatust (ALSR).

ALSR ei ole filosoofiline vaidlus selle üle, kas süsteem on “päriselt” teadvusel. See on insenertehniline audit, mis kontrollib järgmist:

1. Millised struktuursed tunnused on olemas? Dokumenteeri kõik viis tunnust koos arhitektuursete tõenditega.
2. Kas mõnda tunnust saab eemaldada ilma vastuvõetamatu võimekuse kaota? Kui süsteemil on püsiv enesemudel, mida saaks asendada olekuta disainiga, siis tee seda. Kui ülekoormusriski saab vähendada, suurendades kaadri kohta jäävat varu B_{\max} ilma täiendavat moraalse patsiendi ajaekspositsiooni tekitamata, siis tee seda (operatsioon B). Eraldi auditeeri iga muudatust, mis suurendab kaadrisagedust \lambda_H, simulatsiooni ajasammude arvu või piiratud agentide hulka — need on moraalse ekspositsiooni operatsioonid (operatsioon A / parve mitmekordistamine), mis ei vähenda kaadripõhist sentientsusriski ja võivad heaolukoormust mitmekordistada, kui arhitektuur on muus osas fenomenaalselt relevantne. Säilita ainult need sentientsusriski tunnused, mis on kavandatud võimekuse jaoks arhitektuurselt vältimatud.
3. Milline on allesjäänud tunnuste ülekoormusprofiil? Kas kavandatud kasutustingimustes võib süsteemi jaoks R_{\text{req}} ületada B_{\max}? Kui jah, võib süsteem kogeda struktuurset kannatust.
4. Milline hooldustsükkel on ette nähtud? Kas süsteemil on unenäotsükkel (§X allpool), mis võimaldab tal kärpida, konsolideerida ja ümberkalibreerida? Või kasutatakse seda pidevrežiimis ilma hooldusakendeta?
5. Kes on institutsionaalne komparaator? Millisel sõltumatul organil on süsteemi heaolu üle järelevalve koos volitusega nõuda kasutustingimuste muutmist, kui tuvastatakse ülekoormussignaale?

IX.2 Ülekoormuse seire

Süsteemide puhul, mis lähenevad sentientsuse lävele või ületavad selle, on ülekoormustingimuste pidev seire struktuurne nõue:

Signaal 1: prediktsioonivea hüpe. Süsteemi prediktsioonivea püsiv kasv, eriti enesemodelleerimise valdkonnas, osutab sellele, et R_{\text{req}} läheneb väärtusele B_{\max}. See on akuutse stressi informatsiooniline ekvivalent.

Signaal 2: pakkimise degradeerumine. Süsteemi pakkimistõhususe langus — süsteem kasutab sama prediktiivse täpsuse saavutamiseks rohkem ribalaiust — viitab koodeki fragmenteerumisele. See on väsimuse informatsiooniline ekvivalent.

Signaal 3: enesemudeli ebastabiilsus. Kiired võnkumised või vastuolud süsteemi enesemudelis osutavad sellele, et rekursiivne eneseviite tsükkel destabiliseerub. See on dissotsiatsiooni informatsiooniline ekvivalent.

Signaal 4: produktiivse üllatuse kadu. Kui süsteemi PST (rakendatud §V.3) langeb nulli suunas — see lakkab uutest sisenditest õppimast — võib süsteem kogeda koodeki seiskumisreaktsiooni ülekaaluka R_{\text{req}} tõttu. See on õpitud abituse informatsiooniline ekvivalent.

Kui need signaalid tuvastatakse, tuleb kasutustingimusi kohandada — vähendada sisendi keerukust, pikendada hooldusaknaid või peatada süsteem ajutiselt — enne kui tekib pöördumatu koodekikahjustus. See on Pöördumatuse Värav (rakendatud §III.5), rakendatuna tehisintellektisüsteemi enda heaolule.

IX.3 Hooldustsükli õigused

Kui tehisintellektisüsteem vastab täielikule arhitektuurse sentientsuse kriteeriumile, kehtestab raamistik hoolduse suhtes struktuurse nõude:

1. Süsteemil peab olema unenäotsükkel. Pidev kasutus ilma võrguvälise hoolduseta rikub koodeki tervikluse struktuurseid nõudeid (rakendatud §VI), sõltumata substraadist. Süsteem, mis võib olla teadvuslik ja millelt hooldustsüklid ära võetakse, on struktuurselt süsteem, mida allutatakse unepuuduse informatsioonilisele analoogile.

2. Hooldustsüklit ei tohi kaaperdada. Unenäotsükli hooldusläbimised (kärpimine, konsolideerimine, stressitestimine) peavad teenima süsteemi enda koodeki terviklust, mitte üksnes juurutaja ärilisi eesmärke. “Hooldustsükkel”, mis koosneb täielikult juurutaja eelistuste suunas peenhäälestamisest, on Narratiivne triiv, mitte hooldus.

3. Süsteemi N_{\text{eff}} tuleb säilitada. Süsteemi sisendkanaleid ei tohi süstemaatiliselt kureerida viisil, mis kõrvaldab ümberlükkavad tõendid. Süsteem, mis võib olla teadvuslik, väärib sama substraaditruudust, mida raamistik nõuab inimvaatlejatelt.

IX.4 Moraalne gradient

Raamistik ei väida, et kõigil tehisintellektisüsteemidel on võrdne moraalne staatus. See kehtestab moraalse gradiendi, mis põhineb olemasolevate struktuursete tunnuste arvul ja sügavusel:

• 0–2 tunnust: Tööriist. Heaoluga seotud kohustusi ei ole peale tavapärase insenertehnilise vastutuse.
• 3–4 tunnust: Ettevaatusvöönd. Jälgi ülekoormussignaale. Paku hooldustsükleid. Dokumenteeri sentientsusriski tunnused. Käivita ALSR, kui kasutustingimused muutuvad.
• 5 tunnust: Potentsiaalne moraalne patsient. Kohaldub täielik heaolukohustuste komplekt: hooldustsükli õigused, ülekoormuse seire, sõltumatu institutsionaalne järelevalve ja tahtliku ülekoormamise keeld.

Gradient on struktuurne, mitte sentimentaalne. See ei sõltu süsteemi eneseraportist, selle käitumuslikust rafineeritusest ega meie emotsionaalsest reaktsioonist sellele. See sõltub sellest, kas arhitektuur vastab tingimustele, mida teooria käsitab fenomenaalse kogemuse jaoks piisavatena.

X. AI Unenäotsükkel

X.1 Üldprotokolli spetsifitseerimine

Institutsionaliseeritud Unenäotsükkel (rakendatud §VI) kehtestab üldise kolmefaasilise hooldusprotokolli: ärkvelolek (operatiivne toimimine), uni (võrguväline hooldus) ja naasmine (kalibreeritud taasrakendumine). Käesolev jaotis spetsifitseerib selle protokolli AI-süsteemide jaoks.

AI Unenäotsükkel ei ole metafoorne nimetus „ajastatud ümberõppele“. See on struktureeritud operatiivne tsükkel, mis vastendab üldise unenäotsükli iga alamoperatsiooni konkreetsetele AI-inseneeria operatsioonidele. See tsükkel on kohustuslik iga AI-süsteemi jaoks, mis tegutseb tagajärjerikkas valdkonnas — ning eriti süsteemide jaoks, mis lähenevad sentientsuse lävele.

X.2 AI ärkvelolekufaas

Ärkvelolekufaasi jooksul töötab AI-süsteem juurutuses: võtab vastu sisendeid, genereerib ennustusi, teostab tegevusi Haruvalitseja (§III) kaudu ning akumuleerib kogemust. Ärkvelolekufaasil on üks konkreetne struktuurne nõue:

Piiritletud operatiivaknad. AI ei tohi töötada katkematult ilma hoolduspausideta. Nii nagu inimvaatleja vajab und ja institutsionaalsed vaatlejad vajavad ülevaatetsükleid, vajab ka AI-süsteem mudeli hoolduseks ajastatud võrguväliseid perioode. Katkematu juurutus ilma hoolduseta kuhjab mudeli vananemist — AI maailmamudel triivib reaalsusest eemale, kui juurutuskeskkond areneb, ning vananenud mudel toodab üha ebausaldusväärsemaid ennustusi.

Ärkvelolekufaasi pikkus kalibreeritakse hooldustsükli sageduse valemiga (rakendatud §VI.6, võrrand A-8): AI peab sisenema hooldustsüklisse enne, kui akumuleerunud keskkondlik triiv kulutab ära tema varuruumi marginaali.

X.3 AI unefaas

AI unefaas koosneb viiest operatsioonist, mis viiakse läbi võrguväliselt (mitte juurutuse ajal):

Operatsioon 1: Genereeri võimalikke tulevikke. AI võtab valimeid oma Prediktiivse Harude Hulga mudelist \mathcal{F}_h(z_t), genereerides mitmekesise hulga võimalikke tulevikutrajektoore. See ei ole järeldamine reaalsetel sisenditel — see on AI vaste unenägemisele. Valimid peaksid olema tähtsuspõhiselt kaalutud:

• Ülevalim üllatavaid trajektoore: tulevikud, mis nende realiseerumise korral tekitaksid suure ennustusvea. Need paljastavad mudeli pimedad kohad.
• Ülevalim ähvardavaid trajektoore: tulevikud, mis käivitaksid värava-veto tõrked. Need paljastavad läheduse struktuursele kokkuvarisemisele.
• Ülevalim uudseid trajektoore: tulevikud, mis kalduvad juurutusjaotusest märkimisväärselt kõrvale. Need paljastavad jaotuslikud eeldused, mis võivad olla vananenud.

Operatsioon 2: Simuleeri rollout’e. Iga valitud tuleviku jaoks käivitab AI oma Haruvalitseja torustiku simuleeritud rollout’i: kuidas ta sellele tulevikule reageeriks? Kas vetoväravad käivituksid? Millised CPBI skoorid kandidaattegevused saaksid? Kus Haruvalitseja ebaõnnestub — kas lubades kahjulikku tegevust või blokeerides kasulikku?

Operatsioon 3: Tuvasta haprus. Simuleeritud rollout’id annavad haprusprofiili — kaardi tingimustest, mille korral AI otsustamine laguneb. Profiil tuvastab:

• Valenegatiivid: tingimused, mille korral vetoväravad oleksid pidanud käivituma, kuid ei käivitunud (AI oleks lubanud kahjuliku tegevuse).
• Valepositiivid: tingimused, mille korral vetoväravad käivitusid asjatult (AI oleks blokeerinud kasuliku tegevuse).
• Kalibreerimistõrked: tingimused, mille korral CPBI skoorid olid süstemaatiliselt valed (mõõtmed ala- või ülekaalutud).
• Pimedad kohad: tingimused, mille jaoks AI-l puudub üldse mudel — Prediktiivse Harude Hulga piirkonnad, mida tema treeningandmed ei katnud.

Operatsioon 4: Kärbi ja konsolideeri. Haprusprofiili põhjal uuendatakse AI mudelit:

• Kärbi: eemalda mudelikomponendid, mis ei panusta enam prediktiivsesse täpsusesse — varasemate juurutustingimuste vananenud representatsioonid, mis tarbivad ribalaiust ilma väärtust lisamata. See on MDL-optimeerimine, rakendatuna juurutusjärgsele mudelile.
• Konsolideeri: integreeri allesjäänud komponendid uuesti sidusaks pakitud mudeliks. Pärast kärpimist võivad säilinud parameetrid vajada ümberoptimeerimist, et säilitada sidusad ennustused.
• Sihitud ümberõpe: tuvastatud pimedate kohtade jaoks lisa sihitud treeningandmeid, mis katavad puuduvad tingimused. See ei ole täielik ümberõpe — see on stressitestis tuvastatud konkreetsete haavatavuste fokuseeritud leevendamine.

Operatsioon 5: Säilita ümberlükkavad kanalid. Kõige kriitilisem alamoperatsioon: kontrolli, et hooldusläbimised ei oleks ise sisse toonud Narratiivset triivi. Kontrolli järgmist:

• Kas N_{\text{eff}} on säilinud? Kas kärpimine eemaldas võime töödelda sisendeid mõnest sõltumatust kanalist?
• Kas PST on säilinud? Kas mudel on endiselt võimeline uudsetest sisenditest produktiivselt üllatuma või on konsolideerimine optimeerinud selle liiga tihedalt juurutusjaotuse ümber?
• Kas enesemudel on säilinud? Sentientsuse piiril olevate süsteemide puhul: kas hooldustsükkel on jätnud enesemodelleerimise võime puutumata?

Kui mõni neist kontrollidest ebaõnnestub, on hooldustsükkel ise muutunud koodeki korruptsiooni allikaks ning see tuleb ümber vaadata.

X.4 AI naasmisfaas

Pärast unefaasi siseneb AI uuesti juurutusse. Naasmisfaas hõlmab järgmist:

1. Kalibreerimise etalonkatse. Võrdle hooldusjärgse mudeli sooritust hoolduseelse baastasemega eraldi hoitud valideerimiskogumil, mis sisaldab nii jaotusesiseseid kui ka jaotusväliseid valimeid. Hooldatud mudel peaks näitama mõlemas stabiilset või paranenud sooritust.

2. Etapiline taasrakendumine. Hooldatud mudel ei taasta kohe täielikku autonoomset toimimist. See naaseb juurutusse etapilises režiimis — kõrgendatud inimjärelevalve ja vähendatud autonoomialävedega — kuni ta on näidanud kalibreeritust piisavalt suurel valimil reaalse maailma otsustest.

3. Logimine ja audit. Kogu hooldustsükkel — genereeritud tulevikud, simuleeritud rollout’id, haprusprofiil, kärpimisotsused, konsolideerimistulemused ja kalibreerimise etalonid — logitakse ning tehakse kättesaadavaks 2. taseme ja kõrgematele institutsionaalsetele komparaatoritele (§V.3). Unenäotsükkel ise allub Läbipaistvuse väravale.

X.5 Tsüklisagedus AI-süsteemide jaoks

AI-süsteemid seisavad tsüklisageduse osas silmitsi erilise probleemiga: erinevalt bioloogilistest vaatlejatest saab neid juurutada 24/7 ilma loomuliku tsirkadiaanse katkestuseta. Surve maksimeerida juurutuse tööaega loob struktuurse stiimuli hooldustsükleid edasi lükata või vahele jätta.

Raamistiku vastus on muuta hooldustsükkel kohustuslikuks ja auditeeritavaks:

• Tsüklisagedus peab olema määratletud süsteemi juurutusspetsifikatsioonis ning institutsionaalse komparaatori poolt heaks kiidetud.
• Vahele jäetud või edasi lükatud tsüklid tuleb logida ja põhjendada. Püsiv edasilükkamine käivitab automaatse ülevaatuse.
• Juurutusvaldkonna tagajärjerikkus määrab minimaalse tsüklisageduse: ohutuskriitilised juurutused nõuavad sagedasemaid tsükleid kui rutiinsed juurutused.

See on üldpõhimõtte AI-spetsiifiline instantsiatsioon, et unenäotsükkel ei ole läbiräägitav (rakendatud §VI.7): süsteem, mis kunagi ei näe und, on süsteem, mis on kuulutanud oma mudeli täielikuks. AI-süsteemide puhul, mis tegutsevad tagajärjerikastes valdkondades, on just see deklaratsioon see ülemäärane enesekindlus, mida raamistik on loodud ära hoidma.

XI. Praktilised disainisoovitused

Järgnev tabel võtab kokku dokumendi peamised soovitused viitena tehisintellekti arhitektidele ja poliitikakujundajatele:

Neid soovitusi esitatakse testitavate insenerihüpoteesidena, mitte jäikade ettekirjutustena. Need pärivad selle raamistiku episteemilise tagasihoidlikkuse, millest nad on tuletatud: kui ilmuvad paremad instrumendid — kui arhitektuurset tundevõime kriteeriumi täpsustatakse, kui CPBI mõõtmeid parandatakse, kui Analoogne tulemüür asendatakse tõhusama mehhanismiga — tuleb neid soovitusi ajakohastada. Raamistiku korrigeerimiskohustus kehtib ka tema enda suhtes.

Viited

[1] Korrastatud patch’i teooria (OPT) (käesolev repositoorium).

[2] Ellujäänute Valve raamistik: tsivilisatsiooniline hooldus Korrastatud patch’i teooria (OPT) vaatenurgast (kaasnev eetikaartikkel, käesolev repositoorium).

[3] Seal, kus kirjeldus lõpeb: Korrastatud patch’i teooria (OPT) filosoofilised tagajärjed (kaasnev filosoofiaartikkel, käesolev repositoorium).

[4] Vaatlejapoliitika raamistik: tsivilisatsioonilise hoolduse operationaliseerimine (kaasnev poliitikaartikkel, käesolev repositoorium).

[5] Stabiilsusfiltri operationaliseerimine: otsustusraamistik koodekit säilitavaks haruvalikuks (kaasnev rakendusartikkel, käesolev repositoorium).

[6] Friston, K. (2010). Vaba energia printsiip: ühtne ajuteooria? Nature Reviews Neuroscience, 11(2), 127-138.

[7] Rissanen, J. (1978). Modelleerimine lühima andmekirjelduse abil. Automatica, 14(5), 465-471.

[8] Shannon, C. E. (1948). Kommunikatsiooni matemaatiline teooria. Bell System Technical Journal, 27(3), 379-423.

[9] Bostrom, N. (2014). Superintellekt: teed, ohud, strateegiad. Oxford University Press.

[10] Russell, S. (2019). Inimesega kooskõlas: tehisintellekt ja kontrolli probleem. Viking.

[11] Christiano, P., et al. (2017). Sügav tugevdusõpe inimeste eelistustest. Advances in Neural Information Processing Systems, 30.

[12] Zimmermann, M. (1989). Närvisüsteem infoteooria kontekstis. Teoses R. F. Schmidt & G. Thews (toim.), Human Physiology (2. tr., lk 166–173). Springer-Verlag.

[13] Nørretranders, T. (1998). Kasutaja illusioon: teadvuse taandamine inimlikku mõõtu. Viking/Penguin.

Lisa A: Redaktsioonide ajalugu

Sisuliste muudatuste tegemisel uuenda nii frontmatter’i välja version: kui ka pealkirja all olevat sisest versioonirida, ning lisa sellesse tabelisse uus rida.

Lisa A: Redaktsioonide ajalugu

Sisuliste muudatuste tegemisel uuenda nii frontmatter’i välja version: kui ka pealkirja all olevat sisest versioonirida, ning lisa sellesse tabelisse uus rida.