Korrastatud patch’i teooria

Algne ülesanne T-9: Hooldustsükkel ja taastumisaparaat Probleem: Põhidokumendi §3.6.3–§3.6.6 määratleb võrrandid T9-1 kuni T9-13 (Hooldustsükli operaator \mathcal{M}_\tau, MDL-kärpimine \Delta_{\mathrm{MDL}}, konsolideerimisvõit \Delta K_{\text{compress}}, REM-olulisuse kaalumine w(b)). Lisad T-12 (Narratiivne triiv) ja T-13 (Action-Drift) viitavad sellele aparaadile kui kandvale struktuurile. Raamistikul puudub koondav lisa, mis (i) nimetaks formaalsed primitiivid selgesõnaliselt, (ii) eristaks nelja kärpimisviisi, mille põhidokumendi \Delta_{\mathrm{MDL}} < 0 jätab implitsiitseks, (iii) määratleks taastumistingimuse ning (iv) annaks järelduslikele lisadele stabiilse formaalse sihtmärgi, millele viidata. T-9 täidab selle lünga. Tulemus: Koondav lisa samal epistemilisel tasandil nagu T-2 / T-15 (struktuurne vastavus, mitte suletud teoreem). Uus sisu võrreldes põhidokumendiga: prediktiivse võidu G_i(t,\tau) eksplitsiitne määratlus, hoolduskulu lahutus, mille esmane komponent on ressursivõimekus, nelja kärpimisviisi eristus, taastumistingimus, järeldusahel.

Sulgemise staatus: STRUKTUURNE VASTAVUS (sama tasand nagu T-2 / T-15). See lisa ei ole suletud teoreemi lisa. See koondab Hooldustsükli aparaadi, mis juba toimib eeltrüki §3.6-s, ning lisab neli formaalse sisu elementi, mida põhidokument ei sisalda: eksplitsiitne prediktiivne võit, ressursivõimekuse-kulu raamistik, neli kärpimisviisi ja taastumistingimused. §2 OpenAI-ülevaatuse reservatsioonidega on arvestatud: (i) kärpimislävi esitatakse kujul, mis koordineerub T-12 ootel kanalite sõltumatuse ümberformuleerimisega (4. faas); (ii) olemasolevad põhidokumendi võrrandid T9-3 / T9-4 säilitatakse viidatud kujul, kusjuures T-9 lisab ressursivõimekuse täpsustuse täiendava formaalse kihina, mitte ei muuda viidatud kujusid vaikimisi; (iii) ressursivõimekuse kulu on esmane, K-komplekssus aga struktuurse vastavuse lähendus. Avatud servad (§9): ressursivõimekuse ja K-komplekssuse arvestuse täielik kooskõlastamine vajab T-12-ga täielikku ühitamist pärast seda, kui T-12 ümberformuleerimine on jõustunud.

§1. Seadistus — aktiivse mudeli komponendid

Koodek K_\theta koosneb aktiivse mudeli komponentide kogumist \{\theta_i\}_{i \in I}, kus iga \theta_i on koodeki adresseeritav struktuuriüksus — generatiivne prior, õpitud tunnusedetektor, rekurrentne kihtide plokk, pikamaa-sidestus või mis tahes muu primitiiv, mis osaleb koodeki prediktsioonide \pi_t ja ajas toimiva uuendusoperaatori \mathcal{U} tekitamises. Kogum \{\theta_i\} on igal antud hetkel lõplik, kuid seda saab laiendada konsolideerimise kaudu (Pass II, preprint §3.6.4) või kahandada kärpimise kaudu (Pass I, preprint §3.6.3).

T-9 eesmärkidel käsitatakse komponente etteantutena: T-9 ei tuleta, mis teeb ühest \theta_i-st võrreldes teisega “loomuliku” komponendi, sest see on representatsioonõppe küsimus, mis jääb väljapoole OPT ulatust. Hooldustsükli aparaat toimib mis tahes dekompositsioonil, mida koodek võimaldab.

Hooldustsükli operaator \mathcal{M}_\tau (preprint Eq. T9-2) toimib Fenomenaalse seisundi tensorile P_\theta(t) madala koormusega intervallide ajal (R_{\text{req}}(t) \ll C_{\max}). T-9 avab kolm passi (kärpimine, konsolideerimine, Prediktiivne Harude Hulk’i valimdamine) eksplitsiitseteks formaalseteks primitiivideks allpool §2–§6; seejärel jälgib §7 järeldusahel nende primitiivide kaudu Narratiivset triivi (T-12) ja tegevustriivi (T-13).

§2. Prediktiivne eelis G_i(t, \tau)

Komponendi \theta_i prediktiivne eelis akna pikkusega \tau mõõdab, kui palju see komponent panustab koodeki prediktiivsesse toimivusse sisendvoo suhtes, hoides teised komponendid fikseerituna:

G_i(t, \tau) \;:=\; I\!\left(\theta_i \,;\, X_{t+1:t+\tau} \mid \theta_{-i}\right) \tag{T9.2-1}

kus \theta_{-i} tähistab koodeki ülejäänud osa ilma \theta_i-ta ning I(\cdot ; \cdot \mid \cdot) on tingimuslik vastastikune informatsioon. Tingimuslik kuju on hädavajalik: see isoleerib \theta_i marginaalse prediktiivse panuse, mitte selle ühispanuse kattuvate komponentidega.

Võrdlus põhiartikli võrrandiga T9-3. Põhiartikli MDL-pügamise suurus on

\Delta_{\mathrm{MDL}}(\theta_i) \;=\; I\!\left(\theta_i\,;\,X_{t+1:t+\tau} \mid \theta_{-i}\right) - \lambda K(\theta_i) \tag{T9-3, preprint §3.6.3}

T-9 nimetab esimese liikme eksplitsiitselt G_i(t,\tau)-ks, et prediktiivse eelise primitiivile saaks viidata eraldi lävekujulise pügamistingimuse suhtes. See on puhtalt notatsiooniline konsolideerimine; võrratus jääb samaks.

Akna pikkus \tau. Prediktiivne eelis sõltub akna pikkusest. Lühike \tau haarab peene ajaskaalaga prediktsiooni (motoorne kontroll, töömälu); pikk \tau haarab struktuurset prediktsiooni (semantilised regulaarsused, narratiivne koherentsus). Hooldustsükli I läbimise pügamist hinnatakse pikema \tau režiimis, kus tõeliselt kasututel komponentidel on G_i \to 0. II läbimise konsolideerimine seevastu optimeerib lühema \tau režiimi üle, kus kattuvate komponentide vaheline redundants muutub esiletõusvaks.

§3. Hoolduskulu C_i — ressursimahutavus primaarse alusena

Komponendi \theta_i hoolduskulul on kaks omavahel kooskõlalist formuleeringut.

Vorm 3.1 — Ressursimahutavus (T-9 jaoks primaarne). Komponendi kulu on ressursimahutavus, mille see hõivab koodeki operatiivses substraadis:

C_i \;:=\; c_i^{\text{params}} + c_i^{\text{memory}} + c_i^{\text{compute}} + c_i^{\text{channel}} \tag{T9.3-1}

kus neli eelarvet on järgmised: parameetripesad (kaalude või ühenduste arv); mälumaht (salvestatud bittides); arvutuskulu (operatsioonides tsükli kohta); ning kanalimahutavus (ribalaiuse bitid, mida komponent tarbib Markovi teki piiril \partial_R A). Iga c_i on põhimõtteliselt vaadeldav — bioloogiliste koodekite puhul metaboolsete ja füsioloogiliste mõõtmiste kaudu, sünteetiliste koodekite puhul otsese instrumentatsiooni kaudu.

Vorm 3.2 — K-komplekssuse lähendus. Põhiartikli võrrand T9-3 kasutab \lambda K(\theta_i), kus K(\theta_i) on komponendi prefiks-Kolmogorovi komplekssus:

C_i^{\text{K-approx}} \;:=\; \lambda \cdot K(\theta_i) \tag{T9.3-2}

See on struktuurse vastavuse lähendus: K-komplekssus on ülalt poolarvutatav ega ole komponentide lõikes rangelt aditiivne (ühe komponendi eemaldamine ei pruugi vähendada lühima kirjelduse pikkust selle iseseisva K(\theta_i) võrra, kuna komponendid võivad jagada struktuuri). Ressursimahutavuse vorm (T9.3-1) on seetõttu operatiivsete väidete puhul primaarne; K-komplekssuse vorm säilitatakse teoreetilisteks analüüsideks, kus aditiivsuse lähendus on vastuvõetav.

Miks kaks vormi. OpenAI T-12 ülevaade (appendix-corrections memo §2.8) märkis õigesti, et K-komplekssus ei ole komponentide lõikes aditiivne, ning soovitas operatiivsete väidete jaoks ressursimahutavuse mõõte. T-9 võtab ressursimahutavuse primaarseks, kuid säilitab K-komplekssuse vormi, sest olemasolev põhiartikli võrrand T9-3 ja ka T-12 teoreemi T-12 tõestus viitavad mõlemad K-komplekssuse vormile. Ressursimahutavuse täpsustus on puhtam formuleering §3.6.3 / §3.6.4 / T-12 / T-13 jaoks versiooni v3.7.0 või hilisema korrastusvooru raames; T-9 teeb mõlemad vormid kättesaadavaks, et lõplik korrastus saaks toimuda sidusalt, selle asemel et nõuda kõigi viitavate kohtade samaaegset parandamist.

\lambda häälestamine. Vormis 3.2 tasakaalustab parameeter \lambda prediktiivset võitu ja komplekssuskulu. Empiiriliselt on täheldatud, et \lambda varieerub afektiivse seisundiga — kõrge |E(b)| (eeltrüki võrrand T9-10) tõstab komponendi tasandil efektiivselt \lambda väärtust, muutes afektiivselt märgistatud komponendid pügamise suhtes vastupidavamaks. See on emotsionaalse mälu võimendumise formaalne käsitlus (eeltrükk §3.6.5, Pass III).

§4. Kärpimistingimus — lävekuju

Kärpimistingimus kasutab peapaberi võrrandi T9-4 range-positiivsuse kuju asemel lävekuju. OpenAI T-12 ülevaade (lisa-paranduste memo §2.8 parandus 3) märkis õigesti, et range I = 0 tingimus kärpimiseks on liiga habras: reaalsetel komponentidel on nõrgad kaudsed prediktiivsed panused isegi siis, kui nende esmane prediktiivne roll on filtreeritud sisendi tõttu välistatud.

Lävekujuline kärpimistingimus:

\text{Prune } \theta_i \quad \text{if} \quad G_i(t, \tau) \;<\; C_i \;-\; \epsilon \tag{T9.4-1}

kus \epsilon > 0 on väike säilituspuhver, mis häälestab koodeki kärpimisagressiivsust. Ekvivalentsed võrratuse kujud:

G_i(t, \tau) - C_i \;<\; -\epsilon \quad \Longleftrightarrow \quad I\!\left(\theta_i; X_{t+1:t+\tau} \mid \theta_{-i}\right) \;<\; C_i - \epsilon \tag{T9.4-2}

Võrdlus peapaberi võrrandiga T9-4. Peapaber kirjutab kärpimise käivitajana \Delta_{\mathrm{MDL}}(\theta_i) < 0, mis vastab juhule \epsilon = 0 — range tasuvuspiir. T-9 üldistab seda, tuues sisse säilituspuhvri \epsilon, mis modelleerib täpsemalt bioloogilise kärpimise dünaamikat (kus väikesed prediktiivsed panused säilitatakse mööduva müra vastu) ja sünteetiliste koodekite kärpimise hüperparameetreid (kus lävepõhine kustutamine on standardne).

Range tasuvuspiiri juht taastub kujul \epsilon \to 0, seega T-9 kuju ei muuda T-12 ja T-13 olemasolevaid viiteid T9-4-le kehtetuks; see üldistab neid.

Järeldus Narratiivse triivi jaoks (ristviide T-12-le). Filtreeritud sisendi X' = \mathcal{F}(X) korral koos välistatud signaaliga \mathcal{X}_{\text{excl}} kehtib, et komponendid \theta_i, mille prediktiivne panus on suunatud üksnes \mathcal{X}_{\text{excl}}-ile, rahuldavad filtreeritud voos tingimuse G_i(t, \tau) \to 0 (sest nende siht puudub vaadeldud sisendist). Kärpimistingimus (T9.4-1) käivitub siis, sest 0 < C_i - \epsilon iga positiivse kulukomponendi korral. T-12 teoreemi T-12 pöördumatuse tulemus järeldub sellest käivitumisest koos allpool §5 esitatud nelja modaalsuse eristusega.

§5. Neli kärpimise modaalsust

Kärpimisoperatsioon (T9.4-1) võimaldab koodekis nelja eristuvat teostusviisi, mille pöörduvuse omadused on erinevad. See eristus on oluline taastumistingimuse (§6) ning T-12 paranduse 1 (appendix-corrections memo §2.8) Narratiivse triivi pöördumatuse väite jaoks.

Modaalsus 5.1 — Pöörduv allasurumine. Komponendi \theta_i väljundi kaal vähendatakse nullini (või alla osalusläve), kuid komponendi parameetrid ja struktuur jäävad koodekis talletatuks. Taastamine on sirgjooneline: ümberkaalumine taastab komponendi. See on operatsioon, mis on aluseks käitumuslikule kustumisele tingimisel (tingitud reaktsioon nõrgeneb, kuid jälg püsib) ning dropout-laadsele regulariseerimisele närvivõrkudes.

Modaalsus 5.2 — Kaalude hääbumine. Komponendi parameetrid hääbuvad pidevalt vaikeseisundi suunas regulariseerimissurve \propto \lambda mõjul. Komponenti ei kustutata, kuid see kaotab truudust; osaline taastumine on võimalik, kui vaikeseisund on informatiivne.

Modaalsus 5.3 — Representatsiooniline unustamine. Konsolideerimise käigus kirjutatakse komponendi parameetrid konkureerivate komponentide poolt üle (Pass II, preprint §3.6.4). Struktuurne pesa püsib, kuid konkreetne representatsioon kaob. Taastumine nõuab järgneva Hooldustsükli jooksul uuesti kokkupuudet asjakohase sisendvooga ning on osaline (uuesti õpitud representatsioon erineb algsest peeneteralistes detailides).

Modaalsus 5.4 — Arhitektuurne kärpimine. Kustutatakse nii komponendi parameetrid kui ka selle struktuurne pesa; koodeki arhitektuuri vähendatakse. Taastumine on koodeki tasandil võimatu — komponent tuleb täieliku õpiepisoodi kaudu nullist uuesti kasvatada. See on pöördumatu modaalsus.

Modaalsuste klassifikatsioon filtreeritud sisendi korral. T-12 teoreemi T-12 „pöördumatuse” väide (nii nagu see on sõnastatud olemasolevas preprindis) eeldab modaalsust 5.4 (arhitektuurne kärpimine) ja välistab modaalsused 5.1–5.3. T-9 teeb selle modaalsussõltuvuse eksplitsiitseks; v0.4 appendix-corrections memo §2.8 parandus 1 („irreversible should be conditional on no protected archive / no replay buffer / no external teacher / no architectural reserve capacity / continued operation under the same filter / pruning is literal capacity deletion, not reversible suppression”) on kooskõlas modaalsuse 5.4 tõlgendusega.

Reaalsed bioloogilised ja sünteetilised koodekid ilmutavad tavaliselt modaalsuste segu, kusjuures modaalsus 5.4 on reserveeritud komponentidele, mida kärbitakse püsivalt paljude Hooldustsüklite vältel. Üleminek pöörduvalt kärpimiselt pöördumatule kärpimisele kestva filtreeritud sisendi tingimustes on struktuurne mehhanism, mis on kroonilise Narratiivse triivi (T-12) aluseks.

§6. Taastumise tingimus

Kärbitud komponent \theta_i on taastatav, kui leidub protsess, mille kaudu seda saab taastada aktiivseks osaluseks koodekis. Taastumise tõenäosus taastumisakna \tau_R jooksul on:

P\big(\text{recover } \theta_i \mid \tau_R\big) \;=\; P\big(\text{Modality 5.1 or 5.2}\big) \cdot p_{\text{restore}}(\tau_R) \;+\; P\big(\text{Modality 5.3 or 5.4}\big) \cdot p_{\text{regrow}}(\tau_R) \tag{T9.6-1}

Esimene liige katab pöörduva / osaliselt pöörduva kärpimise (allasurumine, kaalude hääbumine); teine katab representatsioonilise unustamise ja arhitektuurilise kärpimise, mille puhul taastumine nõuab välist sisendit.

Taastumine on positiivne ainult siis, kui kehtib vähemalt üks kolmest tingimusest:

1. Kaitstud mälu. Koodek säilitab \theta_i arhiveeritud representatsiooni kärpimata substraadis (eraldi vahemälu, versioonihaldusega varukoopia, neurofüsioloogiliselt kaitstud mälu, mis on konsolideeritud teise piirkonda). Modaalsused 5.1 ja 5.3 võivad selle tingimuse korral taastuda.

2. Väline õpetaja / taasekspositsioon. Koodek puutub kokku sisendivoogudega, mis sisaldavad signaali \mathcal{X}_{\text{excl}}, mida kärbitud komponent algselt jälgis. Aktiivne taasõppimine järgneva Hooldustsükli Pass II jooksul ehitab komponendi uuesti üles (koos mööndustega peenteralise truuduse osas). Selle tingimuse korral võivad kõik neli modaalsust piisava aja jooksul taastuda, kuigi modaalsus 5.4 nõuab täielikku õppimisepisoodi, mis on võrreldav algse omandamisega.

3. Arhitektuuriline reserv. Koodekil on struktuursed pesad, mis ei olnud pühendatud konkreetsetele komponentidele ja mida saab eraldada taasväljakasvanud representatsiooni kandmiseks. See on tingimus, mille korral modaalsuse 5.4 taastumine on üldse mehaaniliselt võimalik.

Kui ükski punktidest (1), (2), (3) ei kehti, siis P(\text{recover}\, \theta_i \mid \tau_R) = 0 kõigi \tau_R korral ning kärpimine on püsiv.

Substraaditruuduse tingimus. T-12 Substraaditruuduse tingimus (teoreem T-12b — Markovi teki ületavate \delta-sõltumatute sisendkanalite redundantsus) on punkti (2) liiniskaala analoog: need kanalid tagavad, et sisendivoog sisaldab ka väliste mehhanismide \mathcal{F} filtreerimise korral jätkuvalt substraadiga seotud signaali. T-9 taastumise tingimus annab selle koodekisisese teostuse: kaitstud komponendid, replay-puhvrid, arhitektuuriline reserv.

§7. Järeldused — Narratiivne triiv ja tegevustriiv

T-9 primitiivid toetavad kahte järeldusahelat, mida arendatakse lisades T-12 ja T-13.

Järeldus 7.1 — Narratiivne triiv (T-12). Püsiva filtreeritud sisendi X' = \mathcal{F}(X) korral, mis välistab signaali \mathcal{X}_{\text{excl}}: - Komponentidel \theta_i, mille prediktiivne võit tuleneb eranditult \mathcal{X}_{\text{excl}}-st, kehtib filtreeritud voo korral G_i(t, \tau) \to 0. - Kärpimistingimus (T9.4-1) aktiveerub kõigi selliste komponentide puhul. - Kui kärpimine toimub modaalsuses 5.4 (arhitektuurne) — mis domineerib püsiva filtreerimise korral läbi paljude Hooldustsüklite — ja ükski taastumistingimus (§6 punktid 1–3) ei kehti, kaob võime modelleerida \mathcal{X}_{\text{excl}} püsivalt. - Koodek ei suuda omaenda võimekuse kadu seestpoolt tuvastada (kadunud komponendid ei osale enam prediktsioonivea genereerimises), taastoodes T-12a mitteidentifitseeritavuse väite.

Täielik formaalne käsitlus on esitatud T-12-s; T-9 annab modaalsusspetsiifilise tõlgenduse mõistele „pöördumatu“, mida T-12 parandus 1 nõuab.

Järeldus 7.2 — Tegevustriiv (T-13). Komponendid, mis kodeerivad käitumusliku hindamise võimekust kasutamata harude jaoks: - Omavad prediktiivset võitu G_i(t, \tau), mida mõõdetakse sisendvoo tegelikult realiseerunud harutulemuste suhtes; kui teatud harusid ei valita kunagi, puudub hindajatel treeningsignaal. - Kärpimistingimus aktiveerub, kui kasutamata hindaja G_i langeb alla C_i - \epsilon. - Modaalsuse 5.4 korral kärbitakse hindaja püsivalt; koodek muutub vastavas tegevusvaldkonnas enesekindlalt võimetuks.

T-13 propositsioon T-13.P1 (Tegevustriiv) on selle koodekisisese mehhanismi liiniskaala (käitumusliku repertuaari) juhtum.

Ristviide: liinitasandi Hooldustsükkel. Lisa T-15 §3 arendab struktuurset vastavust elusisese Hooldustsükli ja fülogeneetilise täiustumise vahel. T-9 neli kärpimismodaalsust vastavad vastavalt järgmistele nähtustele: ajutine nišivähenemine (5.1), liinitriiv lõdvestunud valiku all (5.2), nišiasendus (5.3) ja liini väljasuremine (5.4). Taastumistingimused (§6) vastavad fülogeneetilisele redundantsusele: kaitstud refugiaad (1), ökoloogiline taasekspositsioon niši taastumise korral (2) ja arenguline reservvõimekus (3).

§8. Seos põhiartikli §3.6 võrranditega

T-9 konsolideerib, mitte ei tõrju välja. Põhiartikli võrrandid T9-1 kuni T9-13 (eeltrüki §3.6.1–§3.6.6) säilivad viidatud kujul; T-9 toob sisse täiendavad formaalsed primitiivid ja täpsustused, mis neid täiendavad.

T-9 tegelikult uus sisu: prediktiivse võidu G_i(t,\tau) eksplitsiitne definitsioon (§2); ressursi-võimekuse kuluraamistik kui esmane (§3 vorm 3.1); lävekujul kärpimistingimus koos säilituspuhvriga \epsilon (§4); neli kärpimismodaalsust (§5); taastumistingimus (§6); T-12 pöördumatuse väite modaalsusspetsiifiline tõlgendus (§7.1).

§9. Avatud servad

Koordineerimine T-12 kanalisõltumatuse ümberformuleerimisega (4. faas). T-12 on lisade paranduste järjekorras (v0.4 §2.8), et ümber sõnastada kanalisõltumatuse tingimus: sõltumatus filtreerimismehhanismidest, mitte signaalidest. T-9 kärpimistingimus (§4) ja taastumistingimus (§6) on kirjutatud selle ümberformuleerimisega kooskõlastatult, kuid T-12 teoreemi T-12 tõestus tuleb uuesti läbi vaadata, kui ümber sõnastatud kanalisõltumatuse definitsioon on paigas. Täpsemalt: pöördumatuse väide T-12 §3.1-s viitab praegu T9-3 / T9-4-le; v3.7.0 korrastuse järel peaks see viitama T-9 §4 lävekujule + §5 modaalsuste klassifikatsioonile + §6 taastumistingimusele, kusjuures pöördumatuse tõlgendus peab olema piiratud modaalsusega 5.4 juhul, kui taastumistingimus puudub. Avatud.

Ressursimahu ja K-komplekssuse arvestuse ühildamine. §3 teeb mõlemad vormid kättesaadavaks, kuid ei tuleta nende kvantitatiivset vastavust. Mõne komponendiklassi puhul on need omavahel tihedalt seotud (C_i^{\text{params}} \sim K(\theta_i) kuni konstantse tegurini näiteks meelde jäetud otsingutabelite korral); teiste puhul lahknevad need järsult (komponentide vahel jagatud kompositsiooniline struktuur annab K-komplekssuse kokkuhoidu, mida ressursimahu vorm ei hõlma). v3.7.0 või hilisema versiooni ühildamine oleks soovitav. Avatud.

Virtuaalse tõlgenduse neutraalsus (v3.6.21). Täielikult virtuaalne püsiseisundi tõlgendus (põhitekst §8.6.1) kirjeldab Hooldustsüklit ümber kui filtri läbinud voo omadusi, mitte töötava masina omadusi, kuid ei jaga ümber vormide 3.1 / 3.2 arvestustasandeid: vorm 3.1 (ressursimaht) jääb kõigi operatiivsete väidete puhul primaarseks ning T-12 operatiivne tõestus kasutab seda endiselt. Voo-sisene kokkusurutavuse tõlgendus lisandub üksnes interpretatiivse kihina, millele on osutatud T-12 §3.1-s. Ülaltoodud K-aditiivsuse ühildamine on koht, kus mis tahes tulevast vormide ümberjärjestamist tuleks põhjendada — mitte virtuaalne tõlgendus. Avatud (mitte segi ajada v3.7.0 korrastusega).

\epsilon empiiriline kalibreerimine. Säilituspuhver \epsilon valemis (T9.4-1) on efektiivne kärpimise hüperparameeter. Empiirilised bioloogilised väärtused tuleksid neuraalse kärpimise uuringutest (sünaptilise hääbumise läved, dendriitogade säilitamise määrad) või Δ_self^op asümptoodi eksperimendist prototüübis opt-ai-subject. T-9 ei tuleta konkreetset väärtust. Avatud.

Ristviide Hooldustsükli empiirilistele ennustustele. Eeltrüki §3.6.7 loetleb Hooldustsükli empiirilised ennustused (uni / unenäod / konsolideerimine). T-9 neli kärpimismodaalsust annavad peeneteralisemaid ennustusi: ennustus, et „REM-unenäod valimivad ebaproportsionaalselt suure tõenäosusega kõrge tähtsusega harusid” (eeltrükk §3.6.5, Pass III), laguneb modaalsuspõhisteks ennustusteks selle kohta, millist liiki representatsioone säilitab modaalsus 5.1 (tähtsusega kaalutud säilitamine kärpimise vastu) võrreldes modaalsusega 5.4 (kus kõrge tähtsusega harude puudumine ärkveloleku kogemuses viib vastava hindaja arhitektuurilise kustutamiseni). Avatud.

See lisa hoitakse OPT projektihoidlas koos failiga opt-theory.md. Viited Hooldustsükli primitiividele eeltrüki §3.6-s on säilitatud; T-9 täiendab neid eksplitsiitse prediktiivse võimendusega G_i (§2), ressursimahu kuluga (§3 vorm 3.1), lävekujulise kärpimistingimusega koos säilituspuhvriga \epsilon (§4), nelja kärpimismodaalsusega (§5) ja taastumistingimustega (§6). Järeldusviited: T-12 (Narratiivne triiv) §3.6.3; T-13 (Action-Drift) §6; T-15 (Fülogeneetiline Stabiilsusfilter) §3.