Sutvarkyto patch teorija (OPT)

Pradinė užduotis T-9: Priežiūros ciklas ir atkūrimo aparatas Problema: Pagrindiniame straipsnyje §3.6.3–§3.6.6 apibrėžiamos lygtys T9-1 iki T9-13 (Priežiūros ciklo operatorius \mathcal{M}_\tau, MDL genėjimas \Delta_{\mathrm{MDL}}, konsolidacijos prieaugis \Delta K_{\text{compress}}, REM svarbos svėrimas w(b)). Priedai T-12 (Naratyvinis dreifas) ir T-13 (Veiksmo dreifas) remiasi šiuo aparatu kaip laikančiąja struktūra. Sistemai trūksta konsoliduojančio priedo, kuris (i) aiškiai įvardytų formaliuosius primityvus, (ii) atskirtų keturias genėjimo modalijas, kurias pagrindinio straipsnio \Delta_{\mathrm{MDL}} < 0 palieka numanomas, (iii) apibrėžtų atkūrimo sąlygą ir (iv) pateiktų stabilų formalų taikinį, į kurį galėtų remtis koroliariniai priedai. T-9 užpildo šią spragą. Pateiktinas rezultatas: Konsoliduojantis priedas tame pačiame episteminiame lygmenyje kaip T-2 / T-15 (struktūrinė atitiktis, ne uždaras teoremos pavidalas). Naujas turinys, palyginti su pagrindiniu straipsniu: aiški predikcinio prieaugio apibrėžtis G_i(t,\tau), priežiūros kaštų skaidymas, kuriame pirminė yra išteklių-talpos dedamoji, keturių genėjimo modalijų atskyrimas, atkūrimo sąlyga, koroliarinė grandinė.

Užbaigtumo būsena: STRUKTŪRINĖ ATITIKTIS (tas pats lygmuo kaip T-2 / T-15). Šis priedas nėra uždaros teoremos priedas. Jis konsoliduoja Priežiūros ciklo aparatą, jau veikiantį preprinte §3.6, ir prideda keturis formalaus turinio elementus, kurių pagrindiniame straipsnyje nėra: aiškų predikcinį prieaugį, išteklių-talpos kaštų įrėminimą, keturias genėjimo modalijas ir atkūrimo sąlygas. Laikomasi §2 OpenAI peržiūros išlygų: (i) genėjimo slenkstis pateikiamas tokia forma, kuri dera su T-12 dar laukiančiu kanalų nepriklausomumo performulavimu (4 fazė); (ii) esamos pagrindinio straipsnio lygtys T9-3 / T9-4 išsaugomos taip, kaip cituojamos, o T-9 įveda išteklių-talpos patikslinimą kaip papildomą formalų sluoksnį, o ne tyliai pakeičia cituojamas formas; (iii) išteklių-talpos kaštai yra pirminiai, o K-sudėtingumas yra struktūrinės atitikties aproksimacija. Atviri klausimai (§9): išteklių-talpos ir K-sudėtingumo apskaitą reikia visiškai suderinti su T-12, kai bus įgyvendintas T-12 performulavimas.

§1. Sąranka — aktyviojo modelio komponentai

Kodeką K_\theta sudaro aktyviojo modelio komponentų aibė \{\theta_i\}_{i \in I}, kur kiekvienas \theta_i yra adresuojamas struktūrinis kodeko vienetas — generatyvus prioras, išmoktas požymių detektorius, rekursyvus sluoksnių blokas, tolimojo nuotolio sąsaja ar bet kuris kitas primityvas, dalyvaujantis laikui bėgant formuojant kodeko predikcijas \pi_t ir atnaujinimo operatorių \mathcal{U}. Aibė \{\theta_i\} bet kuriuo duotu momentu yra baigtinė, tačiau gali būti išplėsta konsolidacijos būdu (II perėjimas, preprintas §3.6.4) arba susiaurinta genėjimo būdu (I perėjimas, preprintas §3.6.3).

T-9 tikslais šie komponentai laikomi apibrėžtais: T-9 neišveda, kas vieną \theta_i daro „natūraliu“ komponentu, o kitą — ne, nes tai yra reprezentacinio mokymosi klausimas, nepatenkantis į OPT taikymo sritį. Priežiūros ciklo aparatas veikia su bet kokia dekompozicija, kurią kodekas leidžia.

Priežiūros ciklo operatorius \mathcal{M}_\tau (preprinto lygtis T9-2) veikia Fenomenalios būsenos tenzorių P_\theta(t) mažos apkrovos intervalais (R_{\text{req}}(t) \ll C_{\max}). T-9 išskleidžia tris perėjimus (genėjimą, konsolidaciją, Predikcinės Šakų Aibės mėginių ėmimą) į aiškius formalius primityvus tolesniuose §2–§6; tuomet §7 koroliarų grandinė per šiuos primityvus atseka Naratyvinį dreifą (T-12) ir Veiksmo dreifą (T-13).

§2. Predikcinis prieaugis G_i(t, \tau)

Komponento \theta_i predikcinis prieaugis lange, kurio ilgis \tau, matuoja, kiek tas komponentas prisideda prie kodeko predikcinio našumo įvesties sraute, laikant kitus komponentus fiksuotus:

G_i(t, \tau) \;:=\; I\!\left(\theta_i \,;\, X_{t+1:t+\tau} \mid \theta_{-i}\right) \tag{T9.2-1}

čia \theta_{-i} žymi likusią kodeko dalį be \theta_i, o I(\cdot ; \cdot \mid \cdot) yra sąlyginė tarpusavio informacija. Sąlyginė forma yra esminė: ji išskiria \theta_i ribinį predikcinį indėlį, o ne jo jungtinį indėlį kartu su persidengiančiais komponentais.

Palyginimas su pagrindinio straipsnio T9-3 lygtimi. Pagrindinio straipsnio MDL genėjimo dydis yra

\Delta_{\mathrm{MDL}}(\theta_i) \;=\; I\!\left(\theta_i\,;\,X_{t+1:t+\tau} \mid \theta_{-i}\right) - \lambda K(\theta_i) \tag{T9-3, preprint §3.6.3}

T-9 pirmąjį narį aiškiai įvardija kaip G_i(t,\tau), kad predikcinio prieaugio primitivas galėtų būti nurodomas atskirai nuo slenkstinės formos genėjimo sąlygos. Tai yra vien tik notacinis suvienodinimas; nelygybė išlieka ta pati.

Lango ilgis \tau. Predikcinis prieaugis priklauso nuo lango ilgio. Trumpas \tau fiksuoja smulkaus laiko mastelio prognozavimą (motorinę kontrolę, darbinę atmintį); ilgas \tau fiksuoja struktūrinį prognozavimą (semantinius dėsningumus, naratyvinį nuoseklumą). Priežiūros ciklo I perėjimo genėjimas vertinamas ilgesnio \tau režime, kuriame iš tiesų nenaudingi komponentai tenkina G_i \to 0. II perėjimo konsolidacija, priešingai, optimizuojama trumpo \tau režime, kuriame išryškėja redundancija tarp persidengiančių komponentų.

§3. Priežiūros kaina C_i — ištekliais grįstas pajėgumas kaip pirminė forma

Komponento \theta_i priežiūros kaina turi dvi tarpusavyje suderinamas formuluotes.

Forma 3.1 — Išteklių pajėgumas (pirminė T-9 teoremai). Komponento kaina yra išteklių pajėgumas, kurį jis užima kodeko operaciniame substrate:

C_i \;:=\; c_i^{\text{params}} + c_i^{\text{memory}} + c_i^{\text{compute}} + c_i^{\text{channel}} \tag{T9.3-1}

čia keturi biudžetai yra: parametrų vietos (svorių arba jungčių skaičius); atminties pėdsakas (saugomų bitų skaičius); skaičiavimo kaina (operacijų per ciklą skaičius); ir kanalo pajėgumas (pralaidumo bitai, kuriuos komponentas sunaudoja ties Markovo antklodės riba \partial_R A). Kiekvienas c_i iš principo yra stebimas — biologinių kodekų atveju per metabolinius ir fiziologinius matavimus, sintetinių kodekų atveju per tiesioginę instrumentinę stebėseną.

Forma 3.2 — K-sudėtingumo aproksimacija. Pagrindinio straipsnio lygtis T9-3 naudoja \lambda K(\theta_i), kur K(\theta_i) yra komponento prefiksinis Kolmogorovo sudėtingumas:

C_i^{\text{K-approx}} \;:=\; \lambda \cdot K(\theta_i) \tag{T9.3-2}

Tai yra struktūrinės atitikties aproksimacija: K-sudėtingumas yra viršuje pusiau apskaičiuojamas ir nėra griežtai adityvus tarp komponentų (vieno komponento pašalinimas nebūtinai sumažina trumpiausio aprašo ilgį jo savarankiškuoju K(\theta_i) dydžiu, nes komponentai gali dalytis struktūra). Todėl išteklių pajėgumo forma (T9.3-1) yra pirminė operaciniams teiginiams; K-sudėtingumo forma paliekama teorinėms analizėms, kuriose adityvumo aproksimacija yra priimtina.

Kodėl dvi formos. OpenAI T-12 peržiūra (appendix-corrections memorandumo §2.8) teisingai pažymėjo, kad K-sudėtingumas nėra adityvus tarp komponentų, ir operaciniams teiginiams rekomendavo išteklių pajėgumo matus. T-9 priima išteklių pajėgumą kaip pirminę formą, tačiau išsaugo K-sudėtingumo formą, nes tiek esama pagrindinio straipsnio lygtis T9-3, tiek T-12 teoremos T-12 įrodymas remiasi K-sudėtingumo forma. Išteklių pajėgumo patikslinimas yra švaresnė formuluotė §3.6.3 / §3.6.4 / T-12 / T-13 vietoms v3.7.0 ar vėlesnio redakcinio sutvarkymo etape; T-9 pateikia abi formas, kad būsimas sutvarkymas galėtų būti atliktas nuosekliai, užuot reikalavus vienu metu taisyti visas cituojančias vietas.

\lambda derinimas. Formoje 3.2 parametras \lambda nustato kompromisą tarp predikcinio prieaugio ir sudėtingumo kainos. Empiriškai stebima, kad \lambda kinta priklausomai nuo afektinės būsenos — didelis |E(b)| (preprinto lygtis T9-10) efektyviai padidina \lambda komponento lygmeniu, todėl afektiškai pažymėti komponentai tampa atsparesni genėjimui. Tai yra formalus emocinės atminties sustiprėjimo paaiškinimas (preprintas §3.6.5, III perėjimas).

§4. Genėjimo sąlyga — slenkstinė forma

Genėjimo sąlyga naudoja slenkstinę formą, o ne pagrindinio straipsnio lygties T9-4 griežto pozityvumo formą. OpenAI T-12 peržiūroje (appendix-corrections memorandumo §2.8, 3 pataisa) teisingai pažymėta, kad griežta I = 0 sąlyga genėjimui yra pernelyg trapi: realūs komponentai turi silpnų netiesioginių predikcinių indėlių net tada, kai jų pirminis predikcinis vaidmuo yra eliminuotas filtruota įvestimi.

Slenkstinės formos genėjimo sąlyga:

\text{Genėti } \theta_i \quad \text{jei} \quad G_i(t, \tau) \;<\; C_i \;-\; \epsilon \tag{T9.4-1}

kur \epsilon > 0 yra mažas išlaikymo buferis, derinantis kodeko genėjimo agresyvumą. Ekvivalentinės nelygybės formos:

G_i(t, \tau) - C_i \;<\; -\epsilon \quad \Longleftrightarrow \quad I\!\left(\theta_i; X_{t+1:t+\tau} \mid \theta_{-i}\right) \;<\; C_i - \epsilon \tag{T9.4-2}

Palyginimas su pagrindinio straipsnio lygtimi T9-4. Pagrindiniame straipsnyje \Delta_{\mathrm{MDL}}(\theta_i) < 0 pateikiama kaip genėjimo paleidiklis, o tai atitinka \epsilon = 0 — griežtą lūžio tašką. T-9 apibendrina šį atvejį, įvesdama išlaikymo buferį \epsilon, kuris tiksliau modeliuoja biologinio genėjimo dinamiką (kai maži predikciniai indėliai išsaugomi nepaisant trumpalaikio triukšmo) ir sintetinio kodeko genėjimo hiperparametrus (kai slenkstinis šalinimas yra standartinis).

Griežto lūžio taško atvejis atkuriamas, kai \epsilon \to 0, todėl T-9 forma nepaneigia esamų T9-4 citatų T-12 ir T-13; ji jas apibendrina.

Implikacija Naratyviniam dreifui (kryžminė nuoroda į T-12). Esant filtruotai įvesčiai X' = \mathcal{F}(X) su atmestu signalu \mathcal{X}_{\text{excl}}, komponentai \theta_i, kurių predikcinis indėlis skirtas išimtinai \mathcal{X}_{\text{excl}}, tenkina G_i(t, \tau) \to 0 filtruotame sraute (nes jų taikinio nėra stebimoje įvestyje). Tuomet suveikia genėjimo sąlyga (T9.4-1), nes 0 < C_i - \epsilon bet kuriam teigiamų sąnaudų komponentui. T-12 teoremos T-12 negrįžtamumo rezultatas išplaukia iš šio suveikimo kartu su keturių modalumų skirtimi, aptarta toliau §5.

§5. Keturios genėjimo modalumų rūšys

Genėjimo operacija (T9.4-1) kodeke leidžia keturias skirtingas realizacijas, pasižyminčias nevienodomis grįžtamumo savybėmis. Šis skirtumas svarbus atkūrimo sąlygai (§6) ir Naratyvinio dreifo negrįžtamumo teiginiui T-12 pataisos 1 formuluotėje (appendix-corrections memorandumas §2.8).

5.1 modalumas — grįžtamas slopinimas. Komponento \theta_i išvesties svoris sumažinamas iki nulio (arba žemiau dalyvavimo slenksčio), tačiau komponento parametrai ir struktūra lieka išsaugoti kodeke. Atkūrimas yra tiesioginis: pakartotinis svorio suteikimas atkuria komponentą. Būtent ši operacija lemia elgesio ekstinkciją sąlygojimo procese (sąlygotasis atsakas silpnėja, tačiau pėdsakas išlieka) ir dropout tipo reguliarizaciją neuroniniuose tinkluose.

5.2 modalumas — svorių irimas. Komponento parametrai, veikiami reguliarizacijos slėgio \propto \lambda, tolydžiai nyksta link numatytosios būsenos. Komponentas neištrinamas, tačiau praranda ištikimybę; dalinis atkūrimas įmanomas, jei numatytoji būsena yra informatyvi.

5.3 modalumas — reprezentacinis užmiršimas. Komponento parametrai konsolidacijos metu perrašomi konkuruojančių komponentų (II perėjimas, preprint §3.6.4). Struktūrinė vieta išlieka, tačiau konkreti reprezentacija prarandama. Atkūrimui reikia pakartotinio susidūrimo su atitinkamu įvesties srautu vėlesnio Priežiūros ciklo metu, ir jis yra dalinis (iš naujo išmokta reprezentacija smulkiomis detalėmis skiriasi nuo pirminės).

5.4 modalumas — architektūrinis genėjimas. Pašalinami ir komponento parametrai, ir jo struktūrinė vieta; kodeko architektūra sumažinama. Atkūrimas kodeko lygmeniu neįmanomas — komponentas turi būti iš naujo užaugintas nuo pradžių per pilną mokymosi epizodą. Tai negrįžtamas modalumas.

Modalumų klasifikacija filtruotos įvesties sąlygomis. T-12 teoremos T-12 „negrįžtamumo“ teiginys (kaip jis suformuluotas esamame preprint variante) reikalauja 5.4 modalumo (architektūrinio genėjimo) ir neapima 5.1–5.3 modalumų. T-9 šią priklausomybę nuo modalumo daro aiškią; v0.4 appendix-corrections memorandumo §2.8 pataisa 1 („negrįžtamas turėtų būti sąlyginis esant no protected archive / no replay buffer / no external teacher / no architectural reserve capacity / continued operation under the same filter / pruning is literal capacity deletion, not reversible suppression“) atitinka 5.4 modalumo interpretaciją.

Realiuose biologiniuose ir sintetiniuose kodekuose paprastai aptinkamas modalumų mišinys, o 5.4 modalumas rezervuojamas komponentams, kurie nuosekliai genimi per daugelį Priežiūros ciklų. Perėjimas nuo grįžtamo prie negrįžtamo genėjimo, esant ilgalaikei filtruotai įvesčiai, yra struktūrinis mechanizmas, grindžiantis lėtinį Naratyvinį dreifą (T-12).

§6. Atkūrimo sąlyga

Nugenėtas komponentas \theta_i yra atkuriamas, jei egzistuoja procesas, kuriuo jis gali būti grąžintas į aktyvų dalyvavimą kodeke. Atkūrimo tikimybė per atkūrimo langą \tau_R yra:

P\big(\text{recover } \theta_i \mid \tau_R\big) \;=\; P\big(\text{Modality 5.1 or 5.2}\big) \cdot p_{\text{restore}}(\tau_R) \;+\; P\big(\text{Modality 5.3 or 5.4}\big) \cdot p_{\text{regrow}}(\tau_R) \tag{T9.6-1}

Pirmasis narys apima grįžtamąjį / iš dalies grįžtamąjį genėjimą (slopinimą, svorių nykimą); antrasis apima reprezentacinį užmiršimą ir architektūrinį genėjimą, kai atkūrimui reikalinga išorinė įvestis.

Atkūrimas yra teigiamas tik tuo atveju, jei tenkinama bent viena iš trijų sąlygų:

1. Apsaugota atmintis. Kodekas išlaiko archyvuotą \theta_i reprezentaciją negenėtame substrate (atskira podėlio atmintis, versijų kontrole valdoma atsarginė kopija, neurofiziologiškai apsaugota atmintis, konsoliduota kitame regione). Esant šiai sąlygai, gali būti atkurtos 5.1 ir 5.3 modalumos.

2. Išorinis mokytojas / pakartotinis susidūrimas. Kodekas gauna įvesties srautus, kuriuose yra signalas \mathcal{X}_{\text{excl}}, kurį nugenėtas komponentas iš pradžių sekė. Aktyvus pakartotinis mokymasis vėlesnio Priežiūros ciklo II fazės metu atkuria komponentą (su išlygomis dėl smulkiagrūdžio ištikimumo). Esant šiai sąlygai, visos keturios modalumos gali būti atkurtos per pakankamą laiką, nors 5.4 modalumai reikia pilno mokymosi epizodo, palyginamo su pirminiu įgijimu.

3. Architektūrinis rezervas. Kodekas turi struktūrinių vietų, kurios nebuvo priskirtos konkretiems komponentams ir gali būti paskirtos ataugintos reprezentacijos talpinimui. Tai yra sąlyga, kuriai esant 5.4 modalumos atkūrimas apskritai yra mechaniškai įmanomas.

Jei netenkinama nė viena iš (1), (2), (3) sąlygų, tuomet P(\text{recover}\, \theta_i \mid \tau_R) = 0 visiems \tau_R, ir genėjimas yra nuolatinis.

Substrato ištikimybės sąlyga. T-12 Substrato ištikimybės sąlyga (teorema T-12b — \delta-nepriklausomų įvesties kanalų, kertančių Markovo antklodę, redundancija) yra (2) sąlygos analogas giminės masteliu: kanalai užtikrina, kad įvesties sraute ir toliau būtų substratui reikšmingas signalas net ir tada, kai jį filtruoja išoriniai mechanizmai \mathcal{F}. T-9 atkūrimo sąlyga pateikia šios logikos realizaciją kodeko viduje: apsaugoti komponentai, atkūrimo buferiai, architektūrinis rezervas.

§7. Koroliarai — Naratyvinis dreifas ir veiksmų dreifas

T-9 primityvai palaiko dvi koroliarų grandines, išplėtotas T-12 ir T-13 prieduose.

Koroliaras 7.1 — Naratyvinis dreifas (T-12). Esant ilgalaikiam filtruotam įvesčiui X' = \mathcal{F}(X), iš kurio pašalintas signalas \mathcal{X}_{\text{excl}}: - Komponentai \theta_i, kurių predikcinis prieaugis susijęs išimtinai su \mathcal{X}_{\text{excl}}, filtruotame sraute turi G_i(t, \tau) \to 0. - Genėjimo sąlyga (T9.4-1) suveikia visiems tokiems komponentams. - Jei genėjimas vyksta 5.4 modalumu (architektūriniu) — kuris dominuoja esant ilgalaikiam filtravimui per daugelį Priežiūros ciklų — ir negalioja nė viena iš atkūrimo sąlygų (§6, 1–3 punktai), gebėjimas modeliuoti \mathcal{X}_{\text{excl}} prarandamas visam laikui. - Kodekas negali iš vidaus aptikti savo paties pajėgumo praradimo (prarasti komponentai nebedalyvauja generuojant predikcijos paklaidą), taip atkuriant T-12a neidentifikuojamumo teiginį.

Pilnas formalus išdėstymas pateiktas T-12; T-9 pateikia modalumui specifinį „negrįžtamo“ aiškinimą, kurio reikalauja T-12 Correction 1.

Koroliaras 7.2 — Veiksmų dreifas (T-13). Komponentai, koduojantys elgesio vertinimo pajėgumą nenaudojamoms šakoms: - Turi predikcinį prieaugį G_i(t, \tau), matuojamą pagal įvesties srauto faktiškai realizuotų šakų baigtis; jei tam tikros šakos niekada nepasirenkamos, vertintojai negauna mokymo signalo. - Genėjimo sąlyga suveikia, kai nenaudojamo vertintojo G_i nukrenta žemiau C_i - \epsilon. - Esant 5.4 modalumui, vertintojas visam laikui išgenimas; kodekas tampa užtikrintai bejėgis atitinkamo veikimo srityje.

T-13 teiginys Proposition T-13.P1 (Veiksmų dreifas) yra šio vidinio kodeko mechanizmo giminės mastelio (elgesio repertuaro) atvejis.

Kryžminė nuoroda: giminės lygmens Priežiūros ciklas. T-15 priedo §3 išplėtoja struktūrinę atitiktį tarp gyvenimo eigoje vykstančio Priežiūros ciklo ir filogenetinio tobulinimo. Keturios T-9 genėjimo modalumo formos atitinkamai atitinka: laikiną nišos susiaurėjimą (5.1), giminės dreifą susilpnėjus atrankai (5.2), nišos pakeitimą (5.3) ir giminės išnykimą (5.4). Atkūrimo sąlygos (§6) atitinka filogenetinį redundantiškumą: apsaugotas refugijas (1), ekologinį pakartotinį poveikį atkūrus nišą (2) ir rezervinį vystymosi pajėgumą (3).

§8. Santykis su pagrindinio straipsnio §3.6 lygtimis

T-9 konsoliduoja, o ne išstumia. Pagrindinio straipsnio lygtys T9-1–T9-13 (preprinto §3.6.1–§3.6.6) išlieka galioti taip, kaip cituojamos; T-9 įveda papildomus formalius primityvus ir patikslinimus, kurie jas papildo.

Iš esmės naujas T-9 turinys: ekspliciti predikcinio prieaugio G_i(t,\tau) apibrėžtis (§2); išteklių-pajėgumo sąnaudų įrėminimas kaip pirminis (§3, 3.1 forma); slenkstinė genėjimo sąlyga su išlaikymo buferiu \epsilon (§4); keturi genėjimo modalumai (§5); atkūrimo sąlyga (§6); T-12 negrįžtamumo teiginio modalumui specifinis skaitymas (§7.1).

§9. Atviri klausimai

Derinimas su T-12 kanalų nepriklausomumo performulavimu (4 fazė). T-12 yra priedų pataisų eilėje (v0.4 §2.8) dėl kanalų nepriklausomumo sąlygos performulavimo: nepriklausomi turi būti filtravimo mechanizmai, o ne signalai. T-9 genėjimo sąlyga (§4) ir atkūrimo sąlyga (§6) yra suformuluotos taip, kad derėtų su tuo performulavimu, tačiau T-12 teoremos T-12 įrodymą reikės peržiūrėti iš naujo, kai bus įdiegta performuluota kanalų nepriklausomumo apibrėžtis. Konkrečiai: negrįžtamumo teiginys T-12 §3.1 šiuo metu remiasi T9-3 / T9-4; po v3.7.0 sutvarkymo jis turėtų remtis T-9 §4 slenkstine forma + §5 modalumų klasifikacija + §6 atkūrimo sąlyga, o negrįžtamumo interpretacija turėtų būti apribota 5.4 modalumu tuo atveju, kai netenkinama atkūrimo sąlyga. Atvira.

Išteklių talpos ir K-sudėtingumo apskaitos suderinimas. §3 pateikia abi formas, tačiau neišveda jų kiekybinės atitikties. Kai kurioms komponentų klasėms šios dvi formos yra glaudžiai susijusios (C_i^{\text{params}} \sim K(\theta_i) iki pastovaus daugiklio, pavyzdžiui, įsimintoms paieškos lentelėms); kitoms jos smarkiai išsiskiria (kompozicinė struktūra, bendra keliems komponentams, suteikia K-sudėtingumo sutaupymų, kurių išteklių talpos forma nefiksuoja). Pageidautinas v3.7.0 ar vėlesnis suderinimas. Atvira.

Virtualaus skaitymo neutralumas (v3.6.21). Visiškai virtuali stovinčios būsenos interpretacija (pagrindinis straipsnis §8.6.1) Priežiūros ciklą peraprašo kaip filtrą pereinančio srauto savybes, o ne kaip veikiančią mašiną, tačiau ne perranguoja Formos 3.1 / Formos 3.2 apskaitos: Forma 3.1 (išteklių talpa) išlieka pirminė visiems operaciniams teiginiams, ir T-12 operacinis įrodymas toliau ja remiasi. Srautui gimininga gniuždomumo interpretacija įvedama tik kaip interpretacinis sluoksnis, nurodytas T-12 §3.1. Aukščiau minėtas K-adityvumo suderinimas yra ta vieta, kur būtų argumentuojamas bet koks būsimas Formų perrangavimas — ne virtualus skaitymas. Atvira (nepainioti su v3.7.0 sutvarkymu).

Empirinis \epsilon kalibravimas. Išlaikymo buferis \epsilon formulėje (T9.4-1) yra efektyvus genėjimo hiperparametras. Empirinės biologinės reikšmės būtų gaunamos iš neuroninio genėjimo tyrimų (sinapsinio nykimo slenksčių, dendritinių spyglių išlaikymo rodiklių) arba iš Δ_self^op asimptotės eksperimento opt-ai-subject prototipe. T-9 konkrečios reikšmės neišveda. Atvira.

Kryžminė nuoroda į Priežiūros ciklo empirines prognozes. Preprinte §3.6.7 pateikiamos Priežiūros ciklo empirinės prognozės (miegas / sapnavimas / konsolidacija). T-9 keturi genėjimo modalumai leidžia formuluoti smulkesnes prognozes: prognozė, kad „REM sapnai neproporcingai dažnai atrenka didelės svarbos šakas“ (preprint §3.6.5, Pass III), išskaidoma į modalumui specifines prognozes apie tai, kokių tipų reprezentacijos išsaugomos 5.1 modalumu (svarba grįstas išlaikymas prieš genėjimą), palyginti su 5.4 modalumu (kai didelės svarbos šakų nebuvimas budrumo patirtyje lemia atitinkamo vertintojo architektūrinį pašalinimą). Atvira.

Šis priedas palaikomas kaip OPT projekto saugyklos dalis greta opt-theory.md. Nuorodos į Priežiūros ciklo primityvus preprinto §3.6 yra išsaugotos; T-9 papildo jas eksplicitiniu predikciniu prieaugiu G_i (§2), išteklių talpos kaina (§3 Forma 3.1), slenkstine genėjimo sąlyga su išlaikymo buferiu \epsilon (§4), keturiais genėjimo modalumais (§5) ir atkūrimo sąlygomis (§6). Koroliarų nuorodos: T-12 (Naratyvinis dreifas §3.6.3; T-13 (Veiksmo dreifas) §6; T-15 (Filogenetinis Stabilumo filtras) §3.