Теорія впорядкованого патча (OPT)

Початкове завдання T-9: Цикл обслуговування та апарат відновлення Проблема: Основна стаття в §3.6.3–§3.6.6 визначає рівняння T9-1–T9-13 (оператор Циклу обслуговування \mathcal{M}_\tau, MDL-прунінг \Delta_{\mathrm{MDL}}, виграш консолідації \Delta K_{\text{compress}}, REM-вагове зважування важливості w(b)). Додатки T-12 (Наративний дрейф) і T-13 (Дрейф дії) посилаються на цей апарат як на несівний елемент. У межах фреймворку бракує консолідуючого додатка, який (i) явно називає формальні примітиви, (ii) розрізняє чотири модальності прунінгу, які в основній статті лишаються неявними через \Delta_{\mathrm{MDL}} < 0, (iii) визначає умову відновлення та (iv) надає стабільну формальну ціль, на яку можуть посилатися короларні додатки. T-9 заповнює цю прогалину. Результат: Консолідуючий додаток на тому самому епістемічному рівні, що й T-2 / T-15 (структурна відповідність, а не замкнена теорема). Новий зміст понад основну статтю: явне визначення предиктивного виграшу G_i(t,\tau), декомпозиція вартості обслуговування з первинністю ресурсно-ємнісного компонента, розрізнення чотирьох модальностей прунінгу, умова відновлення, ланцюг короларіїв.

Статус закриття: СТРУКТУРНА ВІДПОВІДНІСТЬ (той самий рівень, що й T-2 / T-15). Цей додаток не є додатком із замкненою теоремою. Він консолідує апарат Циклу обслуговування, який уже працює в препринті §3.6, і додає чотири елементи формального змісту, яких немає в основній статті: явний предиктивний виграш, ресурсно-ємнісне фреймування вартості, чотири модальності прунінгу та умови відновлення. Застереження §2 щодо OpenAI-review дотримано: (i) поріг прунінгу подано у формі, що узгоджується з очікуваним переформулюванням незалежності каналів у T-12 (Фаза 4); (ii) наявні рівняння основної статті T9-3 / T9-4 збережено в процитованому вигляді, причому T-9 вводить ресурсно-ємнісне уточнення як додатковий формальний шар, а не непомітно змінює процитовані форми; (iii) ресурсно-ємнісна вартість є первинною, тоді як K-складність виступає наближенням структурної відповідності. Відкриті краї (§9): облік ресурсно-ємнісної вартості проти K-складності потребує повного узгодження з T-12, щойно буде впроваджено переформулювання T-12.

§1. Налаштування — Активні компоненти моделі

Кодек K_\theta складається з множини активних компонентів моделі \{\theta_i\}_{i \in I}, де кожен \theta_i є адресованою структурною одиницею кодека — генеративним апріорі, вивченим детектором ознак, рекурентним стеком, далекодіючим зв’язком або будь-яким іншим примітивом, що бере участь у формуванні предикцій кодека \pi_t та оператора оновлення \mathcal{U} у часі. Множина \{\theta_i\} є скінченною в будь-який заданий момент, але може розширюватися через консолідацію (Pass II, препринт §3.6.4) або звужуватися через прунінг (Pass I, препринт §3.6.3).

Для цілей T-9 ці компоненти беруться як задані: T-9 не виводить, що саме робить один \theta_i, а не інший, «природним» компонентом, оскільки це питання репрезентаційного навчання, що лежить поза межами OPT. Апарат Циклу обслуговування діє на будь-якому розкладі, який допускає кодек.

Оператор Циклу обслуговування \mathcal{M}_\tau (препринт, рівн. T9-2) діє на Тензор феноменального стану P_\theta(t) під час інтервалів низького навантаження (R_{\text{req}}(t) \ll C_{\max}). T-9 розгортає три проходи (прунінг, консолідація, семплювання прогностичної множини гілок) в явні формальні примітиви в §2–§6 нижче; ланцюг короларіїв у §7 далі простежує Наративний дрейф (T-12) і дрейф дії (T-13) через ці примітиви.

§2. Предиктивний виграш G_i(t, \tau)

Предиктивний виграш компонента \theta_i на вікні довжини \tau вимірює, наскільки цей компонент робить внесок у предиктивну ефективність кодека на вхідному потоці за фіксованих інших компонентів:

G_i(t, \tau) \;:=\; I\!\left(\theta_i \,;\, X_{t+1:t+\tau} \mid \theta_{-i}\right) \tag{T9.2-1}

де \theta_{-i} позначає решту кодека без \theta_i, а I(\cdot ; \cdot \mid \cdot) — це умовна взаємна інформація. Умовна форма тут є принципово важливою: вона ізолює граничний предиктивний внесок \theta_i, а не його спільний внесок разом із компонентами, що перекриваються.

Порівняння з рівнянням T9-3 в основній статті. Величина MDL-обрізання в основній статті має вигляд

\Delta_{\mathrm{MDL}}(\theta_i) \;=\; I\!\left(\theta_i\,;\,X_{t+1:t+\tau} \mid \theta_{-i}\right) - \lambda K(\theta_i) \tag{T9-3, preprint §3.6.3}

У T-9 перший доданок явно позначено як G_i(t,\tau), щоб до примітива предиктивного виграшу можна було звертатися окремо від порогової умови обрізання. Це суто нотаційна консолідація; нерівність збережено.

Довжина вікна \tau. Предиктивний виграш залежить від довжини вікна. Мале \tau фіксує передбачення на тонких часових масштабах (моторний контроль, робоча пам’ять); велике \tau фіксує структурне передбачення (семантичні регулярності, наративна когерентність). Обрізання в Pass I Циклу обслуговування оцінюється в режимі більшого \tau, де справді непотрібні компоненти мають G_i \to 0. Консолідація в Pass II, натомість, оптимізується в режимі малого \tau, де стає помітною надлишковість між компонентами, що перекриваються.

§3. Вартість обслуговування C_i — первинність ресурсної місткості

Вартість обслуговування компонента \theta_i має два сумісні формулювання.

Форма 3.1 — Ресурсна місткість (первинна для T-9). Вартість компонента — це ресурсна місткість, яку він займає в операційному субстраті кодека:

C_i \;:=\; c_i^{\text{params}} + c_i^{\text{memory}} + c_i^{\text{compute}} + c_i^{\text{channel}} \tag{T9.3-1}

де чотири бюджети такі: слоти параметрів (кількість ваг або зв’язків); обсяг пам’яті (у збережених бітах); обчислювальна вартість (в операціях на цикл); і пропускна здатність каналу (біти пропускної здатності, які компонент споживає на межі Марковської ковдри \partial_R A). Кожне c_i у принципі є спостережуваним — для біологічних кодеків через метаболічні та фізіологічні вимірювання, для синтетичних кодеків через безпосереднє інструментальне вимірювання.

Форма 3.2 — K-складнісна апроксимація. У головній статті в рівнянні T9-3 використано \lambda K(\theta_i), де K(\theta_i) — префіксна колмогорівська складність компонента:

C_i^{\text{K-approx}} \;:=\; \lambda \cdot K(\theta_i) \tag{T9.3-2}

Це апроксимація структурної відповідності: K-складність є зверху напівобчислюваною і не є строго адитивною між компонентами (видалення одного компонента може не зменшити довжину найкоротшого опису на його автономне K(\theta_i), оскільки компоненти можуть ділити спільну структуру). Тому форма ресурсної місткості (T9.3-1) є первинною для операційних тверджень; форму K-складності збережено для теоретичних аналізів, де апроксимація адитивності є прийнятною.

Чому дві форми. Рецензія OpenAI на T-12 (меморандум appendix-corrections §2.8) слушно зауважила, що K-складність не є адитивною між компонентами, і рекомендувала для операційних тверджень використовувати міри ресурсної місткості. T-9 приймає ресурсну місткість як первинну, але зберігає форму K-складності, оскільки і наявне рівняння T9-3 у головній статті, і доведення Теореми T-12 у T-12 посилаються на форму K-складності. Уточнення через ресурсну місткість є чистішим формулюванням для §3.6.3 / §3.6.4 / T-12 / T-13 у проході очищення v3.7.0 або пізнішому; T-9 робить доступними обидві форми, щоб майбутнє очищення можна було виконати узгоджено, а не вимагати одночасного виправлення всіх місць, що на них посилаються.

Налаштування \lambda. У Формі 3.2 параметр \lambda задає компроміс між предиктивним виграшем і вартістю складності. Емпірично спостерігається, що \lambda змінюється залежно від афективного стану — високе |E(b)| (препринт, рівняння T9-10) фактично підвищує \lambda на рівні компонента, роблячи афективно позначені компоненти стійкішими до відсікання. Це і є формальний опис посилення емоційної пам’яті (препринт §3.6.5, Pass III).

§4. Умова обрізання — порогова форма

Умова обрізання використовує порогову форму, а не форму строгої додатності з рівняння T9-4 основної статті. Рецензія OpenAI на T-12 (меморандум appendix-corrections, §2.8, Correction 3) слушно зауважила, що строга умова I = 0 для обрізання є надто крихкою: реальні компоненти мають слабкі непрямі предиктивні внески навіть тоді, коли їхню первинну предиктивну роль виключено відфільтрованим входом.

Порогова форма умови обрізання:

\text{Prune } \theta_i \quad \text{if} \quad G_i(t, \tau) \;<\; C_i \;-\; \epsilon \tag{T9.4-1}

де \epsilon > 0 — малий буфер утримання, що налаштовує агресивність обрізання кодека. Еквівалентні форми нерівності:

G_i(t, \tau) - C_i \;<\; -\epsilon \quad \Longleftrightarrow \quad I\!\left(\theta_i; X_{t+1:t+\tau} \mid \theta_{-i}\right) \;<\; C_i - \epsilon \tag{T9.4-2}

Порівняння з рівнянням T9-4 основної статті. В основній статті як тригер обрізання записано \Delta_{\mathrm{MDL}}(\theta_i) < 0, що відповідає \epsilon = 0 — строгій точці беззбитковості. T-9 узагальнює це, вводячи буфер утримання \epsilon, який точніше моделює біологічну динаміку обрізання (де малі предиктивні внески зберігаються попри транзиторний шум) і гіперпараметри обрізання синтетичного кодека (де видалення на основі порога є стандартним).

Випадок строгої беззбитковості відновлюється за \epsilon \to 0, тож форма T-9 не скасовує наявні посилання на T9-4 у T-12 і T-13; вона їх узагальнює.

Наслідок для Наративного дрейфу (перехресне посилання на T-12). За відфільтрованого входу X' = \mathcal{F}(X) з виключеним сигналом \mathcal{X}_{\text{excl}} компоненти \theta_i, чий предиктивний внесок спрямований виключно на \mathcal{X}_{\text{excl}}, задовольняють G_i(t, \tau) \to 0 на відфільтрованому потоці (оскільки їхня ціль відсутня у спостережуваному вході). Тоді спрацьовує умова обрізання (T9.4-1), оскільки 0 < C_i - \epsilon для будь-якого компонента з додатною вартістю. Результат про незворотність у теоремі T-12 випливає з цього спрацьовування разом із чотиримодальною дистинкцією в §5 нижче.

§5. Чотири модальності прунінгу

Операція прунінгу (T9.4-1) допускає чотири різні реалізації в кодеку, з різними властивостями оборотності. Це розрізнення має значення для умови відновлення (§6) та для твердження про необоротність Наративного дрейфу в T-12 Correction 1 (memo appendix-corrections §2.8).

Модальність 5.1 — Оборотне пригнічення. Вагу виходу компонента \theta_i зменшено до нуля (або нижче порога участі), але параметри й структура компонента залишаються збереженими в кодеку. Відновлення є прямолінійним: повторне зважування відновлює компонент. Саме ця операція лежить в основі поведінкового згасання в умовному навчанні (умовна реакція слабшає, але слід зберігається) та регуляризації типу dropout у нейронних мережах.

Модальність 5.2 — Згасання ваг. Параметри компонента безперервно згасають до стану за замовчуванням під тиском регуляризації \propto \lambda. Компонент не видаляється, але втрачає вірність; часткове відновлення можливе, якщо стан за замовчуванням є інформативним.

Модальність 5.3 — Репрезентаційне забування. Параметри компонента перезаписуються конкуруючими компонентами під час консолідації (Pass II, preprint §3.6.4). Структурний слот зберігається, але конкретна репрезентація втрачається. Відновлення потребує повторної експозиції до релевантного вхідного потоку під час наступного Циклу обслуговування і є частковим (повторно вивчена репрезентація відрізняється від початкової в дрібнозернистих деталях).

Модальність 5.4 — Архітектурний прунінг. І параметри компонента, і його структурний слот видаляються; архітектура кодека редукується. Відновлення на рівні кодека неможливе — компонент потрібно виростити заново через повний епізод навчання. Це необоротна модальність.

Класифікація модальностей за фільтрованого входу. Твердження про “необоротність” у T-12 Theorem T-12 (як його сформульовано в наявному preprint) вимагає Модальності 5.4 (архітектурного прунінгу) і виключає Модальності 5.1–5.3. T-9 робить цю залежність від модальності явною; Correction 1 у memo appendix-corrections v0.4 §2.8 (“irreversible should be conditional on no protected archive / no replay buffer / no external teacher / no architectural reserve capacity / continued operation under the same filter / pruning is literal capacity deletion, not reversible suppression”) узгоджується з прочитанням у термінах Модальності 5.4.

Реальні біологічні та синтетичні кодеки зазвичай демонструють суміш модальностей, причому Модальність 5.4 зарезервована для компонентів, що зазнають стійкого прунінгу впродовж багатьох Циклів обслуговування. Перехід від оборотного до необоротного прунінгу за тривалого фільтрованого входу є структурним механізмом, що лежить в основі хронічного Наративного дрейфу (T-12).

§6. Умова відновлення

Відсічений компонент \theta_i є відновлюваним, якщо існує процес, за допомогою якого його можна повернути до активної участі в кодеку. Імовірність відновлення в межах вікна відновлення \tau_R дорівнює:

P\big(\text{recover } \theta_i \mid \tau_R\big) \;=\; P\big(\text{Modality 5.1 or 5.2}\big) \cdot p_{\text{restore}}(\tau_R) \;+\; P\big(\text{Modality 5.3 or 5.4}\big) \cdot p_{\text{regrow}}(\tau_R) \tag{T9.6-1}

Перший доданок охоплює оборотне / частково оборотне відсікання (пригнічення, згасання ваг); другий — репрезентаційне забування та архітектурне відсікання, де відновлення потребує зовнішнього входу.

Відновлення є додатним лише тоді, коли виконується принаймні одна з трьох умов:

1. Захищена пам’ять. Кодек зберігає архівовану репрезентацію \theta_i у невідсіченому субстраті (окремий кеш, резервна копія з контролем версій, нейрофізіологічно захищена пам’ять, консолідована в іншій ділянці). Модальності 5.1 і 5.3 можуть відновлюватися за цієї умови.

2. Зовнішній учитель / повторна експозиція. Кодек піддається потокам входу, що містять сигнал \mathcal{X}_{\text{excl}}, який відсічений компонент спочатку відстежував. Активне перенавчання під час наступного проходу II Циклу обслуговування перебудовує компонент (із застереженнями щодо дрібнозернистої вірності). За цієї умови всі чотири модальності можуть відновлюватися за достатнього часу, хоча Модальність 5.4 потребує повного епізоду навчання, порівнянного з початковим набуттям.

3. Архітектурний резерв. Кодек має структурні слоти, не закріплені за конкретними компонентами, які можна виділити для розміщення відрощеної репрезентації. Це умова, за якої відновлення Модальності 5.4 взагалі є механічно можливим.

Якщо жодна з умов (1), (2), (3) не виконується, тоді P(\text{recover}\, \theta_i \mid \tau_R) = 0 для всіх \tau_R, і відсікання є незворотним.

Умова вірності субстрату. Умова вірності субстрату з T-12 (Теорема T-12b — надлишковість \delta-незалежних вхідних каналів, що перетинають Марковську ковдру) є аналогом умови (2) на масштабі лінії спадковості: ці канали гарантують, що потік входу й надалі містить релевантний для субстрату сигнал навіть за фільтрації зовнішніми механізмами \mathcal{F}. Умова відновлення з T-9 задає реалізацію всередині кодека: захищені компоненти, буфери відтворення, архітектурний резерв.

§7. Короларії — Наративний дрейф і дрейф дії

Примітиви T-9 підтримують два ланцюги короларіїв, розгорнуті в додатках T-12 і T-13.

Короларій 7.1 — Наративний дрейф (T-12). За умов тривалого відфільтрованого входу X' = \mathcal{F}(X), що виключає сигнал \mathcal{X}_{\text{excl}}: - Компоненти \theta_i, чий предиктивний виграш є ексклюзивно пов’язаним із \mathcal{X}_{\text{excl}}, мають G_i(t, \tau) \to 0 на відфільтрованому потоці. - Умова обрізання (T9.4-1) спрацьовує для всіх таких компонентів. - Якщо обрізання відбувається в модальності 5.4 (архітектурній) — яка домінує за тривалої фільтрації через багато Циклів обслуговування — і жодна з умов відновлення (§6, пункти 1–3) не виконується, здатність моделювати \mathcal{X}_{\text{excl}} втрачається назавжди. - Кодек стиснення не може зсередини виявити власну втрату здатності (втрачені компоненти більше не беруть участі в генерації помилки передбачення), відтворюючи твердження T-12a про неідентифікованість.

Повний формальний розгляд наведено в T-12; T-9 надає модально-специфічне прочитання «незворотності», якого вимагає Виправлення 1 у T-12.

Короларій 7.2 — Дрейф дії (T-13). Компоненти, що кодують здатність до поведінкової оцінки для невикористаних гілок: - Мають предиктивний виграш G_i(t, \tau), виміряний відносно фактично реалізованих результатів гілок у вхідному потоці; якщо певні гілки ніколи не обираються, оцінювачі не отримують навчального сигналу. - Умова обрізання спрацьовує, коли G_i невикористаного оцінювача падає нижче за C_i - \epsilon. - За модальності 5.4 оцінювач обрізається назавжди; кодек стиснення стає впевнено безсилим у відповідній доменній області дії.

Пропозиція T-13.P1 у T-13 (дрейф дії) є масштабованим до лінії походження випадком цього внутрішньокодекового механізму на рівні поведінкового репертуару.

Перехресне посилання: Цикл обслуговування на рівні лінії походження. Додаток T-15 §3 розробляє структурну відповідність між Циклом обслуговування в межах життя та філогенетичним уточненням. Чотири модальності обрізання в T-9 відображаються відповідно на: тимчасове звуження ніші (5.1), дрейф лінії походження за послабленого добору (5.2), заміщення ніші (5.3) та вимирання лінії походження (5.4). Умови відновлення (§6) відображаються на філогенетичну надлишковість: захищені рефугіуми (1), екологічне повторне експонування за відновлення ніші (2) та резервна потужність розвитку (3).

§8. Зв’язок із рівняннями §3.6 основної статті

T-9 виконує консолідацію, а не витіснення. Рівняння основної статті T9-1–T9-13 (препринт §3.6.1–§3.6.6) збережено в наведеному вигляді; T-9 вводить додаткові формальні примітиви та уточнення, що їх доповнюють.

Принципово новий зміст у T-9: явне визначення предиктивного виграшу G_i(t,\tau) (§2); рамка вартості як ресурсної ємності як первинна (§3 Форма 3.1); порогова умова обрізання з буфером утримання \epsilon (§4); чотири модальності обрізання (§5); умова відновлення (§6); модально-специфічне прочитання твердження про незворотність у T-12 (§7.1).

§9. Відкриті краї

Узгодження з переформулюванням незалежності каналів у T-12 (Фаза 4). T-12 перебуває в черзі appendix-corrections (v0.4 §2.8) на переформулювання умови незалежності каналів: незалежність механізмів фільтрації, а не сигналів. Умова прунінгу в T-9 (§4) та умова відновлення (§6) написані так, щоб узгоджуватися з цим переформулюванням, але доказ Теореми T-12 у T-12 потрібно буде переглянути, щойно буде запроваджено переформульоване визначення незалежності каналів. Зокрема: твердження про незворотність у T-12 §3.1 наразі посилається на T9-3 / T9-4; після очищення v3.7.0 воно має посилатися на порогову форму §4 у T-9 + класифікацію модальностей у §5 + умову відновлення у §6, причому прочитання незворотності слід обмежити Модальністю 5.4 за випадку відсутності умови відновлення. Відкрито.

Узгодження обліку ресурсної ємності та K-складності. §3 робить доступними обидві форми, але не виводить їхньої кількісної відповідності. Для деяких класів компонентів ці дві форми тісно пов’язані (C_i^{\text{params}} \sim K(\theta_i) в межах сталого множника, наприклад для запам’ятованих таблиць пошуку); для інших вони різко розходяться (композиційна структура, спільна для різних компонентів, дає економію K-складності, яку форма ресурсної ємності не фіксує). Узгодження у v3.7.0 або пізнішій версії є бажаним. Відкрито.

Нейтральність віртуального прочитання (v3.6.21). Повністю віртуальне прочитання standing-state (основна стаття §8.6.1) переописує Цикл обслуговування як властивості потоку, що проходить фільтр, а не машини, яка виконується, але не змінює ієрархію обліку Форми 3.1 / Форми 3.2: Форма 3.1 (ресурсна ємність) залишається первинною для всіх операційних тверджень, і операційний доказ T-12 надалі її використовує. Власне потокове прочитання стисливості входить лише як інтерпретативний шар, зазначений у T-12 §3.1. Наведене вище узгодження K-адитивності — це те місце, де можна було б обґрунтовувати будь-яке майбутнє переієрархізування Форм, — а не віртуальне прочитання. Відкрито (не плутати з очищенням v3.7.0).

Емпіричне калібрування \epsilon. Буфер утримання \epsilon у (T9.4-1) є ефективним гіперпараметром прунінгу. Емпіричні біологічні значення мали б походити з досліджень нейронного прунінгу (пороги синаптичного згасання, показники утримання дендритних шипиків) або з експерименту з асимптотою Δ_self^op у прототипі opt-ai-subject. T-9 не виводить конкретного значення. Відкрито.

Перехресне посилання на емпіричні передбачення Циклу обслуговування. У препринті §3.6.7 наведено емпіричні передбачення для Циклу обслуговування (сон / сновидіння / консолідація). Чотири модальності прунінгу в T-9 дають тонші передбачення: передбачення, що «REM-сновидіння непропорційно часто вибирають гілки високої важливості» (препринт §3.6.5, Pass III), розкладається на модально-специфічні передбачення про те, які саме типи репрезентацій зберігаються Модальністю 5.1 (утримання, зважене за важливістю, всупереч прунінгу) на відміну від Модальності 5.4 (де відсутність гілок високої важливості в досвіді неспання веде до архітектурного видалення відповідного оцінювача). Відкрито.

Цей додаток підтримується як частина репозиторію проєкту OPT поряд із opt-theory.md. Посилання на примітиви Циклу обслуговування в препринті §3.6 збережено; T-9 доповнює їх явним предиктивним виграшем G_i (§2), вартістю ресурсної ємності (§3 Форма 3.1), умовою прунінгу в пороговій формі з буфером утримання \epsilon (§4), чотирма модальностями прунінгу (§5) та умовами відновлення (§6). Посилання на короларії: T-12 (Наративний дрейф) §3.6.3; T-13 (Action-Drift) §6; T-15 (Філогенетичний Фільтр стабільності) §3.