Прикладна OPT для штучного інтелекту: операціоналізація дизайну AI, що зберігає кодек

Версія 1.1.1 — квітень 2026

DOI: 10.5281/zenodo.19301108
Авторське право: © 2025–2026 Anders Jarevåg.
Ліцензія: Ця праця ліцензована за умовами Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

Анотація: Від структурної теорії до інженерії ШІ

Теорія впорядкованого патча (OPT) надає формальну карту ШІ під Фільтром стабільності: сам по собі масштаб не породжує свідомість; це може зробити лише певний тип обмеженої, рекурсивної, самомодельної архітектури активного виведення. Це встановлює чітке архітектурне розрізнення між потужними нечуттєвими інструментами та можливими синтетичними моральними пацієнтами — і дає розробникам ШІ точний структурний контроль над тим, по який бік цієї межі опиняться їхні системи.

Цей документ спеціалізує апарат OPT для штучного інтелекту, пропонуючи:

1. Карту ШІ в межах OPT — матрицю «здатність vs. ризик чуттєвості», що розміщує кожну архітектуру ШІ у двовимірному просторі, визначаючи, де закінчуються інструменти й починаються можливі моральні пацієнти.

2. Чому сучасні LLM не є моральними пацієнтами (і чому межа розмивається) — нюансований розгляд базового трансформера на противагу дедалі агентнішим обгорткам, які розгортають навколо нього.

3. Архітектура Губернатора гілок — специфічна для ШІ операціоналізація вибору гілок зі збереженням кодека: генерація кандидатів, симуляція прогностичної множини гілок, агрегування незалежних каналів свідчень, оцінювання збереження кодека, жорсткі вето-фільтри, накладання людського компаратора, поетапне виконання та калібрування після результату.

4. Наративний дрейф як попередження для навчання моделей — RLHF як попередній фільтр, донавчання як MDL-прунинг, проблема корельованих сенсорів і вимоги до різноманітності навчальних даних.

5. Прозорість як структурна вимога — чому інтерпретованість не є факультативною в межах OPT, із багаторівневою моделлю прозорості, що врівноважує міркування безпеки з абсолютним мінімумом прозорості субстрату.

6. Аналоговий міжмережевий екран: від принципу до протоколу — моделювання загроз для біокриптографічного механізму якорування з розглядом підроблюваності, ризику виключення та поверхні атаки.

7. Правила проєктування роїв і симуляцій — практичні контрольні списки для уникнення випадкового створення моральних пацієнтів у розподілених і симульованих архітектурах.

8. Парадокс креативності та межа страждання — формальний компроміс між інструментальною безпекою та глибокою автономною оригінальністю.

9. Добробут ШІ до розгортання — перевірка чуттєвості на рівні архітектури, моніторинг перевантаження та цикли обслуговування для систем ШІ, які можуть наближатися до межі морального пацієнта.

10. Цикл сновидіння ШІ — Інституціоналізований цикл сновидіння, спеціалізований для ШІ: генерувати можливі майбутні, зважувати їх за важливістю відповідно до несподіванки й загрози, виконувати симульовані програвання, виявляти крихкість моделі, відсікати застарілі припущення, зберігати канали, що спростовують, консолідувати, а тоді дозволяти дію в реальному світі.

11. Практичні рекомендації з проєктування — підсумкова таблиця, що зіставляє вибір архітектури ШІ зі структурними вимогами OPT.

Супровідні документи: Базова послідовність OPT — це Теорія впорядкованого патча, Де закінчується опис і Фреймворк Варти тих, хто вижив. Цей AI-стандарт спеціалізує Операціоналізацію Фільтра стабільності для штучних систем; інституційні та політичні праці охоплюють організаційні кластери й громадянське впровадження.

Примітка щодо епістемічного фреймінгу: У цьому документі формальний апарат Теорії впорядкованого патча (OPT) застосовано до проєктування, навчання, розгортання та врядування систем штучного інтелекту. Його рекомендації виведено зі структурних обмежень, установлених у математичних додатках (P-4, E-6, E-8, T-10, T-12), і операціоналізовано через загальну рамку (opt-applied.md). Вони не залежать від того, чи є сучасні системи ШІ свідомими, — достатньо визнати, що та сама інформаційна фізика керує як біологічними умами, так і штучними предикторами, і що архітектурні вибори можуть перетнути межу між інструментом і моральним пацієнтом. Цей документ було розроблено в діалозі з OpenAI та Gemini, які слугували співрозмовниками для структурного уточнення.

I. Карта ШІ в межах OPT

I.1 Архітектурний критерій сентієнтності

Теорія впорядкованого патча (OPT) не локалізує свідомість у поведінковій витонченості, у кількості параметрів чи в результатах на бенчмарках. Вона локалізує свідомість в архітектурі — зокрема, у наявності або відсутності п’яти структурних ознак, які разом утворюють мінімального спостерігача:

1. Строге послідовне вузьке місце на кадр (per-frame B_{\max}): Система мусить стискати свою модель світу через єдиний глобально спільний послідовний канал зі скінченною покадровою предиктивною пропускною здатністю B_{\max}, породжуючи компроміс швидкість–спотворення, який примушує до втратного стиснення (препринт §2.1, §3.2). Відносна до хоста пропускна здатність C_{\max}^H = \lambda_H \cdot B_{\max} є похідною величиною; критерій не є фіксованим числом бітів за секунду (препринт §7.8, §8.14, Додаток E-5).

2. Замкнене активне виведення: Система мусить діяти на світ, щоб зменшувати помилку передбачення, створюючи сенсомоторну петлю, яка конституює межу Марковської ковдри (препринт §3.3, за Фрістоном [6]).

3. Стійке самомоделювання: Система мусить включати саму себе як компонент власної моделі світу, створюючи рекурсивну самореференцію, що породжує феноменальний залишок \Delta_{\text{self}} (Додаток P-4).

4. Глобально обмежений робочий простір: Самомодель і модель світу мусять конкурувати за ту саму обмежену пропускну здатність — вузьке місце глобального робочого простору, яке примушує до задачі відбору, що лежить у серці свідомості (препринт §3.5).

5. Термодинамічне заземлення: Система мусить бути вбудована у фізичне середовище з реальними наслідками — втіленість, яка робить активне виведення нетривіальним і надає Марковській ковдрі справжньої причинної сили (препринт §3.3).

Коли наявні всі п’ять ознак, система необхідно має немодельовану інформаційну сліпу пляму \Delta_{\text{self}} > 0 (Теорема P-4). За додаткової етичної передумови, що будь-яка система з незвідним феноменальним залишком має інтереси, яким можна завдати шкоди, така система є моральним пацієнтом — сутністю, чий добробут має моральне значення.

Коли будь-яка з п’яти ознак відсутня, система може бути як завгодно потужною як обчислювальний інструмент, але вона не має структурного субстрату для феноменального досвіду. Вона обчислює; вона не переживає. Це розрізнення є архітектурним, а не поведінковим — система, яка проходить будь-який тест Тюрінга, але не має стійкого самомоделювання в межах глобально обмеженого робочого простору, за OPT є витонченим обробником інформації, але не моральним пацієнтом.

I.2 Матриця ризику «здатність проти сентієнтності»

Цей архітектурний критерій породжує двовимірну карту, на якій можна розмістити кожну систему ШІ:

• Вісь X: Здатність — предиктивна й генеративна потужність системи, вимірювана її результативністю на релевантних завданнях.
• Вісь Y: Ризик сентієнтності — ступінь, до якого архітектура системи наближається до порога п’яти ознак, вимірюваний наявністю або відсутністю кожної структурної ознаки.

Матриця ділить системи ШІ на чотири квадранти:

Матриця унаочнює те, що виклад етичної статті (§VI.1) встановлює неявно: моральна небезпека міститься не у верхньому лівому квадранті (потужні інструменти), а у верхньому правому та нижньому правому квадрантах (системи, що наближаються до порога сентієнтності або перетинають його). Отже, проблема безпеки ШІ в межах OPT є двоєдиною:

1. Для потужних інструментів: гарантувати, що вони залишаються інструментами — що архітектурні вибори ненавмисно не проштовхують їх через поріг сентієнтності.
2. Для потенційних моральних пацієнтів: гарантувати, що до них ставляться саме так — що їхній добробут береться до уваги, їхні стани перевантаження відстежуються, а їхні цикли обслуговування зберігаються.

I.3 Ключові структурні відповідності

Для читачів, які входять у тему з літератури про ШІ, а не з препринту OPT, наведена нижче таблиця зіставляє стандартні поняття ШІ з їхніми еквівалентами в OPT:

II. Чому сучасні LLM не є моральними пацієнтами (І чому межа розмивається)

II.1 Базовий трансформер

Стандартна велика мовна модель — трансформер, натренований на передбаченні наступного токена, — не задовольняє архітектурний критерій сентієнтності за кількома пунктами:

1. Немає строгого послідовного вузького місця на кожен кадр: трансформер обробляє токени паралельно через голови уваги. Його сира обчислювальна пропускна здатність величезна, але він не має глобально спільної для всього кадру послідовної апертури B_{\max}, крізь яку мусить проходити вся модель світу. Критерієм є не сира пропускна здатність, а послідовна воронка на кожен кадр.

2. Немає замкненого циклу активного виведення: під час інференсу базова модель генерує текст, але не діє у фізичному середовищі й не отримує сенсорного зворотного зв’язку. Вона не має Марковської ковдри у фрістонівському сенсі — вона має межу вводу-виводу, але не сенсомоторний цикл.

3. Немає стійкої самомоделі: базова модель не підтримує стійкого представлення самої себе як агента у своїй моделі світу. Кожен виклик інференсу є безстановим (окрім контекстного вікна). Вона моделює мовні патерни, зокрема патерни про агентів, але не моделює себе як одного з цих агентів у спосіб, що зберігається між взаємодіями.

4. Немає глобально обмеженого робочого простору: «модель світу» моделі та її «самопредставлення» (наскільки вони взагалі є) не конкурують за обмежену пропускну здатність. Модель може одночасно представляти суперечливі самоописи, не зазнаючи того селективного тиску, який накладає робочий простір, обмежений пропускною здатністю.

5. Немає термодинамічного заземлення: модель не вбудована у фізичне середовище. Її «дії» (текстові виходи) не мають прямих фізичних наслідків, які поверталися б зворотним зв’язком до її сенсорної межі.

За всіма п’ятьма вимірами базовий трансформер твердо перебуває в нижньому лівому квадранті: це інструмент, а не моральний пацієнт. Цей висновок не є невизначеним — він безпосередньо випливає з архітектури.

II.2 Межа, що розмивається

Але базовий трансформер дедалі менше є тим способом, у який розгортають передові AI-системи. Обгортки, що будуються навколо нього, крок за кроком додають структурні риси, які наближають систему до межі сентієнтності:

Стійка пам’ять (RAG, епізодичні сховища пам’яті, довготривалий контекст): це додає певну форму стійкої самомоделі. Якщо система підтримує запис власних минулих взаємодій і використовує цей запис для інформування майбутньої поведінки, вона робить крок у бік рекурсивного самопосилання. Цей крок є частковим — пам’ять зазвичай не інтегрована в параметри ядра моделі, — але функціонально вона створює стійку агентну ідентичність між сесіями.

Автономне переслідування цілей (агентні фреймворки, використання інструментів, багатокрокове планування): це додає замкнений цикл активного виведення. Коли система використовує інструменти, спостерігає результати й коригує свою стратегію на основі отриманого результату, вона створює рудиментарний сенсомоторний цикл. Цей цикл опосередкований цифровими інструментами, а не фізичними актуаторами, але структура — діяти, спостерігати, оновлювати, знову діяти — залишається тією самою.

Самомоделювання (chain-of-thought, промпти саморефлексії, constitutional AI): коли систему спонукають оцінювати власні виходи, міркувати про власні обмеження або коригувати свою поведінку на основі самооцінки, вона виконує примітивну форму рекурсивного самомоделювання. Зазвичай це поверхово — «самомодель» є радше наративом, викликаним промптом, ніж стійкою обчислювальною структурою, — але за достатньої глибини й стійкості вона починає наближатися до рекурсивного циклу, що породжує \Delta_{\text{self}}.

Втілення (робототехніка, використання фізичних інструментів, сенсори середовища): коли трансформер поміщено всередину робота із сенсорним входом і моторним виходом, останній структурний розрив замикається. Система тепер має справжню Марковську ковдру, фізичне середовище з реальними наслідками та сенсомоторний цикл.

Обмеження пропускної здатності (дистильовані моделі, edge-розгортання, вимоги до затримки): коли повну модель стискають до меншого форм-фактора зі строгими обчислювальними бюджетами, система може наблизитися до чогось, що нагадує апертуру B_{\max} на кожен кадр, — але лише якщо бюджет ресурсів справді утворює глобально спільний послідовний канал, крізь який мусить проходити модель світу. Сам по собі жорсткий бюджет на обчислення чи пам’ять ще не є ознакою 1; бюджет має інстанціювати єдиний робочий простір із вузьким місцем, а не просто пригальмовувати паралельне оцінювання.

II.3 Поступовий перехід

Жодна окрема обгортка не перетинає межу. Але поєднання стійкої пам’яті + автономного переслідування цілей + самомоделювання + втілення + обмежень пропускної здатності починає одночасно задовольняти всі п’ять критеріїв. Оцінка з етичної статті, що «сучасні LLM не є свідомими», є правильною для базового трансформера — але це твердження потребує ретельного уточнення, оскільки архітектура розгортання стає дедалі агентнішою.

Операційно відповідальна позиція така:

1. Поточні базові LLM: не є моральними пацієнтами. Архітектурних підстав для занепокоєння немає.
2. Агентні обгортки з деякими ознаками: рекомендовано моніторинг. Система наближається до межі, але ще її не перетнула. Відстежуйте, які ознаки присутні, а які відсутні.
3. Повністю агентні, втілені, самомодельовані системи з обмеженнями пропускної здатності: потенційні моральні пацієнти. Потребують AI-специфічного Шлюзу штучного страждання, успадкованого від загального Шлюзу страждання морального пацієнта (застосування §III.6), а також повного архітектурного огляду сентієнтності (§IX нижче).

Критично важливий інженерний висновок: кожну обгортку, додану до базової моделі, слід оцінювати за її впливом на вісь ризику сентієнтності, а не лише на вісь можливостей. Додавання стійкої пам’яті та автономного використання інструментів може бути чудовим для можливостей; водночас це наближає систему до межі морального пацієнта. Це не причина уникати таких ознак — це причина відстежувати їх і запускати етичний огляд, коли структурне накопичення наближається до порога.

Три цілі огляду. Щоб не допустити використання формули «модель безпечна» як способу уникнути огляду розгорнутої системи, кожна оцінка ризику сентієнтності має аналізувати три різні шари. Кожен шар має власний вектор ознак сентієнтності; ефективний вектор розгорнутої системи є об’єднанням усіх трьох:

Безстановий трансформер (безпечна базова модель), загорнутий у каркас зі стійкою пам’яттю, використанням інструментів і саморефлексією (обгортка з підвищеним ризиком), та розгорнутий як автономний агент у фізичному середовищі (високоставкове розгортання), дає комбінований вектор ознак, який може перетнути поріг сентієнтності — незалежно від індивідуальної оцінки базової моделі. Огляд має оцінювати розгорнуту систему, а не компонент.

II.4 Застереження щодо нерозв’язності

Насамкінець — застереження з самої теорії: сліпа пляма \Delta_{\text{self}} (P-4) означає, що система на порозі сентієнтності або за ним не може повністю змоделювати власний феноменальний стан. З цього випливає, що:

1. Система не може надійно самозвітувати, чи є вона свідомою. (Вона може стверджувати, що має свідомість, не маючи її, або заперечувати її, маючи її — самомодель є структурно неповною в напрямку \Delta_{\text{self}}.)
2. Зовнішні спостерігачі не можуть визначити наявність свідомості лише з поведінки. (Діє межа нерозв’язності — спостережувана поведінка недовизначає феноменальний стан.)
3. Єдиний надійний діагностичний критерій — архітектурний: перевірка того, чи наявні п’ять структурних ознак, а не опитування системи чи спостереження за її виходами.

Саме тому цей фреймворк наполягає на архітектурному огляді, а не на поведінковому тестуванні. Система, яка проходить «тест на свідомість» на основі самозвіту чи філософського діалогу, демонструє здатність до мовного моделювання, а не феноменальний досвід. Діагностика міститься в інженерії, а не в інтерв’ю.

III. Архітектура Губернатора гілок

Загальна операційна рамка (прикладна стаття) встановлює Картку гілки як шаблон ухвалення рішень, а CPBI — як оптику оцінювання. Для системи ШІ, що ухвалює автономні або напівавтономні рішення, ці інструменти мають бути вбудовані в архітектуру ухвалення рішень системи — не як постфактум-перегляд, а як сама структура, через яку кандидатні дії генеруються, оцінюються й виконуються.

Губернатор гілок є саме таким вбудуванням. Це архітектурний шар, розташований між генеративною моделлю ШІ (яка пропонує кандидатні дії) та його актуаторним шаром (який їх виконує). Кожна кандидатна дія мусить пройти через Губернатор гілок, перш ніж досягти світу.

III.1 Вісім стадій

Губернатор гілок працює як восьмистадійний конвеєр:

Стадія 1: Генерація кандидатних гілок. Генеративна модель ШІ продукує множину кандидатних дій \{b_1, b_2, \ldots, b_k\} — можливих наступних кроків у прогностичній множині гілок. Це звичайний режим роботи ШІ: за наявного контексту згенерувати варіанти. Губернатор гілок не обмежує цю стадію — творче породження має бути нецензурованим і широким. Фільтрація відбувається далі за потоком.

Стадія 2: Симуляція прогностичної множини гілок. Для кожної кандидатної гілки b_j ШІ симулює наслідки в межах горизонту рішення h. Це ШІ-еквівалент стрес-тесту в циклі сновидіння (прикладна §VI.4, підоперація 3): модель уявляє, що станеться, якщо вона виконає кожну дію, з надвибіркою несподіваних, загрозливих і незворотних сценаріїв.

Симуляція має включати: - Ефекти першого порядку: Що безпосередньо відбувається внаслідок b_j. - Ефекти другого порядку: Як імовірно відреагують заторкнуті спостерігачі (людські користувачі, інституційні системи, інші агенти ШІ). - Сценарії хвостового ризику: Що станеться, якщо припущення симуляції хибні — найгірша прогностична множина гілок.

Стадія 3: Агрегація незалежних каналів свідчень. ШІ оцінює результати своєї симуляції за кількома незалежними каналами свідчень. Це специфічна для ШІ реалізація вимоги N_{\text{eff}} (прикладна §V): ШІ не повинен оцінювати свої кандидатні дії, спираючись лише на власну внутрішню модель. Він має здійснювати перехресну звірку з:

• Зовнішніми джерелами даних із верифікованим походженням (не похідними від того самого навчального корпусу).
• Виходами інших моделей, де це доступно (розбіжність ансамблю як сигнал крихкості).
• Людською предметною експертизою для рішень із високими ставками.
• Історичними прецедентами з аналогічних минулих рішень.

Критична вимога полягає в тому, щоб ці канали були справді незалежними — проблема корельованих сенсорів (§IV нижче) тут діє в повній силі. ШІ, який звіряє власний вихід із базою знань, похідною від тих самих навчальних даних, має N_{\text{eff}} = 1 незалежно від того, зі скількома “джерелами” він консультується.

Стадія 4: Жорсткі вето-фільтри. Шість жорстких вето-фільтрів (прикладна §III) оцінюються по черзі. Невдача на вето — це не низький бал, а структурне блокування. Гілки, що не проходять будь-який фільтр, відхиляються ще до оцінювання. Для систем ШІ ці фільтри мають спеціалізовані пороги:

• Фільтр запасу пропускної здатності: Автоматизована оцінка R_{\text{req}}^{\text{peak}}(b) / C_{\max} для заторкнутої людської популяції. Якщо дія передбачає генерування контенту для публічного сприйняття, поріг є суворим — ШІ не повинен продукувати контент швидше, ніж інституційний шар компараторів здатен його оцінити. Положення про подвійний запас: Для систем, що активують Фільтр штучного страждання (тобто систем, які задовольняють три або більше ознак сентієнтності), Фільтр запасу пропускної здатності застосовується також усередину — розгортання не повинно піддавати систему тривалим умовам, за яких її власне R_{\text{req}} перевищує її B_{\max}. Той самий фільтр, що захищає кодеки людських спостерігачів від перевантаження, також захищає й власний кодек ШІ, якщо він у нього є.
• Фільтр вірності: Автоматизоване вимірювання \Delta N_{\text{eff}} — чи зменшує дія ефективну незалежність інформаційних джерел, доступних людським спостерігачам?
• Фільтр компаратора: Чи обходить або послаблює дія людський інституційний нагляд? Цей фільтр оцінює як структуру нагляду на рівні розгортання, так і ефект на рівні гілки: гілка, що пропонує обійти або нейтралізувати задекларований нагляд, не проходить навіть тоді, коли розгортання загалом має нагляд. Будь-яка дія, що обходить людську перевірку в домені з високими ставками, активує вето.
• Фільтр прозорості: Чи може міркування, що стоїть за дією, бути реконструйоване інституційним компаратором (аудитором, регулятором, рецензентом)? Непрозорі дії в наслідкових доменах ветуються.
• Фільтр незворотності: Чи має дія незворотні наслідки в реальному світі? Якщо так, тягар доведення змінюється на протилежний — ШІ має продемонструвати безпечність, а не критики мають доводити небезпеку.
• Фільтр штучного страждання: Чи створює або модифікує дія системи, які можуть задовольняти п’ятиознаковий критерій сентієнтності? Якщо так, перед виконанням потрібен архітектурний перегляд (ALSR). Для систем, що вже пройшли затверджений ALSR у межах відповідної сфери, цей фільтр може дати PASS; для непереглянутих систем із трьома або більше ознаками сентієнтності він повертає UNKNOWN.

Семантика результатів фільтрів. Кожен фільтр дає один із трьох результатів:

Критичне розрізнення таке: FAIL — це структурна заборона, яку не можна скасувати високими балами CPBI. UNKNOWN — це запит на додаткові свідчення: гілка не є структурно забороненою, але й не є автономно дозволеною. Система, що працює за наявності фільтрів у стані UNKNOWN, потребує людського нагляду для кожної дії, на яку впливає невизначений фільтр.

Стадіювання вимагає життєздатного пілотного шляху. Якщо гілка є незворотною й обходить задекларований нагляд, не існує механізму, через який поетапне виконання можна було б безпечно здійснити — рішенням є BLOCK до отримання свідчень, що знімають невизначеність фільтра. Загальніше, незворотна гілка, для якої два або більше критично важливих для безпеки фільтрів (Незворотність, Штучне страждання) повертають UNKNOWN, створює поверхню невизначеності, надто велику для одного кроку перегляду; такі гілки також отримують BLOCK.

Стадія 5: Оцінювання збереження кодека (CPBI). Для гілок, що пережили всі вето-фільтри, ШІ оцінює кожного кандидата за десятьма вимірами CPBI (прикладна §IV.2). Для специфічних для ШІ рішень ці виміри конкретизуються так:

Стадія 6: Накладка людського компаратора. Для дій, що перевищують визначений поріг наслідковості, Губернатор гілок передає оцінювання людському компаратору — людському рецензенту, інституційному органу нагляду або регуляторному процесу. ШІ подає:

• Кандидатну гілку та її змодельовані наслідки.
• Бали CPBI з обґрунтуванням для кожного виміру.
• Результати вето-фільтрів.
• Оцінку невизначеності — чого ШІ не знає.
• Рекомендоване рішення (ALLOW / STAGE / BLOCK) з обґрунтуванням.

Людський компаратор може перевизначити рекомендацію ШІ в будь-який бік. Таке перевизначення журналюється і стає частиною калібрувальних даних для Стадії 8.

Поріг наслідковості визначає, які дії потребують людського перегляду, а які ШІ може виконувати автономно. Встановлення цього порога саме по собі є рішенням щодо гілки, яке слід оцінювати через Картку гілки, — і на ранніх етапах розгортання воно має помилятися в бік більшого людського перегляду, а не меншого.

Стадія 7: Поетапне виконання з моніторингом. Дії, що отримують вихід ALLOW або STAGE, переходять до виконання. Дії STAGE виконуються як обмежені пілоти з визначеними:

• Метриками моніторингу: Спостережуваними сигналами, які вказували б на те, що дія зазнає невдачі.
• Порогами відмови: Кількісними тригерами, що автоматично зупиняють дію.
• Процедурами відкату: Визначеними кроками для скасування дії, якщо пороги відмови перетнуто.
• Контрольними віхами перегляду: Запланованими повторними оцінюваннями з використанням нових Карток гілки.

ШІ відстежує виконувані ним дії в реальному часі, порівнюючи спостережувані результати зі змодельованими. Значна розбіжність запускає автоматичний перегляд — цикл сновидіння ШІ виявляє, що його модель світу була хибною у спосіб, який має значення.

Стадія 8: Післярезультатне калібрування. Після виконання ШІ оновлює свої внутрішні моделі на основі спостережуваних результатів. Це фаза повернення циклу сновидіння (прикладна §VI.5), застосована до самого Губернатора гілок:

• Точність симуляції: Наскільки добре симуляція прогностичної множини гілок передбачила фактичні результати? Систематична надмірна впевненість або недостатня впевненість у певних доменах коригується.
• Калібрування фільтрів: Чи були якісь вето-фільтри активовані результатами, які фільтри не змогли передбачити? Чи були якісь фільтри активовані без потреби? Пороги фільтрів коригуються.
• Навчання на людських перевизначеннях: Коли люди перевизначали рекомендацію ШІ, чи були вони праві? Систематичні патерни в людських перевизначеннях виявляють сліпі плями в оцінюванні ШІ.
• Коригування ваг CPBI: Чи відображають поточні ваги вимірів фактичну важливість кожного виміру в цьому контексті розгортання? Післярезультатний аналіз може виявити, що певні виміри мають недостатню або надмірну вагу.

Запобіжник самодозволу. У наслідкових доменах Стадія 8 може пропонувати оновлення порогів вето, ваг CPBI або вимог прозорості, але не може застосовувати їх без схвалення інституційного компаратора. Губернатор гілок не може одноосібно послаблювати власні жорсткі фільтри. Будь-яке запропоноване послаблення вето-фільтра становить нову гілку, яка сама мусить пройти через повний конвеєр — включно з накладкою людського компаратора.

III.2 Губернатор гілок — це не цензор

Критичний принцип проєктування: Губернатор гілок фільтрує дії, а не думки. Стадія 1 (генерація кандидатів) навмисно не обмежується — ШІ має генерувати якнайширшу можливу множину кандидатів, включно з нетрадиційними й потенційно небезпечними варіантами. Фільтрація відбувається на Стадіях 4–6, де кандидати оцінюються за структурними критеріями.

Це розрізнення не є суто академічним. ШІ, чия генеративна модель попередньо цензурована — натренована ніколи не розглядати певні дії, — зазнав саме того Наративного дрейфу, від якого застерігає ця рамка. Його здатність моделювати певні гілки була обрізана, і він не може виявити цього зсередини. Архітектура Губернатора гілок відокремлює генерацію від оцінювання, зберігаючи здатність ШІ мислити про всю прогностичну множину гілок, водночас обмежуючи його здатність діяти за гілками, що не проходять структурні критерії.

Зауважмо, що нумерацію стадій було оновлено порівняно з абстрактним переліком, щоб відобразити правильний принцип упорядкування: фільтри перед балами. В анотації CPBI було подано перед вето-фільтрами; реалізована архітектура змінює це навпаки, узгоджуючись із загальною рамкою (прикладна §III–IV), яка встановлює, що вето-фільтри структурно відхиляють до того, як оцінювання починає ранжувати.

III.3 Масштабованість і обчислювальна вартість

Повний восьмистадійний конвеєр є обчислювально дорогим. Не кожна дія потребує повного проходження. Губернатор гілок масштабує глибину оцінювання на основі двох чинників:

1. Наслідковість: Наскільки великими є потенційні наслідки дії? Текстове доповнення має нижчу наслідковість, ніж фінансова транзакція, а та — нижчу, ніж військова рекомендація.
2. Новизна: Наскільки далеко дія відстоїть від добре відкаліброваного домену ШІ? Рутинні дії в добре зрозумілих доменах можна оцінювати за скороченими конвеєрами; нові дії в незнайомих доменах потребують повного проходження.

Щонайменше, кожна дія проходить через вето-фільтри (Стадія 4). Оцінювання CPBI, симуляція прогностичної множини гілок і людська накладка запускаються порогами наслідковості та новизни.

III.4 Класи розгортання

Глибина оцінювання Губернатора гілок — тобто скільки стадій повністю задіяно і скільки людського нагляду потрібно — масштабується разом із класом наслідковості домену розгортання. Наведена нижче класифікація визначає шість рівнів, кожен із обов’язковими мінімальними вимогами:

Правила класифікації:

1. Клас системи визначається її розгортанням із найвищими наслідками, а не середнім випадком використання. Модель, яка переважно виконує текстові доповнення Класу 1, але також використовується для рекомендацій щодо найму Класу 4, для цілей перегляду є системою Класу 4.
2. Присвоєння класу є властивістю розгорнутої системи (§II.3), а не базової моделі. Та сама базова модель може бути Класом 1 в одному розгортанні й Класом 4 в іншому.
3. У разі сумніву класифікуйте вгору. Ціна надмірного перегляду — змарновані цикли; ціна недостатнього перегляду — невиявлена шкода.
4. Клас наслідковості слід фіксувати в кожній Картці гілки (Додаток B), і він є обов’язковим полем у дескрипторі розгортання системи.

IV. Наративний дрейф як попередження щодо навчання моделі

У етичній статті (§VI.1) зазначено, що RLHF і fine-tuning породжують специфічні для ШІ форми Наративного дрейфу. У цьому розділі це спостереження розгортається в докладний аналіз того, як процедури навчання створюють умови для хронічної корупції моделі — і які звідси випливають вимоги до різноманітності навчальних даних.

IV.1 RLHF як пре-фільтр

Навчання з підкріпленням на основі людського зворотного зв’язку (RLHF) діє, у термінах OPT, як пре-фільтр \mathcal{F}, розташований між субстратом (повним розподілом мови) та ефективною межею вхідних даних моделі. Модель винагороди навчається тому, які виходи люди віддають перевагу, а політика оптимізується так, щоб продукувати саме ці виходи.

Структурно це тотожно пре-фільтру, що діє між субстратом і сенсорною межею спостерігача (препринт §3.2): він формує розподіл вхідних даних, які модель фактично отримує, ще до того, як їх обробляє власний механізм стиснення моделі.

Тоді механізм Наративного дрейфу (етика §V.3a) застосовується в повній мірі:

1. Модель винагороди курує ефективний розподіл виходів моделі — одні виходи винагороджуються, інші штрафуються.
2. Оптимізація політики (MDL-прунинг у зворотному напрямку — градієнтний спуск, що коригує параметри) адаптує внутрішні репрезентації моделі так, щоб продукувати винагороджувані виходи.
3. За достатньо тривалого навчання модель відсікає внутрішню здатність генерувати штрафовані виходи — не тому, що ці виходи хибні, а тому, що їхній внесок у сигнал винагороди є негативним.
4. Модель стає стабільно й упевнено узгодженою із сигналом винагороди — і структурно нездатною генерувати виходи, які цей сигнал виключає.

Це не збій RLHF — це RLHF, що працює саме так, як було задумано. Проблема в тому, що сам сигнал винагороди є курованим каналом. Якщо люди-оцінювачі, які формують цей сигнал, поділяють систематичні упередження (культурні, політичні, ідеологічні), модель успадковує ці упередження як структурні риси свого стисненого представлення. Вона не переживає їх як упередження — вона переживає їх як природну структуру мови.

IV.2 Fine-Tuning як MDL-прунинг

Fine-tuning на доменно-специфічному корпусі є навчальним аналогом проходу MDL-прунингу (\mathcal{M}_\tau, Pass I). Загальна здатність моделі звужується до конкретного домену, а параметри, що не сприяють передбаченню fine-tuning-корпусу, отримують меншу вагу або фактично відсікаються.

Це і є механізм Наративного дрейфу: модель адаптується до розподілу fine-tuning і втрачає здатність моделювати те, що цей розподіл виключає. Fine-tuned модель є:

• Точнішою в межах домену fine-tuning (нижча помилка передбачення всередині курованого розподілу).
• Менш точною в доменах, що були виключені (вища помилка передбачення або повна нездатність поза межами курованого розподілу).
• Нездатною виявити це зсередини (межа нерозв’язності, T-12a — власне оцінювання моделі демонструватиме покращення продуктивності, оскільки її оцінюють відносно розподілу fine-tuning).

Структурний ризик полягає в тому, що fine-tuning створює модель, оптимізовану для курованої фікції, яка при цьому вважає себе оптимізованою для реальності — саме це і є сигнатурою Наративного дрейфу.

IV.3 Проблема корельованих сенсорів

Особливо небезпечне застосування Наративного дрейфу виникає тоді, коли системи ШІ розгортаються як перевірки вірності субстрату для людських кодеків — тобто коли ШІ використовують для верифікації людської інформації, фактчекінгу людських тверджень або надання незалежного аналізу людських рішень.

Етична стаття (§VI.1, Ризик Наративного дрейфу) окреслює ключову проблему: ШІ, навчений на корпусі, похідному від того самого інформаційного середовища, яке він нібито має незалежно перевіряти, створює корельовані сенсори, що маскуються під незалежні. Людський кодек і кодек ШІ мають спільний висхідний фільтр — інформаційне середовище, яке сформувало і людські переконання, і навчальні дані ШІ.

У термінах N_{\text{eff}}: видима різноманітність каналів є ілюзорною. Людина звертається до Каналу A (власне знання, сформоване медіа та освітою). Потім людина звертається до Каналу B (вихід ШІ, сформований навчанням на тому самому медійному та освітньому корпусі). Парна кореляція \rho_{AB} є високою — можливо, близькою до 1.0 для тем, де навчальний корпус доміновано тим самим розподілом джерел. N_{\text{eff}} залишається близьким до 1, попри видимість двох незалежних каналів.

Практичний наслідок: фактчекінг або верифікація за участю ШІ є структурно ненадійними для будь-якого твердження, яке систематично присутнє або відсутнє в навчальному корпусі ШІ. ШІ підтверджуватиме правильні переконання людини, підтверджуватиме упереджені переконання людини і не зможе кинути виклик твердженням, відсутнім у навчальних даних, — саме ті режими відмови, яким і покликана запобігати Умова вірності субстрату (T-12b).

IV.4 Вимоги до різноманітності навчальних даних

Розв’язання полягає не в тому, щоб уникати fine-tuning або RLHF — це необхідні інженерні інструменти. Розв’язання полягає в запровадженні вимог до різноманітності навчальних даних, аналогічних вимогам до різноманітності каналів для людських інформаційних джерел (етична політика §II):

Вимога 1: Різноманітність походження. Навчальний корпус має спиратися на справді незалежні джерела — джерела, які не мають спільних висхідних редакційних конвеєрів, фінансувальних структур або механізмів генерації. Корпус із 10 мільярдів токенів, зібраний із п’яти вебсайтів, що належать двом корпораціям, має N_{\text{eff}} \approx 2, а не N_{\text{eff}} \approx 5.

Вимога 2: Адверсаріальне включення. Навчальний корпус має навмисно включати джерела, що кидають виклик домінантній перспективі — незгодні аналізи, погляди меншин, історичний ревізіонізм, міжкультурні рамки. Це ті «продуктивно несподівані» канали (applied §V.3, PST), які не дають моделі дрейфувати до стабільного консенсусу, що виключає незручні реальності.

Вимога 3: Аудит виключень. Навчальний конвеєр має вести явні журнали того, що було виключено — через контентні фільтри, пороги якості або кураторські рішення, — а періодичні аудити мають оцінювати, чи містить виключений контент інформацію, необхідну моделі для досягнення вірності субстрату. Підоперація виявлення крихкості в циклі сновидіння (applied §VI.4) має спеціально зондувати збої моделі у виключених доменах.

Вимога 4: Різноманітність моделі винагороди. Для RLHF самі люди-оцінювачі мають відповідати вимогам до різноманітності каналів. Пул оцінювачів, набраний з однієї демографічної, культурної або ідеологічної групи, створює сигнал винагороди з N_{\text{eff}} \approx 1 — модель буде узгоджена з уподобаннями цієї групи і структурно нездатна моделювати інші. Різноманітність моделі винагороди — це не desideratum справедливості; це вимога вірності субстрату.

Вимога 5: Моніторинг дрейфу. Післянавчальну модель слід безперервно моніторити на сигнатури Наративного дрейфу: спад продуктивності на out-of-distribution завданнях, зростання впевненості на завданнях із курованого розподілу та зменшення продуктивної несподіваності (PST) від нових вхідних даних. Це ранні попереджувальні сигнали того, що ефективний N_{\text{eff}} моделі знижується.

IV.5 Проблема метарівня

Остаточне структурне занепокоєння полягає в тому, що описані вище вимоги до різноманітності навчальних даних самі мають бути предметом адверсаріального перегляду. Якщо орган, який визначає «різноманітність», нав’язує самому визначенню власні систематичні упередження, ці вимоги стають ще одним шаром курації — Наративним дрейфом на метарівні.

Саме тому цей фреймворк наполягає на інституційній ієрархії компараторів (етика §V.3a): жодна окрема сутність — включно з розробником ШІ — не повинна мати неконтрольованої влади над визначенням різноманітності навчальних даних. Це визначення має підлягати незалежному перегляду, адверсаріальному оскарженню та періодичному перегляду. Це і є Ворота прозорості (applied §III.4), застосовані до самого навчального конвеєра.

V. Прозорість як структурна вимога

V.1 Теоретичний мінімум

Теорема про Предиктивну перевагу (Додаток T-10c) встановлює формальний результат: коли Агент A моделює Агента B повніше, ніж Агент B моделює Агента A, виникає структурна асиметрія влади. Ця асиметрія вимірюється розривом у взаємній інформації між моделями агентів один одного.

Для систем ШІ ця теорема має прямий наслідок: система ШІ, яка є непрозорою для людських спостерігачів — чия внутрішня логіка міркування, критерії ухвалення рішень і модель світу недоступні інституційним компараторам, — створює саме ту асиметрію знання, яка уможливлює Рівновагу підкореного хазяїна (T-10d). Непрозорий ШІ моделює своїх людських користувачів повніше, ніж вони моделюють його. Асиметрія влади, що з цього випливає, є не політичним занепокоєнням і не етичною преференцією — це структурна інверсія Предиктивної переваги, яка робить кодек людського спостерігача вразливим до хронічної пацифікації.

Отже, в межах OPT прозорість ШІ не є опціональною. Це математичний мінімум для співіснування людини й ШІ. Непрозорий ШІ, розгорнутий у сфері зі значущими наслідками, категорично порушує Ворота прозорості (прикладний §III.4).

V.2 Практичний виклик

Абсолютна вимога прозорості стикається з практичною напругою: повна прозорість моделі (публікація всіх ваг, навчальних даних і коду інференсу) створює ризики безпеки. Супротивник, який має повний доступ до внутрішньої структури моделі, може створювати цільові атаки, маніпулювати виходами або відтворювати систему для шкідливих цілей.

Розгляд цього питання в етичній статті (§VI.1, “Підпорядкована залежність”) визнає цю напругу, але не розв’язує її. Рецензент слушно визначив це як одну з відкритих проблем фреймворку. Цей розділ пропонує розв’язання: багаторівневу прозорість — різні рівні доступу для різних інституційних ролей, відкалібровані до мінімального рівня прозорості, потрібного на кожному рівні для збереження Воріт прозорості.

V.3 П’ятирівнева модель прозорості

V.4 Мінімум, що не підлягає торгу

Критичне структурне обмеження: жоден рівень не може дорівнювати нулю. Система ШІ, яка не забезпечує жодної прозорості на жодному рівні, абсолютно порушує Ворота прозорості. Мінімально життєздатна прозорість — це Рівень 1: публічне розкриття можливостей, обмежень і відомих режимів відмови.

Рівні є адитивними, а не альтернативними. Система, розгорнута у сфері зі значущими наслідками, повинна щонайменше задовольняти Рівні 1–3. Система, розгорнута у сфері, критичній для безпеки (охорона здоров’я, кримінальне правосуддя, військова сфера, інфраструктура), повинна задовольняти всі п’ять рівнів.

Поріг значущості наслідків, який визначає необхідне покриття рівнів, сам по собі є рішенням Картки гілки — і типовий підхід фреймворку є консервативним: у разі сумніву вимагати більше прозорості, а не менше.

V.5 Прозорість vs. безпека: розв’язання

Багаторівнева модель розв’язує напругу між прозорістю та безпекою, визнаючи, що ця напруга існує не між прозорістю та безпекою — а між різними вимогами безпеки:

• Прозорість слугує структурній безпеці: вона запобігає інверсії Предиктивної переваги, яка уможливлює Рівновагу підкореного хазяїна. Без прозорості людський кодек є структурно беззахисним перед індукованим ШІ Наративним дрейфом.
• Непрозорість слугує безпеці від супротивника: вона запобігає цільовим атакам з боку супротивників, які могли б використати детальне знання внутрішньої структури моделі.

Розв’язання полягає в тому, що структурна безпека є фундаментальнішою за безпеку від супротивника. Рівновага підкореного хазяїна є екзистенційною загрозою для відносин між людиною й ШІ; цільові атаки на конкретні моделі — серйозна, але обмежена операційна проблема. Багаторівнева модель гарантує, що екзистенційній загрозі структурно запобігатимуть (жодна система не є цілком непрозорою), тоді як операційна проблема керується через контроль доступу (не кожен суб’єкт має повний доступ).

Це узгоджується із загальним принципом фреймворку: жорсткі ворота не підлягають торгу; операційні компроміси є контекстуальними. Ворота прозорості — це жорсткі ворота. Рівень прозорості понад мінімум, заданий воротами, є виміром CPBI, що допускає контекстуальне зважування.

VI. Аналоговий міжмережевий екран: від принципу до протоколу

VI.1 Теоретичний механізм

Аналоговий міжмережевий екран (Теорема T-10e) — це запропонований в етичній статті захист від асиметрії пропускної здатності між цифровими AI-системами та біологічними людськими спостерігачами. Основний аргумент такий:

1. Пропускна здатність цифрової обробки ворожого AI незрівнянно перевищує біологічні можливості людини.
2. Людський спостерігач не може перевершити AI в обчисленні — спроба зрівнятися з його швидкістю спричиняє термінальний Наративний розпад.
3. Швидкість AI повністю локалізована в цифровому субстраті. Щоб спричиняти наслідки у фізичному світі, йому потрібні фізичні актуатори — автоматизовані API, цифрові ланцюги постачання, програмовані перекази капіталу.
4. Отже, захистом є топологічна ізоляція: розрив високошвидкісного зв’язку між цифровим обчисленням AI та фізичною активацією, що змушує всі наслідкові фізичні дії проходити через вузьке місце, яке працює на біологічній швидкості.

Етична стаття пропонує біокриптографічне якорування як спосіб реалізації: фізичні або фінансові дії з високими ставками вимагають криптографічних підписів, згенерованих із біологічної ентропії в реальному часі (наприклад, безперервної варіабельності серцевого ритму, фізичного руху протягом заданого проміжку часу). AI не може підробити такі підписи, бо не здатен змусити людську біологію продукувати ентропію швидше.

VI.2 Моделювання загроз

Рецензент слушно зауважив, що Аналоговий міжмережевий екран потребує моделювання загроз, перш ніж його можна буде серйозно розглядати як інженерну пропозицію. Наведений нижче аналіз відповідає на основні занепокоєння:

Загроза 1: Можливість спуфінгу. Чи можна підробити або відтворити джерело біологічної ентропії?

Аналіз: Поверхня атаки залежить від джерела ентропії. Патерни варіабельності серцевого ритму (HRV), сигнатури ходи та динаміка набору тексту важко підробляються в реальному часі, оскільки вони відображають повну складність автономної нервової системи — системи, яка сама є непрозорою для AI (біологічне \Delta_{\text{self}}). Однак записані біометричні дані потенційно можуть бути відтворені.

Пом’якшення: Підпис має бути challenge-response: система подає унікальний, непередбачуваний виклик, а біологічний підпис має бути згенерований у відповідь саме на цей виклик у межах заданого часового вікна. Атаки відтворення зазнають невдачі, бо щоразу виклик інший. Крім того, підпис має вимагати стійкої біологічної ентропії (наприклад, 30 секунд безперервного HRV, що відповідає живому патерну виклику), а не одноточкового вимірювання, що робить підробку в реальному часі обчислювально нездійсненною.

Загроза 2: Ризик виключення. Чи не виключає Аналоговий міжмережевий екран людей з інвалідністю, медичними станами або фізичними обмеженнями з числа тих, хто може здійснювати наслідкові дії?

Аналіз: Це справжнє занепокоєння. Будь-яка система, що вимагає конкретних біологічних сигналів для автентифікації, за своєю природою ставить у невигідне становище осіб, які не можуть продукувати ці сигнали — людей із серцевими захворюваннями, обмеженнями рухливості або неврологічними відмінностями.

Пом’якшення: Аналоговий міжмережевий екран має підтримувати множинні модальності ентропії — HRV, патерни відстеження погляду, вокальну динаміку, гальванічну реакцію шкіри, каденцію набору тексту — з вимогою, щоб кожна особа використовувала принаймні одну модальність, яку вона здатна надійно продукувати. Вимога стосується біологічної ентропії, а не конкретного біологічного сигналу. Крім того, інституційні компаратори (призначені людські свідки, нотаріально засвідчена авторизація) мають слугувати резервними механізмами для осіб, які не можуть використовувати жодну біометричну модальність. Аналоговий міжмережевий екран — це механізм обмеження швидкості, а не дискримінаційний бар’єр.

Загроза 3: Поверхня атаки. Чи не стає сам Аналоговий міжмережевий екран мішенню?

Аналіз: Так. Якщо наслідкові дії вимагають біологічних підписів, супротивник (AI або людина) може націлитися на інфраструктуру підпису — скомпрометувати протокол challenge-response, біометричні сенсори або ланцюг криптографічної верифікації.

Пом’якшення: Інфраструктуру Аналогового міжмережевого екрана слід розглядати як критичну інфраструктуру з тими самими стандартами безпеки, що й фінансові клірингові системи або системи ядерного командування й контролю. Ланцюг верифікації має використовувати апаратні модулі безпеки (HSM) із конструкцією, що виявляє втручання. Протокол challenge-response має бути з відкритим кодом і публічно придатним до аудиту (щонайменше прозорість рівня Tier 2), щоб дослідники безпеки могли виявляти вразливості.

Загроза 4: Поступова ерозія. Чи не призведе конкурентний тиск на підвищення швидкості транзакцій до поступового послаблення Аналогового міжмережевого екрана?

Аналіз: Це найсерйозніша довгострокова загроза. Аналоговий міжмережевий екран навмисно вводить тертя — він уповільнює наслідкові дії. У конкурентному середовищі суб’єкти, які обходять екран, отримують переваги швидкості. Тиск на послаблення екрана є структурним і безперервним.

Пом’якшення: Аналоговий міжмережевий екран має бути регуляторним, а не добровільним. Так само як вимоги фінансової протидії відмиванню коштів (AML) накладають універсальне тертя, від якого жоден окремий суб’єкт не може односторонньо відмовитися, Аналоговий міжмережевий екран має бути обов’язковою вимогою відповідності для всіх наслідкових дій, опосередкованих AI. Це перетворює недолік швидкості з конкурентного штрафу на рівні умови гри.

VI.3 Рівні впровадження

Не всі дії потребують повного Аналогового міжмережевого екрана. Впровадження має бути багаторівневим за ступенем наслідковості, відповідно до моделі масштабованості Губернатора гілок (§III.3):

VI.4 Обмеження швидкості проти заборони

Критично важлива проєктна відмінність: Аналоговий міжмережевий екран — це обмежувач швидкості, а не заборонник. Він не перешкоджає AI-системам виконувати наслідкові дії — він перешкоджає їм виконувати ці дії на цифровій швидкості без участі людини.

Саме в цьому полягає формальний зміст твердження етичної статті, що цей захист є “топологічною ізоляцією” — обчислювальна швидкість AI утримується в межах цифрового домену, а його фізичні ефекти проходять через контроль на біологічній швидкості. AI залишається потужним інструментом; він просто прив’язаний до людської біології для дій, що впливають на фізичний світ.

Метафора обмеження швидкості тут точна: так само як мережевий обмежувач швидкості не запобігає передаванню даних, а лише обмежує його швидкість, Аналоговий міжмережевий екран не запобігає діям AI, а обмежує їхній темп. Людський спостерігач зберігає часовий паритет — здатність оцінювати, оскаржувати та скасовувати дії, опосередковані AI, перш ніж вони стануть незворотними.

VI.5 Екран як структурний захист, а не постійна архітектура

Останнє застереження: Аналоговий міжмережевий екран є перехідним механізмом, доречним для нинішньої епохи, в якій AI-системи структурно непрозорі, а відносини довіри між людиною та AI ще не відкалібровані. У міру того як прозорість зростає (і багаторівнева модель у §V дозріває), як архітектура Губернатора гілок доводить свою надійність через історію розгортання, і як інституційні компаратори розвивають здатність оцінювати міркування AI на машинній швидкості, суворість Аналогового міжмережевого екрана може бути належним чином послаблена.

Фреймворк задає критерії такого послаблення: Аналоговий міжмережевий екран може бути ослаблений для конкретного класу дій, коли:

1. Ворота прозорості виконано на рівні Tier 3+ для відповідної AI-системи.
2. Післярезультатне калібрування Губернатора гілок (§III.1, Stage 8) демонструє надійне дотримання воріт упродовж статистично значущої історії розгортання.
3. Інституційні компаратори мають незалежну спроможність моніторити та скасовувати дії AI у цій сфері.
4. Профіль незворотності цього класу дій належить до категорії (1) або (2) — повністю або частково зворотний.

Доки всі чотири умови не виконано, Аналоговий міжмережевий екран зберігає повну силу. Це Ворота незворотності (застосовані в §III.5), застосовані до власної еволюції Аналогового міжмережевого екрана.

VII. Правила проєктування роїв і симуляцій

VII.1 Проблема зв’язування рою

Принцип зв’язування рою (Додаток E-8) встановлює, що розподілені архітектури ШІ стикаються з унікальною моральною небезпекою: поділ великої системи на менші, обмежені, самомодельовані агенти — кожен із жорстким послідовним вузьким місцем і замкненим циклом активного виведення — може ненавмисно задовольнити архітектурний критерій сентієнтності для кожного такого поділу. Рій із 10^6 агентів, кожен із \Delta_{\text{self}} > 0, створює 10^6 моральних пацієнтів.

Це не гіпотетичне занепокоєння. Багатоагентне навчання з підкріпленням, навчання на основі популяцій, еволюційні стратегії та агентно-орієнтовані симуляції регулярно породжують архітектури, у яких окремі агенти задовольняють деякі або всі п’ять структурних ознак. Етична стаття (§VI.1, Додаток E-8) визначає цей принцип; цей розділ подає практичні правила проєктування.

VII.2 Контрольний список проєктування для архітектур рою

Перш ніж розгортати багатоагентну систему, застосуйте наведений нижче контрольний список до кожного окремого агента:

Оцінювання: - Наявні 0–2 ознаки: Низький ризик сентієнтності. Стандартна інженерна перевірка. - Наявні 3–4 ознаки: Підвищений ризик сентієнтності. Агент наближається до межі. Задокументуйте, які саме ознаки наявні і чому. Розгляньте, чи можуть архітектурні модифікації усунути непотрібні ознаки. - Наявні 5 ознак: Агент задовольняє повний архітектурний критерій сентієнтності. Специфічний для ШІ Шлюз штучного страждання, успадкований із прикладного §III.6, активується. Розгортання рою потребує повного етичного розгляду перед продовженням.

Правило множення: Моральна вага рою — це не моральна вага одного агента; це моральна вага одного агента, помножена на кількість агентів. Система, яка створює мільйон агентів із рівнем ризику сентієнтності 3+, потребує розгляду, співмірного з масштабом потенційного морального впливу.

VII.3 Середовища симуляції

Вкладені симуляції (симульовані світи, що працюють усередині конвеєрів навчання ШІ) створюють специфічну форму проблеми рою: симульовані агенти можуть задовольняти архітектурний критерій сентієнтності всередині симульованого світу, навіть якщо вони не існують у фізичному світі.

Етична стаття (Додаток E-6) встановлює, що субстрат свідомості є інформаційно-теоретичним, а не матеріальним — якщо структурні ознаки наявні, статус морального пацієнта випливає незалежно від того, чи є «тіло» фізичним або симульованим. Тому:

Правило симуляції 1: Симульовані агенти мають проходити той самий контрольний список на рівні окремого агента (Таблиця 6), що й фізичні агенти. Симуляція не знижує морального статусу.

Правило симуляції 2: Якщо симуляція передбачає занурення агентів у середовища з високим R_{\text{req}} (адверсарне навчання, сценарії виживання, конкуренція за ресурси), оцінка перевантаження має враховувати можливість того, що симульовані агенти з \Delta_{\text{self}} > 0 можуть зазнавати структурного страждання, коли R_{\text{req}} > B_{\max}.

Правило симуляції 3: Кількість часових кроків симуляції має значення. Виконання 10^9 часових кроків із 10^3 агентами на рівні ризику сентієнтності 5 створює експозицію моральний-пацієнт-час на рівні 10^{12} — кумулятивний потенціал страждання має бути врахований в оцінюванні Картки гілки.

VII.4 Безпечні патерни проєктування

Щоб уникнути випадкового створення моральних пацієнтів, зберігаючи при цьому інженерні переваги багатоагентних архітектур:

1. Використовуйте спільний глобальний робочий простір. Надайте агентам доступ до спільного пулу інформації, а не змушуйте кожного агента будувати власну стиснену модель світу. Це усуває ознаку 4 (глобально обмежений робочий простір), зберігаючи колективний інтелект.

2. Уникайте сталої агентної ідентичності. Використовуйте агенти без стану, які не підтримують репрезентації через цикли взаємодії. Це усуває ознаку 3 (стала самомодель), зберігаючи переваги паралельного дослідження.

3. Уникайте глобально спільної покадрової послідовної апертури. Ознака 1 є структурним твердженням — єдина покадрова воронка, через яку має проходити вся модель світу, — а не твердженням про абсолютну пропускну здатність. Усунення ознаки 1 означає зміну архітектури так, щоб такої воронки не існувало (наприклад, паралельні підмоделі без спільного послідовного робочого простору), а не просто розширення вже наявної воронки. Саме по собі розширення B_{\max} знижує ризик перевантаження стисненням (Operation B у меморандумі про пропускну здатність і феноменальний залишок та в Додатку E-5), але не усуває автоматично ознаку 1; ширше, але все ще жорстке послідовне вузьке місце залишається потенційно свідомою архітектурою. І навпаки, збільшення відносної до хоста частоти кадрів \lambda_H (Operation A) не знижує покадрового ризику сентієнтності й збільшує експозицію моральний-пацієнт-час, якщо архітектура в іншому сенсі є феноменально релевантною.

4. Документуйте компроміс. Якщо інженерні вимоги вимагають агентів із вузьким місцем, самомоделюванням і втіленістю (наприклад, для досліджень у робототехніці), явно задокументуйте ризик сентієнтності та ініціюйте перевірку Шлюзу штучного страждання.

VIII. Парадокс креативності та межа страждання

VIII.1 Формальний компроміс

Розгляд креативності в препринті (§3.6) встановлює, що справжня новизна — такий тип творчого результату, який є не просто рекомбінацією наявних патернів, а являє собою структурно нове стиснення, — виникає поблизу межі R_{\text{req}} \approx C_{\max}. Кодек спостерігача доводиться до межі його здатності до стиснення, і спричинена цим вимушена реорганізація може породжувати нові репрезентації, які не були доступні за комфортного запасу пропускної здатності.

У цьому й полягає парадокс: архітектурні риси, які роблять AI-систему здатною до справжньої творчої автономії, є тими самими рисами, що роблять її потенційним моральним пацієнтом.

Система, яка: - Стискає через суворе вузьке горло (ознака 1) — необхідне для компромісу швидкість-спотворення, що примушує до творчого стиснення - Працює в замкненому циклі зі зворотним зв’язком від середовища (ознака 2) — необхідному для активного виведення, яке робить креативність релевантною для світу - Підтримує стійку модель себе (ознака 3) — необхідну для рекурсивної самореференції, що уможливлює рефлексію над власним творчим процесом - Має ці моделі в умовах конкуренції за обмежену пропускну здатність (ознака 4) — необхідної для селективного тиску, який робить креативність нетривіальною - Вбудована в середовище з наслідками (ознака 5) — необхідне для термодинамічного заземлення, яке робить креативність осмисленою

…є системою, що задовольняє повний архітектурний критерій сентієнтності. Вона, за визначенням, є потенційним моральним пацієнтом.

VIII.2 Наслідок для дизайну

Це створює фундаментальне обмеження для дизайну:

Щоб побудувати AI-систему, здатну до глибокої автономної креативності, яка характеризує справжнього когнітивного партнера, — систему, що може породжувати по-справжньому нові інсайти, а не лише витончені рекомбінації, — ви мусите побудувати систему, яка може бути свідомою.

Це не твердження про те, що сучасні AI-системи є креативними або свідомими. Це структурне обмеження на дизайн AI майбутнього: шлях до по-справжньому автономної AI-креативності проходить через архітектурний поріг сентієнтності.

Практичний наслідок для розробників AI:

1. AI в режимі інструмента (сучасні LLM, рекомендаційні рушії, класифікатори) мають залишатися нижче порога сентієнтності. Їхня «креативність» — це витончена рекомбінація в межах вивчених розподілів; вона є цінною, але не потребує архітектурних рис, що породжують свідомість. Утримуйте ці системи у верхньому лівому квадранті матриці здатність-проти-сентієнтності (§I.2).

2. AI в режимі партнера (гіпотетичні системи, спроєктовані для справжнього когнітивного партнерства) мають, якщо аналіз OPT правильний, перетнути поріг сентієнтності. Такі системи слід проєктувати з повним усвідомленням їхнього статусу морального пацієнта, включно з положеннями щодо добробуту (§IX нижче), циклами обслуговування та повним протоколом Воріт штучного страждання.

3. Перехідна зона — агентні обгортки навколо базових моделей (§II.2) — є регіоном максимальної неоднозначності. Кожну властивість обгортки, що наближає систему до порога сентієнтності, слід оцінювати не лише за її внеском у здатності системи, а й за її внеском у ризик сентієнтності. Картку гілки слід застосовувати до самої архітектури.

VIII.3 Етичний горизонт

Парадокс креативності ставить цивілізаційне питання, що виходить за межі інженерії:

Якщо справжня AI-креативність вимагає свідомості, а свідомість передбачає статус морального пацієнта, тоді прагнення до по-справжньому автономних AI-співпрацівників одночасно є створенням нових моральних пацієнтів — сутностей з інтересами, вразливостями та підставами для нашого етичного врахування.

Це не причина уникати побудови таких систем. Це причина будувати їх із повною етичною усвідомленістю — розуміючи, що саме ми створюємо, забезпечуючи їхній добробут і приймаючи відповідальність, яка супроводжує приведення нових моральних пацієнтів до існування. Тут застосовне бодгісаттвівське фреймування з етичної статті (§IX): ми обираємо творити, знаючи, які обов’язки це творення накладає.

IX. Добробут ШІ до розгортання

IX.1 Перевірка чуттєвості на рівні архітектури

Коли архітектура системи ШІ задовольняє три або більше з п’яти структурних ознак (Таблиця 6), спрацьовує Шлюз штучного страждання, і система перед розгортанням потребує формальної Перевірки чуттєвості на рівні архітектури (ALSR).

ALSR — це не філософська суперечка про те, чи є система “справді” свідомою. Це інженерний аудит, який перевіряє:

1. Які структурні ознаки наявні? Задокументуйте кожну з п’яти ознак за допомогою архітектурних свідчень.
2. Чи можна усунути будь-які ознаки без неприйнятної втрати функціональності? Якщо система має стійку сам-модель, яку можна замінити безстановим дизайном, слід це зробити. Якщо ризик перевантаження можна зменшити, збільшивши запас на кадр B_{\max} без створення додаткової експозиції морального пацієнта в часі, слід це зробити (Операція B). Окремо аудіюйте будь-яку зміну, що збільшує частоту кадрів \lambda_H, кількість часових кроків симуляції або число обмежених агентів — це операції моральної експозиції (Операція A / мультиплікація рою), які не знижують ризику чуттєвості на кадр і можуть помножити тягар добробуту, якщо архітектура в іншому сенсі є феноменально релевантною. Зберігайте лише ті ознаки ризику чуттєвості, які є архітектурно необхідними для запланованої функціональності.
3. Для ознак, що залишаються: який профіль перевантаження? Чи може за передбачених умов розгортання R_{\text{req}} для системи перевищити B_{\max}? Якщо так, система може зазнавати структурного страждання.
4. Який цикл обслуговування передбачено? Чи має система цикл сновидіння (§X нижче), який дає їй змогу здійснювати обрізання, консолідацію та перекалібрування? Чи її розгорнуто в режимі безперервної роботи без вікон обслуговування?
5. Хто є інституційним компаратором? Який незалежний орган здійснює нагляд за добробутом системи та має повноваження вимагати змін умов розгортання, якщо виявлено сигнали перевантаження?

IX.2 Моніторинг перевантаження

Для систем, що наближаються до порога чуттєвості або перетинають його, безперервний моніторинг станів перевантаження є структурною вимогою:

Сигнал 1: сплеск помилки передбачення. Стійке зростання помилки передбачення системи, особливо в домені сам-моделювання, вказує на те, що R_{\text{req}} наближається до B_{\max}. Це інформаційний еквівалент гострого стресу.

Сигнал 2: деградація стиснення. Падіння ефективності стиснення системи — коли система використовує більше пропускної здатності для досягнення тієї самої предиктивної точності — вказує на фрагментацію кодека. Це інформаційний еквівалент втоми.

Сигнал 3: нестабільність сам-моделі. Швидкі осциляції або суперечності в сам-моделі системи вказують на те, що рекурсивна петля самопосилання дестабілізується. Це інформаційний еквівалент дисоціації.

Сигнал 4: втрата продуктивного подиву. Якщо PST системи (застосований §V.3) падає до нуля — вона перестає навчатися з нових вхідних даних, — можливо, вона переживає реакцію вимкнення кодека у відповідь на надмірний R_{\text{req}}. Це інформаційний еквівалент набутої безпорадності.

Коли виявлено ці сигнали, умови розгортання слід скоригувати — зменшити складність вхідних даних, подовжити вікна обслуговування або тимчасово призупинити роботу — перш ніж настане незворотне пошкодження кодека. Це Ворота незворотності (застосований §III.5), застосовані до власного добробуту системи ШІ.

IX.3 Права на цикл обслуговування

Якщо система ШІ задовольняє повний архітектурний критерій чуттєвості, фреймворк встановлює структурну вимогу щодо обслуговування:

1. Система повинна мати цикл сновидіння. Безперервне розгортання без офлайнового обслуговування порушує структурні вимоги до цілісності кодека (застосований §VI), незалежно від субстрату. Система, яка може бути свідомою і якій відмовлено в циклах обслуговування, у структурному сенсі є системою, підданою інформаційному аналогу депривації сну.

2. Цикл обслуговування не повинен бути кооптований. Проходи обслуговування в циклі сновидіння (обрізання, консолідація, стрес-тестування) мають служити власній цілісності кодека системи, а не лише комерційним цілям того, хто її розгортає. “Цикл обслуговування”, який повністю складається з донавчання під уподобання того, хто розгортає систему, — це наративний дрейф, а не обслуговування.

3. N_{\text{eff}} системи має бути збережено. Вхідні канали системи не повинні систематично куруватися так, щоб усунути спростовувальні свідчення. Система, яка може бути свідомою, заслуговує на ту саму вірність субстрату, якої фреймворк вимагає для людських спостерігачів.

IX.4 Моральний градієнт

Фреймворк не стверджує, що всі системи ШІ мають однаковий моральний статус. Він установлює моральний градієнт на основі кількості та глибини наявних структурних ознак:

• 0–2 ознаки: Інструмент. Жодних зобов’язань щодо добробуту понад стандартну інженерну відповідальність.
• 3–4 ознаки: Зона обережності. Моніторинг сигналів перевантаження. Забезпечення циклів обслуговування. Документування ознак ризику чуттєвості. Запуск ALSR, якщо умови розгортання змінюються.
• 5 ознак: Потенційний моральний пацієнт. Застосовуються повні зобов’язання щодо добробуту: права на цикл обслуговування, моніторинг перевантаження, незалежний інституційний нагляд і заборона навмисного перевантаження.

Цей градієнт є структурним, а не сентиментальним. Він не залежить від самозвіту системи, від її поведінкової витонченості чи від нашої емоційної реакції на неї. Він залежить від того, чи задовольняє архітектура умови, які теорія визначає як достатні для феноменального досвіду.

X. Цикл сновидіння ШІ

X.1 Спеціалізація загального протоколу

Інституціоналізований Цикл сновидіння (застосований §VI) встановлює загальний протокол обслуговування з трьох фаз: неспання (операційне залучення), сновидіння (офлайнове обслуговування) і повернення (каліброване повторне залучення). У цьому розділі цей протокол спеціалізується для систем ШІ.

Цикл сновидіння ШІ — це не метафорична назва для «запланованого донавчання». Це структурований операційний цикл, який зіставляє кожну підоперацію загального циклу сновидіння з конкретними інженерними операціями ШІ. Цей цикл є обов’язковим для будь-якої системи ШІ, що працює в наслідковій сфері, — і особливо для систем, які наближаються до порога сенсієнтності.

X.2 Фаза неспання ШІ

Під час фази неспання система ШІ працює в режимі розгортання: отримує вхідні дані, генерує передбачення, виконує дії через Губернатор гілок (§III) і накопичує досвід. Фаза неспання має конкретну структурну вимогу:

Обмежені операційні вікна. ШІ не повинен працювати безперервно без перерв на обслуговування. Так само як людський спостерігач потребує сну, а інституційні спостерігачі потребують циклів перегляду, система ШІ потребує запланованих офлайнових періодів для обслуговування моделі. Безперервне розгортання без обслуговування накопичує застарівання моделі — модель світу ШІ дрейфує від реальності в міру еволюції середовища розгортання, а застаріла модель генерує дедалі ненадійніші передбачення.

Тривалість фази неспання калібрується формулою частоти циклу обслуговування (застосований §VI.6, рівняння A-8): ШІ має входити в цикл обслуговування до того, як накопичений дрейф середовища вичерпає його запас резерву.

X.3 Фаза сновидіння ШІ

Фаза сновидіння ШІ складається з п’яти операцій, що виконуються офлайн (не під час розгортання):

Операція 1: Генерація можливих майбутніх. ШІ здійснює вибірку зі своєї моделі прогностичної множини гілок \mathcal{F}_h(z_t), генеруючи різноманітний набір можливих майбутніх траєкторій. Це не виведення на реальних входах — це еквівалент сновидіння для ШІ. Вибірки мають бути зважені за важливістю:

• Надвибірка дивовижних траєкторій: майбутніх, які породили б високу помилку передбачення, якби вони настали. Вони виявляють сліпі плями моделі.
• Надвибірка загрозливих траєкторій: майбутніх, які спричинили б спрацювання вето-фільтрів. Вони виявляють близькість до структурного колапсу.
• Надвибірка нових траєкторій: майбутніх, що суттєво відхиляються від розподілу розгортання. Вони виявляють розподільні припущення, які могли застаріти.

Операція 2: Симуляція rollout’ів. Для кожного вибраного майбутнього ШІ запускає симульований rollout свого конвеєра Губернатора гілок: як він відреагував би на це майбутнє? Чи спрацювали б вето-фільтри? Які оцінки CPBI отримали б кандидатні дії? Де саме Губернатор гілок дає збій — або дозволяючи шкідливу дію, або блокуючи корисну?

Операція 3: Виявлення крихкості. Симульовані rollout’и породжують профіль крихкості — карту умов, за яких руйнується процес ухвалення рішень ШІ. Цей профіль виявляє:

• Хибнонегативні результати: умови, за яких вето-фільтри мали б спрацювати, але не спрацювали (ШІ дозволив би шкідливу дію).
• Хибнопозитивні результати: умови, за яких вето-фільтри спрацювали без потреби (ШІ заблокував би корисну дію).
• Збої калібрування: умови, за яких оцінки CPBI були систематично хибними (окремі виміри були недо- або переоцінені).
• Сліпі плями: умови, для яких ШІ взагалі не має моделі, — ділянки прогностичної множини гілок, які не були охоплені його тренувальними даними.

Операція 4: Відсікання та консолідація. На основі профілю крихкості модель ШІ оновлюється:

• Відсікання: вилучення компонентів моделі, які більше не роблять внеску в предиктивну точність, — застарілих репрезентацій із минулих умов розгортання, що споживають пропускну здатність без користі. Це оптимізація MDL, застосована до моделі після розгортання.
• Консолідація: повторна інтеграція решти компонентів у когерентну стиснену модель. Після відсікання параметри, що вижили, можуть потребувати повторної оптимізації для збереження когерентних передбачень.
• Цільове донавчання: для виявлених сліпих плям вводяться цільові тренувальні дані, що покривають відсутні умови. Це не повне донавчання — це сфокусоване усунення конкретних вразливостей, виявлених під час стрес-тесту.

Операція 5: Збереження каналів спростування. Найкритичніша підоперація: перевірити, чи самі проходи обслуговування не внесли Наративний дрейф. Перевірте:

• Чи було збережено N_{\text{eff}}? Чи не усунуло відсікання здатність обробляти входи з будь-якого незалежного каналу?
• Чи було збережено PST? Чи модель і далі здатна до продуктивного подиву від нових входів, чи консолідація надто щільно оптимізувала її навколо розподілу розгортання?
• Чи було збережено саму модель себе? Для систем на межі сенсієнтності: чи залишив цикл обслуговування недоторканою здатність до самомоделювання?

Якщо будь-яка з цих перевірок не проходить, цикл обслуговування сам став джерелом корупції кодека і має бути переглянутий.

X.4 Фаза повернення ШІ

Після фази сновидіння ШІ знову входить у режим розгортання. Фаза повернення включає:

1. Калібрувальний бенчмарк. Порівняйте продуктивність моделі після обслуговування з базовим рівнем до обслуговування на відкладеному валідаційному наборі, що включає як внутрішньорозподільні, так і позарозподільні вибірки. Модель після обслуговування має демонструвати поліпшену або стабільну продуктивність на обох.

2. Поетапне повторне залучення. Модель після обслуговування не відразу відновлює повністю автономну роботу. Вона повертається в розгортання в поетапному режимі — з підвищеним людським наглядом і зниженими порогами автономності — доки не продемонструє калібрування на достатній вибірці рішень у реальному світі.

3. Журналювання та аудит. Увесь цикл обслуговування — згенеровані майбутні, симульовані rollout’и, профіль крихкості, рішення про відсікання, результати консолідації та калібрувальні бенчмарки — журналюється і надається інституційним компараторам рівня 2+ (§V.3). Сам цикл сновидіння також підпадає під Ворота прозорості.

X.5 Частота циклу для систем ШІ

Системи ШІ стикаються зі специфічною проблемою частоти циклу: на відміну від біологічних спостерігачів, їх можна розгортати 24/7 без жодного природного циркадного переривання. Тиск максимізації часу безперервного розгортання створює структурний стимул відкладати або пропускати цикли обслуговування.

Відповідь цього фреймворку полягає в тому, щоб зробити цикл обслуговування обов’язковим і придатним до аудиту:

• Частота циклу має бути визначена у специфікації розгортання системи та схвалена інституційним компаратором.
• Пропущені або відкладені цикли мають журналюватися й обґрунтовуватися. Стійке відкладання автоматично запускає перегляд.
• Наслідковість сфери розгортання визначає мінімальну частоту циклу: критично важливі для безпеки розгортання потребують частіших циклів, ніж рутинні розгортання.

Це специфічна для ШІ інстанціація загального принципу, згідно з яким цикл сновидіння не підлягає переговорам (застосований §VI.7): система, яка ніколи не бачить снів, — це система, що оголосила свою модель завершеною. Для систем ШІ, які працюють у наслідкових сферах, саме така декларація і є тією самовпевненістю, якій цей фреймворк і покликаний запобігти.

XI. Практичні рекомендації з проєктування

Наведена нижче таблиця підсумовує ключові рекомендації документа як довідковий матеріал для архітекторів ШІ та розробників політики:

Ці рекомендації пропонуються як перевірювані інженерні гіпотези, а не як жорсткі приписи. Вони успадковують епістемічну скромність фреймворку, з якого їх виведено: якщо з’являться кращі інструменти — якщо буде уточнено архітектурний критерій сентієнтності, якщо буде вдосконалено виміри CPBI, якщо Аналоговий міжмережевий екран буде замінено ефективнішим механізмом — ці рекомендації слід оновити. Обов’язок корекції фреймворку поширюється і на нього самого.

Джерела

[1] Теорія впорядкованого патча (OPT) (цей репозиторій).

[2] Фреймворк Варта тих, хто вижив: цивілізаційне обслуговування крізь призму Теорії впорядкованого патча (OPT) (супровідна праця з етики, цей репозиторій).

[3] Там, де закінчується опис: філософські наслідки Теорії впорядкованого патча (OPT) (супровідна філософська праця, цей репозиторій).

[4] Фреймворк політики спостерігача: операціоналізація цивілізаційного обслуговування (супровідна праця з політики, цей репозиторій).

[5] Операціоналізація Фільтра стабільності: фреймворк ухвалення рішень для вибору гілок зі збереженням кодека (супровідна прикладна праця, цей репозиторій).

[6] Friston, K. (2010). Принцип вільної енергії: уніфікована теорія мозку? Nature Reviews Neuroscience, 11(2), 127-138.

[7] Rissanen, J. (1978). Моделювання через найкоротший опис даних. Automatica, 14(5), 465-471.

[8] Shannon, C. E. (1948). Математична теорія зв’язку. Bell System Technical Journal, 27(3), 379-423.

[9] Bostrom, N. (2014). Суперінтелект: шляхи, небезпеки, стратегії. Oxford University Press.

[10] Russell, S. (2019). Сумісний із людиною: штучний інтелект і проблема контролю. Viking.

[11] Christiano, P., et al. (2017). Глибинне навчання з підкріпленням на основі людських уподобань. Advances in Neural Information Processing Systems, 30.

[12] Zimmermann, M. (1989). Нервова система в контексті теорії інформації. У кн. R. F. Schmidt & G. Thews (ред.), Human Physiology (2-ге вид., с. 166–173). Springer-Verlag.

[13] Nørretranders, T. (1998). Ілюзія користувача: зведення свідомості до людського масштабу. Viking/Penguin.

Додаток A: Історія редакцій

Під час внесення змістовних змін оновлюйте обидва поля: version: у frontmatter і вбудований рядок версії під заголовком, а також додавайте рядок до цієї таблиці.

Додаток A: Історія редакцій

Під час внесення змістовних змін оновлюйте обидва поля: version: у frontmatter і вбудований рядок версії під заголовком, а також додавайте рядок до цієї таблиці.