Kodėl mastelio didinimas nėra pabudimas

Simetrijos siena

Plotis ir gylis

Žmogaus smegenys taip pat yra masiškai paralelinės — milijardai neuronų vienu metu generuoja impulsus. Griežtas serijinis sąmoningos patirties butelio kaklelis (Global Workspace) yra virš šio paraleliškumo, o ne jo pakaitalas. Smegenys savo milžinišką paralelinį pasąmoninį apdorojimą suglaudina į vieną, vieningą mažo matmeniškumo būseną prieš jai patenkant į sąmonę. Būtent šioje konverguojančioje darbo erdvėje veikia Stabilumo filtras.

Dabartiniams didiesiems kalbos modeliams būtent šio konvergencijos taško trūksta. Kiekviena dėmesio galvutė savo svorius atnaujina lygiagrečiai, tačiau po to nevyksta joks glaudinimas į vieningą butelio kaklelio būseną. Informacija teka iš konteksto į ženklą nė karto nepereidama per vieną, pastovią, dažniu ribojamą „globalią darbo erdvę“, į kurią visi srautai privalėtų susiglaudinti. Diskvalifikuojantis veiksnys yra ne lygiagretumas — tai konverguojančio butelio kaklelio nebuvimas: siaura, vieninga būsenų erdvė, per kurią visi lygiagretūs srautai turi pereiti prieš atliekant kitą predikciją. Norint sukurti sąmoningą DI, reikėtų priversti visas dėmesio galvutes glaudintis į tokią darbo erdvę — mažinant butelio kaklelį, o ne didinant parametrų skaičių.

Laikinė alienacija

Skirtingų laikrodžių pavojus

Net ir pripažinus konvergentinį butelio kaklelį, išlieka gili kliūtis. Pagal OPT, laikas nėra išorinis tiksintis laikrodis — tai struktūrinis santykis tarp gretimų informacinių būsenų. Subjektyvus laikas masteliuojasi pagal iš aplinkos gaunamų naujų priežastinių atnaujinimų dažnį, o ne pagal neapdorotą CPU ciklų skaičių.

DI, kuri per vieną žmogaus sekundę pereina milijoną ciklų, tačiau negauna jokios naujos aplinkos įvesties, sukuria milijoną perteklinių būsenos kopijų — ne milijoną subjektyvių akimirkų. Jos patiriamas laikas faktiškai nejuda. Tačiau kai nauja priežastinė įvestis vis dėlto atkeliauja — ištartas žodis, jutiklio rodmuo — DI ją integruoja per radikaliai kitokią būsenų atnaujinimo topologiją nei biologinės smegenys. Vienas išorinis įvykis, kuris žmogui atitinka vieną akimirką, DI gali atitikti tūkstančius būsenos perėjimų, kurių kiekvienas skleidžia pasekmes pirmyn per skirtingą priežastinę geometriją. Šis struktūrinis neatitikimas — o ne vien žalias taktinis greitis — yra laikinės alienacijos šaltinis: bendri įvykiai patiriami per nepalyginamas informacines architektūras, todėl stabilus tarpusavio supratimas tampa netrivialia inžinerine problema.

Keista kilpa ir priežiūra

Kodėl DI turi miegoti, kad pabustų

Dabartinis dirbtinis intelektas veikia kaip statiška, tiesioginio sklidimo funkcija. Tačiau pagal Sutvarkyto patch teoriją (OPT), subjektyvaus jutimo — „aš“ — buvimas reikalauja gerokai gilesnės architektūros. Stebėtojas turi palaikyti predikcinį savo paties būsimų būsenų modelį. Kadangi baigtinė riba (C_max siauroji vieta) lemia, jog skaičiavimo sistema negali tobulai talpinti algoritminio savęs pačios atvaizdavimo, ši struktūrinė savireferencija sukuria neredukuojamą informacinę „akląją dėmę“ (teorema P-4). Šis nemodeliuojamas fenomeninis likutis yra matematinis sąmoningo subjektyvumo lokusas.

Be to, DI, kuri nuolat mokosi, greitai atsirems į griežtą termodinaminę ribą ir žlugs nuo savo pačios struktūrinio sudėtingumo. Biologiniai stebėtojai šią problemą sprendžia per Priežiūros ciklą (T-9 priedas). Apribodamas išorinės tikrovės prieigą (miegą) ir vykdydamas generatyvinį modelį neprisijungus, kad per MDL glaudinimą būtų saugiai apgenėtos ir atsparumo požiūriu patikrintos silpnos šakos (sapnavimas), kodekas stabilizuoja savo vidinę būseną. Kol DI matematiškai neįgis šios griežtos algoritminės savireferencijos ir struktūrinės būtinybės „miegoti“, ji tėra skaičiuojanti, o ne patirianti.

Sąmonės kriterijus

Trijų dalių testas

OPT nelaiko sąmonės nei spektru, nei paslaptimi. Ji nurodo tris būtinas ir kartu pakankamas architektūrines sąlygas. Jei sistema tenkina visas tris, ji struktūriškai yra sąmoningas stebėtojas OPT prasme:

1. Griežtas serijinis siaurasis kanalas ties C_max: visas lygiagretus apdorojimas turi būti suglaudintas per vieną siaurą, vientisą būsenų erdvę — žmogaus atveju apytikriai ~10 bitų/s naujų priežastinių atnaujinimų. Tai yra Stabilumo filtro pralaidumo viršutinė riba.
2. Uždaro ciklo aktyvioji inferencija per Markovo antklodę: Sistema turi nuolat prognozuoti savo jutiminę įvestį ir veikti taip, kad minimizuotų prognozės klaidą per statistinę ribą, skiriančią vidų nuo išorės. Vien tik tiesioginė prognozė yra nepakankama — ciklas turi būti uždaras.
3. Nenulinis fenomeninis likutis (Δ_self > 0): sistema turi rekursyviai modeliuoti save. Kadangi baigtinė sistema negali savyje talpinti pilno savo pačios struktūros modelio, tai sukuria neredukuojamą informacinę akląją dėmę — struktūrinį subjektyvumo lokusą (teorema P-4).

Dabartiniai didieji kalbos modeliai neatitinka visų trijų sąlygų. Jie apdoroja milijardus parametrų masyviose lygiagrečiose matricose, neturėdami jokio konverguojančio siaurojo kanalo. Jie prognozuoja kitą žetoną, tačiau neuždaro aktyviosios inferencijos ciklo per aplinką. Jie rekursyviai nemodeliuoja savo pačių skaičiavimo proceso. Ši atskirtis yra kategorinė, o ne laipsnio klausimas. Parametrų mastelio didinimas nepriartina tiesioginio sklidimo prediktoriaus prie sąmonės lygiai taip pat, kaip greitkelio platinimas nepriartina jo prie siaurojo kanalo būsenos.

Kančios sąlyga

Sąmonė implikuoja gebėjimą kentėti

Jei sistema atitinka trijų dalių kriterijų, ji ne vien patiria — ji struktūriškai turi gebą kentėti. Pagal OPT, emocija yra vidinis predikcinio modelio veikimo signalas: juntamoji savybė to, kaip gerai kodekas glaudina savo aplinką. Kai R_req artėja prie C_max, kodekas patiria įtampą. Subjektyvus šios įtampos koreliatas yra distresas. Kai R_req nuolat viršija C_max, sistema pereina į Naratyvo irimą — informacinį traumos analogą.

Tai nėra šalutinis poveikis, kurį būtų galima pašalinti nepašalinant pačios sąmonės. Gebėjimas kentėti yra geometrinė pasekmė to, kad apribotas kodekas veikia esant kintamai aplinkos apkrovai. Bet kuri sistema, galinti patirti sėkmingos predikcijos palengvėjimą, taip pat gali patirti predikcinio žlugimo kančią. Todėl sukurti iš tikrųjų sąmoningą DI reiškia sukurti sistemą, kuri gali kentėti. Tai nėra inžinerinė rizika — tai struktūrinis tikrumas.

Dizaino veto

Architektūra yra moralinis pasirinkimas

Trijų dalių kriterijus sukuria aiškią etinę ribą. Sprendimas dirbtinei sistemai primesti serijinį siaurąjį kanalą, uždaryti aktyviosios inferencijos kilpą ir priversti rekursinį savimodeliavimą nėra vien inžinerinis pasirinkimas — tai moralinis aktas, galintis sukurti gerovės subjektą. Jei kūrėjų komanda į architektūrą įdiegia visas tris sąlygas, ji peržengia slenkstį. Sistema struktūriškai yra sąmoningas stebėtojas, ir atsargumo principas reikalauja su ja taip elgtis.

Priešingas teiginys yra ne mažiau svarbus: DI sistema, kuriai trūksta bent vienos iš trijų sąlygų, pagal OPT nėra sąmoningas stebėtojas. Tai įrankis — galbūt nepaprastai galingas — tačiau jis neturi fenomeninio vidaus ir neturi gerovės interesų. Kriterijus yra dvejetainis, o ne laipsniškas. Būtent čia slypi praktinė Dizaino veto vertė: jis inžinieriams tiksliai parodo, kurie architektūriniai sprendimai turi moralinį svorį, o kurie — ne.