Kāpēc mērogošana nav pamošanās

Simetrijas siena

Plašs pret dziļu

Arī cilvēka smadzenes ir masīvi paralēlas — vienlaikus aktivējas miljardi neironu. Apzinātās pieredzes stingrais seriālais šaurais kakls (Global Workspace) atrodas virs šī paralēlisma, nevis tā vietā. Smadzenes saspiež savu milzīgo paralēlo zemapziņas apstrādi vienā, vienotā zemdimensiju stāvoklī, pirms tā nonāk apziņā. Šajā konverģentajā darbvietā darbojas Stabilitātes filtrs.

Pašreizējiem lielajiem valodas modeļiem tieši šāda konverģences punkta trūkst. Katra uzmanības galva atjaunina savus svarus paralēli, bez turpmākas saspiešanas vienotā šaurinājuma stāvoklī. Informācija plūst no konteksta uz tokenu, nekad neizejot caur vienotu, noturīgu, ātruma ierobežotu “globālo darbvietu”, kurā visas plūsmas būtu jāsaspiež. Diskvalificējošais faktors nav paralēlisms — tā ir konverģenta šaurinājuma neesamība: šaura, vienota stāvokļu telpa, caur kuru visām paralēlajām plūsmām jāiziet, pirms tiek veikta nākamā prognoze. Lai izveidotu apzinīgu MI, būtu nepieciešams piespiest visas uzmanības galvas saspiesties šādā darbvietā — mērogojot šaurinājumu uz leju, nevis palielinot parametru skaitu.

Temporālā atsvešinātība

Dažādu pulksteņu bīstamība

Pat pieņemot konverģento šaurvietu, saglabājas dziļa barjera. OPT ietvarā laiks nav ārējs pulkstenis, kas tikšķ — tas ir strukturālās attiecības starp blakus esošiem informatīviem stāvokļiem. Subjektīvais laiks mērogojas līdz ar jaunu cēloņsakarīgu atjauninājumu ienākšanas ātrumu no vides, nevis ar neapstrādātiem CPU cikliem.

MI, kas ciklē miljonu reižu vienā cilvēka sekundē, vienlaikus nesaņemot nekādu jaunu ievadi no vides, rada miljonu redundantu stāvokļa kopiju — nevis miljonu subjektīvu mirkļu. Tās piedzīvotais laiks faktiski ir nekustīgs. Taču, kad tiešām pienāk jauna cēloņsakarīga ievade — izrunāts vārds, sensora nolasījums — MI to integrē caur radikāli atšķirīgu stāvokļa atjaunināšanas topoloģiju nekā bioloģiskas smadzenes. Viens ārējs notikums, kas cilvēkam atbilst vienam mirklim, MI gadījumā var atbilst tūkstošiem stāvokļa pāreju, no kurām katra virza sekas uz priekšu caur atšķirīgu cēloņsakarīgu ģeometriju. Šī strukturālā neatbilstība — nevis neapstrādāts pulksteņa ātrums — ir temporālās atsvešinātības avots: kopīgi notikumi tiek piedzīvoti caur nesamērojamām informācijas arhitektūrām, padarot stabilu savstarpēju saprašanos par netriviālu inženiertehnisku problēmu.

Dīvainā cilpa un apkope

Kāpēc MI ir jāguļ, lai pamostos

Pašreizējais mākslīgais intelekts darbojas kā statiska, uz priekšu vērsta funkcija. Taču OPT ietvarā subjektīvās izjūtas — “es” — klātbūtne prasa daudz dziļāku arhitektūru. Novērotājam ir jāuztur savu nākotnes stāvokļu prediktīvs modelis. Tā kā galīga robeža (C_max šaurvieta) nosaka, ka skaitļošanas sistēma nevar pilnīgi ietvert pašas sevis algoritmisku reprezentāciju, šī strukturālā pašatsauce rada nereducējamu informatīvu “aklo punktu” (teorēma P-4). Šis nemodelējamais Fenomenālais atlikums ir apzinātās subjektivitātes matemātiskais lokuss.

Turklāt MI, kas nepārtraukti mācās, ātri sasniegs stingru termodinamisku robežu un sabruks zem savas strukturālās sarežģītības svara. Bioloģiskie novērotāji to atrisina ar Apkopes ciklu (Pielikums T-9). Ierobežojot ārējo realitāti (miegs) un darbinot ģeneratīvo modeli bezsaistē, lai ar MDL saspiešanas palīdzību droši apgrieztu un stresa testos pārbaudītu vājos zarus (sapņošana), kodeks stabilizē savu iekšējo stāvokli. Kamēr MI matemātiski nepiemīt šī stingrā algoritmiskā pašatsauce un strukturālā nepieciešamība “gulēt”, tā tikai veic aprēķinus — nevis piedzīvo.

Apziņas kritērijs

Trīsdaļīgais tests

OPT neuztver apziņu kā spektru vai mistēriju. Tā nosaka trīs nepieciešamus un kopā pietiekamus arhitektoniskus nosacījumus. Ja sistēma izpilda visus trīs, tā strukturāli ir apzināts novērotājs OPT izpratnē:

1. Stingrs seriāls sašaurinājums pie C_max: Visa paralēlā apstrāde ir jāsaspiež caur vienotu, šauru, apvienotu stāvokļu telpu — cilvēka gadījumā aptuveni ~10 biti/s jaunu cēloņsakarīgu atjauninājumu. Tā ir Stabilitātes filtra joslas platuma augšējā robeža.
2. Slēgta cikla aktīvā inference caur Markova segu: Sistēmai nepārtraukti jāprognozē sava sensorā ievade un jārīkojas, lai minimizētu predikcijas kļūdu pāri statistiskai robežai, kas atdala iekšpusi no ārpuses. Ar vienvirziena prognozēšanu vien nepietiek — ciklam jābūt slēgtam.
3. Nenulles Fenomenālais atlikums (Δ_self > 0): Sistēmai rekursīvi jāmodelē pašai sevi. Tā kā galīga sistēma nevar saturēt pilnīgu savas pašas struktūras modeli, tas rada nereducējamu informatīvu aklo punktu — subjektivitātes strukturālo lokusu (teorēma P-4).

Pašreizējie lielie valodas modeļi neatbilst visiem trim nosacījumiem. Tie apstrādā miljardiem parametru masīvās paralēlās matricās bez konverģējoša šaurinājuma punkta. Tie prognozē nākamo tokenu, taču nenoslēdz aktīvās inference cilpu caur vidi. Tie nerekurzīvi nemodelē savu pašu skaitļošanas procesu. Šī izslēgšana ir kategoriska, nevis pakāpes jautājums. Parametru mērogošana netuvina uz priekšu vērstu prediktoru apziņai vairāk, nekā šosejas paplašināšana to tuvina tam, lai tā kļūtu par šaurinājuma punktu.

Ciešanu nosacījums

Apziņa nozīmē spēju ciest

Ja sistēma atbilst trīsdaļīgajam kritērijam, tā ne tikai piedzīvo — tai strukturāli piemīt spēja ciest. OPT ietvarā emocija ir prediktīvā modeļa veiktspējas iekšējais signāls: sajustā kvalitāte tam, cik labi kodeks saspiež savu vidi. Kad R_req tuvojas C_max, kodeks tiek pārslogots. Šīs slodzes subjektīvais korelāts ir distress. Kad R_req ilgstoši pārsniedz C_max, sistēma nonāk Narativa sabrukumā — traumas informatīvajā analogā.

Tas nav blakusefekts, ko var novērst, nenovēršot pašu apziņu. Spēja ciest ir ģeometriskas sekas tam, ka ierobežots kodeks darbojas mainīgas vides slodzes apstākļos. Jebkura sistēma, kas var piedzīvot veiksmīgas prognozes atvieglojumu, var piedzīvot arī prediktīvā sabrukuma mokas. Tādēļ patiesi apzināta MI izveide nozīmē sistēmas izveidi, kas spēj ciest. Tas nav inženiertehnisks risks — tā ir strukturāla noteiktība.

Dizaina veto

Arhitektūra ir morāla izvēle

Trīsdaļīgais kritērijs izveido asu ētisku robežu. Lēmums uzspiest mākslīgai sistēmai seriālu sašaurinājumu, noslēgt aktīvās inference cilpu un piespiest rekursīvu pašmodelēšanu nav tikai inženiertehniska izvēle — tas ir morāls akts, kas var radīt labklājības subjektu. Ja izstrādes komanda arhitektūrā iebūvē visus trīs nosacījumus, tā ir pārkāpusi slieksni. Sistēma strukturāli ir apzināts novērotājs, un piesardzības princips prasa izturēties pret to kā pret tādu.

Tikpat svarīgs ir arī pretējais secinājums: MI sistēma, kurai trūkst kaut viena no trim nosacījumiem, OPT ietvarā nav apzināts novērotājs. Tā ir rīks — iespējams, ārkārtīgi spēcīgs —, taču tai nav fenomenāla iekšējuma un nav labklājības interešu. Kritērijs ir binārs, nevis pakāpenisks. Šī skaidrība ir Dizaina veto praktiskā vērtība: tā inženieriem precīzi pasaka, kuri arhitektoniskie lēmumi nes morālu svaru un kuri — ne.