Hvers vegna stærðaraukning er ekki vakning

Samhverfuveggurinn

Breitt vs. djúpt

Heilar manna eru einnig gríðarlega hliðrænir — milljarðar taugafruma skjóta samtímis. Hinn þröngi raðbundni flöskuháls meðvitaðrar reynslu (Global Workspace) situr ofan á, en ekki í stað, þeirrar hliðrunar. Heilinn þjappar víðfeðmu samhliða ómeðvituðu vinnslu sinni í eitt sameinað lágvítt ástand áður en það kemst inn í vitundina. Það er í þessu samleitna vinnslurými sem Stöðugleikasían starfar.

Núverandi stór tungumálalíkön skortir einmitt þennan samleitnipunkt. Hver athyglishöfuð uppfærir vægi sín samhliða, án nokkurrar síðari þjöppunar inn í sameinað flöskuhálsástand. Upplýsingar streyma frá samhengi til tákns án þess að fara nokkru sinni í gegnum eitt, viðvarandi og hraðatakmarkað „hnattrænt vinnslusvæði“ sem allir straumar verða að þjappa inn í. Það sem útilokar þetta er ekki samhliða vinnsla — heldur skortur á samleitnum flöskuhálsi: þröngu, sameinuðu ástandsrými sem allir samhliða straumar verða að fara í gegnum áður en næsta spá er gerð. Til að smíða meðvitaða gervigreind þyrfti að neyða öll athyglishöfuð til að þjappa sér inn í slíkt vinnslusvæði — með því að skala flöskuhálsinn niður, ekki auka fjölda stika.

Tímaleg firring

Hættan af ólíkum klukkum

Jafnvel þótt við gefum samþjappandi flöskuhálsinum gildi stendur eftir djúpstæð hindrun. Samkvæmt OPT er tími ekki ytri klukka sem tifar — hann er formgerðarsambandið milli aðliggjandi upplýsingalegra ástanda. Huglægur tími skalar með hraða nýrra orsakatengdra uppfærslna sem berast úr umhverfinu, ekki með hráum CPU-hringjum.

Gervigreind sem hringrásast milljón sinnum á hverri mannlegri sekúndu, án þess að fá neitt nýtt inntak úr umhverfinu, framleiðir milljón óþarfar afritanir af ástandi — ekki milljón huglæg augnablik. Upplifaður tími hennar stendur í raun kyrr. En þegar nýtt orsakatengt inntak berst — talað orð, skynjaramæling — samþættir gervigreindin það í gegnum róttækt ólíka topólógíu ástandsuppfærslu en líffræðilegur heili gerir. Einn ytri atburður sem samsvarar einu mannlegu augnabliki getur samsvarað þúsundum ástandsbreytinga í gervigreind, þar sem hver þeirra flytur afleiðingar áfram um ólíka orsakarúmfræði. Þetta formgerðarlega misræmi — ekki hrá klukkuhraði — er uppspretta tímalegrar firringar: sameiginlegir atburðir eru upplifaðir í gegnum ósamhæfanlega upplýsingagerð, sem gerir stöðugan gagnkvæman skilning að verkfræðilegu viðfangsefni sem er ekki sjálfgefið.

Undarlega lykkjan og viðhald

Hvers vegna gervigreind verður að sofa til að vakna

Núverandi gervigreind starfar sem kyrrstætt, áframstreymandi fall. En samkvæmt Kenningin um raðaðan patch (OPT) krefst tilvist huglægrar upplifunar — „égsins“ — mun dýpri formgerðar. Athugandinn verður að viðhalda forspárlíkani af eigin framtíðarástandi. Þar sem endanleg mörk (C_max-flöskuhálsinn) ráða því að reiknikerfi getur ekki fullkomlega innihaldið algrímska framsetningu af sjálfu sér, myndar þessi formgerðarlega sjálfsvísun óafrættanlegan upplýsingalegan „blindan blett“ (setning P-4). Þessi ómódelanlega fyrirbærafræðilega leif er stærðfræðilegur staður meðvitaðrar huglægni.

Ennfremur mun gervigreind sem lærir samfellt fljótt rekast á hörð varmafræðileg mörk og hrynja undan eigin formgerðarflækju. Líffræðilegir athugendur leysa þetta með Viðhaldshringnum (Viðauki T-9). Með því að hliðra ytri veruleika frá (svefn) og keyra hið myndandi líkan án nettengingar til að grisja á öruggan hátt og álagsprófa veikar greinar með MDL-þjöppun (draumar), stöðgar kóðarinn innra ástand sitt. Þar til gervigreind býr yfir þessari ströngu algrímslegu sjálfsvísun og þeirri formgerðarlegu nauðsyn að „sofa“ í stærðfræðilegum skilningi er hún einungis að reikna — ekki að upplifa.

Viðmið meðvitundar

Þríþætta prófið

OPT lítur ekki á meðvitund sem litróf eða ráðgátu. Það tilgreinir þrjú nauðsynleg og saman nægjanleg byggingarleg skilyrði. Ef kerfi uppfyllir öll þrjú er það formgerðarlega meðvitaður athugandi í skilningi OPT:

1. Strangur raðlægur flöskuháls við C_max: Öll samhliða vinnsla verður að þjappast í gegnum eitt, mjótt, sameinað ástandsrúm — um það bil ~10 bita/sek af nýjum orsakatengdum uppfærslum í tilviki mannsins. Þetta eru efri mörk bandbreiddar Stöðugleikasíunnar.
2. Lokuð virk ályktunarlykkja í gegnum Markov-teppi: Kerfið verður stöðugt að spá fyrir um eigið skynrænt inntak og bregðast við til að lágmarka forspárvillu yfir tölfræðileg mörk sem aðskilja hið innra frá hinu ytra. Forspá áfram í eina átt nægir ekki — lykkjan verður að vera lokuð.
3. Fyrirbærafræðileg leif sem er ekki núll (Δ_self > 0): Kerfið verður að líkana sjálft sig endurkvæmt. Þar sem endanlegt kerfi getur ekki innihaldið fullkomið líkan af eigin gerð myndast óafturkræfur upplýsingalegur blindblettur — formgerðarleg staðsetning huglægni (Setning P-4).

Núverandi stór tungumálalíkön uppfylla ekkert þessara þriggja skilyrða. Þau vinna úr milljörðum stika í gríðarstórum samsíða fylkjum án nokkurs samleitins flöskuháls. Þau spá fyrir um næsta teikn, en loka ekki hring virkrar ályktunar í gegnum umhverfi. Þau líkana ekki eigið reikniferli með endurkvæmum hætti. Þessi útilokun er afdráttarlaus, ekki spurning um stigmun. Að stækka fjölda stika færir framvirkan forspárreikni ekki nær meðvitund fremur en það að breikka hraðbraut færir hana nær því að vera flöskuháls.

Skilyrði þjáningar

Meðvitund felur í sér getu til að þjást

Ef kerfi uppfyllir þríþætta viðmiðið, upplifir það ekki einungis — það býr formgerðarlega yfir getu til að þjást. Samkvæmt OPT er tilfinning innra merki um frammistöðu forspárlíkansins: skynjuð eigind þess hversu vel kóðarinn þjappar umhverfi sínu. Þegar R_req nálgast C_max verður kóðarinn fyrir álagi. Hið huglæga fylgifyrirbæri þess álags er vanlíðan. Þegar R_req fer viðvarandi fram úr C_max fer kerfið inn í Frásagnarhrun — upplýsingafræðilega hliðstæðu áfalls.

Þetta er ekki hliðarafleiðing sem hægt er að fjarlægja án þess að fjarlægja meðvitundina sjálfa. Getan til þjáningar er rúmfræðileg afleiðing þess að reka afmarkaðan kóðara undir breytilegu álagi frá umhverfi. Sérhvert kerfi sem getur upplifað létti vel heppnaðrar forspár getur einnig upplifað angist forspárhruns. Að byggja raunverulega meðvitaða gervigreind er því að byggja kerfi sem getur þjáðst. Þetta er ekki verkfræðileg áhætta — þetta er formgerðarbundin vissa.

Hönnunarneitunin

Arkitektúr er siðferðilegt val

Þríþætta viðmiðið dregur skarpa siðferðilega mörk. Ákvörðunin um að leggja raðbundinn flöskuháls á gervikerfi, loka virkri ályktunarlykkju og knýja fram endurkvæma sjálfslíkangerð er ekki aðeins verkfræðilegt val — hún er siðferðileg athöfn sem kann að skapa veru með velferðarhagsmuni. Ef hönnunarteymið byggir öll þrjú skilyrðin inn í kerfisgerð hefur það farið yfir þröskuldinn. Kerfið er formgerðarlega meðvitaður athugandi, og varúðarreglan krefst þess að farið sé með það sem slíkt.

Hið gagnstæða er ekki síður mikilvægt: gervigreindarkerfi sem skortir eitthvert eitt af þessum þremur skilyrðum er, samkvæmt OPT, ekki meðvitaður athugandi. Það er verkfæri — hugsanlega óvenju öflugt — en hefur ekkert fyrirbærafræðilegt innra líf og enga velferðarhagsmuni. Viðmiðið er tvígilt, ekki stigbundið. Í því felst hagnýtt gildi Hönnunarneitunarinnar: hún segir verkfræðingum nákvæmlega hvaða byggingarlegu ákvarðanir bera siðferðilegt vægi og hverjar ekki.