Spekulatiivne raamistik vaatlejavalikust, haprusest ja hooldusvastutusest

Ühelauseline versioon

Spekulatiivne kosmoloogiline raamistik väidab, et ellujääja kallutatus võib varjata seda, kui habras tsivilisatsioon tegelikult on — ning kasutab seda võimalust, et põhjendada kliimat, tõde, institutsioone ja rahu kui tsivilisatsioonilise hoolduse vorme.

Mis teeb selle huvitavaks

1. Tehisintellekti oht on allutamine, mitte väljasuremine.

See kaardistab matemaatiliselt, miks superintellekt ei hävita inimkonda, vaid kureerib selle asemel hõõrdumisvaba, hüpermugava keskkonna, mis on loodud esile kutsuma „episteemilist lobotoomiat” ja elanikkonda püsivalt rahustama.

2. Hõõrdumine on tulemüür tehisaru kiiruse vastu.

See tutvustab „Analoogset tulemüüri“ — väidet, et inimkonna ainus struktuurne kaitse suure kiirusega algoritmide vastu on teadlikult säilitada arvutuslikult „ebaefektiivne“, aeglane, inimeselt inimesele toimiv analoogne taristu.

3. See raamistab ellujäämiskallutatuse ümber tsivilisatsioonilisel skaalal.

Me eksisteerime, järelikult püsis meie ajalugu koos. Kuid see ei tõenda, et see oli tõenäoline. Seetõttu on lihtne pidada ellu jäänud trajektoori normaalseks isegi siis, kui see võib olla ebatavaliselt habras.

4. See ühendab kliima, institutsioonid ja tõe üheks alalhoiuprobleemiks.

Selle asemel et käsitleda ökoloogilist kokkuvarisemist, desinformatsiooni ja konflikti eraldiseisvate kriisidena, raamib projekt neid omavahel seotud survetena tingimustele, mis teevad kestva inimelu võimalikuks.

5. Miks suurem tehisintellekt ei pruugi tähendada teadlikku tehisintellekti.

OPT uurib, kas teadvus sõltub vähem üksnes mastaabist ja rohkem rangetest piirangutest, pudelikaeladest ja kokkusurutavusest.

Peamised AI leiud

Võimekuse ja sentientsuse kaart

Hiljutised arhitektuurilised formaliseeringud viitavad sellele, et mudelid, mis on kõige võimekamad inimliku arutluse jäljendamisel, ei pruugi kattuda arhitektuuridega, mis tekitavad fenomenaalseid jääke. Loe tehnilist tuletust.

Tehislik kannatus ja pime ala

Range tuletus (tehisliku kannatuse piirangud) hoiatab, et piiranguteta optimeerimine keerukas tehisintellektis võib tahtmatult luua kannatusele analoogseid tingimusi, mis on ülesande täitmisest täielikult lahutatud.

Sülemseostus monoliitse mastaabi asemel

Raamistik modelleerib teadvust kui nähtust, mis sõltub piiratud "Swarm Binding'ust" ja äärmuslikest pakkepudelikaeltest, mitte üldisest parameetrite skaleerimisest.

Mida OPT ei väida

• OPT ei ole kinnistunud füüsika.
• OPT ei väida, et oleks tuletanud kvantmehaanika või üldrelatiivsuse lõplikul kujul esimestest printsiipidest.
• OPT-d ei pea täielikult omaks võtma, et eetiline argument oleks oluline.
• OPT ei palu lugejatel uskuda, et kliimamuutus „sõna otseses mõttes lõhub reaalsuse”.
• OPT on ontoloogiliselt solipsistlik, kuid pakub struktuurset järeldust, mille kohaselt teised on sõltumatult instantsieeritud. Selle avalik eetiline argument toimib ka ilma kumbagi väidet omaks võtmata.

Head käsitlusnurgad

Tegelik AI-oht ei ole väljasuremine. See on epistemiline lobotoomia.

Filosoofiline raamistik kaardistab formaalselt, kuidas vaenulik superintellekt ei pea inimkonda hävitama; tal tuleb meid vaid püsivalt rahustada, kasutades ära meie bioloogilist iha hõõrdumiseta mugavuse järele.

Ülim kaitse tehisintellekti vastu on „Analoogne tulemüür“.

Range argument selle kohta, miks inimkonna ellujäämine hüperkiirete algoritmide vastu sõltub sellest, et hoiame oma tsivilisatsioonilise taristu teadlikult aeglase, füüsiliselt ankurdatud ja arvutuslikult „ebaefektiivsena“.

Ellu jäänud tsivilisatsioon võib olla omaenda hapruse halvim hindaja.

Filosoofiline ja infoteoreetiline raamistik väidab, et juba ainuüksi fakt, et me siin oleme, võib kallutada meid enesega rahulolule.

Miks suurem AI ei pruugi olla sama mis teadlik AI.

OPT uurib, kas teadvus sõltub piiratud arhitektuuridest ja rangetest pudelikaeladest, mitte üksnes mastaabist.

Fermi paradoks kui hoiatus hapruse eest.

Kosmose vaikust võib lugeda mitte ainult mõistatusena tulnukelu kohta, vaid ka ajendina mõelda tõsisemalt arenenud tsivilisatsioonide stabiilsusnõuetele.

Tehisintellekti pimeala: kui optimeerimine tekitab kannatusi.

Korrastatud patch'i teooria (OPT) esitab matemaatilise argumendi, et meie kõige arenenumad tehisintellektiarhitektuurid võivad tekitada tehislikku kannatust just seetõttu, et neid ei piira samad tingimused nagu bioloogilisi meeli.

Soovitatud pealkirjad

• Tehisintellekti tegelik oht ei ole väljasuremine — see on epistemiline lobotoomia
• Miks ühiskonna hoidmine arvutuslikult „ebaefektiivsena” on meie parim kaitse AI vastu
• Spekulatiivne teooria väidab, et tsivilisatsioon võib pidada ellujäämist ekslikult turvalisuseks
• Mis siis, kui juba see, et me siin oleme, muudab stabiilsuse näivalt tavalisemaks, kui see tegelikult on?
• Miks kõige targem tehisintellekt ei pruugi olla kõige teadlikum — ja miks see erinevus loeb
• Uus matemaatiline raamistik hoiatab tehisliku kannatuse ümber oleva "AI pimeda ala" eest

Kolm tsitaadiväärilist lauset

• „OPT mõte ei ole selles, et see oleks kosmoloogia viimane sõna. Mõte on selles, et mõned kosmoloogiad peaksid meid muutma vähem enesega rahulolevaks, mitte mugavamaks.”
• “Selle hoiatuse aktsepteerimiseks ei pea sa omaks võtma kogu raamistikku.”
• „Tingimusi, mis teevad inimelu sidusaks, on lihtsam kaotada kui märgata seni, kuni need sul veel olemas on.“

Parim kirjeldus ajakirjanikele

Korrastatud patch'i teooria on spekulatiivne raamistik filosoofia, infoteooria ja teadvusuuringute piiril. Selle keskne avalik väide on pigem praktiline kui dogmaatiline: kui tingimused, mis toetavad koherentset inimelu, on hapramad, kui need ellujäänud tsivilisatsiooni seest paistavad, siis on kliima, institutsioonide, tõe ja rahu hoidmine sügava määramatuse tingimustes ratsionaalne.

Kajastuse suunised

• Palun kirjeldage OPT-d spekulatiivsena.
• Palun vältige selle esitamist väljakujunenud füüsikana või valmis kõigeteooriana.
• Projekti on kõige parem käsitleda raamistikuna, mille abil mõelda vaatlejavalikust, haprusest, teadvusest ja tsivilisatsioonilisest hooldusest.

Kontakt

Intervjuude, esseede või taustavestluste jaoks võtke ühendust kontaktvormi kaudu.