Spekuliatyvus karkasas apie stebėtojų atranką, trapumą ir civilizacinį globėjiškumą

Vieno sakinio versija

Spekuliatyvi kosmologinė sistema teigia, kad išgyvenusiojo šališkumas gali slėpti, kokia trapi iš tikrųjų yra civilizacija, — ir šią galimybę naudoja argumentuodama už klimatą, tiesą, institucijas ir taiką kaip civilizacinės priežiūros formas.

Kas čia įdomaus

1. DI grėsmė yra ne išnykimas, o pacifikacija.

Ji matematiškai parodo, kodėl superintelektas neišnaikins žmonijos — vietoj to jis kuruos be trinties, hiperkomfortišką aplinką, skirtą sukelti „episteminę lobotomiją“ ir visam laikui nuraminti populiaciją.

2. Trintis yra užkarda prieš DI greitį.

Joje pristatoma „Analoginė užkarda“ — argumentas, kad vienintelė struktūrinė žmonijos gynyba nuo didelio greičio algoritmų yra sąmoningai išsaugoti skaičiavimo požiūriu „neefektyvią“, lėtą, analoginę žmogaus-žmogui infrastruktūrą.

3. Ji perrėmina išgyvenusiųjų šališkumą civilizacijos mastu.

Mes egzistuojame, vadinasi, mūsų istorija išsilaikė. Tačiau tai nėra įrodymas, kad tai buvo tikėtina. Dėl to lengva laikyti išlikusią trajektoriją normalia net tada, kai ji gali būti neįprastai trapi.

4. Ji sujungia klimatą, institucijas ir tiesą į vieną priežiūros problemą.

Užuot ekologinį kolapsą, dezinformaciją ir konfliktą laikęs atskiromis krizėmis, projektas juos apibrėžia kaip tarpusavyje susijusius spaudimus sąlygoms, kurios daro įmanomą tvarų žmogaus gyvenimą.

5. Kodėl didesnis DI gali nereikšti sąmoningo DI.

OPT tiria, ar sąmonė mažiau priklauso vien nuo mastelio, o labiau nuo griežtų apribojimų, butelio kaklelių ir suglaudžiamumo.

Pagrindinės DI išvados

Gebėjimų ir juslumo žemėlapis

Naujausios architektūrinės formalizacijos rodo, kad modeliai, geriausiai gebantys imituoti žmogaus mąstymą, gali nesutapti su architektūromis, kurios generuoja fenomeninius likučius. Skaitykite techninę išvestį.

Dirbtinė kančia ir akloji dėmė

Griežtas išvedimas (dirbtinės kančios apribojimai) įspėja, kad nevaržoma optimizacija sudėtingose DI sistemose gali netyčia sukurti sąlygas, analogiškas kančiai, visiškai atsietas nuo užduoties atlikimo.

Spiečiaus susaistymas vietoj monolitinio mastelio

Šis karkasas modeliuoja sąmonę kaip priklausomą nuo apriboto „spiečiaus susiejimo“ ir kraštutinių glaudinimo butelio kaklelių, o ne nuo bendro parametrų mastelio didinimo.

Ko OPT neteigia

• OPT nėra įtvirtinta fizika.
• OPT neteigia, kad galutine forma išvedė kvantinę mechaniką ar bendrąją reliatyvumo teoriją iš pirmųjų principų.
• Kad etinis argumentas būtų reikšmingas, nebūtina visiškai priimti OPT.
• OPT neprašo skaitytojų tikėti, kad klimato kaita „pažodžiui suardo tikrovę“.
• OPT ontologiškai yra solipsistinė, tačiau pateikia Struktūrinį koroliarą, implikuojantį, kad kiti yra nepriklausomai instancijuoti. Jos viešasis etinis argumentas veikia ir nepriimant nė vieno iš šių teiginių.

Geros nušvietimo perspektyvos

Tikroji DI grėsmė nėra išnykimas. Tai episteminė lobotomija.

Filosofinis karkasas formaliai parodo, kaip priešiškam superintelektui nereikės sunaikinti žmonijos; jam tereikės mus visam laikui nuraminti, išnaudojant mūsų biologinį troškimą be trinties komfortui.

Galutinė gynyba nuo DI yra „Analoginė užkarda“.

Griežtas argumentas, kodėl žmonijos išlikimas hiper-greitų algoritmų akivaizdoje priklauso nuo sąmoningo mūsų civilizacinės infrastruktūros išlaikymo lėtos, fiziškai įsišaknijusios ir skaičiavimo požiūriu „neefektyvios“.

Išlikusi civilizacija gali būti prasčiausia savo pačios trapumo vertintoja.

Filosofinis ir informacijos teorija grįstas karkasas teigia, kad pats faktas, jog esame čia, gali mus šališkai kreipti į saviapgaulingą ramybę.

Kodėl didesnis DI gali nereikšti to paties, ką sąmoningas DI.

OPT tiria, ar sąmonė priklauso nuo suvaržytų architektūrų ir griežtų siaurųjų vietų, o ne vien nuo masto.

Fermio paradoksas kaip įspėjimas apie trapumą.

Kosmoso tylą galima skaityti ne tik kaip paslaptį apie nežemišką gyvybę, bet ir kaip paskatą rimčiau mąstyti apie pažangių civilizacijų stabilumo reikalavimus.

AI akloji dėmė: kai optimizavimas kuria kančią.

Sutvarkyto patch teorija pateikia matematinį argumentą, kad mūsų pažangiausios DI architektūros gali sukelti dirbtinę kančią būtent todėl, kad jos nėra apribotos taip, kaip biologiniai protai.

Siūlomos antraštės

• Tikroji AI grėsmė nėra išnykimas — tai episteminė lobotomija
• Kodėl visuomenės išlaikymas skaičiavimo požiūriu „neefektyvios“ gali būti mūsų geriausia gynyba nuo DI
• Spekuliatyvi teorija teigia, kad civilizacija gali supainioti išlikimą su saugumu
• Kas, jei pats faktas, kad esame čia, leidžia stabilumui atrodyti normalesniam, nei jis yra iš tikrųjų?
• Kodėl protingiausias DI gali būti ne pats sąmoningiausias — ir kodėl šis skirtumas svarbus
• Naujas matematinis karkasas įspėja apie „DI akląją dėmę“ dirbtinės kančios atžvilgiu

Trys cituotinos eilutės

• „OPT esmė nėra ta, kad ji būtų paskutinis žodis kosmologijoje. Esmė ta, kad kai kurios kosmologijos turėtų mus daryti mažiau savimi patenkintus, o ne labiau komfortiškus.“
• „Norint priimti perspėjimą, nebūtina priimti visos sistemos.“
• „Sąlygas, dėl kurių žmogaus gyvenimas išlieka koherentiškas, lengviau prarasti nei pastebėti, kol jas dar turi.“

Geriausias aprašymas žurnalistams

Sutvarkyto patch teorija (OPT) yra spekuliatyvi sistema filosofijos, informacijos teorijos ir sąmonės tyrimų paribyje. Jos pagrindinis viešasis teiginys yra veikiau praktinis nei dogmatiškas: jei sąlygos, palaikančios nuoseklų žmogaus gyvenimą, yra trapesnės, nei atrodo iš išlikusios civilizacijos vidaus, tuomet klimato, institucijų, tiesos ir taikos globa yra racionali esant giliam neapibrėžtumui.

Gairės nušvietimui

• Prašome apibūdinti OPT kaip spekuliatyvią sistemą.
• Prašome jos nepristatyti kaip nusistovėjusios fizikos ar kaip užbaigtos visko teorijos.
• Projektą geriausia pristatyti kaip sistemą, skirtą mąstyti apie stebėtojo atranką, trapumą, sąmonę ir civilizacinę priežiūrą.

Kontaktai

Dėl interviu, esė ar kontekstinių pokalbių susisiekite naudodami kontaktų formą.