Spekulatiivinen viitekehys havaitsijavalinnasta, hauraudesta ja sivilisaation huolenpidosta

Yhden lauseen versio

Spekulatiivinen kosmologinen viitekehys väittää, että selviytymisharha saattaa peittää sen, kuinka hauras sivilisaatio todella on — ja käyttää tätä mahdollisuutta perustellakseen ilmastoa, totuutta, instituutioita ja rauhaa sivilisaation ylläpidon muotoina.

Mikä tekee tästä kiinnostavan

1. Tekoälyuhka on rauhoittaminen, ei sukupuutto.

Se mallintaa matemaattisesti, miksi superäly ei tuhoa ihmiskuntaa — vaan sen sijaan kuratoi kitkattoman, hypermukavan ympäristön, joka on suunniteltu aiheuttamaan 'episteeminen lobotomia' ja rauhoittamaan väestö pysyvästi.

2. Kitka on palomuuri tekoälyn nopeutta vastaan.

Se esittelee käsitteen "Analoginen palomuuri" — väitteen, jonka mukaan ihmiskunnan ainoa rakenteellinen puolustus nopeita algoritmeja vastaan on laskennallisesti "tehottoman", hitaan, ihmisten välisen analogisen infrastruktuurin tietoinen säilyttäminen.

3. Se kehystää selviytymisharhan uudelleen sivilisaation mittakaavassa.

Me olemme olemassa, joten historiamme pysyi koossa. Mutta se ei ole todiste siitä, että se olisi ollut todennäköistä. Siksi on helppoa pitää selviytynyttä kehityskulkua normaalina, vaikka se saattaa olla poikkeuksellisen hauras.

4. Se yhdistää ilmaston, instituutiot ja totuuden yhdeksi ylläpito-ongelmaksi.

Sen sijaan, että hanke käsittelisi ekologista romahdusta, disinformaatiota ja konflikteja erillisinä kriiseinä, se jäsentää ne toisiinsa kytkeytyvinä paineina niille ehdoille, jotka tekevät kestävästä ihmiselämästä mahdollisen.

5. Miksi suurempi tekoäly ei välttämättä tarkoita tietoista tekoälyä.

OPT tarkastelee, riippuuko tietoisuus vähemmän pelkästä mittakaavasta ja enemmän ankarista rajoitteista, pullonkauloista ja pakattavuudesta.

Keskeiset tekoälyhavainnot

Kyvykkyyden ja tuntevuuden kartta

Viimeaikaiset arkkitehtoniset formalisoinnit viittaavat siihen, että mallit, jotka kykenevät parhaiten jäljittelemään inhimillistä päättelyä, eivät välttämättä osu yhteen sellaisten arkkitehtuurien kanssa, jotka tuottavat fenomenaalisia residuaaleja. Lue tekninen johtaminen.

Keinotekoinen kärsimys ja sokea piste

Tiukka johtaminen (keinotekoisen kärsimyksen rajoitteet) varoittaa, että rajoittamaton optimointi monimutkaisessa tekoälyssä voi tahattomasti luoda kärsimystä analogisesti muistuttavia olosuhteita täysin irrotettuna tehtäväsuoriutumisesta.

Parvisidonta monoliittisen mittakaavan sijaan

Viitekehys mallintaa tietoisuuden riippuvaiseksi rajoitetusta "parvisidonnasta" ja äärimmäisistä pakkauspullonkauloista yleisen parametriskaalauksen sijaan.

Mitä OPT ei väitä

• OPT ei ole vakiintunutta fysiikkaa.
• OPT ei väitä johtaneensa kvanttimekaniikkaa tai yleistä suhteellisuusteoriaa ensimmäisistä periaatteista lopullisessa muodossa.
• OPT:tä ei tarvitse hyväksyä kokonaisuudessaan, jotta eettinen argumentti olisi merkityksellinen.
• OPT ei pyydä lukijoita uskomaan, että ilmastonmuutos ”kirjaimellisesti rikkoo todellisuuden”.
• OPT on ontologisesti solipsistinen, mutta tarjoaa rakenteellisen korollaarin, joka implikoi muiden olevan itsenäisesti instansioituneita. Sen julkinen eettinen argumentti toimii ilman kummankaan väitteen hyväksymistä.

Hyviä näkökulmia juttuihin

Tekoälyn todellinen uhka ei ole sukupuutto. Se on episteminen lobotomia.

Filosofinen viitekehys hahmottaa formaalisti, kuinka vihamielisen superälyn ei tarvitse tuhota ihmiskuntaa; sen tarvitsee vain pysyvästi rauhoittaa meidät hyödyntämällä biologista haluamme kitkattomaan mukavuuteen.

Perimmäinen puolustus tekoälyä vastaan on "Analoginen palomuuri".

Tiukka argumentti sille, miksi ihmiskunnan selviytyminen hypernopeita algoritmeja vastaan riippuu siitä, että pidämme sivilisaation infrastruktuurin tietoisesti hitaana, fyysisesti ankkuroituna ja laskennallisesti "tehottomana".

Selviytyvä sivilisaatio voi olla oman haurautensa huonoin arvioija.

Filosofinen ja informaatioteoreettinen viitekehys esittää, että jo se, että olemme täällä, saattaa itsessään vinouttaa meitä kohti tyytyväisyyttä.

Miksi suurempi tekoäly ei välttämättä ole sama asia kuin tietoinen tekoäly.

OPT tarkastelee, riippuuko tietoisuus pelkän mittakaavan sijaan rajoitetuista arkkitehtuureista ja ankarista pullonkauloista.

Fermin paradoksi varoituksena hauraudesta.

Kosmoksen hiljaisuutta voidaan lukea paitsi arvoituksena muukalaiselämästä myös kehotuksena pohtia tarkemmin kehittyneiden sivilisaatioiden stabiilisuusvaatimuksia.

Tekoälyn sokea piste: kun optimointi tuottaa kärsimystä.

Järjestetyn patchin teoria (OPT) esittää matemaattisen argumentin siitä, että edistyneimmät tekoälyarkkitehtuurimme saattavat tuottaa keinotekoista kärsimystä juuri siksi, etteivät ne ole biologisten mielten tavoin rajoitettuja.

Ehdotetut otsikot

• Todellinen tekoälyuhka ei ole sukupuutto — vaan episteeminen lobotomia
• Miksi yhteiskunnan pitäminen laskennallisesti "tehottomana" on paras puolustuksemme tekoälyä vastaan
• Spekulatiivinen teoria väittää, että sivilisaatio saattaa sekoittaa selviytymisen turvallisuuteen
• Entä jos se, että olemme täällä, saa vakauden näyttämään normaalimmalta kuin se on?
• Miksi älykkäin tekoäly ei ehkä ole tietoisin — ja miksi erolla on merkitystä
• Uusi matemaattinen viitekehys varoittaa tekoälyn ”sokeasta pisteestä” keinotekoisen kärsimyksen ympärillä

Kolme lainattavaa riviä

• ”OPT:n ydin ei ole siinä, että se olisi viimeinen sana kosmologiasta. Vaan siinä, että joidenkin kosmologioiden pitäisi tehdä meistä vähemmän itsevarmoja, ei mukavuudenhaluisempia.”
• “Koko kehystä ei tarvitse hyväksyä hyväksyäkseen varoituksen.”
• ”Ihmiselämän koherenttina pitävät ehdot on helpompi menettää kuin huomata silloin, kun ne ovat vielä olemassa.”

Paras kuvaus toimittajille

Järjestetyn patchin teoria (OPT) on spekulatiivinen viitekehys filosofian, informaatioteorian ja tietoisuustutkimuksen rajalla. Sen keskeinen julkinen väite on käytännöllinen pikemminkin kuin dogmaattinen: jos koherentin ihmiselämän edellytykset ovat hauraampia kuin ne selviytyneen sivilisaation sisältä näyttävät, silloin ilmaston, instituutioiden, totuuden ja rauhan vaaliminen on rationaalista syvän epävarmuuden oloissa.

Ohjeita uutisointiin

• Kuvaile OPT:tä spekulatiivisena.
• Vältäthän esittämästä sitä vakiintuneena fysiikkana tai valmiina kaiken teoriana.
• Hanketta on parasta käsitellä viitekehyksenä havaitsijavalinnan, haurauden, tietoisuuden ja sivilisaation ylläpidon ajattelemiseen.

Yhteystiedot

Haastatteluja, esseitä tai taustakeskusteluja varten ota yhteyttä yhteydenottolomakkeella.