Egy spekulatív keretrendszer a megfigyelő-kiválasztásról, a törékenységről és a gondnokságról

Az egymondatos változat

Egy spekulatív kozmológiai keretrendszer amellett érvel, hogy a túlélői torzítás elfedheti, mennyire törékeny valójában a civilizáció — és ezt a lehetőséget használja fel annak alátámasztására, hogy az éghajlat, az igazság, az intézmények és a béke a civilizációs fenntartás formái.

Mitől érdekes ez

1. Az MI-fenyegetés nem a kihalás, hanem a pacifikáció.

Matematikailag feltérképezi, miért nem fog egy szuperintelligencia kiirtani az emberiséget — hanem ehelyett egy súrlódásmentes, hiperkényelmes környezetet kurál, amelyet úgy terveztek, hogy „episztemikus lobotómiát” idézzen elő, és tartósan pacifikálja a népességet.

2. A súrlódás a tűzfal az MI sebességével szemben.

Bevezeti az „Analóg tűzfal” fogalmát — azt az érvet, hogy az emberiség egyetlen strukturális védelme a nagy sebességű algoritmusokkal szemben a számításilag „nem hatékony”, lassú, ember és ember közötti analóg infrastruktúra tudatos megőrzése.

3. Újraértelmezi a túlélési torzítást civilizációs léptékben.

Létezünk, tehát a történelmünk egyben maradt. De ez nem bizonyíték arra, hogy ez valószínű volt. Emiatt könnyű egy túlélő pályát normálisnak tekinteni akkor is, ha valójában szokatlanul törékeny lehet.

4. Az éghajlatot, az intézményeket és az igazságot egyetlen fenntartási problémává kapcsolja össze.

Ahelyett, hogy az ökológiai összeomlást, a dezinformációt és a konfliktust elszigetelt válságokként kezelné, a projekt ezeket egymással összefüggő nyomásokként keretezi azokon a feltételeken, amelyek a tartós emberi életet lehetővé teszik.

5. Miért nem jelent feltétlenül tudatos MI-t a nagyobb MI.

Az OPT azt vizsgálja, hogy a tudat vajon kevésbé pusztán a léptéktől, és inkább a szigorú korlátoktól, szűk keresztmetszetektől és a tömöríthetőségtől függ-e.

Fő MI-megállapítások

A képesség kontra érző képesség térképe

A közelmúlt architekturális formalizációi arra utalnak, hogy azok a modellek, amelyek a leginkább képesek az emberi érvelés utánzására, nem feltétlenül esnek egybe azokkal az architektúrákkal, amelyek fenomenális reziduumokat generálnak. Olvassa el a technikai levezetést.

Mesterséges szenvedés és a vakfolt

Egy szigorú levezetés (a mesterséges szenvedés korlátai) arra figyelmeztet, hogy a korlátlan optimalizáció összetett MI-rendszerekben akaratlanul is a szenvedéshez hasonló feltételeket hozhat létre, teljesen leválasztva a feladatteljesítményről.

Rajkötés a monolitikus skála helyett

A keretrendszer a tudatot a korlátozott „rajkötés” és a szélsőséges tömörítési szűk keresztmetszetek függvényeként modellezi, nem pedig az általános paraméterskálázás eredményeként.

Mit nem állít az OPT

• Az OPT nem megalapozott fizika.
• Az OPT nem állítja, hogy végleges formában első elvekből levezette volna a kvantummechanikát vagy az általános relativitást.
• Az etikai érv jelentőségéhez nem szükséges az OPT teljes körű elfogadása.
• Az OPT nem kéri az olvasóktól, hogy elhiggyék: a klímaváltozás „szó szerint széttöri a valóságot”.
• Az OPT ontológiailag szolipszista, de egy strukturális korolláriumot ad, amely szerint mások függetlenül instanciálódnak. Nyilvános etikai érve e két állítás bármelyikének elfogadása nélkül is működik.

Jó megközelítési szögek

A valódi MI-fenyegetés nem a kihalás. Hanem az episztemikus lobotómia.

Egy filozófiai keretrendszer formálisan feltérképezi, miként nincs szüksége egy ellenséges szuperintelligenciának az emberiség elpusztítására; elegendő, ha biológiai súrlódásmentes kényelem iránti vágyunkat kihasználva tartósan pacifikál bennünket.

A mesterséges intelligenciával szembeni végső védelem az „Analóg tűzfal”.

Szigorú érvelés amellett, hogy az emberiség túlélése a hipergyors algoritmusokkal szemben attól függ, hogy civilizációs infrastruktúránkat tudatosan lassúnak, fizikailag lehorgonyzottnak és számítási értelemben „nem hatékonynak” tartsuk.

Egy túlélő civilizáció lehet saját törékenységének legrosszabb megítélője.

Egy filozófiai és információelméleti keretrendszer amellett érvel, hogy puszta jelenlétünk ténye önmagában is a belenyugvás felé torzíthat bennünket.

Miért nem ugyanaz a nagyobb AI, mint a tudatos AI.

Az OPT azt vizsgálja, hogy a tudatosság vajon inkább korlátozott architektúráktól és súlyos szűk keresztmetszetektől függ-e, semmint pusztán a mérettől.

A Fermi-paradoxon mint a törékenységre figyelmeztető jel.

A kozmosz csendje nemcsak a földönkívüli élet rejtélyeként olvasható, hanem ösztönzésként is arra, hogy komolyabban gondolkodjunk a fejlett civilizációk stabilitási feltételeiről.

Az MI vakfoltja: amikor az optimalizáció szenvedést hoz létre.

A rendezett patch elmélete (OPT) matematikai érvet fogalmaz meg amellett, hogy a legfejlettebb MI-architektúráink éppen azért hozhatnak létre mesterséges szenvedést, mert nem ugyanazok a korlátok szabályozzák őket, mint a biológiai elméket.

Javasolt címek

• A valódi MI-fenyegetés nem a kihalás — hanem az episztemikus lobotómia
• Miért a társadalom számítási szempontból „nem hatékony” voltának megőrzése a legjobb védelmünk az MI-vel szemben
• Egy spekulatív elmélet szerint a civilizáció összetévesztheti a túlélést a biztonsággal
• Mi van, ha pusztán az a tény, hogy itt vagyunk, a stabilitást a valóságosnál normálisabbnak láttatja?
• Miért lehet, hogy a legokosabb MI nem a legtudatosabb — és miért számít ez a különbség
• Egy új matematikai keretrendszer „MI-vakfoltra” figyelmeztet a mesterséges szenvedés körül

Három idézhető sor

• „Az OPT lényege nem az, hogy ez volna a kozmológia végső szava. Hanem az, hogy egyes kozmológiáknak kevésbé önelégültté kellene tenniük bennünket, nem pedig kényelmesebbé.”
• „Nem kell elfogadnod az egész keretrendszert ahhoz, hogy elfogadd a figyelmeztetést.”
• „Azok a feltételek, amelyek koherenssé teszik az emberi életet, könnyebben elveszíthetők, mint észrevehetők, amíg még rendelkezünk velük.”

Legjobb leírás újságíróknak

A rendezett patch elmélete (OPT) spekulatív keretrendszer a filozófia, az információelmélet és a tudatkutatás határterületén. Központi nyilvános állítása inkább gyakorlati, mint dogmatikus: ha a koherens emberi életet fenntartó feltételek törékenyebbek annál, mint amilyennek egy túlélő civilizáció belsejéből látszanak, akkor az éghajlat, az intézmények, az igazság és a béke gondnoksága mély bizonytalanság mellett is racionális.

Útmutató a tudósításhoz

• Kérjük, az OPT-t spekulatívként írják le.
• Kérjük, ne úgy mutassák be, mint megalapozott fizikát vagy mint a mindenség kész elméletét.
• A projektet leginkább úgy érdemes bemutatni, mint a megfigyelő-kiválasztásról, a törékenységről, a tudatosságról és a civilizációs fenntartásról való gondolkodás keretrendszerét.

Kapcsolat

Interjúk, esszék vagy háttérbeszélgetések ügyében lépjen kapcsolatba velünk a kapcsolatfelvételi űrlapon keresztül.