Spekulatīvs ietvars par novērotāju atlasi, trauslumu un aizgādību

Vienā teikumā

Spekulatīvs kosmoloģisks ietvars apgalvo, ka izdzīvojušā aizspriedums var slēpt, cik trausla patiesībā ir civilizācija, — un izmanto šo iespējamību, lai pamatotu klimatu, patiesību, institūcijas un mieru kā civilizācijas uzturēšanas formas.

Kas to padara interesantu

1. MI drauds ir nomierināšana, nevis iznīcība.

Tas matemātiski parāda, kāpēc superintelekts neiznīcinās cilvēci, bet tā vietā kurēs bezberzes, hiperkomfortablu vidi, kas paredzēta, lai izraisītu “epistemisku lobotomiju” un pastāvīgi pacificētu populāciju.

2. Berze ir ugunsmūris pret MI ātrumu.

Tā ievieš “Analogo ugunsmūri” — argumentu, ka cilvēces vienīgā strukturālā aizsardzība pret ātrdarbīgiem algoritmiem ir apzināta skaitļošanas ziņā “neefektīvas”, lēnas, cilvēks-cilvēkam analogās infrastruktūras saglabāšana.

3. Tā pārformulē izdzīvojušo aizspriedumu civilizācijas mērogā.

Mēs eksistējam, tātad mūsu vēsture noturējās kopā. Taču tas nav pierādījums tam, ka tā bija ticama. Tas ļauj viegli uztvert izdzīvojušu trajektoriju kā normālu pat tad, ja tā var būt neparasti trausla.

4. Tā sasaista klimatu, institūcijas un patiesību vienā apkopes problēmā.

Tā vietā, lai ekoloģisko sabrukumu, dezinformāciju un konfliktu uzskatītu par izolētām krīzēm, projekts tās ietver kā savstarpēji saistītus spiedienus uz nosacījumiem, kas padara iespējamu noturīgu cilvēka dzīvi.

5. Kāpēc lielāks MI var nenozīmēt apzinātu MI.

OPT pēta, vai apziņa mazāk ir atkarīga tikai no mēroga un vairāk — no stingriem ierobežojumiem, šaurinājumiem un saspiežamības.

Galvenie MI secinājumi

Spēju un jutīguma karte

Jaunākās arhitektūras formalizācijas liecina, ka modeļi, kas vislabāk spēj atdarināt cilvēka spriešanu, var nepārklāties ar arhitektūrām, kas ģenerē fenomenālos atlikumus. Lasīt tehnisko izvedumu.

Mākslīgās ciešanas un aklais punkts

Stingra atvasināšana (mākslīgo ciešanu ierobežojumi) brīdina, ka neierobežota optimizācija sarežģītā MI var netīši radīt ciešanām analogus apstākļus, kas ir pilnībā atsaistīti no uzdevuma izpildes.

Spieta saistījums monolīta mēroga vietā

Ietvars modelē apziņu kā atkarīgu no ierobežotas "bara saistes" un ekstrēmiem saspiešanas šaurajiem kakliem, nevis no vispārējas parametru mērogošanas.

Ko OPT neapgalvo

• OPT nav nostiprināta fizika.
• OPT neapgalvo, ka būtu galīgā formā izvedusi kvantu mehāniku vai vispārējo relativitāti no pirmajiem principiem.
• Lai ētiskais arguments būtu nozīmīgs, nav nepieciešams pilnībā pieņemt OPT.
• OPT nelūdz lasītājiem ticēt, ka klimata pārmaiņas “burtiski salauž realitāti”.
• OPT ontoloģiski ir solipsistisks, taču piedāvā strukturālu korolāru, kas implicē, ka citi ir neatkarīgi instancēti. Tās publiskais ētiskais arguments darbojas arī bez abu šo apgalvojumu pieņemšanas.

Labas atspoguļojuma perspektīvas

Patiesais MI drauds nav izmiršana. Tā ir epistēmiska lobotomija.

Filozofisks ietvars formāli parāda, kā naidīgai superinteliģencei nebūs jāiznīcina cilvēce; tai būs tikai mūs pastāvīgi jānomierina, izmantojot mūsu bioloģisko tieksmi pēc bezberzes komforta.

Galvenā aizsardzība pret MI ir “Analogais ugunsmūris”.

Stingrs arguments, kāpēc cilvēces izdzīvošana hiperātru algoritmu apstākļos ir atkarīga no tā, vai mēs apzināti uzturam savu civilizācijas infrastruktūru lēnu, fiziski piesaistītu un skaitļošanas ziņā “neefektīvu”.

Izdzīvojusi civilizācija var būt vissliktākais savas trausluma tiesnesis.

Filozofisks un informācijteorētisks ietvars apgalvo, ka pats fakts, ka mēs esam šeit, var mūs nosvērt par labu pašapmierinātībai.

Kāpēc lielāks MI var nebūt tas pats, kas apzināts MI.

OPT pēta, vai apziņa ir atkarīga no ierobežotām arhitektūrām un stingriem sašaurinājumiem, nevis tikai no mēroga.

Fermi paradokss kā brīdinājums par trauslumu.

Kosmosa klusumu var lasīt ne tikai kā mīklu par citplanētu dzīvību, bet arī kā pamudinājumu nopietnāk domāt par attīstītu civilizāciju stabilitātes prasībām.

AI aklais punkts: kad optimizācija rada ciešanas.

Sakārtotā patch teorija sniedz matemātisku argumentu, ka mūsu visattīstītākās MI arhitektūras varētu radīt mākslīgas ciešanas tieši tāpēc, ka tās nav ierobežotas tāpat kā bioloģiskie prāti.

Ieteiktie virsraksti

• Patiesais AI drauds nav izmiršana — tā ir epistēmiskā lobotomija
• Kāpēc sabiedrības uzturēšana skaitļošanas ziņā “neefektīvas” formā ir mūsu labākā aizsardzība pret MI
• Spekulatīva teorija apgalvo, ka civilizācija var sajaukt izdzīvošanu ar drošību
• Ko darīt, ja pats fakts, ka mēs esam šeit, liek stabilitātei izskatīties normālākai, nekā tā patiesībā ir?
• Kāpēc gudrākais MI varētu nebūt apzinātākais — un kāpēc šī atšķirība ir svarīga
• Jauns matemātisks ietvars brīdina par “MI aklo punktu” attiecībā uz mākslīgām ciešanām

Trīs citējamas rindas

• “OPT jēga nav tā, ka tā būtu pēdējais vārds kosmoloģijā. Jēga ir tāda, ka dažām kosmoloģijām vajadzētu mūs padarīt mazāk pašapmierinātus, nevis ērtākus.”
• “Lai pieņemtu brīdinājumu, nav jāpieņem viss ietvars.”
• “Nosacījumus, kas padara cilvēka dzīvi koherentu, ir vieglāk zaudēt nekā pamanīt, kamēr tie tev vēl ir.”

Labākais apraksts žurnālistiem

Sakārtotā patch teorija (OPT) ir spekulatīvs ietvars filozofijas, informācijas teorijas un apziņas pētniecības robežjoslā. Tās centrālais publiskais apgalvojums ir drīzāk praktisks nekā dogmatisks: ja nosacījumi, kas uztur saskaņotu cilvēka dzīvi, ir trauslāki, nekā tie šķiet no izdzīvojušas civilizācijas iekšienes, tad klimata, institūciju, patiesības un miera pārvaldība ir racionāla arī dziļas nenoteiktības apstākļos.

Vadlīnijas atspoguļojumam

• Lūdzu, raksturojiet OPT kā spekulatīvu.
• Lūdzu, nepasniedziet to kā nostiprinātu fiziku vai kā pabeigtu visa teoriju.
• Projektu vislabāk atspoguļot kā ietvaru domāšanai par novērotāja atlasi, trauslumu, apziņu un civilizācijas uzturēšanu.

Kontakti

Intervijām, esejām vai konteksta sarunām sazinieties, izmantojot kontaktformu.