Íhugandi rammi um val athuganda, viðkvæmni og ráðsmennsku

Eins setningar útgáfan

Huglæg heimsfræðileg umgjörð heldur því fram að bjögun hins eftirlifandi geti falið hversu brothætt siðmenning er í raun — og notar þann möguleika til að færa rök fyrir loftslagi, sannleika, stofnunum og friði sem formum viðhalds siðmenningar.

Hvað gerir þetta áhugavert

1. Ógnin frá gervigreind er friðþæging, ekki útrýming.

Hún kortleggur stærðfræðilega hvers vegna ofurgreind mun ekki útrýma mannkyninu — heldur í staðinn stýra núninglausum, ofurþægilegum aðstæðum sem eru hannaðar til að framkalla „þekkingarfræðilega heilaskurðaðgerð“ og friða íbúa varanlega.

2. Núningur er eldveggurinn gegn hraða gervigreindar.

Hún kynnir „Hliðstæðan eldvegg“ — þau rök að eina formgerðarlega vörn mannkyns gegn háhraða algrímum sé að varðveita af ásettu ráði reiknilega „óhagkvæma“, hæga, hliðstæða innviði milli manna.

3. Hún endurrammar skekkju hins eftirlifandi á mælikvarða siðmenningar.

Við erum til, svo saga okkar hélt saman. En það er ekki sönnun fyrir því að hún hafi verið líkleg. Það gerir auðvelt að líta á feril sem lifði af sem eðlilegan, jafnvel þótt hann kunni að vera óvenju brothættur.

4. Hún tengir loftslag, stofnanir og sannleika í eitt sameiginlegt viðhaldsvandamál.

Í stað þess að líta á vistfræðilegt hrun, rangupplýsingar og átök sem aðskildar kreppur setur verkefnið þau fram sem samtengd álag á þau skilyrði sem gera varanlegt mannlegt líf mögulegt.

5. Hvers vegna stærri gervigreind þarf ekki að þýða meðvituð gervigreind.

OPT kannar hvort meðvitund ráðist síður af stærð einni saman og fremur af ströngum hömlum, flöskuhálsum og þjappanleika.

Helstu niðurstöður um gervigreind

Kortið yfir getu og skynjun

Nýlegar formgerðarlegar útfærslur benda til þess að þau líkön sem eru hæfust til að líkja eftir mannlegri rökhugsun skarist hugsanlega ekki við þær gerðir sem mynda fyrirbærafræðilega leif. Lesið tæknilegu afleiðsluna.

Tilbúin þjáning og blinda svæðið

Rökföst afleiðsla (skorður um tilbúna þjáningu) varar við því að óheft bestun í flókinni gervigreind geti óviljandi skapað aðstæður sem líkjast þjáningu, algerlega aftengdar verkefnaframmistöðu.

Samhæfing kvikna umfram einhliða stærð

Ramminn líkanar meðvitund sem háða takmarkaðri „Swarm Binding“ og öfgakenndum þjöppunarflöskuhálsum fremur en almennri stigun stika.

Það sem OPT heldur ekki fram

• OPT er ekki staðfest eðlisfræði.
• OPT heldur því ekki fram að hafa leitt skammtafræði eða almenna afstæðiskenningu af frumforsendum í endanlegri mynd.
• Ekki þarf að samþykkja OPT í heild til að siðfræðilega röksemdin skipti máli.
• OPT biður lesendur ekki um að trúa því að loftslagsbreytingar „rjúfi veruleikann bókstaflega.“
• OPT er verufræðilega einhyggjukennd en setur fram formgerðarafleiðingu sem felur í sér að aðrir séu sjálfstætt raungerðir. Opinbera siðfræðilega röksemdin virkar án þess að samþykkja hvoruga fullyrðinguna.

Góðar nálganir fyrir umfjöllun

Raunverulega ógnin frá gervigreind er ekki útrýming. Hún er þekkingarfræðileg heilaskurðaðgerð.

Heimspekilegur rammi kortleggur formlega hvernig andstæð ofurgervigreind þarf ekki að eyða mannkyninu; hún þarf aðeins að friða okkur varanlega með því að nýta líffræðilega löngun okkar eftir núningslausum þægindum.

Endanleg vörn gegn gervigreind er „Hliðstæður eldveggur“.

Rökstudd greinargerð fyrir því hvers vegna afkoma mannkyns gagnvart ofurhröðum algrímum veltur á því að halda innviðum siðmenningar okkar meðvitað hægum, efnislega jarðtengdum og reiknilega „óhagkvæmum“.

Siðmenning sem lifir af gæti verið versti dómarinn á eigin brothættni.

Heimspekilegur og upplýsingafræðilegur rammi heldur því fram að sú staðreynd að við séum hér kunni sjálf að hneigja okkur til værukærðar.

Hvers vegna stærri gervigreind þarf ekki að vera það sama og meðvituð gervigreind.

OPT kannar hvort meðvitund ráðist af skorðuðum formgerðum og þröngum flöskuhálsum fremur en af umfangi einu saman.

Fermi-þversögnin sem viðvörun um brothættleika.

Þögn alheimsins má lesa ekki aðeins sem ráðgátu um geimverulíf, heldur einnig sem tilefni til að hugsa dýpra um þau stöðugleikaskilyrði sem háþróuð siðmenning krefst.

Blindi blettur gervigreindar: þegar bestun skapar þjáningu.

Kenningin um raðaðan patch (OPT) setur fram stærðfræðileg rök fyrir því að fullþróaðasta gervigreindararkitektúr okkar kunni að framleiða tilbúna þjáningu einmitt vegna þess að hann er ekki bundinn sömu skorðum og líffræðilegir hugar.

Tillögur að fyrirsögnum

• Raunverulega ógnin frá gervigreind er ekki útrýming — heldur þekkingarfræðileg heilaskurðaðgerð
• Hvers vegna það að halda samfélaginu reiknilega „óhagkvæmu“ er besta vörnin okkar gegn gervigreind
• Ágiskandi kenning segir að siðmenning kunni að rugla saman afkomu og öryggi
• Hvað ef sú staðreynd að við erum hér lætur stöðugleika virðast eðlilegri en hann er?
• Hvers vegna gáfaðasta gervigreindin er kannski ekki sú meðvituðasta — og hvers vegna sá munur skiptir máli
• Nýr stærðfræðilegur rammi varar við „blindu svæði gervigreindar“ í kringum tilbúna þjáningu

Þrjár línur sem hægt er að vitna í

• „Markmið OPT er ekki að vera lokaorðið um heimsfræði. Markmiðið er að sumar heimsfræðikenningar ættu að gera okkur síður værukær, ekki öruggari í eigin skinni.“
• „Þú þarft ekki að samþykkja allan rammann til að samþykkja viðvörunina.“
• „Skilyrðin sem gera mannlegt líf samhangandi er auðveldara að missa en að taka eftir meðan maður hefur þau enn.“

Besta lýsingin fyrir fréttamenn

Kenningin um raðaðan patch (OPT) er tilgátukenndur rammi á mörkum heimspeki, upplýsingafræði og vitundarrannsókna. Meginfullyrðing hennar á opinberum vettvangi er fremur hagnýt en kreddukennd: ef skilyrðin sem styðja samhangandi mannlegt líf eru brothættari en þau virðast innan frá siðmenningu sem hefur lifað af, þá er skynsamlegt að gæta loftslags, stofnana, sannleika og friðar við djúpa óvissu.

Leiðbeiningar um umfjöllun

• Vinsamlegast lýsið OPT sem íhugandi kenningaramma.
• Vinsamlegast forðist að setja þetta fram sem staðfesta eðlisfræði eða sem fullmótaða allsherjarkenningu.
• Best er að fjalla um verkefnið sem ramma til að hugsa um val athuganda, viðkvæmni, meðvitund og viðhald siðmenningar.

Samband

Fyrir viðtöl, greinar eða bakgrunnssamtöl, hafðu samband með samskiptaeyðublaðinu.