Hver verður heimsendir? Er það ekki eðlileg spurning að spyrja sig? Það hefur fólk allavega spurt sig að frá upphafi og þessi náttúrulega forvitni hefur því miður verið misnotuð. Trúarrit innihalda mörg sköpunarsögu og af augljósum ástæðum gera þau einnig ráð fyrir sögulokum. Í kristinni trú er sagt frá sköpun hins veraldlega heims en einnig frá tortímingu hans. Það sama á við um þau trúarbrögð sem ríktu í þessum heimshluta á undan kristni. Það er eðlilegt að fólk hungri í heimsmynd með upphafi og enda og allsherjar handbækur um allt sem gerist þar á milli.

Það sem við eigum hins vegar að vera á varðbergi gagnvart er þegar tortíming og endalok veraldar verður áhersluatriði í trúboði. Þá er nefnilega ekki ólíklegt að verið sé að nota hræðslu sem veraldlegt valdatæki. Eins og við vitum eru skömm og hræðsla eitt öflugasta valdatæki sem til er. Trúarleiðtogar ná valdi yfir milljónum því kenningar þeirra innihalda hugmyndina um endalokin en einnig frelsunina frá þeim. Að búa yfir einkaleyfi á hugmyndinni um endalok mannkyns er líklega sterkasta vopn sem hægt er að búa yfir, sé ætlunin að stýra fjöldanum eftir eigin vilja.

Í þessum pistli skal ósagt látið um lyktir mannlegrar tilvistar. Kannski mun sólin gleypa heiminn eða sveppir ná tökum á miðtaugakerfum okkar. Einhvers staðar er endalínan og eflaust eru flest varúðarorð trúarleiðtoga, skálda og jafnvel stjórnmálafólks góðra gjalda verð. En við eigum samt alltaf að hugsa okkur tvisvar um hvort eitthvað annað og meira búi að baki.

Hálfrar aldar upphitun

Í meira en hálfa öld hafa verið til kenningar og hugmyndir um að gervigreind muni dag einn taka fram úr mannlegri hugsun og hafa burði til að gera út af við mannkynið. Ein áhrifamesta scifi-kvikmynd allra tíma, 2001: A Space Odyssey, kom út fyrir 55 árum og segja má að útgangspunktur þeirrar kvikmyndar sé þetta ákveðna suðumark: þegar tölvur verða svo gáfaðar að þær öðlist sjálfsmynd og efasemdir og verði í kjölfarið duttlungafullar. Við þetta má svo bæta að ein stærsta mynd þessa árs, Mission Impossible: Dead Reckoning Part One fjallar um sömu ógnir. Þarna á milli má svo finna hundruð þúsundir annarra listaverka og sagna sem ala á þessari hugmynd að endalok yfirráða mannsins yfir jörðinni verði vegna framgangs gervigreindar. Hugmyndin er því alls ekki ný.

Það sem við höfum þó séð lítið af er að trúfélög nýti sér þessa heimsendaspá til að ná valdi yfir fólki, þó að finna megi undantekningar á því. Þetta eru hugmyndir sem hafa fram að þessu að mestu verið settar fram til dægrastyttingar af skapandi fólki þó að nú sé að verða algengara að varúðarorð um framgang gervigreindar heyrist einnig frá vísindasamfélaginu. Hingað til hefur ekki verið mikil ástæða til að ætla að eitthvað annarlegt búi að baki slíkum varnaðarorðum. Það væri jafn langsótt og að ætla að vísindafólkið sem vari við hörmungum vegna loftslagsbreytinga sé bara að því vegna sjálfmiðaðra sjónarmiða. Með öðrum orðum: hugmyndir um heimsendi vegna yfirtöku gervigreindar eru algjörlega þess virði að gefa gaum, hvort heldur sem er vegna þess hversu forvitnilegar þær eru og jafnframt vegna þess að við ákveðnar aðstæður gætu þær raungerst miðað við framreikninga okkar fremsta vísindafólks.

Mögulegt en ósennilegt

Að mannlegum yfirráðum ljúki vegna gervigreindar er samt bara ein af mögulegum endalokum. Það gæti vissulega gerst. En mannöld gæti einnig lokið vegna alþjóðlegra veirufaraldra, hamfarahlýnunar, kjarnorkustríðs, ofur eldvirkni, vegna þess að loftsteinn skelli á jörðinni eða vegna ýmissa sviðsmynda sem tengjast líffræðilegum fábreytileika. Athugið að hér er ekki endilega verið að teygja sig neitt mjög langt í fáránleika. Hér er ekki minnst á innrás geimvera eða aðra þætti sem eru kannski frekar á sviði skáldskapar en vísinda. Hér er bara minnst á nokkrar mögulegar endaloks-sviðsmyndir og bent á að yfirtaka gervigreindar er bara ein af þeim. Þannig að þó að gervigreind geti mögulega mátað líf mannsins á jörðinni, þá er allt eins líklegt að eitthvað annað verði þegar búið að því áður. Það er nauðsynlegt að horfa svona blákalt á þetta því færa má rök fyrir því að umræða um ógnir og heimsenda muni á næstu árum og áratugum mikið snúast um gervigreind.

Eins og að framan er rakið er ekki óeðlilegt að gervigreind sé spyrt saman við heimsendaspár. Það svalar bæði náttúrulegri forvitni mannsins auk þess sem fyrir því eru vísindaleg rök. Auk þess er gervigreind þegar farin að ógna ýmsu í okkar samfélagi svo sem strúktúr lýðræðis og geðheilsu. En hér komum við að mergi málsins. Áður en samfélög okkar leiðast yfir í meiri háttar ótta gagnvart gervigreind, kannski á pari við það sem gerðist vegna kjarnorkuógnar á síðustu öld, skulum við skoða aðeins hvað slík þróun gæti haft í för með sér.

Skömmin er varasöm

Þegar hræðsla og skömm verður ráðandi afl í hugum fólks, sérstaklega ef hún hefur gripið heilu stéttirnar og þjóðirnar, þá sýnir sagan að þar býr oft eitthvað mannlegt að baki. Kaþólska kirkjan taldi fólki trú um að sjálfsfróun og samkynhneigð væru andstæð Guði, og í trúarlegri hugsanamóðu töldu margir það heilög sannindi, en í sögulegu samhengi er ekki hægt að túlka það öðruvísi en sem valdatæki sem leiddi til þess að milljónir upplifðu skömm og hræðslu og þannig var auðveldara fyrir ráðandi öfl að halda völdum sínum. Því miður er þetta ein elsta saga mannlegs samfélags.

Það mun fylgja því mikil skömm og mikil hræðsla þegar margt sem áður var á forræði okkar sjálfra, færist yfir til gervigreindarinnar. Það gæti þótt skammarlegt að missa vinnuna, eitt mesta stolt og akkeri tilverunnar, í hendurnar á tölvum. Það gæti þótt skammarlegt að sjá minnkandi áhuga á lýðræðislegum samkomum þar sem auðveldara er að eftirláta tölvum að reikna út bestu leiðina. Það er skammarlegt að gefa frá sér fatasmekk sinn, tónlistarsmekk sinn og smekk sinn á fólki og hugsanlegum framtíðarmaka. En þetta er allt að gerast í mismiklum mæli og það eru tölvur sem eru að taka þetta að sér fyrir okkur. Það er svo margt skammarlegt og ógnvekjandi að eiga sér stað og þegar við erum hrædd og skömmumst okkar þá er svo létt að spila með okkur.

Peningar og völd

Og hér er nauðsynlegt að skoða aðeins hina hliðina á peningnum. Eða skoða jafnvel bara peninginn sjálfan í allri sinni skínandi málmdýrð. Við skulum ekki gleyma því að gervigreind fylgir gríðarlegt hagræði. Efnahagslegt hagræði af gervigreind er líklega stærsta hagfræðilega jafna sögunnar. Stærsti kostnaðarliður í rekstri fyrirtækja eru laun til starfsfólks og þegar gervigreind leysir starfsfólk af hólmi gefur það fjármagnseigendum möguleikann á gríðarlegum sparnaði, sem er síður en svo að dreifast jafnt til allra.

Það er nefnilega góðra gjalda vert að bregða gömlu góðu stéttakenningunni á framgang gervigreindar og þá er augljóst að eitt af hliðarverkunum gervigreindar er að hinir ríku verða ríkari. Hvort hinir fátækari verði fátækari í peningum talið skal ósvarað hér en það er allavega ljóst að hinir fátæku verða hræddari og valdalausari og það er á endanum alltaf hin eina sanna skilgreining á fátækt. Að þessu sögðu má einnig bregða mörgum öðrum linsum á framgang gervigreindar, en þessi sósíalíska linsa er ein þeirra og það er einnig nauðsynlegt að setja hana í hið stærsta mögulega samhengi:

Er það ekki ósköp þægilegt fyrir þá sem hagnast á gervigreind að stórsagan í kringum gervigreind sé endalok mannkyns? Að fólk upplifi valdaleysi og ótta frekar en að það krefjist þess að auðnum sé skipt jafnt? Að óvinurinn sé gervigreindin sjálf en ekki það fólk sem í raun stjórnar henni? Er þetta ekki bara elsta trixið í kúgunarbókinni: að láta fólk óttast eitthvað svo mikið að það hætti að ná utan um það með rökhugsun? Kannski verður gervigreind nefnilega aldrei jafnhamslaus og verstu framreikningar spá. Kannski verður hún fyrst og fremst staðgengill mannfólks, verkfræðileg lausn þar sem fólk borgar sama verð fyrir vöru og þjónustu þó að búið sé að þurrka út stærsta kostnaðarliðinn. Kannski verða endalok lýðræðis eins og við þekkjum það (sem eru því miður sennileg) ekki vegna trylltrar og stjórnlausrar gervigreindar, heldur vegna valdhafa sem líkar það vel að fólk sé uppfullt af ótta og líkar það enn betur ef sá ótti beinist gegn ósýnilegri gervigreind frekar en þeim sjálfum.

... eða eitthvað meira

Ég trúi persónulega að gervigreind sé afar sterkt afl. Og svo því sé haldið til haga held ég að gervigreind sé líklega sterkara og stærra afl heldur en hefðbundin stéttabarátta og stjórnmál ná utan um og í því samhengi mun hún líklegast valdefla fólk í jafnríkum mæli og hún tortímir núverandi skipulagi. Með öðrum orðum: ég trúi á heimsenda að því leyti að veröldin verður aldrei söm en reyni að vera eins krítískur og ég get til að koma í veg fyrir að sú staðfesta breytist yfir í ótta sem jaðrar við trúarlegan heimsenda því það er versta niðurstaðan. Við eigum að vera krítísk. Kannski mun sá dagur renna upp að við eigum að vera hrædd og reið en sá dagur er ekki núna. Núna eigum við að vera krítísk og fylgjast með sérhverju skrefi í þróuninni og láta það fara í gegnum víðtækt hagsmunamat. Hver er að auðgast og hver er að missa völd?