Við höfum öll orðið vitni að mikilli þróun á gervigreind á undanförnum árum. Vélar taka við mannlegum störfum og alls kyns persónulegir hlutir sem við gerðum áður sjálf, eins og að velja músík til að hlusta á eða raða niður ljósmyndum í albúm, er nú stjórnað af gervigreind. Þó að í þessu felist fyrst og fremst mikið hagræði þá er einnig hægt að líta á þetta sem ákveðið áhlaup á líf okkar. Hvað verður eftir af okkur sjálfum, hvaða þættir eru aðeins á forræði mennskunnar og hverju viljum við sinna án aðstoðar tækninnar?

Forsætisráðherra þjóðarinnar gerði tæknina að umtalsefni á nýliðnum þjóðhátíðardegi og orðaði málin svona: „En fyrst og síðast vekur hún spurningar um mennskuna, hver við erum og hver við viljum vera. Að sjálfsögðu þurfum við að skilja tæknina til að geta stýrt henni og tryggja að hún nýtist til góðra verka. En mestu skiptir að við skiljum okkur sjálf til að geta tryggt að mennskan lifi af allar þær umfangsmiklu breytingar sem nú eru að verða.“

Það er jákvætt að fólkið sem fer fyrir völdum ríkisins gefi þessum málum gaum og hugsi stórt og hugsi djúpt. En hvernig er þessum spurningum svarað? Við þurfum í það minnsta að gera tilraun til þess. Til að auðvelda okkur þessa miklu áskorun er kannski rétt að endurorða spurninguna. Í stað þess að spyrja hver mennskan sé, er kannski einfaldara að spyrja hvað felist í því að vera greindur. Er í raun eitthvað gervilegt við þá greind sem nú er að taka við af mannlegri greind?

Greind, greinar, greiningar

Þetta íslenska orð sem við notum yfir greind felur í sér að eitthvað greinist, að það hafi farvegi eða kvíslist. Að búa yfir greind felst í því að hafa „greinar“ svo notast sé við líkingu við tré. Þó að tré eða plöntur búi ekki yfir greind í þeirri merkingu sem við notum orðið, þá er uppbygging þeirra hin fullkomna líking til að skilja meininguna á bak við „greind“. Orðið greind vísar til þess að geta leitað upplýsinga víða, að hafa fálmara og skynjara sem teygja sig langt og vítt líkt og greinar trés, að vera leitandi og hafa hæfileikann til að brjóta þekkingu niður í smærri einingar annars vegar og sameina þekkingu sem kemur frá fleiri en einni átt og skapa þannig nýja. Greindin vísar því ekki til hæfileikans til að geyma þekkingu eða festa hana heldur fremur til þess að leiða þekkingu til lykta og vera tengdur stærra neti þekkingar.

Sama hvað segja má um möguleika tölvubúnaðar til hugsunar, þá er óumdeilt að tölvur eru „greinóttar“ og þær búa yfir hæfileikanum til að greina þekkingu. Þegar spurningu er varpað inn í ChatGPT teygir forritið greinar sínar í allar áttir eftir svörum, það hefur fálmara sem leita uppi svörin og leiða það svo rétta leið til þín. Þennan eiginleika hafa tölvur haft í meira en hálfa öld, eða allt frá því að fyrstu tölvurnar voru tengdar saman og lögðu grunn að því sem síðar fékk nafnið internet. Það sem hefur bæst við á síðustu árum með þróun gervigreindar er svo möguleiki tölva til að bera svörin, sem fálmararnir sækja, saman við þúsundir eða jafnvel milljónir annarra mögulegra svara við spurningunni og meta hver sé nytsamlegasta niðurstaðan byggt á samanburði við þúsundir eða jafnvel milljónir annarra mögulegra spurninga. Auðvitað er þetta flókið, en missum samt ekki sjónar á því hvaða spurningu verið er að svara hér. Geta tölvur verið greindar? Svarið við þeirri spurningu er já og í raun er óþarfi að setja neitt „gervi“ fyrir framan þá greind. 

Nýi krakkinn á skólalóðinni

Þetta eru vonbrigði. Tölvurnar hafa ruðst inn í líf okkar. Eins og nýr krakki á skólalóðinni sem gerir allt betra og hraðar, klæddur í glitrandi jogginggalla, greindur og skarpur. Og eftir sitjum við: Lúða-manneskjur í ljótum flauelsbuxum. Það verður ekki frá þessu horft. Tölvur eru greindar og tréð sem þær eru tengdar inn á verður sífellt stærra og umfangsmeira og greinar þess vaxa nú og kvíslast á veldishraða. Tréð. Já. Við erum enn í þessari samlíkingu við tré, enda er það ekki alveg úr lausi lofti gripið. Að tengja tré við þekkingu er eitthvað sem kemur úr goðsögnunum. Við þekkjum Ask Yggdrasils úr norrænni goðafræði. Úr nokkrum af stærstu trúarbrögðum veraldar þekkjum við skilningstré góðs og ills. Bæði þessi tré hafa mikla þýðingu hvað varðar þekkingu og dreifingu hennar.  Og hugsanlega erum við samtengdari þessum líkingum en við gerum okkur grein fyrir. Það er til dæmis ótrúlegt að hugsa til þess að það fyrirtæki sem hefur átt einn mestan þátt í því að tengja saman tölvur og manneskjur með útbreiðslu snjalltækja sinna ber hið goðsögulega nafn Epli. Að bíta í eplið færir manni alla þekkingu veraldar en á sama tíma missum við skilninginn á muninum á góðu og illu. Hljómar þetta kunnuglega?

Mold, mold, mold

Sama hvað fólki kann að þykja um svona samlíkingar þá er ótvírætt að vöðvaminni mannshugans er sterkt og þó að engin samlíking eða goðsögn sé fullkomin, þá eigum við að horfa til þeirra til að skilja heildarmyndina. Við höfum nefnilega gengið í gegnum þetta allt áður og ef við höldum áfram að horfa til trésins, sem hinnar stóru líkingar um þekkingu og greind, þá skulum við ekki gleyma því að tré er ekki aðeins greinarnar sem við sjáum heldur einnig ræturnar sem leynast undir yfirborðinu. Greinarnar sem vísa til himins eru tákn hugsunar og greindar en ræturnar ofan í moldinni eru tákn hins líkamlega og staðbundna. Og það erum við manneskjurnar svo sannarlega: takmarkaðar og fastar í líkamlegri skel. Það eru fáar táknsögur eldri en sú að við séum hnoðuð saman úr mold. Af moldu ertu kominn og að moldu skaltu aftur verða. Við erum moldug og dauðleg og í því felast ýmsir kostir. Skáldin hafa í árþúsund sagt að tilfinningar magans og hjartans séu æðri tilfinningum hugans. Verkur hjartans er dýpri og varanlegri en verkur hugans. En reyndar er lausnarorðið í þessu öllu saman bara stutt og laggott: „verkur“.

Það sem manneskjur hafa, sem tölvur hafa allavega ekki enn sem komið er, er sársaukinn. Sársauki, þessi ólógíska hugmynd um skaðaaukningu, að magna upp ástand þjáningar, missis og sorgar. Tölvur reyna ávallt að „optimisera“: að besta niðurstöðurnar, minnka tregðu og fleipur. En við manneskjur gerum það svo sannarlega ekki. Samskipti okkar leiða oft til sársauka. Líf manneskjunnar hefst með sársauka. Við aðskilnað barns frá móður, sem er þeim báðum svo sárt að öskur heyrast, og út í gegnum lífið er allt markað af sársauka. Það er markað af tregðunni. Hugmyndir missa marks. Fólk missir af hvert öðru. Fólk deyr frá ástvinum sínum. Fátt skilgreinir mannlega tilveru jafn vel og sársauki og fátt aðskilur mannlega hugsun jafn skýrt frá gervigreindinni og hinar moldugu rætur sem liggja frá hverri manneskju og sjá aldrei sólina og eyða ævi sinn í að hruflast upp við hver aðra. Við höfum lauflausar rætur, áminningu um dauðleikann, tengingu við moldina, neðanjarðarkerfi þjáningar og áfalla.

Manneskjur gera mistök

Niðustaðan? Tölvugreind getur hugsað fyrir okkur. Í stóru samhengi þá gera tölvur færri mistök. Tölvur eru líka öflugar að því leyti að það er ekki hægt að móðga þær eða lítillækka. Þær hræðast hvorki dauðann né finna fyrir hlýju við að heyra af kærleiksverkum. Með öðrum orðum: tölvur hafa mikla greind og þær skynja ekki sársauka. En í því felst þrátt fyrir allt líka takmörkun þeirra. Það sem við höfum fram yfir er rótakerfið: hið téða vöðvaminni sem fékk Steve Jobs (líklega óafvitandi) til að tengja stærstu sögu nútímans (uppfinningu einkatölvunnar og snjallsímans) beint inn í sköpunarsögu sem öll tölvugreind veraldar myndi afskrifa sem úrelda og heimskulega. Það er þessi fýsn í þjáninguna sem gerir okkur mennsk. 

Næst þegar við sjáum tölvu koma upp að okkur á skólalóðinni, greinda og góða með sig í glitrandi jogginggalla, getum við gengið stolt að henni í flauelsbuxunum okkar og sagt henni frá þjáningunni. Hún mun ekki skilja neitt. Því þjáninguna skynjum við með rótum okkar. Tölvurnar eru vissulega greindar, en þær hafa ekki ræturnar. Ég veit að þetta er lúðaleg niðurstaða, en þetta er staðan sem við erum að vinna með. Og hver veit, dag einn mun kannski rætast úr þessu hjá okkur.