Ég man ekki til að það hafi farið ýkja mikið fyrir því í okkar heimshluta en í maí fyrir tveimur árum var skipaður nýr stjórnarmaður í fyrirtækinu Deep Knowledge Ventures í Hong Kong. DKV er áhættufjárfestingarsjóður og helgar sig því einkum að útvega fjármagn til fyrirtækja er stunda rannsóknir á öldrunarsjúkdómum. Og það sem var merkilegt við nýja stjórnarmanninn var að „hann“ var alls ekki maður, heldur forrit.

Þetta forrit er kallað VITAL og var hannað sérstaklega til að meta kosti fjárfestinga í líftækniiðnaði.

Ekki kemur á óvart að DKV hlaut harða gagnrýni fyrir þá tilkynningu sem fyrirtækið sendi frá sér um nýja stjórnarmanninn. Þetta var kallað PR-stönt af ódýrara taginu. VITAL gæti vissulega verið mjög gagnlegt forrit á sínu sviði en væri þó aldrei annað en reiknivél. Það kæmi alltaf í hlut manna af holdi og blóði í stjórn fyrirtækisins að taka ákvörðun um hvort farið skyldi að „ráðleggingum“ vélarinnar.

Og blaðamaður við hátækniblaðið The Register sagði að VITAL væri ekki stjórnarmaður í DKV „ekki frekar en hestur Caligula var öldungaráðsmaður“. Forritið væri einfaldlega tæki sem stjórnarmenn notuðu til að meta fjárfestingar.

Það er reyndar út af fyrir sig rétt. En setjum nú svo að VITAL sé eða reynist verða í framtíðinni betri og öruggari greinandi fjárfestingarkosta en hinir misvitru mannlegu stjórnarmenn. Þá styttist í að eigendur DKV muni einfaldlega losa sig við stjórnina, nema hvað einn þeirra fær þann starfa að setja VITAL í samband.

En þegar VITAL verður kominn í sjálfvirkt samband við sólarrafhlöðurnar uppi á þaki skýjakljúfsins í Hong Kong, þar sem DKV hefur aðsetur, þá verður sá stjórnarmaður líka óþarfur.

Hugmyndir manna um dystópíska framtíð þar sem vélarnar ráða öllu hafa verið á kreiki síðan í upphafi iðnbyltingar. Þær hafa ekki ræst hingað til og margir telja að þær muni heldur ekki rætast nú í náinni framtíð, hvað sem líður aukinni sjálfvirkni og hraðfara þróun gervigreindar. Sú þróun er svo stórstíga að þeir eru til sem álíta að innan örfárra áratuga verði gervigreind komin fram úr greind okkar mannanna á öllum sviðum.

Líka á sviði sköpunar og hugmyndaauðgi.

Svo er það spurning hvort telja eigi slíka menn bjartsýna eða bölsýna.

Einn þeirra sem um þetta hefur fjallað að undanförnu er ísraelski sagnfræðingurinn Yuval Noah Harari er skrifaði fræga bók um sögu mannkynsins, Sapiens, er út kom 2011. Helgi Hrafn Guðmundsson skrifaði nýlega um bókina í Fréttatímann. Bók Hararis er umdeild og ögrandi en hann heldur því meðal annars fram að það sé hæfileiki mannsins til að búa til og trúa á abstrakt hugmyndir sem gerði honum kleift að vinna saman og sigra heiminn.  

Meðal þessara abstrakt – og uppdiktuðu hugmynda – eru ekki aðeins allir guðir og goðafræði, að mati Hararis, heldur líka almennar hugmyndir eins og að öll dýrin í skóginum eigi að vera vinir. Sú hugmynd er skáldskapur sem kom manninum að góðum notum til að efla samvinnu og mjaka samfélaginu áleiðis, segir Harari, en í reynd er ekkert í eðli mannsins sem kallar á þetta. Þetta er bara hugmynd sem okkur hentar að trúa á.

Þessar hugleiðingar eru að vonum umdeildar, en nú hefur Harari skrifað nýja bók sem heitir Homo Deus, Mannguðinn, þar sem hann leitast við að fjalla frekar um framtíðina en fortíðina. Skemmst er frá því að segja að Harari gengur alla leið í dystópíunni, og fullyrðir að tækniþróun sé komin svo langt á veg að héðan af verði ekki spornað við henni. Framtíðin sé einfaldlega sú að vélarnar muni taka við öllum störfum mannsins í tiltölulega náinni framtíð, en á sama tíma verði hóglíf hinnar auðugu yfirstéttar æ auðveldara og ríkmannlegra. Þeir sem hafi efni á munu betrumbæta líkama sinn og afkomenda sinna með ótrúlegum framförum í nanó- og erfðatækni, en líka með því að græða tölvur í líkamann. Að endingu verði svo vitund þessara „ofurmenna“ hreinlega færð inn í vélina.

Þessar hugmyndir hafa lengi verið á kreiki meðal vísindaskáldsagnahöfunda en það er ennþá nokkur nýlunda að fræðimenn takist á við þær í alvöru – nema þá helst þeir sem vinna glaðbeittir að þróun þessarar nýju tækni.

Og tæknin er á leið á ýmsar slóðir. Bandaríski herinn er að þróa tækni þar sem utanaðkomandi rafstraumur í tilteknar heilastöðvar yfirtekur vilja og ótta mannsins. Haldi þessi þróun áfram verður hægt að gera menn að viljalausum og siðlausum hervélum. Smart?

Ef við viljum hugsa lengra en bara fram að næstu kosningum, þá þurfum við að fara að hugleiða hvernig við sjáum framtíðina fyrir okkur. Ætlum við að trúa því að hugmyndir um að allir menn séu jafnir séu bara ímyndun og skáldskapur og þess vegna sé ekkert við það að athuga að meirihluti mannkynsins verði óþarfur en fámenn yfirstétt breytist í guði?