Banda­ríska gervi­greind­ar­fyr­ir­tækið Anthropic ætlar að „leggja áhætt­una á borðið“ þrátt fyrir að það tak­marki dreif­ingu á nýju lík­ani sem kall­ast Mythos, en geta þess á sviði net­ör­yggis vekur upp áhyggjur og spurn­ingar fyrir fyr­ir­tæki og stjórn­völd.

„Við erum með líkan sem er farið að bera af mann­legri getu í netheimum,“ sagði Guillaume Princen, yfir­maður sam­skipta Anthropic við sprota­fyr­ir­tæki og tækni­fyr­ir­tæki í París, í við­tali við frétta­stofu AFP.

Mythos er „fært um að finna örygg­is­galla sem hafa verið til staðar í ára­tugi, í kerfum sem hafa verið prófuð bæði af sér­fræð­ingum og sjálf­virkum verk­færum, en hafa aldrei fund­ist áður,“ bætti hann við.

Anthropic hefur frestað almennri útgáfu Mythos og deilir lík­an­inu fyrst með nokkrum tugum lyk­il­að­ila í banda­rískum tækni- og fjár­mála­þjón­ustu­geira – eins og Nvidia, Amazon, Apple og JP Morgan Chase – til að leyfa þeim að prófa og bæta öryggis­inn­viði sína.

En fyr­ir­tækið hefur einnig verið sakað um að ýkja mátt tækni sem er þess helsta sölu­vara – og við­fangs­efni harðrar sam­keppni við keppi­naut­inn OpenAI.

Frétt­irnar af Mythos bár­ust á sama tíma og orðrómur er á kreiki um að Anthropic verði skráð á hluta­bréfa­markað á þessu ári.

Segja öryggið vera í fyrirrúmi

„Við kjósum að vera gagnsæ og leggja þessa áhættu á borðið,“ sagði Princen og bætti við að áhyggjur af öryggi gervi­greindar væru „mið­lægar í erfða­efni Anthropic“.

„Við höfum ekki öll svörin, þetta þarf að vera sam­tal milli tækni­að­ila eins og okkar sem hafa gögnin, fræða­sam­fé­lags­ins, stjórn­mála­heims­ins og hag­fræð­inga,“ bætti hann við.

Yfirlýst geta Mythos hefur valdið óróa í banda­ríska fjár­mála­geir­anum og hjá Evr­ópu­sam­band­inu, sem óskaði eftir frek­ari upp­lýs­ingum frá Anthropic.

Í opnu bréfi til fyr­ir­tækja sagði breska rík­is­stjórnin að Mythos „varpi ljósi á þann hraða sem geta gervi­greindar eykst með og þær ógnir sem hún getur skapað“.

Ekkert evr­ópskt fyr­ir­tæki er hluti af „Project Glasswing“ sam­starfs­hópi Anthropic til að efla net­varnir með nið­ur­stöðum Mythos.

Það hefur vakið upp spurn­ingar um hversu vel und­ir­bú­inn umheim­ur­inn verður fyrir árás­ar­getu gervi­greindar í eigu Banda­ríkja­manna.

Mythos er „vissu­lega ekki líkan sem verður opnað almenn­ingi í bráð, af aug­ljósum ástæðum,“ sagði Princen.

Anthropic er engu að síður að „hugsa um næstu bylgjur opn­unar,“ bætti hann við.

Vöxtur í Evrópu

Evrópa er það svæði þar sem Anthropic sér hraðastan vöxt.

Claude Code hug­bún­að­ar­þró­un­ar­tól þess skilar um 2,5 millj­örðum dala í tekjur á árs­grund­velli, ef miðað er við fram­reikn­ing á sölu síð­ustu vikna.

Mikið af þeirri stækkun kemur frá „evr­ópskum fyr­ir­tækjum sem ríða á bylgju“ gervi­greindar, sagði Princen.

Fyr­ir­tækið hefur opnað skrif­stofur í Dublin, London, París og München og vill halda áfram að fjár­festa víðs vegar um álf­una.

„Við förum þangað sem eft­ir­spurnin er,“ sagði Princen og benti á sam­starf við evr­ópsk fyr­ir­tæki eins og sænska for­rit­un­ar­sprot­ann Lovable eða danska lyfja­fyr­ir­tækið Novo Nordisk.

Anthropic, sem var til­tölu­lega óþekkt almenn­ingi þar til nýlega, var stofnað árið 2021 af fyrr­ver­andi starfs­mönnum OpenAI og fær um 80 pró­sent af tekjum sínum frá sölu milli fyr­ir­tækja.

Fyr­ir­tækið og Claude-spjall­menni þess urðu áber­andi í lok febr­úar þegar stjórn­endur neit­uðu að leyfa notkun gervi­greind­ar­verk­færa sinna fyrir Pentagon til fjölda­eft­ir­lits með banda­rískum borg­urum eða að fullu sjálf­virkra vopna.

Trump-stjórnin brást við með því að skil­greina Anthropic sem svo­kall­aða „birgða­keðju­á­hættu“ fyrir þjóðar­ör­yggi, en sú ákvörðun er véfengd í mörgum dóms­málum.

Í dóm­skjölum sem AFP hefur séð var­aði Krishna Rao, fjár­mála­stjóri Anthropic, við því að aðgerðir stjórn­valda í Washington gætu kostað fyr­ir­tækið marga millj­arða í tekjur á þessu ári.

Á hinn bóg­inn „er fullt af fólki sem byrj­aði að nota Claude einmitt vegna afstöð­unnar sem við tókum í því máli,“ sagði Princen.

Anthropic sagði í byrjun apríl að það hefði þre­faldað árs­grund­velli tekna sinna á milli árs­fjórð­unga í yfir 30 millj­arða dala – og fór þar með fram úr OpenAI í fyrsta skipti.