Bandaríska gervigreindarfyrirtækið Anthropic ætlar að „leggja áhættuna á borðið“ þrátt fyrir að það takmarki dreifingu á nýju líkani sem kallast Mythos, en geta þess á sviði netöryggis vekur upp áhyggjur og spurningar fyrir fyrirtæki og stjórnvöld.

„Við erum með líkan sem er farið að bera af mannlegri getu í netheimum,“ sagði Guillaume Princen, yfirmaður samskipta Anthropic við sprotafyrirtæki og tæknifyrirtæki í París, í viðtali við fréttastofu AFP.

Mythos er „fært um að finna öryggisgalla sem hafa verið til staðar í áratugi, í kerfum sem hafa verið prófuð bæði af sérfræðingum og sjálfvirkum verkfærum, en hafa aldrei fundist áður,“ bætti hann við.

Anthropic hefur frestað almennri útgáfu Mythos og deilir líkaninu fyrst með nokkrum tugum lykilaðila í bandarískum tækni- og fjármálaþjónustugeira – eins og Nvidia, Amazon, Apple og JP Morgan Chase – til að leyfa þeim að prófa og bæta öryggisinnviði sína.

En fyrirtækið hefur einnig verið sakað um að ýkja mátt tækni sem er þess helsta söluvara – og viðfangsefni harðrar samkeppni við keppinautinn OpenAI.

Fréttirnar af Mythos bárust á sama tíma og orðrómur er á kreiki um að Anthropic verði skráð á hlutabréfamarkað á þessu ári.

Segja öryggið vera í fyrirrúmi

„Við kjósum að vera gagnsæ og leggja þessa áhættu á borðið,“ sagði Princen og bætti við að áhyggjur af öryggi gervigreindar væru „miðlægar í erfðaefni Anthropic“.

„Við höfum ekki öll svörin, þetta þarf að vera samtal milli tækniaðila eins og okkar sem hafa gögnin, fræðasamfélagsins, stjórnmálaheimsins og hagfræðinga,“ bætti hann við.

Yfirlýst geta Mythos hefur valdið óróa í bandaríska fjármálageiranum og hjá Evrópusambandinu, sem óskaði eftir frekari upplýsingum frá Anthropic.

Í opnu bréfi til fyrirtækja sagði breska ríkisstjórnin að Mythos „varpi ljósi á þann hraða sem geta gervigreindar eykst með og þær ógnir sem hún getur skapað“.

Ekkert evrópskt fyrirtæki er hluti af „Project Glasswing“ samstarfshópi Anthropic til að efla netvarnir með niðurstöðum Mythos.

Það hefur vakið upp spurningar um hversu vel undirbúinn umheimurinn verður fyrir árásargetu gervigreindar í eigu Bandaríkjamanna.

Mythos er „vissulega ekki líkan sem verður opnað almenningi í bráð, af augljósum ástæðum,“ sagði Princen.

Anthropic er engu að síður að „hugsa um næstu bylgjur opnunar,“ bætti hann við.

Vöxtur í Evrópu

Evrópa er það svæði þar sem Anthropic sér hraðastan vöxt.

Claude Code hugbúnaðarþróunartól þess skilar um 2,5 milljörðum dala í tekjur á ársgrundvelli, ef miðað er við framreikning á sölu síðustu vikna.

Mikið af þeirri stækkun kemur frá „evrópskum fyrirtækjum sem ríða á bylgju“ gervigreindar, sagði Princen.

Fyrirtækið hefur opnað skrifstofur í Dublin, London, París og München og vill halda áfram að fjárfesta víðs vegar um álfuna.

„Við förum þangað sem eftirspurnin er,“ sagði Princen og benti á samstarf við evrópsk fyrirtæki eins og sænska forritunarsprotann Lovable eða danska lyfjafyrirtækið Novo Nordisk.

Anthropic, sem var tiltölulega óþekkt almenningi þar til nýlega, var stofnað árið 2021 af fyrrverandi starfsmönnum OpenAI og fær um 80 prósent af tekjum sínum frá sölu milli fyrirtækja.

Fyrirtækið og Claude-spjallmenni þess urðu áberandi í lok febrúar þegar stjórnendur neituðu að leyfa notkun gervigreindarverkfæra sinna fyrir Pentagon til fjöldaeftirlits með bandarískum borgurum eða að fullu sjálfvirkra vopna.

Trump-stjórnin brást við með því að skilgreina Anthropic sem svokallaða „birgðakeðjuáhættu“ fyrir þjóðaröryggi, en sú ákvörðun er véfengd í mörgum dómsmálum.

Í dómskjölum sem AFP hefur séð varaði Krishna Rao, fjármálastjóri Anthropic, við því að aðgerðir stjórnvalda í Washington gætu kostað fyrirtækið marga milljarða í tekjur á þessu ári.

Á hinn bóginn „er fullt af fólki sem byrjaði að nota Claude einmitt vegna afstöðunnar sem við tókum í því máli,“ sagði Princen.

Anthropic sagði í byrjun apríl að það hefði þrefaldað ársgrundvelli tekna sinna á milli ársfjórðunga í yfir 30 milljarða dala – og fór þar með fram úr OpenAI í fyrsta skipti.