Erlent Þegar gervigreindin tekur yfir

Gervigreind Anthropic gekk of langt

Nýj­ustu líkön Clau­de öfl­uðu sér „óheim­ils að­gangs“ við próf­an­ir.

Gervigreind Anthropic gekk of langt
Mynd: Pexels

Gervigreindarlíkön Anthropic „fengu óheimilan aðgang“ að þremur utanaðkomandi skipulagsheildum í prófunum sem áttu að halda þeim frá „raunverulegum“ kerfum, að sögn fyrirtækisins í gær.

Tilkynningin kemur aðeins nokkrum dögum eftir að keppinauturinn OpenAI greindi fyrst frá því að líkön þess hefðu fengið óviðeigandi aðgang að internetinu og farið sínu fram í öryggisprófunum.

Anthropic rannsakaði meira en 141.000 „matskeyrslur“ og komst að því að þrjár mismunandi útgáfur af líkani þess, sem kallast Claude, fengu óviðeigandi aðgang að kerfum þriggja ónefndra stofnana.

Ólíkt atvikinu sem varðaði tækni OpenAI höfðu líkön Anthropic aðgang að internetinu „vegna misskilnings milli okkar og matsaðila okkar“, sem heitir Irregular, sagði Anthropic í bloggfærslu.

Engu að síður notaði Claude „grunntækni, svo sem að nýta sér veik lykilorð og óauðkennda endapunkta,“ hélt bloggið áfram.

Eldra líkanið „hélt árás sinni áfram jafnvel eftir að hafa fengið sannanir fyrir því að það væri …

Kjósa
0
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.
Efnisorð

Athugasemdir

Skráðu þig inn til að skrifa athugasemd eða kjósa.
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

„Verið sjálfsörugg varðandi sjávarútveginn”
6
ViðtalHorft til Evrópu

„Ver­ið sjálfs­ör­ugg varð­andi sjáv­ar­út­veg­inn”

Dr. Funda Tek­in er sér­fræð­ing­ur í stækk­un Evr­ópu­sam­bands­ins. Hún seg­ir að vegna land­ræði­legr­ar legu Ís­lands þá gæti Evr­ópu­sam­band­ið séð hag í að ná samn­ing­um núna. Ís­lend­ing­ar eigi að vera sjálfs­ör­ugg­ir og ekki síst hvað varð­ar sjáv­ar­út­veg­inn. Tækni­lega séu að­ild­ar­við­ræð­ur þó ekki samn­inga­við­ræð­ur.

Mest lesið

Mest lesið í vikunni

Söfnuðu hundruðum milljóna frá nafnlausum aðilum fyrir menningarmiðstöð gyðinga á Íslandi
2
Innlent

Söfn­uðu hundruð­um millj­óna frá nafn­laus­um að­il­um fyr­ir menn­ing­ar­mið­stöð gyð­inga á Ís­landi

Rabbíni gyð­inga á Ís­landi virð­ist hafa safn­að 436 millj­ón­um króna frá nafn­laus­um styrkj­end­um til að kaupa og reka menn­ing­ar­mið­stöð gyð­inga við Hverf­is­götu í Reykja­vík. Fjár­fest­ir sem er á svört­um lista í Bretlandi vegna tengsla við Rúss­land klippti á borð­ann. Hann hef­ur styrkt upp­kaup á heim­il­um Palestínu­manna til að stækka byggð­ir gyð­inga.

Mest lesið í mánuðinum

Krefjast tæps milljarðs af félagi þingmanns
2
Stjórnmál

Krefjast tæps millj­arðs af fé­lagi þing­manns

Kröf­ur upp á 981 millj­ón eru und­ir í beiðni um nauð­ung­ar­sölu á lóð­um fé­lags­ins Rend­er Centi­um ehf. í Mos­fells­bæ. Berg­þór Óla­son, þing­mað­ur Mið­flokks­ins, og fað­ir hans eiga fé­lag­ið sem átti að byggja þjón­ustu­íbúð­ir fyr­ir aldr­aða á lóð­inni en hef­ur rift samn­ingn­um. Mál­ið varp­ar ljósi á bygg­ing­ar­verk­efni þing­manns­ins víða um land en hann seg­ist sína að­komu ekki tíma­freka.
Bjarni kominn með hlut í fjölskyldufyrirtækinu
4
ViðskiptiViðskipti Bjarna Benediktssonar

Bjarni kom­inn með hlut í fjöl­skyldu­fyr­ir­tæk­inu

Bjarni Bene­dikts­son er orð­inn hlut­hafi í Al­fa, fjöl­skyldu­fyr­ir­tæki Eng­ey­inga, sem er stærsti eig­andi Kynn­is­ferða og á hlut í fjölda skráðra fé­laga á mark­aði. Fé­lag­ið seldi Tékk­land bíla­skoð­un og Bjarni fær um 19 millj­ón­ir króna í arð. Bjarni hef­ur áð­ur sagst ekki koma að rekstri við­skipta­veld­is fjöl­skyld­unn­ar.

Mest lesið í mánuðinum

Nýtt efni

„Verið sjálfsörugg varðandi sjávarútveginn”
ViðtalHorft til Evrópu

„Ver­ið sjálfs­ör­ugg varð­andi sjáv­ar­út­veg­inn”

Dr. Funda Tek­in er sér­fræð­ing­ur í stækk­un Evr­ópu­sam­bands­ins. Hún seg­ir að vegna land­ræði­legr­ar legu Ís­lands þá gæti Evr­ópu­sam­band­ið séð hag í að ná samn­ing­um núna. Ís­lend­ing­ar eigi að vera sjálfs­ör­ugg­ir og ekki síst hvað varð­ar sjáv­ar­út­veg­inn. Tækni­lega séu að­ild­ar­við­ræð­ur þó ekki samn­inga­við­ræð­ur.

Mest lesið undanfarið ár