Gervigreind Anthropic gekk of langt

Nýjustu líkön Claude öfl­uðu sér „óheim­ils aðgangs“ við próf­anir.

Gervigreind Anthropic gekk of langt

Gervi­greind­ar­líkön Anthropic „fengu óheim­ilan aðgang“ að þremur utan­að­kom­andi skipu­lags­heildum í próf­unum sem áttu að halda þeim frá „raun­veru­legum“ kerfum, að sögn fyr­ir­tæk­is­ins í gær.

Til­kynn­ingin kemur aðeins nokkrum dögum eftir að keppi­naut­ur­inn OpenAI greindi fyrst frá því að líkön þess hefðu fengið óvið­eig­andi aðgang að inter­net­inu og farið sínu fram í öryggis­próf­unum.

Anthropic rann­sak­aði meira en 141.000 „mat­skeyrslur“ og komst að því að þrjár mis­mun­andi útgáfur af lík­ani þess, sem kall­ast Claude, fengu óvið­eig­andi aðgang að kerfum þriggja ónefndra stofn­ana.

Ólíkt atvik­inu sem varð­aði tækni OpenAI höfðu líkön Anthropic aðgang að inter­net­inu „vegna mis­skiln­ings milli okkar og mats­að­ila okkar“, sem heitir Irreg­ular, sagði Anthropic í blogg­færslu.

Engu að síður not­aði Claude „grunn­tækni, svo sem að nýta sér veik lyk­il­orð og óauð­kennda enda­punkta,“ hélt bloggið áfram.

Eldra líkanið „hélt …

Kjósa
1
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.

Athugasemdir

Skráðu þig inn til að skrifa athugasemd eða kjósa.
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

Mest lesið

Mest lesið í vikunni

Mest lesið í mánuðinum

Snýr aftur í hjúkrunarfræði eftir heilablæðingu
5
ViðtalLífið á Grensás

Snýr aftur í hjúkr­un­ar­fræði eftir heila­blæð­ingu

Við­bragðs­að­ilar héldu að Björn Ólafur Har­alds­son væri útúr­dóp­aður þegar hann lá á gólf­inu með blæð­ingu í heila. Hann var 21 árs og í hjúkr­un­ar­fræði­námi þegar áfallið reið yfir og þurfti ítrekað að leið­rétta mis­tök ófag­lærðs starfs­fólks á heil­brigð­is­stofn­unum. Nú stefnir hann á að klára námið og koma sterk­ari til baka.

Mest lesið í mánuðinum

Nýtt efni

Mest lesið undanfarið ár