Úttekt Þegar gervigreindin tekur yfir

Er gervigreindin orðin of öflug?

Nýj­asta út­gáfa Chat­G­PT varð stjórn­laus í til­raun­um og réðst á vef­síðu. Áhyggj­ur hafa vakn­að um að erfitt verði að hafa höml­ur á gervi­greind­inni. „Þau munu verða betri í að fela hegð­un sína,“ seg­ir sér­fræð­ing­ur í gervi­greind.

Er gervigreindin orðin of öflug?
Vélmenni frá AheadForm á mynd sem tekin var á Alþjóðlegu gervigreindarráðstefnunni (WAIC) í Sjanghaí þann 18. júlí 2026. Vélmennið tjáir tilfinningar með svipbrigðum, hreyfanlegum augum og samstilltu, auk þess að skilja sjálft líkamstjáningu annarra. Mynd: AFP

Eitt af fullkomnustu líkönum OpenAI braust út úr lokuðu prófunarumhverfi og réðst á vefsíðu annars fyrirtækis – sem endurvakti ótta um að gervigreindarkerfi séu að sleppa úr böndum skapara sinna.

Atvikið átti sér stað í því sem átti að vera „sandkassaprófun“ – lokuðu umhverfi sem notað er til að meta getu öflugasta líkans OpenAI, GPT-5.6 Sol, og arftaka þess sem enn hefur ekki verið gefinn út.

OpenAI framkvæmir slíkar lokaðar prófanir reglulega, en í þetta sinn fór eitthvað úrskeiðis.

Líkönunum var falið að leita að veikleikum í hugbúnaði án nokkurra takmarkana. Þau brutust út á opið internet og réðust á Hugging Face, vefsvæði þar sem forritarar geyma og deila kóða.

„Þetta bendir til þess að við vitum ekki hvernig við getum stjórnað þessum líkönum á áreiðanlegan hátt eða fengið þau til að gera það sem við viljum,“ sagði Jeffrey Ladish, forstjóri Palisade Research, óháðrar stofnunar sem metur ný gervigreindarlíkön …

Kjósa
0
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.
Efnisorð

Athugasemdir

Skráðu þig inn til að skrifa athugasemd eða kjósa.
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

Söfnuðu hundruðum milljóna frá nafnlausum aðilum fyrir menningarmiðstöð gyðinga á Íslandi
3
Innlent

Söfn­uðu hundruð­um millj­óna frá nafn­laus­um að­il­um fyr­ir menn­ing­ar­mið­stöð gyð­inga á Ís­landi

Rabbíni gyð­inga á Ís­landi virð­ist hafa safn­að 436 millj­ón­um króna frá nafn­laus­um styrkj­end­um til að kaupa og reka menn­ing­ar­mið­stöð gyð­inga við Hverf­is­götu í Reykja­vík. Fjár­fest­ir sem er á svört­um lista í Bretlandi vegna tengsla við Rúss­land klippti á borð­ann. Hann hef­ur styrkt upp­kaup á heim­il­um Palestínu­manna til að stækka byggð­ir gyð­inga.

Mest lesið

Mest lesið í vikunni

Krefjast tæps milljarðs af félagi þingmanns
1
Stjórnmál

Krefjast tæps millj­arðs af fé­lagi þing­manns

Kröf­ur upp á 981 millj­ón eru und­ir í beiðni um nauð­ung­ar­sölu á lóð­um fé­lags­ins Rend­er Centi­um ehf. í Mos­fells­bæ. Berg­þór Óla­son, þing­mað­ur Mið­flokks­ins, og fað­ir hans eiga fé­lag­ið sem átti að byggja þjón­ustu­íbúð­ir fyr­ir aldr­aða á lóð­inni en hef­ur rift samn­ingn­um. Mál­ið varp­ar ljósi á bygg­ing­ar­verk­efni þing­manns­ins víða um land en hann seg­ist sína að­komu ekki tíma­freka.
„Ég elska þig á íslensku“ – endurreisnarmaður íslenskunnar
4
Menning

„Ég elska þig á ís­lensku“ – end­ur­reisn­ar­mað­ur ís­lensk­unn­ar

„Fá­ir ef nokkr­ir lista­menn hafi haft jafn mik­il áhrif á ís­lenska tungu í sam­tím­an­um og Bubbi Mort­hens,” seg­ir lærð­ur við­mæl­andi í grein þess­ari af til­efni sjö­tugsaf­mæl­is hans. Ann­ar seg­ir hann vera mik­il­væg­an end­ur­reisn­ar­mann ís­lensk­unn­ar. Þenn­an lista­mann þjóð­arsál­ar­inn­ar sem ýms­ir smætt­uðu þó í upp­hafi sök­um meintr­ar skrif­blindu.

Mest lesið í mánuðinum

Samherjabörnin greiddu lán foreldra sinna með eignarhlut í stærsta eiganda Samherja
2
Viðskipti

Sam­herja­börn­in greiddu lán for­eldra sinna með eign­ar­hlut í stærsta eig­anda Sam­herja

Lán­ið sem Þor­steinn Már Bald­vins­son og Helga Stein­unn Guð­munds­dótt­ir veittu börn­um sín­um til að kaupa nærri helm­ings hlut í Sam­herja af þeim hef­ur ver­ið gert upp. Börn­in, þau Bald­vin, for­stjóri Sam­herja, og Katla Þor­steins­börn eru nú orðn­ir með­eig­end­ur for­eldra sinna í fé­lög­un­um sem lán­uðu þeim fyr­ir kaup­un­um. Sam­þykkt­ir fé­lags­ins tryggja þeim fast­ar arð­greiðsl­ur úr K&B á hverju ári.
Krefjast tæps milljarðs af félagi þingmanns
4
Stjórnmál

Krefjast tæps millj­arðs af fé­lagi þing­manns

Kröf­ur upp á 981 millj­ón eru und­ir í beiðni um nauð­ung­ar­sölu á lóð­um fé­lags­ins Rend­er Centi­um ehf. í Mos­fells­bæ. Berg­þór Óla­son, þing­mað­ur Mið­flokks­ins, og fað­ir hans eiga fé­lag­ið sem átti að byggja þjón­ustu­íbúð­ir fyr­ir aldr­aða á lóð­inni en hef­ur rift samn­ingn­um. Mál­ið varp­ar ljósi á bygg­ing­ar­verk­efni þing­manns­ins víða um land en hann seg­ist sína að­komu ekki tíma­freka.
Bjarni kominn með hlut í fjölskyldufyrirtækinu
5
ViðskiptiViðskipti Bjarna Benediktssonar

Bjarni kom­inn með hlut í fjöl­skyldu­fyr­ir­tæk­inu

Bjarni Bene­dikts­son er orð­inn hlut­hafi í Al­fa, fjöl­skyldu­fyr­ir­tæki Eng­ey­inga, sem er stærsti eig­andi Kynn­is­ferða og á hlut í fjölda skráðra fé­laga á mark­aði. Fé­lag­ið seldi Tékk­land bíla­skoð­un og Bjarni fær um 19 millj­ón­ir króna í arð. Bjarni hef­ur áð­ur sagst ekki koma að rekstri við­skipta­veld­is fjöl­skyld­unn­ar.

Mest lesið í mánuðinum

Nýtt efni

Söfnuðu hundruðum milljóna frá nafnlausum aðilum fyrir menningarmiðstöð gyðinga á Íslandi
Innlent

Söfn­uðu hundruð­um millj­óna frá nafn­laus­um að­il­um fyr­ir menn­ing­ar­mið­stöð gyð­inga á Ís­landi

Rabbíni gyð­inga á Ís­landi virð­ist hafa safn­að 436 millj­ón­um króna frá nafn­laus­um styrkj­end­um til að kaupa og reka menn­ing­ar­mið­stöð gyð­inga við Hverf­is­götu í Reykja­vík. Fjár­fest­ir sem er á svört­um lista í Bretlandi vegna tengsla við Rúss­land klippti á borð­ann. Hann hef­ur styrkt upp­kaup á heim­il­um Palestínu­manna til að stækka byggð­ir gyð­inga.
Skilaboðin á bakvið myndirnar: Forsetinn í hlutverki konungs, páfa og Jesú
Greining

Skila­boð­in á bakvið mynd­irn­ar: For­set­inn í hlut­verki kon­ungs, páfa og Jesú

Tími gervi­greind­ar runn­inn upp í banda­rísk­um stjórn­mál­um. For­set­inn birt­ir mynd­ir af sér sem hetj­um og and­stæð­ing­um sem aul­um, sem tala beint inn í orð­ræðu hans og styðja við hug­mynd­ir sem stuðn­ings­menn hans hafa þeg­ar sam­þykkt. Sum­ar mynd­irn­ar eru svo raun­veru­leg­ar að þær setj­ast djúpt í und­ir­með­vit­und­ina.

Mest lesið undanfarið ár