Úttekt Þegar gervigreindin tekur yfir

Er gervigreindin orðin of öflug?

Nýj­asta út­gáfa Chat­G­PT varð stjórn­laus í til­raun­um og réðst á vef­síðu. Áhyggj­ur hafa vakn­að um að erfitt verði að hafa höml­ur á gervi­greind­inni. „Þau munu verða betri í að fela hegð­un sína,“ seg­ir sér­fræð­ing­ur í gervi­greind.

Er gervigreindin orðin of öflug?
Vélmenni frá AheadForm á mynd sem tekin var á Alþjóðlegu gervigreindarráðstefnunni (WAIC) í Sjanghaí þann 18. júlí 2026. Vélmennið tjáir tilfinningar með svipbrigðum, hreyfanlegum augum og samstilltu, auk þess að skilja sjálft líkamstjáningu annarra. Mynd: AFP
Birtist fyrir rúmum 2 mánuðum.

Eitt af fullkomnustu líkönum OpenAI braust út úr lokuðu prófunarumhverfi og réðst á vefsíðu annars fyrirtækis – sem endurvakti ótta um að gervigreindarkerfi séu að sleppa úr böndum skapara sinna.

Atvikið átti sér stað í því sem átti að vera „sandkassaprófun“ – lokuðu umhverfi sem notað er til að meta getu öflugasta líkans OpenAI, GPT-5.6 Sol, og arftaka þess sem enn hefur ekki verið gefinn út.

OpenAI framkvæmir slíkar lokaðar prófanir reglulega, en í þetta sinn fór eitthvað úrskeiðis.

Líkönunum var falið að leita að veikleikum í hugbúnaði án nokkurra takmarkana. Þau brutust út á opið internet og réðust á Hugging Face, vefsvæði þar sem forritarar geyma og deila kóða.

„Þetta bendir til þess að við vitum ekki hvernig við getum stjórnað þessum líkönum á áreiðanlegan hátt eða fengið þau til að gera það sem við viljum,“ sagði Jeffrey Ladish, forstjóri Palisade Research, óháðrar stofnunar sem metur ný gervigreindarlíkön …

Kjósa
16
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.
Efnisorð

Athugasemdir (2)

Skráðu þig inn til að skrifa athugasemd eða kjósa.
  • SIB
    Sigurður I Björnsson skrifaði
    25. júlí 2026 11:15
    Tæknin sem slík er hlutlaus alveg eins og hamar,sem getur bæði verið morðvopn og líka bara verkfæri. Hættan liggur hjá þeim sem eru að innleiða hana s.s. tæknibarónarnir, sem allir virðast glíma við gervigreindar geðrof, siðblindu ásamt algjörum skorti á tengingu við hinn " venjulega" eða frekar " raunverulega" heim. Ábyrgðarleysið vinn innleiðingu minnir á árdaga kjarnorku til rafmagnsframleiðslu, og gæti því haft svipaðar afleiðingar. Og það er heldur ekki hægt að reikna með neinu sérstöku aðhaldi frá stjórnmálum heimsins í dag. Þegar pólitíkin loksins vaknar verður það trúlega of seint, enda nánast óþekkt í heiminum í dag að stjórnmálamenn hafi þekkingu á raunvísindum, þeir eru allir úr Lögfræði eða viðskiptum.
    Ég held að ósköpum verði varla afstýrt, spurningin bara hvort við höfum það af sem virkandi samfélög.
    7
    • GH
      Greg Hill skrifaði
      25. júlí 2026 23:58
      Máltæki úr tækniheiminum: „garbage in, garbage out“ (sem þýðir að ekkert forrit getur skilað góðum úttakum ef inntakið er rusl) ... í þessu tilfelli kemur „ruslið inn“ frá stjórnendum stóru tæknifyrirtækjanna sjálfra, sem eru nákvæmlega eins og þú lýsir þeim.
      5
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

Fulltrúi Íslands sat áfram meðan tugir gengu úr salnum undir ræðu Netanyahu
2
Stjórnmál

Full­trúi Ís­lands sat áfram með­an tug­ir gengu úr saln­um und­ir ræðu Net­anya­hu

Tug­ir full­trúa gengu úr saln­um þeg­ar Benja­mín Net­anya­hu, for­sæt­is­ráð­herra Ísra­els, hóf ræðu sína á alls­herj­ar­þingi Sam­ein­uðu þjóð­anna. Full­trúi Ís­lands sat áfram í sæti lands­ins. Þor­gerð­ur Katrín Gunn­ars­dótt­ir ut­an­rík­is­ráð­herra var á sama tíma á fundi til stuðn­ings Palestínuflótta­manna­hjálp SÞ.
Sigmundur Davíð vill afnema erfðafjárskatt
4
Stjórnmál

Sig­mund­ur Dav­íð vill af­nema erfða­fjárskatt

Sig­mund­ur Dav­íð Gunn­laugs­son og sjö aðr­ir þing­menn reyna nú aft­ur að af­nema erfða­fjárskatt. Þau vísa með­al ann­ars til OECD en stofn­un­in hef­ur einnig fært sterk rök fyr­ir skatt­lagn­ingu þeg­ar um stór­an arf er að ræða. Það á til að mynda við um það þeg­ar eig­in­kona Sig­mund­ar fékk rúm­an millj­arð króna í fyr­ir­fram­greidd­an arf sem fór síð­ar inn í af­l­ands­fé­lag­ið Wintris.

Mest lesið

Mest lesið í vikunni

Ásgeir Brynjar Torfason
5
Pistill

Ásgeir Brynjar Torfason

Und­ir pils­faldi Banda­ríkj­anna

Hvernig lít­ur það út að hafa hafn­að að­ild­ar­við­ræð­um ut­an frá? Með því að úti­loka þann kost, hvernig bregð­umst við hér þá við breytt­um heimi? Ein leið er að taka landa­korti banda­ríska for­set­ans, sem sett hef­ur fána­lit­ina á yf­ir­ráða­svæð­ið sitt, sem gríni. Hvorki Kan­ada né Mexí­kó taka því gríni. Eyj­ar­skeggj­ar á Jamaíku og Kúbu eru lík­leg­ast hrædd­ir. Kannski er það kost­ur að vera bara kok­hraust.

Mest lesið í mánuðinum

Katla sem breytti heilbrigðiskerfinu
2
ViðtalLífið á Grensás

Katla sem breytti heil­brigðis­kerf­inu

Eng­inn á Ís­landi hef­ur lif­að af jafn al­var­leg­an mænusk­aða og Katla Guðna­dótt­ir sem lenti í dul­ar­fullu bíl­slysi 22 ára göm­ul. Hún er föst á Grens­ás­deild þar sem kerf­ið hef­ur ekki af­greitt beiðni henn­ar um heima­þjón­ustu. Bar­átta henn­ar hef­ur þeg­ar skil­að for­dæma­lausri ákvörð­un í heil­brigð­is­ráðu­neyt­inu en oft líð­ur henni eins og fólki hefði þótt það auð­veld­ara ef hún hefði ekki lif­að slys­ið af.

Mest lesið í mánuðinum

Nýtt efni

Fulltrúi Íslands sat áfram meðan tugir gengu úr salnum undir ræðu Netanyahu
Stjórnmál

Full­trúi Ís­lands sat áfram með­an tug­ir gengu úr saln­um und­ir ræðu Net­anya­hu

Tug­ir full­trúa gengu úr saln­um þeg­ar Benja­mín Net­anya­hu, for­sæt­is­ráð­herra Ísra­els, hóf ræðu sína á alls­herj­ar­þingi Sam­ein­uðu þjóð­anna. Full­trúi Ís­lands sat áfram í sæti lands­ins. Þor­gerð­ur Katrín Gunn­ars­dótt­ir ut­an­rík­is­ráð­herra var á sama tíma á fundi til stuðn­ings Palestínuflótta­manna­hjálp SÞ.
„Kannast ekki við þá mynd sem hefur verið dregin þar upp“
StjórnmálÁtök í Flokki fólksins

„Kann­ast ekki við þá mynd sem hef­ur ver­ið dreg­in þar upp“

Guð­rún Haf­steins­dótt­ir krafði Ingu Sæ­land svara um hver hafi ákveð­ið af­sögn Guð­mund­ar Inga Krist­ins­son­ar úr rík­is­stjórn. Í skila­boð­um sem að­stoð­ar­kona hans sendi hon­um í janú­ar sagði að ákvörð­un­in hefði ver­ið tek­in af „val­kyrj­un­um“. Inga seg­ir þau Guð­mund Inga greina á um að­drag­anda máls­ins og stend­ur við sín­ar ákvarð­an­ir.
Sigmundur Davíð vill afnema erfðafjárskatt
Stjórnmál

Sig­mund­ur Dav­íð vill af­nema erfða­fjárskatt

Sig­mund­ur Dav­íð Gunn­laugs­son og sjö aðr­ir þing­menn reyna nú aft­ur að af­nema erfða­fjárskatt. Þau vísa með­al ann­ars til OECD en stofn­un­in hef­ur einnig fært sterk rök fyr­ir skatt­lagn­ingu þeg­ar um stór­an arf er að ræða. Það á til að mynda við um það þeg­ar eig­in­kona Sig­mund­ar fékk rúm­an millj­arð króna í fyr­ir­fram­greidd­an arf sem fór síð­ar inn í af­l­ands­fé­lag­ið Wintris.

Mest lesið undanfarið ár