Úttekt Þegar gervigreindin tekur yfir

Er gervigreindin orðin of öflug?

Nýj­asta út­gáfa Chat­G­PT varð stjórn­laus í til­raun­um og réðst á vef­síðu. Áhyggj­ur hafa vakn­að um að erfitt verði að hafa höml­ur á gervi­greind­inni. „Þau munu verða betri í að fela hegð­un sína,“ seg­ir sér­fræð­ing­ur í gervi­greind.

Er gervigreindin orðin of öflug?
Vélmenni frá AheadForm á mynd sem tekin var á Alþjóðlegu gervigreindarráðstefnunni (WAIC) í Sjanghaí þann 18. júlí 2026. Vélmennið tjáir tilfinningar með svipbrigðum, hreyfanlegum augum og samstilltu, auk þess að skilja sjálft líkamstjáningu annarra. Mynd: AFP

Eitt af fullkomnustu líkönum OpenAI braust út úr lokuðu prófunarumhverfi og réðst á vefsíðu annars fyrirtækis – sem endurvakti ótta um að gervigreindarkerfi séu að sleppa úr böndum skapara sinna.

Atvikið átti sér stað í því sem átti að vera „sandkassaprófun“ – lokuðu umhverfi sem notað er til að meta getu öflugasta líkans OpenAI, GPT-5.6 Sol, og arftaka þess sem enn hefur ekki verið gefinn út.

OpenAI framkvæmir slíkar lokaðar prófanir reglulega, en í þetta sinn fór eitthvað úrskeiðis.

Líkönunum var falið að leita að veikleikum í hugbúnaði án nokkurra takmarkana. Þau brutust út á opið internet og réðust á Hugging Face, vefsvæði þar sem forritarar geyma og deila kóða.

„Þetta bendir til þess að við vitum ekki hvernig við getum stjórnað þessum líkönum á áreiðanlegan hátt eða fengið þau til að gera það sem við viljum,“ sagði Jeffrey Ladish, forstjóri Palisade Research, óháðrar stofnunar sem metur ný gervigreindarlíkön …

Kjósa
16
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.
Efnisorð

Athugasemdir (2)

Skráðu þig inn til að skrifa athugasemd eða kjósa.
  • SIB
    Sigurður I Björnsson skrifaði
    25. júlí 2026 11:15
    Tæknin sem slík er hlutlaus alveg eins og hamar,sem getur bæði verið morðvopn og líka bara verkfæri. Hættan liggur hjá þeim sem eru að innleiða hana s.s. tæknibarónarnir, sem allir virðast glíma við gervigreindar geðrof, siðblindu ásamt algjörum skorti á tengingu við hinn " venjulega" eða frekar " raunverulega" heim. Ábyrgðarleysið vinn innleiðingu minnir á árdaga kjarnorku til rafmagnsframleiðslu, og gæti því haft svipaðar afleiðingar. Og það er heldur ekki hægt að reikna með neinu sérstöku aðhaldi frá stjórnmálum heimsins í dag. Þegar pólitíkin loksins vaknar verður það trúlega of seint, enda nánast óþekkt í heiminum í dag að stjórnmálamenn hafi þekkingu á raunvísindum, þeir eru allir úr Lögfræði eða viðskiptum.
    Ég held að ósköpum verði varla afstýrt, spurningin bara hvort við höfum það af sem virkandi samfélög.
    7
    • GH
      Greg Hill skrifaði
      25. júlí 2026 23:58
      Máltæki úr tækniheiminum: „garbage in, garbage out“ (sem þýðir að ekkert forrit getur skilað góðum úttakum ef inntakið er rusl) ... í þessu tilfelli kemur „ruslið inn“ frá stjórnendum stóru tæknifyrirtækjanna sjálfra, sem eru nákvæmlega eins og þú lýsir þeim.
      5
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

Mest lesið

Mest lesið í vikunni

Íslendingar þurfa að forðast „breska kvillann“
6
ErlentHorft til Evrópu

Ís­lend­ing­ar þurfa að forð­ast „breska kvill­ann“

Þeg­ar Ír­land og Bret­land gengu sam­an í Evr­ópu­banda­lag­ið ár­ið 1973 var Ír­land fá­tækt fyrr­ver­andi ný­lendu­ríki, efna­hags­lega háð hinni gömlu herra­þjóð sinni. Hálfri öld síð­ar er Ír­land orð­ið auð­ug mið­stöð banda­rískra tæknifyr­ir­tækja á borð við Microsoft og Google. Bret­land hef­ur hins veg­ar yf­ir­gef­ið sam­band­ið. Hvaða hlut­verk lék ESB í upp­gangi Ír­lands og hvers vegna fet­uðu ná­granna­rík­in hvort sinn veg?

Mest lesið í mánuðinum

Mest lesið í mánuðinum

Nýtt efni

Mest lesið undanfarið ár