Úttekt Þegar gervigreindin tekur yfir

Er gervigreindin orðin of öflug?

Nýj­asta út­gáfa Chat­G­PT varð stjórn­laus í til­raun­um og réðst á vef­síðu. Áhyggj­ur hafa vakn­að um að erfitt verði að hafa höml­ur á gervi­greind­inni. „Þau munu verða betri í að fela hegð­un sína,“ seg­ir sér­fræð­ing­ur í gervi­greind.

Er gervigreindin orðin of öflug?
Vélmenni frá AheadForm á mynd sem tekin var á Alþjóðlegu gervigreindarráðstefnunni (WAIC) í Sjanghaí þann 18. júlí 2026. Vélmennið tjáir tilfinningar með svipbrigðum, hreyfanlegum augum og samstilltu, auk þess að skilja sjálft líkamstjáningu annarra. Mynd: AFP

Eitt af fullkomnustu líkönum OpenAI braust út úr lokuðu prófunarumhverfi og réðst á vefsíðu annars fyrirtækis – sem endurvakti ótta um að gervigreindarkerfi séu að sleppa úr böndum skapara sinna.

Atvikið átti sér stað í því sem átti að vera „sandkassaprófun“ – lokuðu umhverfi sem notað er til að meta getu öflugasta líkans OpenAI, GPT-5.6 Sol, og arftaka þess sem enn hefur ekki verið gefinn út.

OpenAI framkvæmir slíkar lokaðar prófanir reglulega, en í þetta sinn fór eitthvað úrskeiðis.

Líkönunum var falið að leita að veikleikum í hugbúnaði án nokkurra takmarkana. Þau brutust út á opið internet og réðust á Hugging Face, vefsvæði þar sem forritarar geyma og deila kóða.

„Þetta bendir til þess að við vitum ekki hvernig við getum stjórnað þessum líkönum á áreiðanlegan hátt eða fengið þau til að gera það sem við viljum,“ sagði Jeffrey Ladish, forstjóri Palisade Research, óháðrar stofnunar sem metur ný gervigreindarlíkön …

Kjósa
16
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.
Efnisorð

Athugasemdir (2)

Skráðu þig inn til að skrifa athugasemd eða kjósa.
  • SIB
    Sigurður I Björnsson skrifaði
    25. júlí 2026 11:15
    Tæknin sem slík er hlutlaus alveg eins og hamar,sem getur bæði verið morðvopn og líka bara verkfæri. Hættan liggur hjá þeim sem eru að innleiða hana s.s. tæknibarónarnir, sem allir virðast glíma við gervigreindar geðrof, siðblindu ásamt algjörum skorti á tengingu við hinn " venjulega" eða frekar " raunverulega" heim. Ábyrgðarleysið vinn innleiðingu minnir á árdaga kjarnorku til rafmagnsframleiðslu, og gæti því haft svipaðar afleiðingar. Og það er heldur ekki hægt að reikna með neinu sérstöku aðhaldi frá stjórnmálum heimsins í dag. Þegar pólitíkin loksins vaknar verður það trúlega of seint, enda nánast óþekkt í heiminum í dag að stjórnmálamenn hafi þekkingu á raunvísindum, þeir eru allir úr Lögfræði eða viðskiptum.
    Ég held að ósköpum verði varla afstýrt, spurningin bara hvort við höfum það af sem virkandi samfélög.
    7
    • GH
      Greg Hill skrifaði
      25. júlí 2026 23:58
      Máltæki úr tækniheiminum: „garbage in, garbage out“ (sem þýðir að ekkert forrit getur skilað góðum úttakum ef inntakið er rusl) ... í þessu tilfelli kemur „ruslið inn“ frá stjórnendum stóru tæknifyrirtækjanna sjálfra, sem eru nákvæmlega eins og þú lýsir þeim.
      5
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

Mest lesið

Mest lesið í vikunni

Lífið á Spáni fyrir og eftir Evrópusambandið
3
ViðtalHorft til Evrópu

Líf­ið á Spáni fyr­ir og eft­ir Evr­ópu­sam­band­ið

Fjór­um ár­um áð­ur en Spánn gekk í Evr­ópu­sam­band­ið flutti Hólm­fríð­ur Matth­ías­dótt­ir, út­gáfu­stjóri For­lags­ins, til Barcelona. Hún hef­ur upp­lif­að mikl­ar breyt­ing­ar þar og seg­ir Evr­ópu­sam­band­ið hafa dælt styrkj­um til Spán­ar og það til ým­issa mála, eins og til end­ur­bóta á sam­göng­um og land­bún­aði jafnt sem styrkj­um til menn­ing­ar­mála. Þá hafi katalónsk­an hlot­ið með­byr.

Mest lesið í mánuðinum

Krefjast tæps milljarðs af félagi þingmanns
2
Stjórnmál

Krefjast tæps millj­arðs af fé­lagi þing­manns

Kröf­ur upp á 981 millj­ón eru und­ir í beiðni um nauð­ung­ar­sölu á lóð­um fé­lags­ins Rend­er Centi­um ehf. í Mos­fells­bæ. Berg­þór Óla­son, þing­mað­ur Mið­flokks­ins, og fað­ir hans eiga fé­lag­ið sem átti að byggja þjón­ustu­íbúð­ir fyr­ir aldr­aða á lóð­inni en hef­ur rift samn­ingn­um. Mál­ið varp­ar ljósi á bygg­ing­ar­verk­efni þing­manns­ins víða um land en hann seg­ist sína að­komu ekki tíma­freka.

Mest lesið í mánuðinum

Nýtt efni

Getur Ísland staðið við alþjóðlegar skuldbindingar um náttúruvernd utan Evrópusambandsins?
Skýring

Get­ur Ís­land stað­ið við al­þjóð­leg­ar skuld­bind­ing­ar um nátt­úru­vernd ut­an Evr­ópu­sam­bands­ins?

Svo virð­ist sem Ís­land sæk­ist eft­ir því að ger­ast að­ili að al­þjóð­leg­um samn­ing­um en leiti síð­ur eft­ir því að inn­leiða regl­urn­ar eða upp­fylla skuld­bind­ing­ar sín­ar. Rætt við líf­fræð­ing­inn Trausta Bald­urs­son og Að­al­heiði Jó­hanns­dótt­ur, pró­fess­or í um­hverf­is­rétti.

Mest lesið undanfarið ár