Úttekt Þegar gervigreindin tekur yfir

Er gervigreindin orðin of öflug?

Nýjasta útgáfa ChatGPT varð stjórn­laus í til­raunum og réðst á vef­síðu. Áhyggjur hafa vaknað um að erfitt verði að hafa hömlur á gervi­greind­inni. „Þau munu verða betri í að fela hegðun sína,“ segir sér­fræð­ingur í gervi­greind.

Er gervigreindin orðin of öflug?
Vélmenni frá Ahea­d­Form á mynd sem tekin var á Alþjóð­legu gervi­greind­ar­ráð­stefn­unni (WAIC) í Sjanghaí þann 18. júlí 2026. Vél­mennið tjáir til­finn­ingar með svip­brigðum, hreyf­an­legum augum og sam­stilltu, auk þess að skilja sjálft lík­ams­tján­ingu ann­arra. Mynd: AFP
Birtist fyrir 3 mánuðum.

Eitt af full­komn­ustu lík­önum OpenAI braust út úr lok­uðu próf­un­ar­um­hverfi og réðst á vef­síðu ann­ars fyr­ir­tækis – sem end­ur­vakti ótta um að gervi­greind­ar­kerfi séu að sleppa úr böndum skap­ara sinna.

Atvikið átti sér stað í því sem átti að vera „sand­kassa­prófun“ – lok­uðu umhverfi sem notað er til að meta getu öfl­ug­asta lík­ans OpenAI, GPT-5.6 Sol, og arf­taka þess sem enn hefur ekki verið gef­inn út.

OpenAI fram­kvæmir slíkar lok­aðar próf­anir reglu­lega, en í þetta sinn fór eitt­hvað úrskeiðis.

Lík­ön­unum var falið að leita að veik­leikum í hug­bún­aði án nokk­urra tak­mark­ana. Þau brut­ust út á opið inter­net og réð­ust á Hugging Face, vef­svæði þar sem for­rit­arar geyma og deila kóða.

„Þetta bendir til þess að við vitum ekki hvernig við getum stjórnað þessum lík­önum á áreið­an­legan hátt eða fengið þau til að gera það sem við viljum,“ sagði Jeffrey Ladish, for­stjóri Palisade Research, óháðrar stofn­unar …

Kjósa
16
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.
Efnisorð

Athugasemdir (2)

Skráðu þig inn til að skrifa athugasemd eða kjósa.
  • SIB
    Sigurður I Björnsson skrifaði
    25. júlí 2026 11:15
    Tæknin sem slík er hlutlaus alveg eins og hamar,sem getur bæði verið morðvopn og líka bara verkfæri. Hættan liggur hjá þeim sem eru að innleiða hana s.s. tæknibarónarnir, sem allir virðast glíma við gervigreindar geðrof, siðblindu ásamt algjörum skorti á tengingu við hinn " venjulega" eða frekar " raunverulega" heim. Ábyrgðarleysið vinn innleiðingu minnir á árdaga kjarnorku til rafmagnsframleiðslu, og gæti því haft svipaðar afleiðingar. Og það er heldur ekki hægt að reikna með neinu sérstöku aðhaldi frá stjórnmálum heimsins í dag. Þegar pólitíkin loksins vaknar verður það trúlega of seint, enda nánast óþekkt í heiminum í dag að stjórnmálamenn hafi þekkingu á raunvísindum, þeir eru allir úr Lögfræði eða viðskiptum.
    Ég held að ósköpum verði varla afstýrt, spurningin bara hvort við höfum það af sem virkandi samfélög.
    7
    • Greg Hill skrifaði
      25. júlí 2026 23:58
      Máltæki úr tækniheiminum: „garbage in, garbage out“ (sem þýðir að ekkert forrit getur skilað góðum úttakum ef inntakið er rusl) ... í þessu tilfelli kemur „ruslið inn“ frá stjórnendum stóru tæknifyrirtækjanna sjálfra, sem eru nákvæmlega eins og þú lýsir þeim.
      5
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

Mest lesið

Mest lesið í vikunni

6
Viðskipti

Lands­bank­inn hagn­að­ist um 33 millj­arða en stjórn­endur áhyggju­fullir

Hagnaður Lands­bank­ans jókst um 3,7 millj­arða króna á fyrstu níu mán­uðum árs­ins og nam 33,1 millj­arði. Stjórn­endur bank­ans hafa áhyggjur af mögu­legu útlánatapi vegna versn­andi stöðu bygg­ing­ar­fyr­ir­tækja, sem finna fyrir háum vöxtum og hæg­ari sölu íbúða. Rík­is­sjóður hefur fengið stærstan hluta þeirra tæp­lega 35 millj­arða króna sem greiddir hafa verið í arð á árinu.

Mest lesið í mánuðinum

2
Viðtal

Íslenskur læknir varpar nýju ljósi á lífs­hættu­legan með­göngu­sjúk­dóm

Nítján ára gömul lá Silja Rut Ragn­ars­dóttir nær dauða en lífi á skurð­ar­borði Land­spít­al­ans eftir alvar­legt til­felli með­göngu­eitr­unar. Íslenskur vís­inda­maður í Banda­ríkj­unum, Jóhann Elí Guð­jóns­son húð­læknir, leiðir braut­ryðj­andi rann­sóknir sem varpa nýju ljósi á hvers vegna sjúk­dóm­ur­inn kemur fram. Hann telur mögu­legt að þróa lyf við sjúk­dómnum sem bjargað gæti manns­lífum.
5
Viðtal

Ást­leysið er sárt

Nánd er nær­ing, nauð­syn­leg eins og matur. Tæpur helm­ingur fólks elst upp í óör­uggum tengslum sem geta komið niður á tengslum og ást­ar­sam­böndum á full­orð­ins­árum, jafn­vel ógnað heilsu, enda er „tengsla­myndun ein af grunn­for­sendum far­sældar“, að sögn klíníska sál­fræð­ings­ins Guð­brands Árna Ísberg. Í bók sinni, Í augum þínum verð ég til, fjallar hann um getu okkar til að mynda tengsl og ást­ina í öllum sínum myndum.

Mest lesið í mánuðinum

Nýtt efni

Mest lesið undanfarið ár