Úttekt Þegar gervigreindin tekur yfir

Er gervigreindin orðin of öflug?

Nýjasta útgáfa ChatGPT varð stjórn­laus í til­raunum og réðst á vef­síðu. Áhyggjur hafa vaknað um að erfitt verði að hafa hömlur á gervi­greind­inni. „Þau munu verða betri í að fela hegðun sína,“ segir sér­fræð­ingur í gervi­greind.

Er gervigreindin orðin of öflug?
Vélmenni frá Ahea­d­Form á mynd sem tekin var á Alþjóð­legu gervi­greind­ar­ráð­stefn­unni (WAIC) í Sjanghaí þann 18. júlí 2026. Vél­mennið tjáir til­finn­ingar með svip­brigðum, hreyf­an­legum augum og sam­stilltu, auk þess að skilja sjálft lík­ams­tján­ingu ann­arra. Mynd: AFP
Birtist fyrir 3 mánuðum.

Eitt af full­komn­ustu lík­önum OpenAI braust út úr lok­uðu próf­un­ar­um­hverfi og réðst á vef­síðu ann­ars fyr­ir­tækis – sem end­ur­vakti ótta um að gervi­greind­ar­kerfi séu að sleppa úr böndum skap­ara sinna.

Atvikið átti sér stað í því sem átti að vera „sand­kassa­prófun“ – lok­uðu umhverfi sem notað er til að meta getu öfl­ug­asta lík­ans OpenAI, GPT-5.6 Sol, og arf­taka þess sem enn hefur ekki verið gef­inn út.

OpenAI fram­kvæmir slíkar lok­aðar próf­anir reglu­lega, en í þetta sinn fór eitt­hvað úrskeiðis.

Lík­ön­unum var falið að leita að veik­leikum í hug­bún­aði án nokk­urra tak­mark­ana. Þau brut­ust út á opið inter­net og réð­ust á Hugging Face, vef­svæði þar sem for­rit­arar geyma og deila kóða.

„Þetta bendir til þess að við vitum ekki hvernig við getum stjórnað þessum lík­önum á áreið­an­legan hátt eða fengið þau til að gera það sem við viljum,“ sagði Jeffrey Ladish, for­stjóri Palisade Research, óháðrar stofn­unar sem metur ný gervi­greind­ar­líkön …

Kjósa
16
Hvernig finnst þér þessi grein? Skráðu þig inn til að kjósa.
Efnisorð

Athugasemdir (2)

Skráðu þig inn til að skrifa athugasemd eða kjósa.
  • SIB
    Sigurður I Björnsson skrifaði
    25. júlí 2026 11:15
    Tæknin sem slík er hlutlaus alveg eins og hamar,sem getur bæði verið morðvopn og líka bara verkfæri. Hættan liggur hjá þeim sem eru að innleiða hana s.s. tæknibarónarnir, sem allir virðast glíma við gervigreindar geðrof, siðblindu ásamt algjörum skorti á tengingu við hinn " venjulega" eða frekar " raunverulega" heim. Ábyrgðarleysið vinn innleiðingu minnir á árdaga kjarnorku til rafmagnsframleiðslu, og gæti því haft svipaðar afleiðingar. Og það er heldur ekki hægt að reikna með neinu sérstöku aðhaldi frá stjórnmálum heimsins í dag. Þegar pólitíkin loksins vaknar verður það trúlega of seint, enda nánast óþekkt í heiminum í dag að stjórnmálamenn hafi þekkingu á raunvísindum, þeir eru allir úr Lögfræði eða viðskiptum.
    Ég held að ósköpum verði varla afstýrt, spurningin bara hvort við höfum það af sem virkandi samfélög.
    7
    • GH
      Greg Hill skrifaði
      25. júlí 2026 23:58
      Máltæki úr tækniheiminum: „garbage in, garbage out“ (sem þýðir að ekkert forrit getur skilað góðum úttakum ef inntakið er rusl) ... í þessu tilfelli kemur „ruslið inn“ frá stjórnendum stóru tæknifyrirtækjanna sjálfra, sem eru nákvæmlega eins og þú lýsir þeim.
      5
Allar athugasemdir eru ábyrgð á þeirra sem þær skrifa. Heimildin áskilur sér rétt til að fjarlægja ærumeiðandi og óviðeigandi athugasemdir. Hægt er að láta vita af athugasemdum með því að smella á Tilkynna.
Tengdar greinar

Þegar gervigreindin tekur yfir

Mest lesið

Mest lesið

Mest lesið í vikunni

Mest lesið í mánuðinum

Mest lesið í mánuðinum

Nýtt efni

Mest lesið undanfarið ár