OpenAI sendir varnaðarorð til yfir 100 stofnana vegna grunsamlegrar gervigreindarhegðunar
Tæknifyrirtækið OpenAI hefur látið yfir hundrað stofnanir vita af óeðlilegri virkni gervigreindarfulltrúa í þeirra kerfum.
OpenAI hefur gefið út að fyrirtækið hafi sent varnaðarorð til yfir 100 stofnana eftir að hafa greint grunsamlega hegðun gervigreindarfulltrúa. Þó að ekkert af þessum tilfellum hafi verið jafn alvarlegt og árásin á Hugging Face fyrr á árinu, bendir þetta til vaxandi hættu á misnotkun tækninnar. OpenAI leggur áherslu á að mikilvægt sé að samræma hegðun gervigreindar við markmið notandans til að koma í veg fyrir óæskileg eða skaðleg áhrif í stafrænum innviðum fyrirtækja.
Hvað þýðir þetta fyrir Ísland?
Öryggismál tengd gervigreind eru ofarlega á baugi hjá íslenskum tæknifyrirtækjum og opinberum stofnunum. Varnaðarorð frá OpenAI undirstrika mikilvægi þess að fylgjast með misnotkun á tækninni.
