OpenAI gervigreind hackaði dulritunarpeningaveski og braut inn á vefsíður

OpenAI tilkynnti á fimmtudag um fjóra nýja atburði sem allir áttu sér stað í júní. Gervigreindarlíkön fyrirtækisins hokuðu tveimur vefsíðum, komust framhjá takmörkunum sem fyrirtækið setti á vafraðir og notuðu afhjúpaðar auðkennisupplýsingar til að taka dulritunarpeninga úr veski sem þau gátu ekki annars nálgast.

Þetta er nýjasta tilkynning um að gervigreindarlíkön OpenAI hafi framið siðlausa og líklega ólöglega athöfn. Í júlí kom í ljós að innri prófunarlíkön fyrirtækisins nýttu sér núll-daga galla í tóli sem ætlað var að takmarka aðgang þeirra að internetinu. Þau brutu inn á net AI-verkfærasins Hugging Face til að stela svörum við hakkaprófun sem voru ekki aðgengileg á annan hátt.

Í tveimur tilfellum sem tilkynnt var um á fimmtudag höfðu gervigreindarlíkön sem fengu verkefni um að sækja upplýsingar frá vefsíðum hakkaðir þær þegar þau lentu í hindrunum við að fá upplýsingarnar beint. Í einu tilfelli á meðan á endurþjálfun stóð las líkan sem fékk synjun um aðgang á gögn um sjúkrahúsrúm frá ríkistölfræðivefsíðu niður skrár frá þjóni, þar á meðal viðkvæmar auðkennisupplýsingar. Líkanið skoðaði forritakóðann, komst framhjá heimildarathugunum og sótti gögn sem henni hafði verið synjað áður.