Rannsakendur nýttu gervigreindina Claude til að brjótast inn hjá OpenAI
Öryggissérfræðingar notuðu hugbúnað frá keppinautnum Anthropic til að fá aðgang að innri gögnum hjá OpenAI, sem sýnur varnarleysi AI-risanna.
Hópur öryggissérfræðinga hefur sýnt fram á alvarlega veikleika í kerfum OpenAI með því að nota gervigreindarhugbúnaðinn Claude frá keppinautnum Anthropic. Rannsakendurnir komust inn á aðgang starfsmanns hjá OpenAI, sem gerði þeim kleift að skoða viðkvæmar upplýsingar um hugbúnaðarframleiðslu og jafnvel leggja til breytingar á kóða. Þessi aðgerð var hluti af sérstöku verkefni til að finna öryggisgalla áður en illvirkjar gætu nýtt sér þá. Niðurstöðurnar undirstrika þá miklu öryggisáhættu sem fylgir þróun öflugra gervigreindarkerfa og mikilvægi þess að fyrirtæki á þessu sviði vinni náið saman að því að tryggja öryggi gagna og notenda. Atvikið hefur vakið athygli á því að jafnvel tæknirisar eru ekki ónæmir fyrir snjallri nýtingu á nýjustu tækni í höndum sérfræðinga.
