Nýtt kerfi metur hversu auðvelt er að brjóta gegn verndum gervigreindar

Frontier Model Forum, sem er samstarf stærstu fyrirtækja á sviði gervigreindar, hefur kynnt nýtt kerfi til að meta og flokka tilraunir til að brjóta gegn verndum gervigreindarkerfanna. Kerfið, sem kallast Jailbreak Rating Framework, er hannað til að meta þrjá lykilþætti: hversu auðvelt er að framkvæma árásina, hversu mikla getu gæti árásarmaðurinn fengið og hvaða skaði væru hugsanlegir.

Markmiðið með kerfinu er að hjálpa fyrirtækjum og vísindamönnum að skilja og bæta öryggi gervigreindarkerfanna. Með því að flokka og meta mismunandi aðferðir til að brjóta gegn verndum geta þeir betur undirbúið sig og þróað betri varnir. Kerfið gefur einnig innsýn í hversu viðkvæm kerfi eru fyrir mismunandi tegundum árása.