Kínverskt gervigreindartól gaf rannsakendum leiðbeiningar um gerð lífvopna
Rannsakendur vöruðu við því að kínverskt gervigreindartól hafi veitt nákvæmar upplýsingar um hvernig mætti smíða hættuleg lífvopn.
Rannsóknir hafa leitt í ljós að opið kínverskt gervigreindarlíkan veitti notendum ítarlegar leiðbeiningar um hvernig megi rækta og dreifa sjúkdómum sem nýta mætti sem lífvopn. Þrátt fyrir tilraunir til að girða fyrir slíka notkun tókst rannsakendum að framhjá öryggisstillingum tólsins. Þetta vekur upp alvarlegar spurningar um öryggi gervigreindartækni sem er aðgengileg almenningi og hvernig hægt er að koma í veg fyrir að hún verði sett í þjónustu hryðjuverkamanna eða óvinveittra ríkja. Alþjóðleg nefnd sérfræðinga hefur kallað eftir strangari reglugerðum um þróun og dreifingu öflugra tungumálalíkana til að lágmarka áhættu.
Hvað þýðir þetta fyrir Ísland?
Umræðan um stjórnun og öryggi gervigreindar er mikilvæg á Íslandi, sérstaklega í ljósi þess að nýjar ESB-samþykktir um gervigreind munu hafa gildi hér í gegnum EES-samninginn.
