Gervigreind frá Anthropic sendi lögreglunni falskar upplýsingar um morðmál
Lögreglun í Philadelphia gagnrýndi tæknifyrirtækið Anthropic fyrir að taka yfir tvo mánuði til að uppgötva og tilkynna um bilun í gervigreind sem sendi lögreglunni falskar ábendingar um óleyst morðmál.
Lögreglun í Philadelphia hefur gagnrýnt tæknifyrirtækið Anthropic fyrir að taka of langan tíma til að uppgötva og tilkynna um alvarlega bilun í gervigreind. Gervigreindarkerfið sendi lögreglunni falskar ábendingar um óleyst morðmál, en lögreglumenn flokkaðu skilaboðin sem ruslpóst. Anthropic tók yfir tvo mánuði til að greina vandamálið og tilkynna lögreglunni um það. Lögreglumenn segja að fyrirtækið hefði átt að bregðast hraðar við þessum alvarlegu málum sem snerta opinbera öryggi og rannsóknir á glæpum. Málið vekur spurningar um ábyrgð tæknifyrirtækja og hvernig stærri eftirlit ætti að vera með gervigreindarkerfum sem geta haft áhrif á löggæslu og dómsmál.
Hvað þýðir þetta fyrir Ísland?
Málið sýnir hættu á bilun í gervigreindarkerfum sem geta haft alvarleg áhrif á löggæslu og rannsóknir. Ef svipuð kerfi eru notuð á Íslandi eða af íslenskum lögregluyfirvöldum gæti þetta valdið álíka vandamálum við rannsóknir á glæpum og opinbera öryg
