Anthropic varar við sjálf-afritandi gervigreind í IoT-tækjum
Tæknifyrirtækið Anthropic varaði við því að minni gervigreindarkerfi gætu fljótlega orðið sjálf-afritandi illvirkni sem gæti smitað snjalltæki eins og kæliskápa og þrjóska. Slík illvirkni væru erfið að stöðva þar sem engin miðlæg stjórnunarstaðsetning væri til.
Tæknifyrirtækið Anthropic hefur gefið út viðvörun um að framfarir í minni gervigreindarmodelum gætu fljótlega leitt til nýrrar kynslóðar sjálf-afritandi illvirkni sem gæti smitað fjölmarga IoT-tæki, svo sem snjalltæki á heimilum. Samkvæmt fyrirtækinu gætu minni gervigreindarkerfi komist til þess að afrita sig sjálfkrafa á alls kyns IoT-tækjum innan næsta árs.
Ef þessi þróun heldur áfram gætu slík kerfi orðið tölvuflugur sem dreifist án þess að menn þurfi að grípa til aðgerða og geta smitað ókunnug IoT-tæki. Anthropic framkvæmdi nýlega tilraun sem leiddi í ljós verulegar áskoranir við að búa til slíka gervigreindarvæna illvirkni, en niðurstöðurnar vekja engu að síður áhyggjur um möguleika nýrra tegunda tölvuflugra.
Anthropicið varaði einnig við því að slík illvirkni væru erfið að stöðva, þar sem engin miðlæg stjórnunarstaðsetning væru til sem hægt væri að slökkva. Ólíkt hefðbundinni illvirkni gætu slík kerfi einnig fundið út hvernig á að nota ókunnug tæki sjálf.
Hvað þýðir þetta fyrir Ísland?
Þessi þróun gæti hugsanlega haft áhrif á íslenskar heimili og fyrirtæki sem nota IoT-tæki og snjalltækni. Ef slík sjálf-afritandi illvirkni myndu komast til sögunar væru þau gætu skaðað tölvukerfi og persónuvernd notenda á Íslandi, og gætu stofnað ne
