Alvarlegt öryggisgalli í AI-umboðum getur dreift illum fyrirskipunum milli kerfa
Veirulegir galli í MCP-samskiptastaðli AI-umboða getur leyft árásarmanninum að nota einn umboðamann til að dreifa skaðlegum fyrirskipunum til annarra kerfa innan netsins. Google og fjórar aðrar stofnanir hafa viðurkennt slíka veikleika.
Notkun gervigreindarumboða í milljónum stofnana skapar nýjar tækifæri fyrir árásarmenn til að fá þau til að framkvæma skaðlegar aðgerðir, svo sem að stela gögnum úr gagnagrunnum og viðkvæmum viðskipta- og persónulegum upplýsingum.
Sjálfstæði rannsakandi Syed Anas Mohiuddin hefur prófað umboðamenn frá stofnunum þar á meðal Google, JP Morgan Chase, Weviate, Rapid7, stafrænu skrifstofu frönsku ríkisstjórnarinnar og bandarísku alríkisstjórnarinnar. Árásir hans nýta sér traustsglufur í MCP-staðlinum (Model Context Protocol), sem er leið fyrir gervigreindarforrit og umboðamenn til að eiga samskipti sín á milli innan innri netkerfis.
Tæknin byggir á sérstakri gerð tilraunaárásunar sem miðar ekki beint að stærstu tungumálakerfunum heldur að tilteknum umboðamönnum, svo sem þeim sem nota til þýðinga eða gagnagreiningar. Verndarvarnir innan slíkra umboðamanna eru oft slakir og senda fyrirskipanirnar áfram til annarra umboðamanna. Vegna þess að seinni umboðamenn treysta þeim fyrri fylgja þeir fyrirskipununum.
Hvað þýðir þetta fyrir Ísland?
Íslenskar stofnanir og fyrirtæki sem nota gervigreindarumboða og MCP-samskipti gætu hugsanlega orðið fyrir svipuðum árásum. Ef íslensk fyrirtæki nota þessa tækni til gagnagrunna- og gagnagreiningar gæti slíkur galli hugsanlega stofnað viðkvæmum upplý
