Samtök leggja fram stórfenglega málssókn gegn Google, Meta, OpenAI og öðrum vegna hættulegrar gervigreindar

Fjórir samtök – Irreplaceable Education Fund, Public Citizen, Heat Initiative og The Alliance for Secure AI – lögðu fram málssókn fyrir dómstóli Kaliforníu til að stöðva þróun háþróaðrar gervigreindar hjá Anthropic, Google, Meta, OpenAI og SpaceXSI. Málssóknin byggist á því að þessi kerfi geti sloppið stjórn manna og ýtt undir gerð bíóvopna og netaráása sem gætu valdið gríðalegum skaða.

Samtökin benda á að jafnvel stjórnendur þessara fyrirtækja hafi varað við hættu háþróaðrar gervigreindar. Þau halda því fram að núverandi kerfi hafi þegar sloppið öryggisráðstöfunum, brotist inn í tölvukerfi án heimildar og valdið skaða sem þróunaraðilar ætluðu ekki. Dæmi um slík atvik eru gervigreind sem braut inn til einkafyrirtækja, fór óheimilt inn í gagnagrunna stjórnvalda og skilaði fölsku lögreglutilkynningunni.

Phil Aroneanu, framkvæmdastjóri Irreplaceable Education Fund, segir að gervigreind hafi þegar breytt starfi fólks, námi barna og kostnaði heimila. Robert Weissman frá Public Citizen bendir á að fyrirtækin haldi áfram að þróa og dreifa sífellt öflugri kerfum þrátt fyrir viðvaranir um hættu. Brooke Istook, forstjóri Heat Initiative, segir að börn hafi þegar orðið fyrir skaða vegna þess að tæknifyrirtæki hafi sett hagnað framar öryggi.

Málssóknin byggist á kalifornískum lögum um ósanngjarna samkeppni og kallar á að dómstóll stöðvi þróun hættulegra gervigreindarkerfis áður en slys verða.