Ný áætlun gervigreindarfyrirtækja um sjálfseftirlit vekur efasemdir

Gervigreindarfyrirtækin Anthropic, OpenAI og xAI hafa náð samkomulagi um að innleiða „innbyggða eftirlitsaðila“ sem eiga að fylgjast með öryggisráðstöfunum innan fyrirtækjanna. Þrátt fyrir þetta er margt óljóst um hvernig slíkt kerfi muni virka í framkvæmd, svo sem hversu mikið aðgengi þessir utanaðkomandi sérfræðingar fá að viðkvæmum upplýsingum. Amodei, forstjóri Anthropic, hefur lofað ritsjórnarlegu sjálfstæði en með verulegum fyrirvörum varðandi öryggishagsmuni og viðskiptaleynd. Reynslan úr öðrum áhættusömum atvinnugreinum, svo sem bankastarfsemi eftir fjármálakreppuna 2008, sýnir að innra eftirlit getur oft verið of undirgefið gagnvart fyrirtækjunum sem það á að hafa eftirlit með. Þá er einnig bent á að hagsmunaárekstrar geti skapast þegar eftirlitsstofnanir eru fjármagnaðar beint af fyrirtækjunum sjálfum. Á meðan verið er að þróa þessi kerfi bendir margt til þess að strangari reglugerðir frá stjórnvöldum séu nauðsynlegar til að tryggja raunverulegt óháð eftirlit með gervigreind.