Anthropic veitir utanaðkomandi eftirlitsstofnun aðgang að innri kerfum
Anthropic hefur veitt METR, óhagnaðarsamtökum sem meta áhættu gervigreindar, aðgang að innri kerfum og vélbúnaði. Þetta er hluti af viðleitni til að auka öryggisúttektir á Claude gervigreindarkerfinu.
Anthropic hefur veitt utanaðkomandi eftirlitsstofnun sem nefnist METR aðgang að innri kerfum og vélbúnaði til að meta áhættu gervigreindarkerfa sinna. METR, sem er óhagnaðarsamtök, hefur unnið með leiðandi gervigreindarlögum þar á meðal OpenAI, Google og Meta.
Teymi METR starfar nú innan skrifstofu Anthropic og hefur aðgang að innri kerfum og vélbúnaði fyrirtækisins. Þessi ákvörðun er hluti af viðleitni Anthropic til að auka öryggisúttektir og tryggja að gervigreindarkerfin gangi ekki óstjórnað.
Þriðju aðilar sem framkvæma óháðar úttektir eru meðal helstu aðgerða sem gervigreindarlöb hafa lagt til til að bregðast við vaxandi áhyggjum um hættu sem öflugri gervigreindarkerfin gætu valdið hagkerfi, netöryggismálum og mannkyninu í heild.
Hvað þýðir þetta fyrir Ísland?
Þessi þróun gæti haft áhrif á íslenskar fyrirtæki og stofnanir sem nota gervigreindarkerfin frá Anthropic, þar sem aukið eftirlit og öryggisúttektir gætu leitt til áreiðanlegri og öruggari kerfa.
