Anthropic gæti hafa farið yfir eigin viðvörunarmark um gervigreindarflýtun
Rannsóknastofnunin METR komst að því að þróun gervigreindarlíkana hjá Anthropic hefur tvöfaldast á síðustu mánuðum, en Anthropic hefur dulkóðað mikilvægustu sannanirnar.
Sjálfseignarstofnunin METR framkvæmdi ellefu vikna endurskoðun á innri rannsóknargögnum Anthropic og komst að þeirri niðurstöðu að hraði þróunar gervigreindarlíkana hefur um það bil tvöfaldast. Samkvæmt skýrslunni stafar um 80 prósent af þessari hröðun af því að nota gervigreind sjálfa til að aðstoða við rannsóknir og þróun.
Anthropicið hefur þó dulkóðað mikilvægustu sannanirnar sem METR fann, sem þýðir að almenningur verður að treysta dómgreinum METR meira en æskilegt væri. Þessi aðferð hefur vakið gagnrýni á því að hún takmarkar gagnsæi og gæti hugsanlega falið mikilvægar upplýsingar um öryggi og þróun gervigreindarkerfanna.
Inni á Anthropic eru einnig grunsamlegar raddir sem efast um niðurstöður skýrslunnar og hvort fyrirtækið sé að fylgja eigin viðvörunarmarkmiðum um hraða gervigreindaþróunar sem það hefur sett sér.
