Anthropic leggur fram öryggisfrumvarp um gervigreind
Anthropic hefur lagt fram tillögu um nýtt öryggisfrumvarp sem myndi takmarka útgáfu gervigreindarlíkana ef þau gætu valdið dauða 50 eða fleiri manna. Frumvarpið myndi þó banna alríkisstofnunum að stöðva útgáfu án dómsúrskurðar.
Gervigreindafyrirtækið Anthropic hefur lagt fram tillögu um nýtt öryggisfrumvarp sem miðar að því að takmarka útgáfu hættulegra gervigreindarlíkana. Samkvæmt tillögunni væru alríkisstofnanir takmarkaðar við að stöðva útgáfu líkans ef það gæti hugsanlega valdið dauða 50 eða fleiri manna.
Hins vegar inniheldur frumvarpið mikilvæga takmörkun: alríkisstofnanir myndu ekki geta blokkað útgáfu líkans án þess að fá dómsúrskurð fyrst. Þetta þýðir að jafnvel þótt stofnanir teldu líkan hættulegt væru þær skyldaðar til að leita samþykkis dómstóla áður en gripið væri til aðgerða.
Tillagan endurspeglar viðleitni Anthropic til að móta umræðu um reglugerðir á gervigreindarsviði, en hún hefur vakið umræðu um hvort hún veiti raunverulega vernd gegn hættulegri gervigreind eða hvort hún sé fyrst og fremst hönnuð til að vernda hagsmuni fyrirtækjanna.
