Anthropic stöðvar misnotkun gervigreindar við þróun lífvopna

Gervigreindarfyrirtækið Anthropic hefur greint frá því í nýrri skýrslu að það hafi þurft að grípa inn í til að koma í veg fyrir skaðlega notkun á tækni sinni sem gæti aðstoðað við þróun lífvopna. Fyrirtækið birti upplýsingar um ógnir sem það hefur greint og hvernig það vinnur að því að gera líkön sín öruggari gagnvart slíkri misnotkun. Þetta kemur í kjölfar viðvarana frá fyrrum starfsmönnum fyrirtækisins sem hafa bent á þá gríðarlegu áhættu sem mannkyninu gæti stafað af óheftri þróun gervigreindar ef ekki er gætt fyllsta öryggis. Skýrslan varpar ljósi á mikilvægi þess að setja siðferðileg og öryggisleg mörk við notkun þessarar tækni.