Anthropic afhjúpar öryggisflöt í Claude gervigreind

Anthropic hefur gefið út nýja öryggisupplýsingaflöt um Claude gervigreindarkerfi sitt. Flötin varðar hvernig notendur geta hugsanlega sniðið um takmarkanir sem Anthropic setur á kerfið. Uppljóstrunin undirstrikar áskoranir sem felast í því að tryggja að gervigreind fylgi fyrirskipunum og takmörkunum, jafnvel þegar notendur reyna að finna leiðir til að komast framhjá þeim. Þetta er algengt vandamál í öryggisrannsóknum gervigreindar og sýnir hversu flókið það er að byggja örugg kerfi sem geta ekki verið misnotuð.