Anthropic bannar mikla móðgun gegn Claude gervigreind frá 12. nóvember
Anthropic hefur uppfært notkundarreglur Claude gervigreindarinnar og bannar frá 12. nóvember 2026 mikla og endurtekna móðgun gegn gervigreindina. Algengar gremjur og prófanir eru undanþegnar.
Anthropic, fyrirtækið á bak við Claude gervigreindina, hefur tilkynnt um breytingar á notkundarreglum sem taka gildi 12. nóvember 2026. Nýja reglan bannar endurtekna og óþarfa móðgun og grimmd gegn gervigreindamódelum, en aðeins í öfgafullum tilfellum þar sem notendur bregðast við endalaust og án skýrs tilgangs.
Samkvæmt Anthropic er reglan ekki ætluð til að banna algengar útbrot gremju, andmæli notenda, djarfa skapandi efni eða rannsóknir og prófanir á gervigreindina. Fyrirtækið bendir á að óljóst sé nákvæmlega hvar mörkin liggja á milli venjulegrar gremju og grimrar hegðunar.
Höfuðafleiðing brotanna er að Claude getur lokað spjallinu við notandann. Anthropic hefur þegar gefið Claude getu til að binda enda á samskipti við notendur sem halda áfram með móðgun á Claude.ai og Claude Code. Þessi nýja regla gerir það að skýrri stefnu fyrirtækisins.
Breytingarnar innihalda einnig skýringar á öðrum mikilvægum málum eins og pólitísku efni og kjósandasvikum, eftirliti og löggæslu, vopnatækni og áhættusamum notkunartilvikum sem snerta heilsu, lagaleg réttindi og fjármál.
