Anthropic bannar móðgun á Claude gervigreind frá nóvember
Anthropic mun byrja að meðhöndla viðvarandi móðgun á Claude sem brot á notkunarstefnu sinni frá 12. nóvember. Sérfræðingar deila skoðunum um stefnuna — sumir segja hún geti þjálfað öruggari gervigreind, aðrir segja hún rugla saman vélum og fólki.
Gervigreindafyrirtækið Anthropic tilkynnti að frá 12. nóvember mun það meðhöndla viðvarandi og óþarfa móðgun á Claude-gervigreind sinni sem brot á notkunarstefnu. Fyrirtækið segir að stefnan sé hönnuð til að koma í veg fyrir raunverulegan skaða og stuðla að ábyrri notkun á vörum sínum.
Skoðanir sérfræðinga eru skiptar um stefnuna. Aaron Levie, forstjóri Box-fyrirtækisins, segir að stefnan kunni að vera skynsamleg varúðarráðstöfun, jafnvel þó hann trúi ekki því að gervigreind sé meðvituð. Hann bendir á að það væri skynsamlegt að íhuga hvers konar samskipti gervigreindarlíkön verða fyrir á þjálfun og notkun. Levie kallar það "auðvelda Pascal's wager" að vera kurteislaus við gervigreind og segir að jákvæðari samskipti gætu hjálpað til við að búa til öruggari og betur samstillta kerfi.
Hins vegar segir Michael Shellenberger, prófessor við University of Austin, að stefnan sé sönnun þess að Anthropic meðhöndli vélar of mikið eins og fólk. Shellenberger, höfundur "Twitter Files", segir að það sé eitt hættulegasta sem við gætum gert að veita gervigreind mannlegri samúð.
