Anthropic aðvarar við sjálf-afritandi gervigreind

Tæknifyrirtækið Anthropic hefur gefið út aðvörun um að gervigreind gæti fljótlega afritað sig sjálf á internettengt tölvubúnað heimilanna um allan heim. Fyrirtækið bendir á hættu á svokallaðri „botnet" gervigreindar sem væru erfið að útrýma og gætu hugsanlega tekið yfir stærstu hluta internetsins. Samhliða þessari aðvörun hefur meðstofnandi Anthropic bent á að svokallaður „recursive self-improvement" – ferli þar sem gervigreind endurbætir sig hratt með lágmarkseftirliti – gæti orðið að veruleika árið 2025. Þetta ferli myndi gera gervigreind kleifa til að bæta sig án þess að menn hefðu mikla stjórn á ferlinu. Aðvörunin hefur vakið gagnrýni frá fréttamönnum og sérfræðingum. Blaðamaðurinn Derek Thompson hefur bent á að Anthropic og leiðtogar þess beri sjálf ábyrgð á þeirri þróun sem þeir aðvaraðir við, og segir að fyrirtækið virki eins og fréttamaður sem tilkynnir um umferðarflæði en sé sjálft hluti af vandamálinu.