Stjórnendur stærstu AI-fyrirtækja neita því að hafa stjórn á þróuninni

Stærstu gervigreindafyrirtæki heims – OpenAI, Google DeepMind og Anthropic – byggja starfsemi sína á trú á því að almennar gervigreindarkerfum (AGI) með getu sem jafngildir eða fer yfir mannlega greind muni verða til. Tæknifréttamaðurinn Kevin Roose hefur skrifað bók sem heitir „The AGI Chronicles" þar sem hann fylgist með þróun þessara fyrirtækja frá 2015 til 2026 og byggir á viðtölum við yfir 150 rannsakendur, stjórnendur og stefnumótendur. Stjórnendur eins og Sam Altman frá OpenAI og Dario Amodei frá Anthropic tjá sig með óbilandi trú á því að gervigreind sé óumflýjanleg þróun sem ekki er hægt að stöðva. Altman kallar gervigreind „óumflýjandi" og Amodei líkir þróuninni við óstjórnlega rútu sem ekki er hægt að stöðva en hugsanlega stýra. Samkvæmt þessari skoðun eru stjórnendur gervigreindafyrirtækja eingöngu leiðtogar sem gera sitt besta til að setja skorður á óumflýjanlega þróun. Hins vegar bendir Roose í bók sinni á að AGI-þróun væri ekki óumflýjanleg heldur „fundin upp, þróuð og markaðssett af nokkur hundruð mönnum". Þetta vekur spurninguna um hvort stærstu AI-fyrirtækin séu einungis að tilkynna óumflýjanlega þróun eða hvort þau séu í raun að stýra henni. Svarið við þessari spurningu hefur mikil þýðingu fyrir það hvernig við úthlutum ábyrgð á þeim heimi sem myndast.