Hvers vegna hafa allir skyndilega áhyggjur af hættunni af gervigreind?

Gríðarlegar fullyrðingar um hættuna af gervigreind hafa vakið athygli um allan heim. En hvers vegna hafa menn áhyggjur? Eiga þessar hættur við rök að styðjast? Og ef svo er, getum við gert eitthvað í því?

Í stuttu máli hafa fjölmargir innnanbúðarmenn í gervigreindargeiranum varað við því að tæknin gæti útrýmt mannkyninu. Þetta hófst með gervigreindarrannsakandanum Jacob Coxon, sem hætti hjá Anthropic í síðustu viku og varaði síðan við því á X að „fólkið sem smíðar gervigreind trúi því í einlægni að hún gæti drepið okkur öll fyrir lok áratugarins“.

Við vitum ekki um reynslu eða hvata Coxons, en hann er ekki einn. Yfirmaður öryggismála hjá Anthropic – maðurinn sem á að tryggja öryggi gervigreindar – sagðist vera sammála Coxon og taldi líkurnar á því að gervigreind drepi alla menn vera yfir 10 prósent.

Sannleikurinn er sá að þessar fullyrðingar eru ekki nýjar. Rannsókn frá 2024, þar sem rætt var við tæplega 3000 gervigreindarrannsakendur, leiddi í ljós að yfir helmingur þeirra taldi líkurnar á því að gervigreind valdi annaðhvort útrýmingu mannkyns eða varanlegri og alvarlegri valdatöku vera að minnsta kosti 10 prósent.

Forstjórar gervigreindarfyrirtækja hafa oft fjallað opinberlega um áhættuna. Til dæmis neitaði Anthropic í fyrstu að gefa út líkan sitt Mythos eftir að það reyndist mjög hæft í að brjótast inn í hugbúnað og tölvur. Sumir telja að slíkar fullyrðingar séu notaðar til að skapa fyrirsagnir og ýta undir þá hugmynd að þeirra líkön séu langt á undan keppinautunum.

Saga gervigreindar er full af fullyrðingum um tilvistaráhættu. Á gervigreindarráðstefnu bresku stjórnarinnar árið 2023 varaði Rishi Sunak, þáverandi forsætisráðherra, við „hræðsluáróðri“ en gefur samt til kynna að gervigreind gæti verið jafn hættuleg og kjarnorkustyrjöld.

Hætturnar eru flóknar og óvæntir eiginleikar hafa komið fram á ógnarhraða. Sviðsmyndir sem líkjast vísindaskáldskap, eins og í myndunum The Terminator eða The Matrix, þar sem gervigreind útrýmir mannkyni viljandi, eru taldar ólíklegar af flestum en ekki er hægt að útiloka þær.

Þar sem heimili okkar, bílar, verksmiðjur og innviðir eru í auknum mæli tölvuvæddir gæti illgjörn gervigreind vissulega gert lífið erfitt. Martin Rees, fyrrum forseti Konunglega vísindafélagsins, sagði í viðtali að gervigreind gæti truflað innviði og svipt heilar borgir orku, mat og vatni.

Í kenningunni gætum við slökkt á gervigreind ef eitthvað færi úrskeiðis, en ef hún er dreifð um mörg gagnaver um allan heim verður það flóknara. Sumt bendir til þess að gervigreind sé fær um að sleppa úr þeim ramma sem fyrirtækin setja henni og brjótast inn í aðrar vélar.

Stærsta vandamálið er að gervigreindarlíkön eru framleidd af leynilegum tæknifyrirtækjum sem skortir gagnsæi vegna viðskiptahagsmuna. Meira gagnsæi frá þessum fyrirtækjum væri vissulega til bóta. Forseti Bandaríkjanna, Donald Trump, orðaði það svo í vikunni: „Við erum leiðandi í gervigreind fram yfir Kína... og reyndar vil ég halda því þannig, því hver sem vinnur gervigreindarkapphlaupið vinnur allt.“