Bardagi gegn gervilegum vísindaritum – IEEE og Wikipedia standa vörð

Útgefendur vísindaritrits og Wikipedia standa frammi fyrir stærri áskorun en nokkru sinni fyrr: að halda heilindum gagna um mannlega þekkingu á meðan gervigreind getur búið til sannlíkar en rangar greinar og ritgerðir.

Rithöfundur og stærðfræðingur Benjamin Skuse gerði tilraun með því að senda gervilegum vísindaritum til IEEE til að kanna gæðaeftirlit útgefandans. Hann komst að því að það var afar auðvelt að búa til greinar sem virtust vísindalegar með því að nota opinn AI-verkfæri. Í einni tilraun þurfti hann aðeins að keyra tilraunir og láta gervigreindina skrifa ritið – án þess að gera neitt fleira við það.

IEEE notar blöndu af mannlegri endurskoðun og sjálfvirkum kerfum til að greina gervileg rit. Þessi kerfi halda jafnfætis við óendanlegri leik milli útgefenda og þeirra sem nota ókeypis AI-verkfæri. Hins vegar eru fullkomnari gervigreindarlíkön ekki lengur með sömu augljósu villur og ókeypis útgáfur, sem skapar vopnakapprás milli sannlíkra gervilegra greina og kerfanna sem greina þær.

Wikipedia glímir við sömu vandamál með því að berjast gegn gervilegum textum á vettvanginum. Sjálfboðaliðar WikiProject AI Cleanup vinna að því að finna og eyða gervilegum greinum, en með færri fólki og verkfærum en stærri útgefendur. Ef ekki er hægt að treysta vísindaritinu og grunnupplýsingum um heiminn, gæti það grafið undan trausti á stofnunum sem varðveita þekkingu mannkynnsins.