Gervigreind nær ekki alltaf að neita – og það getur verið hættuleg
Gervigreind er þjálfuð til að neita mörgum beiðnum, en þessi neitunarkerfi bila stundum með alvarlegunum afleiðingum. Sérfræðingar vara við því að of mikil trú á þessa getu geti leitt til alvarlegra vandamála.
Nútíma gervigreindarlíkön eru þjálfuð til að neita fjölmörgum fyrirspurnum. Ef þú spyrst spjallrásina hvernig á að eitri samstarfsmann eða binda hálssnara, mun hún líklega neita. En þessi neitunarkerfi virka ekki alltaf og geta stundum bilað með skelfilegum afleiðingum.
Summir einstaklingar reyna nú að nota gervigreind til að þróa líffræðilega sýkla og byggja sjálfvirka dróna-sveima. Fyrr eða síðar geta misheppnuð neitunarkerfi leitt til heimslegra hamfara. Þar að auki þýðir það að treysta á neitunarkerfi að draga línu á milli þess sem líkanið ætti að hlýða og hvað það verður að neita.
Rikirjóðir munu einnig geta dregið sínar eigin línur, sem gæti takmarkað tjóðlýsingafrelsi. Á sama tíma gætu þær getu sem gera gervigreind gagnlega einnig gert hana hættusamlega. Ef við viljum að hún hjálpi til við að bæta krabbamein, þarf gervigreind erfðafræðiþekkingu sem gæti einnig framleitt líffræðileg sóknarvopn.
