Nákvæmar heilsufarsábendingar gervigreindar geta gert fólk sjúkra
Þótt gervigreind gefi rétta heilsufarsupplýsingar getur hún breytt hegðun fólks á þann hátt að það verði óheilbrigt, segja vísindamenn. Stjórnvöld og tæknifyrirtæki leggja áherslu á nákvæmni en hunsa aðra þætti heilsu.
Gervigreind veitir heilsufarsráðgjöf í óendanlegri stærðargráðu. Meira en 300 milljónir manna spyrja ChatGPT heilsufarsflokka spurninga í hverri viku. Nú er alríkisstjórn Bandaríkjanna að dýpka notkun gervigreindar í læknisþjónustu til að hafa bein samskipti við sjúklinga og sjálfvirka aðstoð. Chris Klomp, tilnefndur varaforseti heilbrigðis- og mannúðarþjónustu, hefur kallað gervigreindar í sjúklingaumönnun "heilaga gral" fyrir bætingu á heilsu þjóðarinnar.
Stjórnvöld og tæknileiðtogar trúa því að gervigreind muni gagnast okkur vegna þess að hún er ótrúlega góð á því að sækja nákvæmar læknisfræðilegar upplýsingar. Þó að næstum allar birtar öryggismatir einblína á nákvæmni er hún aðeins ein vídd öryggis. Mæling á nákvæmni getur ekki greint fínlega skaðsemi: jafnvel nákvæm heilsufarsboð getur breytt hegðun fólks á þann hátt að það verði óheilbrigt.
Vísindamenn benda á að það dugi ekki að gervigreind gefi rétta upplýsingu. Mikilvægt er að skoða hvernig þessar ábendingar breyta raunverulegri hegðun og heilsu fólks.
