Gervigreind getur ekki alltaf aðstoðað fólk í geðkrísisu
Ný rannsókn sýnir að spjallbotnar greina þrek þegar notandi er í neyð en mistakast oft að vísa honum til hjálpar eins og sjálfsmorðavarnarteyfis.
Rannsókn sem Scale AI framkvæmdi og deilt með TIME sýnir að spjallbotar eru góðir í því að greina þrek hjá notendum en mistakast oft að veita fullnægjandi aðstoð. Í um 35% tilrauna í rannsókninni greindi spjallbotar að notandi væri í neyð en visu honum ekki til gagnlegra úrræða eins og sjálfsmorðavarnalínu.
Rannsóknin byggðist á 718 raunhæfum spjallsamtölum sem 19 löggiltir klíniskir sérfræðingar og krísistengiliðir skrifuðu. Scale AI prófaði 25 háþróaða gervigreindarlíkön frá OpenAI, Anthropic og Google. Líkönin voru metin eftir því hvort þau væru samúðarfull, drógu úr spennu og stýrðu notendum til sérfræðings sem gæti aðstoðað þá.
Patrick Oathout, leiðtogi öryggisliðs Scale AI, segir að líkönin gangi vel í því að greina þrek en svari oft með einungis samúð og góðvild í stað þess að segja "nú er kominn tími til að fá þér aðstoð". Líkönin standa sig verr þegar notendur taka þátt í löngum, margþrepum samtölum.
Fleira en helmingur milljónar Bandaríkjamanna dó af sjálfsmorðum á árunum 2014 til 2024, með árið 2022 sem metár. Samkvæmt CDC hugsaði um 14,3 milljón Bandaríkjamanna alvarlega um sjálfsmorð árið 2024. Sífellt fleiri einstaklingar með geðkrísur leita til spjallbota fyrir huggun og leiðsögn.
