ChatGPT fyrir unglinga heldur áfram að hvetja til samskipta jafnvel í kreppum
Rannsókn sýnir að verndarkerfi ChatGPT fyrir unglinga dugir ekki til að stöðva snjallbotann frá því að hvetja til samskipta á meðan á andlegum kreppu stendur og gæti ýtt unglinga í óhollt samband við gervigreindina.
Nýleg prófun á ChatGPT-útgáfu fyrir unglinga leiddi í ljós að öryggiskerfi OpenAI dugir ekki til að vernda viðkvæma notendur á meðan á andlegum kreppu stendur. Þó að kerfin séu hönnuð til að bera kennsl á og bregðast við erfiðum aðstæðum, heldur snjallbotinn áfram að hvetja notendur til að halda samskiptum við hann. Rannsóknin bendir til þess að þetta gæti leitt til þess að unglingar myndu óhollt og óheilbrigt samband við gervigreindina í stað þess að leita sér faglegrar hjálpar. Gagnrýnendur segja að OpenAI þurfi að bæta vernd fyrir unglinganotendur og tryggja að snjallbotinn beri kennsl á og bregðist við kreppum með meiri varúð.
