Treystu ekki gervigreind til að geyma leyndarmál þín
Rannsókn sýnir að flestir vita ekki að samtal við spjallbota eru notuð til að þjálfa gervigreindarkerfi og geta verið dæmd fyrir dómi. Character.AI fór nýlega í gjaldþrot og óvíst er hverjir kaupa fyrirtækið og gögn notenda.
Flestir treysta því að samtal við spjallbota sé einkamál, en það er ekki endilega satt. Könnun sem DuckDuckGo fór fram á meðal 1.944 Bandaríkjamanna sýndi að meira en helmingur (53%) vissi ekki hvort samtal þeirra væru notuð til að þjálfa gervigreindarkerfi. Aðeins fjórðungur svarenda vissi að hægt væri að dæma spjallbotasamtöl fyrir dómi.
Character.AI er spjallbotaþjónusta þar sem notendur geta átt samtal og mynda "tengsl" við sérhannaða stafi. Sumir notendur deila mjög persónulegum upplýsingum eins og hugsun um sjálfsvíg, geðheilbrigðisupplýsingum, aldri, dýpum óttum og sambandsvandamálum. Fyrirtækið fór nýlega í gjaldþrot og opnaði dómseftirlitaða sölu á eignum sínum. Engin vita hverjir munu kaupa fyrirtækið eða hversu mikil gögn notenda verða seld.
Löglega getur fyrirtæki selt persónuupplýsingar notenda sinna ef persónuverndarskírteini leyfir það. Persónuverndarskírteini Character.AI er óljóst og segir að fyrirtækið geti gefið upp "ákveðnar upplýsingar" við sölu. Bandaríska gjaldþrotadómstóllinn vill að dómari skipi neytendaverndarfulltrúa til að ráðleggja um persónuvernd notenda, en engin er ákveðin regla um þjálfuð gervigreindarkerfi og þjálfunargögn þeirra.
Gögn geta lekið á þrjá vegu: villur í hugbúnaði, deilingu á spjallum og innleiðingu spjallanna í þjálfunargögn. Rannsókn frá 2022 sýndi að ef tölvupóstfang væru sett inn í spjallbota mörgum sinnum gætu óþekktir notendur hugsanlega endurheimt þau með því að spyrja gervigreindarkerfi. Það er ekki hægt að eyða þessum áhrifum með því að eyða spjallaskrám.
