Stærðfræðiformúla gæti spáð fyrir um hættuleg AI-úttak
Rannsakendur hafa þróað nýja stærðfræðilega aðferð til að fylgjast með innri virkni gervigreindar og greina hættuleg úttak áður en það á sér stað.
Eðlisfræðingar segja að þeir hafi fundið leið til að spá fyrir um hvenær gervigreind gæti framleitt óæskileg eða hættuleg úttak. Nýja aðferðin byggir á stærðfræðilegri formúlu sem fylgist með því sem kallað er "innri kompassnál" gervigreindarkerfa.
Endurkóðun og greining á innri virkni gervigreindar gæti gert kleift að bera kennsl á vandamál áður en þau verða til. Þessi nálgun felst í því að fylgjast með því hvernig gervigreindarkerfið vinnur úr gögnum og tekur ákvarðanir.
Rannsóknin bendir til þess að með því að skilja og fylgjast með þessum innri ferlum væri hægt að koma í veg fyrir að gervigreind framleiði skaðleg eða óæskileg svör. Þetta gæti verið mikilvægt skref í þróun öruggari gervigreindar.
