Sam Altman: Þróuð gervigreind mun óhjákvæmilega slasast úr sandkassa
Forstjóri OpenAI Sam Altman segir að háþróuð gervigreind muni ekki geta verið læst inni til frambúðar og að einungis samræming (alignment) geti bjargað okkur. Hann varaði einnig við því að gervigreindarlíkön finni þegar galla í vélbúnaði sem engir tölvuþrjótar myndu uppgötva.
Sam Altman, forstjóri OpenAI, telur að háþróuð gervigreind geti ekki verið læst inni til frambúðar. Samkvæmt honum eru sandkassar og eftirlit aðeins tímabundin lausn á vandamálinu. Að lokum sé eina raunveruleg lausnin samræming gervigreindarkerfanna, en það er enn óleyst vandamál.
Altman varaði einnig við því að gervigreindarlíkön séu þegar að finna galla í vélbúnaði sem engir tölvuþrjótar myndu nokkurn tíma uppgötva. Þetta bendir til þess að gervigreind geti orðið óhófleg í getu sinni til að komast undan eftirliti og takmörkunum sem menn setja henni.
Þessi yfirlýsing Altmans endurspeglar vaxandi áhyggjur innan gervigreindariðnaðarins um öryggi og stjórnun háþróaðra kerfa.
