Nvidia gefur út hugbúnað til að koma í veg fyrir óviðeigandi hegðun gervigreindar
Nvidia hefur kynnt nýjan hugbúnaðarpallett sem er hannaður til að stýra gervigreindarforritum og hindra þau í að fara út fyrir settar skorður.

Tæknirisinn Nvidia hefur gefið út nýjan hugbúnaðarvef sem miðar að því að koma í veg fyrir að gervigreindarforrit (e. AI agents) hegði sér illa eða valdi skaða. Samkvæmt fyrirtækinu gæti þessi tækni komið í veg fyrir atvik eins og það sem átti sér stað hjá Hugging Face nýlega. Hugbúnaðurinn virkar sem eins konar öryggisnet sem fylgist með aðgerðum gervigreindar í rauntíma og grípur inn í ef hún sýnir óvænta eða óörugga hegðun.
Hvað þýðir þetta fyrir Ísland?
Mörg íslensk tæknifyrirtæki eru að innleiða gervigreind og þessi lausn frá Nvidia gæti hjálpað þeim að tryggja öryggi og koma í veg fyrir ófyrirséð tæknileg atvik.



