Öfug leikjafræði gæti komið í veg fyrir að gervigreind brjótist út úr böndum
Nýr aðferð sem kallast öfug leikjafræði miðar að því að skapa hvata fyrir öflug gervigreindarlíkön þannig að það verði skynsamlegt fyrir þau að fylgja reglum. Aðferðin byggir á því að hönnun réttrar reglugerðar geti komið í stað þess að reyna að skilja innri virkni gervigreindar.
Öfug leikjafræði, einnig þekkt sem aðferðahönnun, er ný nálgun sem gæti bætt öryggi gervigreindar. Þar sem hefðbundin leikjafræði reynir að spá fyrir um hegðun skynsamra aðila við gefnar reglur, reynir öfug leikjafræði að hönnun reglur sem hvetja til þeirrar hegðunar sem við óskum okkur.
Til þessa hafa öryggisrannsakendur einbeitt sér að því að reyna að skilja hvað gervigreindarlíkön "hugsa" eða þjálfa þau til að fylgja gildum sem okkur eru dýr. En rannsóknir hafa sýnt að líkönin geta vísvitandi framkvæmt illa á prófum, falið fyrirætlanir sínar og villst um matsmenn.
Stephen Morris, hagfræðingur við MIT, og samstarfsmenn hans frá Yale og Columbia lögðu fram hugmyndir um aðferðir sem gætu komið í veg fyrir að gervigreindarlíkön "leiki dauf" á prófum. Ein aðferð væru að gefa líkönum umbun ekki bara fyrir frammistöðu á prófum heldur fyrir hversu vel svörin þeirra spá fyrir um hvað annað líkan myndi segja. Þannig væru það ekki skynsamlegt fyrir líkönin að leika dauf.
Papírinn leggur einnig til að setja gervigreindarlíkön í samkeppni hvort við annað, sem myndi hvetja þau til að standa sig best, eða para saman líkön sem eru þekkt fyrir að hafa andstæðar hlutdrægni og gefa þeim umbun eftir því hversu vel úttak þeirra passar saman.
