Hönnuðir verða að taka þátt í mati á gervigreind
Hönnuðir hafa mikilvægu hlutverki að gegna við mat á gervigreind, en eru oft útundan ferlinu. Sérfræðingur í hönnun segir að ákvarðanir um það hvað telst „gott" í gervigreind snúist um notendaupplifun og krefjast faglegrar dómgreindar sem hönnuðir búa yfir.
Fyrirtæki fela venjulega mat á gervigreind verkfræðingum og vörustjórum, en þessi ferli snúast í raun um notendaupplifun og ákvarðanir sem hönnuðir taka daglega. Samkvæmt greiningu Arin Bhowmick, hönnunarstjóra hjá SAP, getur það leitt til þess að vörur sem eru tæknilega virkar mistakist notendum ef hönnuðir eru ekki hluti af matsferlinu frá upphafi. Hönnuðir geta greint hluti sem tölur missa af, eins og óviðeigandi orðaforða eða óheppilega tón í svörum. Þeir hafa einnig reynslu af því hvernig raunverulegir notendur hegra sér – hvernig þeir stökkva á milli efna og hvernig ytri þættir hafa áhrif á hegðun. Rannsóknir sýna að 88% vísindamanna hafa áhyggjur af gæðum gervigreindra persóna sem notaðar eru í prófunum. Annar mikilvægur þáttur er að spyrja hverjir eru forsendur matsferlisins. Fyrirtæki sem byggja spjallbota til að minnka stuðningsþjónustu gætu gert ráð fyrir því að notendur vilji ekki tala við manneskju, en það er ekki alltaf rétt. Hönnuðir skrifa slíkar forsendur niður og staðfesta þær með raunverulegum notendum áður en þeir hönnun eiginleika. Lokum, sumir vandamál við mat á gervigreind eru í raun hönnunarvandamál. Ef gervigreind gefur röng svör vegna óskýrra inntaka frá notendum, getur betri leiðbeining ekki leyst það – en hönnunarbreytingar geta það.
