Een gezicht dat te symmetrisch, te gaaf en te gemiddeld oogt, is vaak precies dat: te mooi om waar te zijn. Onderzoekers van de Australian National University ontdekten dat mensen dat onbewust al aanvoelen, maar er zonder hulp weinig mee doen. Met een training schoot de nauwkeurigheid waarmee deelnemers AI-gezichten van echte foto’s onderscheidden omhoog: ze scoorden na afloop bijna twee keer zo goed.
Sommige deepfakes zijn nauwelijks nog te onderscheiden van echte mensen. Eerdere pogingen om mensen te trainen op zichtbare fouten, zoals een misvormd oor of een asymmetrische bril, leverden weinig op. Een team onder leiding van Amy Dawel koos daarom voor een andere insteek: niet zoeken naar fouten in een gezicht, maar leren vertrouwen op de algehele indruk die het oproept.
Foutjes zoeken werkt niet
Bestaande trainingen richten zich vooral op visuele details, zoals rare oorbellen of een vreemd gevormde hand. In eerder onderzoek zorgde dit voor een verbetering van zo’n tien procent. Bovendien gingen mensen daardoor vaker ten onrechte echte gezichten als nep bestempelen. Ook houdt zo’n methode in de echte wereld geen stand tegen internetfraude: makers van deepfakes kunnen dit soort opvallende fouten gemakkelijk wegfilteren voordat ze hun nepprofielen of beelden verspreiden.
Te perfect is verdacht
De onderzoekers bouwden voort op eerder onderzoek dat duidelijk maakte dat AI-gegenereerde gezichten systematisch anders aanvoelen dan echte gezichten, ook al kunnen mensen dat zelf niet goed verwoorden. Dat komt door hoe generatieve algoritmes werken: ze worden getraind op tienduizenden gezichten en neigen daardoor naar het statistische gemiddelde van al die gezichten samen. Het resultaat is een gezicht dat mensen onbewust beoordelen als symmetrischer, met betere verhoudingen en aantrekkelijker dan een echt gezicht, maar ook als minder onderscheidend, minder gedenkwaardig en minder expressief.
Zonder training interpreteren mensen die aanwijzingen alleen verkeerd om. Een opvallend mooi en gemiddeld gezicht wekt eerder extra vertrouwen dan argwaan, terwijl het volgens dit onderzoek juist een teken kan zijn dat het gezicht kunstmatig gegenereerd is.
In de training van Dawel beoordeelden 45 deelnemers honderden gezichten op zes eigenschappen: symmetrie, verhoudingen, aantrekkelijkheid, expressiviteit, onderscheid en gedenkwaardigheid. Daarbij kregen ze nooit te horen hoe ze die scores moesten gebruiken om AI van mens te onderscheiden. Ze moesten het patroon zelf ontdekken door simpelweg veel gezichten te beoordelen.
Bijna een verdubbeling
Het effect was groot. In een taak waarbij deelnemers uit drie gezichten het AI-gezicht moesten aanwijzen, steeg de nauwkeurigheid van 41,4 procent voor de training tot 81,1 procent erna en dat bij gezichten die de deelnemers nog nooit hadden gezien. Bij een taak waarin ze een voor een gezichten beoordeelden als echt of AI, verbeterde het onderscheidingsvermogen van vrijwel nul (een niveau dat overeenkomt met puur giswerk) naar een sterkere score. Deelnemers werden bovendien sneller in plaats van langzamer, wat aangeeft dat de winst niet ten koste ging van zorgvuldigheid.
De training werkte voor gezichten van zowel Aziatische als witte mensen en voor deelnemers van beide achtergronden, al scoorde iedereen iets beter bij Aziatische gezichten. Een controlestudie zonder training liet zien dat alleen het twee keer doen van dezelfde taak nauwelijks verschil maakte, wat aantoont dat de verbetering echt aan de training te danken is en niet aan oefening op zich.
Kanttekening
De deelnemersgroep van de Australische hoofdstudie was relatief klein en jong: 45 mensen met een gemiddelde leeftijd van ruim twintig jaar, gerekruteerd via een universiteit. Hoewel een herhaling aan de University of Victoria in Canada met een extra, online geteste groep vergelijkbare successen liet zien, blijven er vragen open. De methode zou door die online opzet weliswaar relatief goedkoop en op grote schaal inzetbaar zijn als korte module, maar de gebruikte AI-gezichten kwamen allemaal nog van StyleGAN3.
Of de training even goed werkt voor gezichten van nieuwere of andere generatieve AI-programma’s en voor bewegende deepfakes in video of gekloonde stemmen, is nog niet onderzocht. Ook hoe lang het effect van de training precies aanhoudt, moet nog blijken.
Toch zien onderzoekers vooral een andere meerwaarde: in tegenstelling tot detectiealgoritmes, die vaak weinig transparant zijn en kwetsbaar blijken voor manipulatie, kunnen getrainde mensen uitleggen waarop ze hun oordeel baseren. Dat maakt mens en machine eerder aanvullend dan vervangend, met de mens nog altijd als onmisbare schakel.
Wil je niets van Scientias missen? Volg Scientias op Google Discover dan zie je al onze verhalen!
Uitgelezen? Luister ook eens naar de Scientias Podcast:
