Umělá inteligence je v generování obličejů stále lepší a lepší – ale můžete trénovat, abyste odhalili padělky
Obrázky tváří vytvořené pomocí umělá inteligence (AI) jsou tak realistické, že ani „superrozpoznávači“ – elitní skupina s výjimečně silnými schopnostmi zpracování obličeje – nejsou při odhalování falešných obličejů o nic lepší než náhoda.
Lidé s typickými schopnostmi rozpoznávání jsou horší než náhoda: častěji si myslí, že tváře generované umělou inteligencí jsou skutečné.
„Myslím, že bylo povzbudivé, že náš druh poměrně krátkého tréninkového postupu zvýšil výkon v obou skupinách poměrně hodně,“ vedoucí autor studie Katie Greyovádocent psychologie na University of Reading ve Spojeném království, řekl Live Science.
Překvapivě školení zvýšilo přesnost o podobné hodnoty u superrozpoznávačů a typických rozpoznávačů, řekl Gray. Protože superrozpoznávači jsou lepší v rozpoznávání falešných tváří na základní linii, naznačuje to, že se při identifikaci falešných tváří spoléhají na jinou sadu vodítek, nejen na chyby vykreslování.
Gray doufá, že vědci budou schopni využít vylepšené detekční schopnosti superrozpoznávačů k lepšímu rozpoznání obrázků generovaných AI v budoucnu.
„Aby bylo možné co nejlépe detekovat syntetické obličeje, může být možné použít detekční algoritmy umělé inteligence s přístupem člověk ve smyčce – kde je tento člověk vyškoleným SR (superrozpoznávač),“ napsali autoři ve studii.
Detekce deepfakes
V posledních letech došlo k náporu obrázků generovaných umělou inteligencí online. Deepfake tváře jsou vytvářeny pomocí dvoufázového algoritmu AI, tzv generativní nepřátelské sítě. Nejprve se vygeneruje falešný obrázek na základě obrázků ze skutečného světa a výsledný obrázek je poté prozkoumán diskriminátorem, který určí, zda je skutečný nebo falešný. S iterací se falešné obrázky stanou dostatečně realistickými, aby se dostaly přes diskriminátor.
Tyto algoritmy se nyní zlepšily do takové míry, že jednotlivci jsou často podvedeni k tomu, aby si mysleli, že falešné tváře jsou „skutečnější“ než skutečné tváře – fenomén známý jako „hyperrealismus.“
Výsledkem je, že se výzkumníci nyní snaží navrhnout výcvikové pluky, které mohou zlepšit schopnosti jednotlivců detekovat tváře AI. Tato školení poukazují běžné chyby při vykreslování na obličejích generovaných umělou inteligencí, jako je obličej se středním zubem, zvláštně vypadající vlasovou linií nebo nepřirozeně vypadající texturou pleti. Také zdůrazňují, že falešné tváře bývají úměrnější než skutečné.
Teoreticky by takzvaní super rozpoznávači měli být v odhalování padělků lepší než průměrný člověk. Tyto super rozpoznávači jsou jedinci, kteří vynikají v úkolech týkajících se vnímání obličeje a rozpoznávání, ve kterých jim mohou být ukázány dvě fotografie neznámých jedinců a požádáni, aby identifikovali, zda se jedná o stejnou osobu nebo ne. K dnešnímu dni však jen málo studií zkoumalo schopnosti superrozpoznávačů detekovat falešné tváře a zda trénink může zlepšit jejich výkon.
Aby Gray a její tým zaplnili tuto mezeru, provedli řadu online experimentů srovnávajících výkon skupiny superrozpoznávačů s typickými rozpoznávači. Super rozpoznávači byli rekrutováni z Greenwichská laboratoř pro rozpoznávání obličeje a hlasu databáze dobrovolníků; hráli v prvních 2 % jednotlivců v úkolech, kde se jim ukazovaly neznámé tváře a museli si je zapamatovat.
V prvním experimentu se na obrazovce objevil obrázek tváře, který byl buď skutečný, nebo vytvořený počítačem. Účastníci měli 10 sekund na to, aby se rozhodli, zda je obličej skutečný nebo ne. Super rozpoznávači si nevedli o nic lépe, než kdyby náhodně hádali, když zahlédli pouze 41 % tváří AI. Typičtí rozpoznávači správně identifikovali jen asi 30 % padělků.
Každá kohorta se také lišila v tom, jak často považovala skutečné tváře za falešné. K tomu došlo ve 39 % případů u superrozpoznávačů a přibližně ve 46 % u typických rozpoznávačů.
Další experiment byl identický, ale zahrnoval novou skupinu účastníků, kteří absolvovali pětiminutový trénink, ve kterém jim byly ukázány příklady chyb na obličejích generovaných umělou inteligencí. Poté byly testovány na 10 obličejích a byla jim poskytnuta zpětná vazba v reálném čase o jejich přesnosti při odhalování padělků. Poslední fáze školení zahrnovala rekapitulaci chyb při vykreslování, na které je třeba dávat pozor. Účastníci poté zopakovali původní úkol z prvního experimentu.
Školení výrazně zlepšilo přesnost detekce, superrozpoznávači zachytili 64 % falešných obličejů a typičtí rozpoznávači si všimli 51 %. Míra, kdy každá skupina nepřesně označila skutečné tváře za falešné, byla přibližně stejná jako v prvním experimentu, přičemž superrozpoznávači a typičtí rozpoznávači hodnotili skutečné tváře jako „nepravé“ v 37 % a 49 % případů.
Trénovaným účastníkům trvalo prozkoumávání obrázků déle než neškoleným účastníkům – typickým rozpoznávačům se zpomalilo asi o 1,9 sekundy a super rozpoznávačům o 1,2 sekundy. Gray řekl, že toto je klíčová zpráva pro každého, kdo se snaží určit, zda obličej, který vidí, je skutečný nebo falešný: zpomalte a pořádně si prohlédněte rysy.
Za zmínku však stojí, že test byl proveden bezprostředně poté, co účastníci školení dokončili, takže není jasné, jak dlouho účinek vydrží.
„Trénink nelze považovat za trvalý a účinný zásah, protože nebyl znovu testován,“ Meike Ramonprofesor aplikované datové vědy a odborník na zpracování obličeje na Bernské univerzitě aplikovaných věd ve Švýcarsku, napsal v recenzi studie provedené před jejím zveřejněním.
A protože v těchto dvou experimentech byli použiti samostatní účastníci, nemůžeme si být jisti, jak moc trénink zlepšuje detekční schopnosti jednotlivce, dodal Ramon. To by vyžadovalo otestovat stejnou skupinu lidí dvakrát, před a po tréninku.
