Mi az a deepfake és hogyan lehet felismerni? – Interjú Mezriczky Marcell-lel

Mezriczky Marcell-lel, „A Jövő ma kezdődik” esettanulmányíró-verseny győztesével, a Corvinus Kommunikáció- és médiatudomány mesterszakos hallgatójával beszélgettünk, aki bevezetett bennünket díjnyertes tanulmányának témájába, a deepfake videómanipuláció rejtelmeibe. Ha felvétel készült róla, akkor az úgy is van? Ma már nem egészen. Ebből indult ki Mezriczky Marcell „Ál/arc – A deepfake és a digitális videómanipuláció” című esettanulmánya is, amellyel „A jövő ma kezdődik” versenyen első helyezést ért el. Körbejártuk a tanulmány eredményeit, a videómanipuláció veszélyeit és felismerését, és közben azt is megtudtuk, hogy a deepfake videók 96 százaléka a pornóiparból kerül ki.

Ott van például Martin Scorsese legújabb filmje, Az ír. Scorsese régóta el akarta készíteni ezt a filmet, de csak most sikerült összehozni, ám időközben a színészek, Robert de Niro, Joe Pesci és Al Pacino időközben megöregedtek. Azt viszont nem akarta, hogy a szerepeket mások játsszák el, így CGI segítségével fiatalították meg őket. Néhány jelenetnél ugyan feltűnik, hogy üveges a tekintetük, vagy túl steril az arcbőrük, de vannak nagyon jól sikerült képek is. (kép: IMDb)

Egészen addig legalábbis ez volt róla a véleményem, ameddig nem láttam a YouTube-on egy videót, ahol bemutatták ugyanezt a fiatalítást deepfake-kel. A mesterséges intelligenciával elképesztően hiteles lett az eredmény, szerintem ez egy jó pont lehet a jövőben. Ha bármiféle módosítást kell végrehajtani a színészek arcán, akkor azt a mesterséges intelligenciával költséghatékonyan és sokkal valósághűbben lehet majd megtenni.

Ilyen lett volna az Ír, ha CGI helyett deepfake technológiával fiatalítják meg a szereplőket.

Azt viszont egyáltalán nem tartanám jónak, ha csak digitális színészeket látnánk a filmekben. Szerintem az érzelemkifejezés terén van még hova fejlődnie a mesterséges intelligencia alkotta videókban. Alapvetően jól modellezik a színészek arcát, és akár meg is tudják őket fiatalítani, de az érzelemkifejezés most még sokkal inkább videójátékszerű marad.

Miről szól az esettanulmányod?

A tanulmányban azt szerettem volna feltárni, hogy ha már ilyen elterjedtek az arccserélős tartalmak, akkor a fiatal, most iskolás korosztály milyen sikerességgel ismeri fel ezekben a manipulációt. Jelen esetben az általános iskola nyolcadik osztályát vizsgáltam, tehát 13-15 éves fiatalokat.

Veszelszki Ágnes Tanárnő segítségével, aki a témavezetőm volt, összeállítottam egy hat videóból álló tesztet, volt köztük talkshow és filmrészlet is. A hat videó között két-két CGI és deepfake videó szerepelt, volt egy könnyebben felismerhető és egy nehezebb is. A másik két videó közül az egyikben analóg, smink-maszkos módosítást alkalmaztak, a másik pedig teljesen eredeti, manipulációtól mentes felvétel volt. A teszt lényege az volt, hogy a diákok milyen arányban ismerik fel a manipulált tartalmakat, mennyire lehet őket ezekkel megtéveszteni. (Szerk: a tesztet a cikk végén ki is próbálhatod.)

Mi volt számodra a legmegdöbbentőbb eredmény a felmérés során?

Meglepő eredmény volt, hogy többnyire észrevették, hogy történt módosítás, ugyanakkor nem gondolták, hogy digitális módosításról lenne szó. Felismerték tehát, hogy valami „más”, de azt hitték, hogy az a sminkesek munkájának köszönhető. Ebből azt a következtetést lehet levonni, hogy ha nem tudják megkülönböztetni az alapvető módosítási technikákat, akkor azt is nehezebb megítélni, hogy az adott tartalom mennyire hiteles, mennyire vehető komolyan.

A deepfake árnyoldala, hogy a manipulált felvétel emberek lejáratására is alkalmas. Hogyan lehet észrevenni, hogy deepfake-ről van szó?

 

A deepfake ebből a szempontból valóban veszélyes, hiszen ma már könnyedén megoldható, hogy például a pornószínészek testére más arcát helyezzék rá, amivel bárkit le lehet járatni, de a technológia politikai fegyverként is bevethető. Arra is volt példa, hogy mesterséges intelligencia által generált hanggal csaltak ki pénzt egy vállalattól. Egy idegen nyelvet beszélő vezérigazgató felhívta az egyik beosztottat, hogy egy bizonyos összeget át kell utalni ide és ide, az adminisztrátor pedig ezt el is végezte. Miután átment a pénz, ismét telefonáltak neki, hogy ezt újra meg kellene tenni, itt lett csak gyanús számára az eredeti telefonhívás. (Kép: Bloomberg; az első kép eredeti, a második deepfake felvétel)

Ami egy videóban elárulhatja a deepfake-et, az az üveges tekintet. Jó példa erre az a híres Obama-videó, amelyben bemutatják, hogyan lehet ezt a technológiát politikai visszaélésekre használni. Nem lehet eldönteni, hogy hova néz, nem mozog a szeme, miközben beszél. Sok esetben egyáltalán nem vagy furcsán pislog, ami – ha odafigyelünk az ilyen jelekre – nagyon feltűnő tud lenni.


Bár elsőre nagyon meggyőzőnek tűnik, ezt a beszédet Obama sosem mondta el, a videót deepfake technológiával hozták létre.

Árulkodó lehet az is, ha nincs szinkronban a hang és beszéd. Látszik, hogy beszél, mozog a szája, de a hangban kisebb csúszások vannak. Jellemző a steril hatású arc, ami túl tökéletesnek, túl hibátlannak tűnik. Obama arca a videóban például nagyon fénylik, olyan mintha retusálva lenne.

Látsz arra lehetőséget, hogy a jövőben könnyen ki lehessen szűrni a manipulált felvételeket, akár valamilyen program segítségével?