Vyhľadávania výrazu „Trump deepfakes“ za posledné mesiace vzrástlo o 90 % po odhaleniach, že republikánsky kandidát na prezidenta zdieľal falošné podporné príspevky od Taylor Swift a jej fanúšikov.
Všetky tieto príspevky boli identifikované ako deepfakes generované AI, a tejto téme sa Taylor Swift aj nedávno priamo venovala. Vyplýva to zo správ, že viac ako 4 000 celebrít sa stalo obeťou falošných videí, pričom počet odhalených falzifikátov na celom svete sa od roku 2022 do roku 2023 desaťnásobne zvýšil. Európa zaznamenala ohromujúci 780 % nárast takýchto prípadov.
Vzhľadom na to, že hrozba AI bude do roku 2027 stáť globálnu ekonomiku 40 miliárd dolárov, experti z AIPRM zostavili päť odborných tipov, ako rozpoznať deepfakes a chrániť sa pred vymysleným obsahom.
- Falošné správy často využívajú emocionálne spúšťače na skreslenie vášho úsudku.
- Zvláštnosti v črtách tváre, ako je tvar tváre a uší, sú výrečnými znakmi deep fake.
- Sledujte nesúlad medzi zvukovými a vizuálnymi podnetmi, najmä pri zvukoch písmen ako M, B a P.
5 profesionálnych tipov od experta na AI, ako poraziť deepfakes
1. Overte zdroj a kontext
Falošné správy sa šíria rýchlejšie ako pravdivé správy na X (predtým Twitter), čo je znepokojivý trend vzhľadom na to, že 30 % ľudí sa spolieha na sociálne médiá ako na pravidelný zdroj správ. Vždy skúmajte dôveryhodnosť zdrojov obsahu, ktorý konzumujete. Pochádzajú tieto informácie z renomovaného spravodajského zdroja alebo z overeného oficiálneho účtu? Ak je zdroj neznámy alebo vyzerá pochybne, overte si pravosť obsahu pomocou spoľahlivých spravodajských organizácií alebo platforiem na kontrolu faktov, ako sú Google Fact Check Tools.
Pamätajte, že dezinformácie často hrajú na emocionálne spúšťače, ako je strach, hnev alebo rozhorčenie, aby pomýlili váš úsudok. Keď narazíte na obsah, ktorý vyvoláva silné emócie, zastavte sa a prehodnoťte ho, aby ste sa uistili, že vás v nejakej hre nepoužívajú ako pešiaka.
2. Sledujte výrazy tváre a pohyby
Deepfakes často zaváhajú, keď sa snažia replikovať zložité detaily výrazov tváre a prirodzených pohybov. Medzi kľúčové oblasti patria mikrovýrazy okolo očí a úst. Dávajte pozor na neprirodzené žmurkanie, nesúvislé pohyby očí alebo trhavé pohyby hlavy a skontrolujte, či sa výrazy tváre zhodujú s emóciami. Podrobnosti ako jednotnosť zubov, štruktúra vlasov a štruktúra tváre môžu tiež odhaliť deepfakes.
Napríklad virálny deepfake Toma Cruisa od Chrisa Umé, ktorý predviedol trik s mincami v roku 2021, bol taký presvedčivý, že 78 % divákov ho nedokázalo rozlíšiť od skutočného obsahu. Kľúčovým znakom je tvar tváre a uší – deepfakes majú často mierne odlišné tvary v týchto oblastiach, pričom uši sa dajú replikovať obzvlášť ťažko. Pozastavenie videa a preskúmanie čŕt tváre vám môže pomôcť odhaliť tieto nezrovnalosti. Rovnako ako v prípade neslávne známeho deepfake exprezidenta Obamu, ktorý označil Trumpa dosť nevyberanými slovami. Nezdá sa vám to presvedčivé?
3. Použite inverzné nástroje na vyhľadávanie obrázkov a videí
Využite nástroje na spätné vyhľadávanie obrázkov a videí na sledovanie pôvodu vizuálneho obsahu. Nahranie obrázka do služby Google Reverse Image Search môže pomôcť identifikovať, či je vygenerovaný AI, zmenený alebo používaný mimo kontextu. V prípade videí môžu nástroje ako InVID rozobrať záznam a skontrolovať prípadné úpravy alebo predchádzajúce verzie. Tieto vyhľadávania vám umožňujú nájsť ďalšie kópie obrázka online, čo vám pomôže overiť jeho pravosť a odhaliť potenciálne zneužitia.
4. Hľadajte digitálne nezrovnalosti
Deepfakes sa často odhaľujú prostredníctvom jemných digitálnych nedostatkov, ako je rozmazanie alebo neprirodzená pixelácia, najmä okolo okrajov tvárí alebo predmetov. Venujte pozornosť nekonzistentnosti osvetlenia, tieňov, odrazov alebo dokonca prsta navyše, ktoré môžu naznačovať nejakú manipuláciu s originálom.
Nezabudnite skontrolovať pozadie – deformácie alebo nepravidelnosti môžu narúšať celkovú kompaktnosť scény. Virálny deepfake pápeža Františka v bunde Balenciaga z minulého roka ukázal jasné anomálie, ako sú zdeformované okuliare prilepené k jeho lícu a rozmazané prsty zovreté vo vzduchu, ale stále mnohých oklamal.
Jedným zo zábavných spôsobov, ako zdokonaliť svoje detektívne schopnosti, je zahrať si hru Who Face is Real, ktorú vytvorili profesori z Washingtonskej univerzity. Čím viac budete hrať, tým lepšie budete rozpoznávať vzorce obsahu generovaného AI.
5. Skontrolujte audio-vizuálnu synchronizáciu
Odhalenie deepfake často vedie k tomu, že pozorne sledujete pery. Naše ústa vytvárajú pri vyslovovaní určitých písmen špecifické tvary a tieto pohyby sú pre AI náročné na presnú replikáciu – takmer tretina falošných videí má problém prispôsobiť sa zvukom ako M, B a P. Ak si všimnete, že pohyby pier nie sú úplne v zhode so zvukmi, ktoré vydávajú, alebo ak existujú zvláštnosti v tóne alebo výške hlasu, je to tzv. red flag. Pozoruhodným príkladom je hlboké falošné video Marka Zuckerberga, kde jemné nezhody medzi jeho rečou a pohybmi pier odhalili manipuláciu s originálom.
Expert na AI v AIPRM, Christoph C. Cemper, uviedol:
„Svetové ekonomické fórum označilo dezinformácie za hlavné riziko do roku 2024, pričom deepfake sa objavili ako jedno z najznepokojujúcejších spôsobov využitia AI. Ak narazíte na potenciálny deepfake, najlepším riešením je zdržať sa jeho zdieľania. Sila deepfake spočíva v jeho schopnosti šíriť sa a jeho vplyv sa zmenšuje, ak sa nešíri vo veľkom. Ak uvidíte, že to zdieľa niekto iný, nájdite si chvíľku času, zdvorilo ho informujte a nasmerujte ho na spoľahlivé zdroje na overenie faktov, najmä ak bol falzifikát odhalený. Okrem toho využite funkcie prehľadov na platformách sociálnych médií na obmedzenie jeho dosahu.
Je dôležité, aby sme všetci zohrávali úlohu pri zvyšovaní povedomia – podeľte sa o svoje skúsenosti a postrehy o tom, ako ste rozpoznali deepfakes, aby ste pomohli ostatným čeliť podobným hrozbám. Ak budeme dávať pozor na obsah, ktorý konzumujeme online, môžeme spoločne bojovať proti dezinformáciám a chrániť integritu nášho digitálneho prostredia.“
Zdroj foto: AI pixlr.com, zdroj: https://www.aiprm.com/