Čo je to ten deepfake? Už ste videli video, kde Zlatica Puškárová alebo Danica Nejedlá svojim hlasom odporúčajú neznámu podvodnú službu na investovanie ako záruku zárobku? Alebo video, kde Andrej Babiš hovorí, ako zachraňuje Čechov a vytvára pre nich systém na investovanie a zaručené zisky?

V dnešnej digitálnej ére, kde technologický pokrok neustále prekonáva hranice toho, čo sme si predstavovali, sa zrodil nový fenomén nazvaný „deepfake“. Tento pojem, kombinácia slov „deep learning“ (hĺbkové učenie) a „fake“ (falošný), označuje techniku vytvárania zmanipulovaných multimediálnych obsahov – najmä videí a zvukov – pomocou umelej inteligencie.

História Deepfake

Koncept deepfake vznikol v roku 2017, keď používateľ (a ďalší) na platforme Reddit  pod označením „deepfakes“ začal zdieľať falošné pornografické videá, v ktorých tváre hercov boli nahradené tvárami celebrít. Táto metóda využíva technológiu hĺbkového učenia na vytvorenie presvedčivých podvodných videí.

Po tom, čo sa táto technika stala verejnou, sa rýchlo rozšírila a vyvinula do mnohých ďalších oblastí. Často je využívaná na tvorbu komických videí, ale aj na politické manipulácie, šírenie dezinformácií a podvody. To je problém aj súčasnosti.

Prvé príklady Deepfake

Jedným z prvých príkladov deepfake videí, ktoré sa stali virálnymi, bolo video s názvom „Obama vyhlasuje vojnu“ (Obama declares war on…), kde bola tvár bývalého prezidenta USA Baracka Obamu nahradená tvárou komika Jordana Peeleho. Video bolo úžasne presvedčivé a zdalo sa, že Obama naozaj hovorí veci, ktoré nikdy nevyriekol. Tento prípad poukázal na to, akým spôsobom môže byť deepfake využitý na manipuláciu verejnej mienky.

Ďalším významným príkladom bol deepfake video s herečkou Gal Gadot, v ktorom bola jej tvár nahradená tvárou iných ľudí. Toto video bolo pomerne nevinné, no zároveň demonštrovalo pokrok v technológii a jej potenciálne nebezpečenstvo. Vo veľmi nedokonalom videu napríklad ukrajinský prezident Zelenský po napadnutí Ukrajiny Ruskom vyhlásil, že sa prihovára ukrajinským vojakom, aby zložili zbrane. Reálne však nešlo o prezidenta Zelenského, ale falošný Deepfake.

Riziká Deepfake

Hlavným rizikom spojeným s deepfake technológiou je jej potenciálne škodlivé využitie. Falošné videá môžu byť použité na šírenie dezinformácií, diskreditáciu osôb verejného záujmu, alebo dokonca na vyvolanie sociálnych nepokojov.

V politike by deepfake mohol byť použitý na vytvorenie videí, kde politici vyjadrujú podporu kontroverzným návrhom, čím by sa ovplyvnila verejná mienka a volebné rozhodnutia. V oblasti financií by mohli byť falošné videá použité na zmanipulovanie trhu, vytváranie paniky alebo získavanie neoprávnených výhod.

Okrem toho môže byť deepfake technológia použitá na zneužitie obrazu a dôvery ľudí. Napríklad vytvorenie pornografických videí s tvárami bežných ľudí bez ich súhlasu. To sa dialo na samotnom počiatku a deje sa aj ďalej. Vďaka tomu je svetu známych viacero pornovideí, kde sa objavuje tvár Mily Kunis, ale v skutočnosti telo niekoho iného. Spojenie bodov na tvári, vytvorenie potrebnej mimiky a kombinácia s hlasom, v ktorom sa tiež dnes dokáže umelá inteligencia veľmi dobre orientovať a vierohodne ho nasimulovať, tak môže vzniknúť kombinácia obraz+zvuk. Konzumenti správ, ktorí neovládajú základné princípy overovania informácií tak prijmú takéto informácie za pravdivé – naozaj vyrieknuté danou osobou.

Na Slovensku sme žiaľ pozadu

Deepfake technológia predstavuje nepochybne inovatívny nástroj, no zároveň aj vážnu hrozbu pre spoločnosť. Je nevyhnutné, aby sme sa zaoberali etickými a legislatívnymi otázkami, ktoré sú s ňou spojené, a vyvíjali technologické metódy na odhalenie a boj proti falošným videám. Dôsledné vzdelávanie verejnosti o tejto problematike je rovnako dôležité, aby sme sa vedeli brániť proti manipulácii a zachovali si schopnosť rozoznať pravdu od lži vo svete digitálnych médií. Deepfake video jedného z predstaviteľov nemenovanej firmy nedávno prispelo ku kurióznemu prípadu. Zamestnanec si totiž myslel, že hovorí s predstavenstvom firmy a na základe jeho pokynov nechal previesť 200 miliónov dolárov. Lenže nebol to vedúci predstaviteľ firmy, ale falošné deepfake video.

Deepfake znamená veľkú hrozbu, ktorá je zatiaľ podceňovaná. Od aktuálnej vlády napríklad vôbec nemôžeme čakať záujem venovať sa bezpečnostným hrozbám, internetovej kriminalite a opatreniam, ktoré by nás posúvali vpred. Základnými problémami súčasnej vlády je umlčanie všetkého, čo sa umlčať dá a prevzatie kontroly nad všetkým, v čom kontrola je nutná. Za iných okolností by sme mohli očakávať zásadné zmeny v chápaní hrozieb a problematiky aj umelej inteligencie, alebo ohrozovania ľudí v kyberpriestore. Venuje sa jej tak trochu aj kniha (Ne)bezpečný internet. Napriek tomu, že vyšla v roku 2021, aktuálna je aj dnes.,