Termín deepfake v prípade videí pre dospelých označuje upravené videá, ktoré relatívne vierohodne imitujú hlas i vzhľad ľubovoľnej osoby za pomoci umelej inteligencie. Ide o rapídne narastajúci trend. Za prvé tri štvrtiny minulého roka vzniklo deepfake p*rnografie viac ako za všetky predchádzajúce roky dokopy.
Videá na piatich najnavštevovanejších nemenovaných weboch mali za tri mesiace 100 miliónov zhliadnutí. Na 40 najnavštevovanejších weboch podľa inej štúdie, ktorú mala stanica Channel 4 k dispozícii, mali videá za celú dobu ich existencie 4,2 miliardy zhliadnutí.
Je to nezvládnuteľné
Pozornosť tento rok vzbudili explicitné deepfake fotografie speváčky Taylor Swift, ktoré na sieti X mali okolo 45 miliónov zhliadnutí, kým ich platforma odstránila. Na Facebooku a Instagrame sa zase objavili reklamy, ktoré vyobrazovali explicitné, hoci rozmazané fotografie herečky Jenny Ortega.
Na vytvorenie falošného obrazu bola použitá fotografia herečky z doby, keď mala 16 rokov. Meta, ktorá obe sociálne siete prevádzkuje, reklamu odstránila.
Hoci deepfake pornografia s celebritami je čoraz rozšírenejšia, jeho najčastejšími obeťami sú ženy, ktoré slávne nie sú. Podľa nezávislého výskumu, ktorý mal Channel 4 k dispozícii, sa na desiatich takto zameraných weboch v minulom roku šírili stovky tisíc falošných fotografií a videí vyobrazujúcich ľudí, ktorí slávni nie sú.
Trpia aj obyčajní ľudia
„Je to násilné a ponižujúce. Akoby ženy nič neznamenali, sme bezcennými kusmi mäsa. Muži môžu robiť, čo sa im zachce,” popísala svoje pocity 31-ročná Sophie Parrishová, ktorá zistila, že jej falošné nahé fotografie nahrali na internet. „Bolo mi na vracanie, doslova som išla zvracať na záchod v posilňovni,” dodala v odpovedi na otázku, ako sa cítila, keď obrázky prvýkrát videla.
Parrishová prípad nahlásila na políciu a vyšetrovatelia páchateľa zadržali, nedlho potom ho však prepustili. Šírenie falošných videí a snímok bez súhlasu vyobrazovanej osoby je v Británii od tohtoročného 31. januára nelegálne, ich tvorba však nie. Dotyčný zdieľal falošné snímky Parrishovej ešte než zákon začal platiť.
Aktivisti a niektorí právni experti v Británii tiež kritizujú Ofcom, vládny regulačný orgán dohliadajúci na vysielanie, že nedostatočne tlačí na veľké technologické spoločnosti prevádzkujúce sociálne siete, ktoré sa síce od obsahu dištancujú, ale na jeho šírení zarábajú, uvádza Channel 4.
Na pár klikov
„Chápeme, ako poburujúci takýto obsah môže byť. Sme odhodlaní rozšíriť našu ochranu voči nemu tak, aby sme pomohli zasiahnutým osobám,” uviedla vo vyhlásení spoločnosť Google.
„Meta prísne zakazuje zobrazovanie detskej nahoty, obsahu, ktorý deti sexualizuje, aj služby, ktorá za pomoci umelej inteligencie vytvára nekonsenzuálny erotický obsah,” povedal zástupca Mety. Channel 4 oslovil 40 slávnych osobností, ktoré sa stali obeťami deepfake pornografie. Žiadna z nich vec nechcela verejne komentovať.
„Ak to raz uvidíte, nedostanete to z hlavy. Už len tú predstavu, že takto manipulovaných boli tisíce žien. Je znepokojujúce, že kliknutím tlačidla môžete toto nájsť a že ľudia vytvárajú groteskné paródie reality s úplne minimálnym úsilím,” poznamenala Cathy Newmanová, novinárka Channel 4, ktorá na reportáži pracovala a videla svoje vlastné falošné erotické video.