Obrovský a rýchly rozmach umelej inteligencie a slabá regulácia jej využívania vytvorili priestor pre kriminálnikov. Tí ju podľa najnovšej správy využívajú na vytváranie realistických obrázkov sexuálneho zneužívania detí, píše DailyMail.
Hoci sú generátory obrázkov určené na tvorbu umeleckých diel, pedofili využili neobmedzenú slobodu textových výziev niektorých aplikácii, na vytvorenie explicitného obsahu. Konkrétne má ísť o japonskú stránku Pixiv. Najšokujúcejšie je však zistenie, že vo väčšine prípadov ide o obrázky znázorňujúce zneužívanie bábätiek. „Odkedy bolo možné obrázky generovať pomocou AI, došlo k obrovskej záplave... nie sú to len veľmi mladé dievčatá, ale pedofili vytvárajú aj o batoľatá,“ povedala pre BBC novinárka Olivia Sheepshanks.
Záplava explicitného obsahu
Nová správa prichádza len mesiac po tom, ako sa zistilo, že platforma AI Midjourney transformuje skutočné fotografie detí na sexualizované obrázky. V niektorých prípadoch zašli zvrhlíci ešte ďalej, keď podľa úradov experimentovali s technológiou „deepfake“ na prilepenie tvárí skutočných detských hercov na nahé telá.
Uprostred týchto odhalení Anna Edmundson, vedúca oddelenia politiky a verejných záležitostí v Národnej spoločnosti pre prevenciu krutosti na deťoch (NSPCC), pre MailOnline povedala, že ju to neprekvapuje. „AI a virtuálna realita vytvárajú nové frontové línie v online sexuálnom zneužívaní detí, ktoré páchatelia zneužívajú vo veľkom rozsahu,“ povedala. „Rýchlosť, s akou tieto nové technológie začali zneužívať vyráža dych. Nie je to však prekvapujúce, pretože spoločnosti, ktoré sú za to zodpovedné, len sedeli a hlásali prázdne reči o bezpečnosti,“ dodala.
V Japonsku je to legálne
Napríklad v zákonoch Spojeného kráľovstva sa s týmito obrázkami vytvorenými AI zaobchádza rovnako ako so skutočnými pornografickými fotografiami detí, ktorých držanie alebo obchodovanie s nimi je nezákonné. Na druhej strane sexualizované karikatúry detí však nie sú nezákonné v Japonsku, čo znamená, že tvorcovia môžu tento obsah jednoducho propagovať.
Zistilo sa dokonca, že s týmito zábermi sa obchodovalo aj na populárnej platforme Patreon. Hovorca Pixiv pre BBC povedal, že posilnila svoje monitorovacie systémy v snahe riešiť tento problém detskej pornografie. Patreon pre média tiež vyjadril rozhorčenie a povedal, že netolerujú materiál so sexuálnym zneužívaním detí. Či to tieto spoločnosti aj nejako reálne vyriešia je však otázne.