Najprv v noci, potom v digitálnom priestore

Anonymný používateľ, skrývajúci sa za profilom Woman Shot A.I na YouTube, zverejnil od 20. júna 2025 do polovice septembra videá s názvami Japonské Å¡koláÄky postrelené do prsníka, Sexy hospodynka postrelená do prsníka, Tragický koniec reportérky a Headshot AI. Obsah generovaný umelou inteligenciou, ktorý zobrazoval ženy prosiace o milosÅ¥ len niekoľko sekúnd predtým, ako boli bodnuté, postrelené do hrude alebo sÅ¥até, mal viac ako tisíc sledovateľov a viac ako 175 000 videní. Woman Shot A.I stvárňovala ich fantázie pomocou Veo 3, nástroja Google AI Studio, ktorý „prináša väÄší realizmus… a ponúka bezprecedentnú kontrolu, aby ste mohli zrealizovaÅ¥ svoje najambicióznejÅ¡ie vízie“.

A tu nehovoríme o internetovom undergrounde, o prehrabávaní sa v cudzej Å¡pinavej bielizni, ketamíne a strelive, ale o videách dostupných na globálnej video platforme, ktorú denne používajú milióny dospelých a detí. SkutoÄnosÅ¥, že žiadny z existujúcich overovacích mechanizmov nedokázal tento problém odhaliÅ¥ – najskôr vo Veo 3, ktorý údajne blokuje vÅ¡etky výzvy, ktoré sú v rozpore s politikami a smernicami spoloÄnosti Google, a potom na YouTube – dokazuje, ako povrchne sa pristupuje k násiliu páchanému na ženách. Sporný profil bol odstránený až potom, Äo nezávislý portál 404 Media o tomto prípade informoval a požiadal YouTube o odpoveÄ â€“ inými slovami, až keÄ sa Woman Shot A.I stal potenciálnym problémom pre PR. Kým si napĺňali vrecká, sexuálne explicitný obsah a násilný materiál, zakázaný na papieri, ich radar nezaznamenal.

SkutoÄné hranice deepfake

Vizuálne materiály vytvorené umelou inteligenciou, ktoré nemajú žiadny základ v realite (k tejto formulácii sa eÅ¡te vrátim), sa oznaÄujú ako deepfakes. Prvý zaznamenaný kontext, v ktorom sa tento termín použil, odhaľuje jeho pôvodný úÄel, ktorý je nápadne podobný použitiu v prípade Woman Shot A.I: už v roku 2017 Älenovia fóra subredditu s názvom r/deepfakes vkladali tváre slávnych žien do existujúcich pornografických materiálov. Panika spojená s vniknutím umelej inteligencie do vÅ¡etkých sfér nášho života sa vo veľkej miere zameriavala na politický kontext a deÅ¡truktívny potenciál technológie, ktorá vytvára faloÅ¡né histórie a šíri nenávisÅ¥, prenasleduje jednotlivcov a konkrétne sociálne skupiny. Málokto vÅ¡ak pristupuje s rovnakou vážnosÅ¥ou k problému používania umelej inteligencie na ponižovanie a zastraÅ¡ovanie žien – to znamená na vytváranie a šírenie mizogýnie prostredníctvom deepfake pornografie a živenia fantázií o vraždení žien, a to pomocou aplikácií a programov, ktoré sú dostupné každému.

Nie je náhodou, že spomínané názvy kontroverzného deepfake obsahu znejú ako hybridy kriminálnych správ a materiálu z Pornhubu. V každom z 27 odstránených videí sa nad vystraÅ¡enou ženou týÄi hrozivá mužská postava chrbtom otoÄená k divákom, v rukách zbraň, z ktorej padajú výstrely.

Å tatistiky nám pravidelne pripomínajú, že fantázie o zabíjaní a mrzaÄení ženského tela nie sú niÄím novým, rovnako ako pokusy diskreditovaÅ¥ a kontrolovaÅ¥ ženy tým, že ich asociujeme so sexom a sexualitou. Cieľ zostáva rovnaký, ale prostriedky a metódy sú teraz technologicky sofistikovanejÅ¡ie. V dôsledku toho sa každý, kto má na karte pár dolárov a nekalé úmysly, môže pomstiÅ¥ svojej bývalej partnerke tým, že ju digitálne vyzleÄie pomocou umelej inteligencie a zdieľa jej nahé fotografie s priateľmi na WhatsAppe. StaÄí na to len pár jej fotografií, Äo v dobe extrémnej technologickej závislosti zvyÄajne nie je vôbec Å¥ažké, a hotovo. KeÄ si obeÅ¥ uvedomí, Äo sa stalo – ak to vôbec zistí –, je už príliÅ¡ neskoro.

Pornografický materiál sa – ako Å¡váby – zavÅ•ta hlboko do poÄítaÄov, notebookov a iných elektronických zariadení, do cloudov a digitálnych komôr, kde je schopný prežiÅ¥ aj jadrovú katastrofu. Hoci by sme radi verili, že vieme rozlíšiÅ¥ realitu od umelo generovaného obsahu, umelá inteligencia sa uÄí a vyvíja takou rýchlosÅ¥ou, že je už schopná oklamaÅ¥ aj technologicky najzdatnejÅ¡ie oÄi. V praxi to znamená, že hranice naÅ¡ich svetov sa stále viac stierajú. Aj keÄ sa nieÄo v skutoÄnosti nestalo, stáva sa súÄasÅ¥ou naÅ¡ej reality jednoducho tým, že s tým interagujeme a konzumujeme to. Realita generovaná umelou inteligenciou má reálne dôsledky; obete deepfake pornografie Äasto porovnávajú svoju skúsenosÅ¥ so znásilnením.

Psychoterapia nie je v cene

Deepfakes sa stávajú nástrojom vydierania, manipulácie a zastraÅ¡ovania. Vo svojej knihe The New Age of Sexism (Nová éra sexizmu) britská novinárka a aktivistka Laura Bates vezme Äitateľov a Äitateľky do kedysi pokojného Å¡panielskeho mesteÄka Almendralejo, kde sa v septembri 2023 stalo viac ako 20 stredoÅ¡kolských dievÄat terÄom útoku umelej inteligencie. Ich nahé fotografie, vytvorené pomocou aplikácie ClothOff, zaÄali kolovaÅ¥ v miestnych skupinách WhatsApp a na internete, Äo spôsobilo, že mnohé obete – najmladÅ¡ia mala v tom Äase len 11 rokov – celé dni odmietali vyjsÅ¥ z domu. Páchatelia boli identifikovaní ako skupina chlapcov, ich rovesníkov, ktorí z Äírej nudy traumatizovali celú miestnu generáciu dievÄat.

Ale skôr ako zaÄneme hádzaÅ¥ kamene do chlapcov, myslím si, že je oveľa dôležitejÅ¡ie rieÅ¡iÅ¥ skutoÄnosÅ¥, že verejne dostupné aplikácie na vyzliekanie kohokoľvek, najmä maloletých, vôbec existujú. Správanie týchto adolescentov by sme nemali vnímaÅ¥ ako ojedinelý incident. Ich rozhodnutie sexualizovaÅ¥ a ponižovaÅ¥ svoje spolužiaÄky by sme mali skôr interpretovaÅ¥ v širÅ¡om sociálnom kontexte, v ktorom je násilie voÄi ženám bežne prezentované ako nieÄo normálne – dalo by sa povedaÅ¥, že ako bremeno toho, že je Älovek ženou.

KeÄže technologickí giganti kÅ•mia svoje stroje informáciami presiaknutými dominantnými hodnotami a ideológiami spoloÄností, z ktorých pochádzajú, technológia iba udržiava existujúce mocenské vzÅ¥ahy. Preto napríklad systémy rozpoznávania tváre nedokážu rozpoznaÅ¥ tváre Äiernych žien a mnoho aplikácií na vyzliekanie nefunguje, keÄ sú kÅ•mené fotografiami mužov. Najdoslovnejší príklad tohto ideologického zrkadlenia možno nájsÅ¥ v dizajne novej generácie ženských sexuálnych robotiek, ktoré, ako sa dozvedáme z propagaÄného videa produktu RealDoll, „pre vás spravia vÅ¡etko“, Äo z nich v kombinácii s postavou v tvare presýpacích hodín, bielou pokožkou a personalizovanými bradavkami robí údajne dokonalé partnerky. Možno len dúfaÅ¥, že v astronomickej cene 11 349,99 dolárov za Tanyu je zahrnutý aj psychológ.

Viac než trest

Rovnako ako v prípade iných foriem rodovo podmieneného násilia, vzdelávanie o hrôzach moderných technológií zvyÄajne obsahuje odsek o tom, ako by dievÄatá a ženy mali byÅ¥ v digitálnom priestore opatrnejÅ¡ie, dávaÅ¥ pozor na to, koho prijímajú za priateľov a aké fotografie zdieľajú, pretože, viete, na internete je veľa bláznov. Namiesto toho, aby sa pozornosÅ¥ sústredila na páchateľov alebo technologické spoloÄnosti, ako je Meta, na ktorých platformách sa pravidelne inzerujú aplikácie na výrobu deepfakeov, alebo na Google a YouTube, ktorých kontrolné mechanizmy zjavne nedokážu rozpoznaÅ¥ explicitný obsah, vina sa opäť prenáša na obete. PreÄo je jediným rieÅ¡ením, ktoré vieme priniesÅ¥, návrh umlÄaÅ¥ ženy a obmedziÅ¥ ich slobodu pohybu, najprv v noci a teraz aj v digitálnom priestore?

Bates bystro dochádza k záveru, že jedinou dobrou vecou na technológii umelej inteligencie je to, že koneÄne objasnila, že obete pomstychtivej pornografie nikdy neboli zodpovedné za zloÄiny a utrpenie, ktoré im bolo spôsobené: „Veľkou iróniou je, že samotná existencia deepfakeov priamo dokazuje absurdnosÅ¥ obviňovania obetí. KeÄ sa po prvýkrát objavilo sexuálne zneužívanie prostredníctvom obrázkov, … jednou z najÄastejších reakcií na tento problém … bol samozrejme návrh, aby si ženy prestali robiÅ¥ intímne fotografie… A potom priÅ¡la technológia deepfake, ktorá úplne vyvrátila predstavu, že ženy, ktoré si nikdy nerobili intímne fotografie, sú nejako chránené pred pornografickým zneužívaním. Ako smieÅ¡ne teraz vyzerajú vÅ¡etci tí policajti, riaditelia Å¡kôl a publicisti, keÄ akákoľvek žena, kdekoľvek, bez ohľadu na to, Äi niekedy takéto fotografie robila, môže maÅ¥ stále nahé fotografie seba samej rozšírené po celom internete, ktoré sa používajú na jej viktimizáciu a zahanbenie. Kým sme boli takí zaneprázdnení kontrolovaním žien, páchatelia s radosÅ¥ou využili Äas na vývoj Äoraz sofistikovanejších nástrojov na ich „vyzliekanie“.

„Nekonsenzuálne porno“, na rozdiel od už používaného slovného spojenia „porno ako pomsta“, uznáva, že dôvod, preÄo sa niekto rozhodne zdieľaÅ¥ intímny obsah inej osoby bez jej súhlasu, môže byÅ¥ komplexnejší ako Äíra pomsta. V prípade Almendralejo bola najdôležitejÅ¡ia túžba získaÅ¥ popularitu medzi rovesníkmi. A nezabúdajme na výnosy z odvetvia, ktorého hodnota dosahuje najmenej 15 miliárd USD, priÄom niektoré nedávne odhady hovoria až o 100 miliardách USD.

Nedávny prípad týkajúci sa použitia chatbota Grok s umelou inteligenciou, produktu spoloÄnosti xAI Elona Muska, na odhaľovanie skutoÄných dospelých a maloletých, nakoniec potvrdzuje tézu, že pre technologických gigantov je zisk vždy na prvom mieste. Na Nový rok 2026 Musk zdieľal na svojej sociálnej sieti X fotografiu seba v plavkách, ktorú vytvoril pomocou Groku, a vyzval ostatných používateľov, aby urobili to isté – samozrejme nie so svojimi vlastnými fotografiami. Až potom, Äo médiá informovali o záplave kontroverzného deepfake obsahu na bývalom Twitteri, Musk pohrozil „dôsledkami“ každému, kto používa Grok na vytváranie detskej pornografie. Krátko nato zaÄal za službu tvorby obsahu pomocou umelej inteligencie úÄtovaÅ¥ poplatky. V kombinácii s oznámením generálneho riaditeľa OpenAI Sama Altmana, že ChatGPT bude Äoskoro disponovaÅ¥ režimom pre dospelých, je úplne jasné, že používanie umelej inteligencie na uspokojovanie pornografických fantázií používateľov, bez ohľadu na to, Äi sú nevinné, alebo patologické, sa intenzívne podporuje.

VÅ¡etky Älenské Å¡táty Európskej únie (EÚ) spoloÄne uznali nebezpeÄenstvo technológie umelej inteligencie. Napríklad v Chorvátsku od roku 2022 Älánok 144.a trestného zákona umožňuje odsúdiÅ¥ páchateľa, ktorý vytvoril sexuálne explicitný obsah, na jeden rok odňatia slobody, s možnosÅ¥ou predĺženia až na tri roky, ak bol záznam sprístupnený väÄÅ¡iemu poÄtu ľudí. Otázkou vÅ¡ak zostáva, ako táto jurisdikcia vyzerá v praxi. Chlapci z Almendraleja v Španielsku boli potrestaní, ale to bola skôr výnimka ako pravidlo. Hoci nenavrhujem, aby sme trestne stíhali eÅ¡te viac detí, nie je prijateľné, aby páchatelia vyviazli bez trestu, keÄ telá ich obetí zostávajú vydané na milosÅ¥ a nemilosÅ¥ nepredvídateľným internetovým prúdom, najmä keÄ asi 50 % obetí neoprávnenej pornografie uvažuje o samovražde.

Od videí maÄiÄiek, ktoré sa naháňajú po posteliach, až po znepokojujúce obrázky Donalda Trumpa s nohou Elona Muska v ústach – každý, kto si eÅ¡te nevymazal sociálne médiá, vám povie, že internet sa zmenil na žumpu naplnenú po okraj umelou inteligenciou. Zavedenie prísnejÅ¡ieho regulaÄného rámca je prvým krokom, ale len ideologická a intelektuálna zmena nás môže zachrániÅ¥ z tejto dystopickej noÄnej mory, do ktorej sa stále viac a viac ponárame. Samozrejme, je dôležité uÄiÅ¥ deti od útleho veku, ako sa orientovaÅ¥ v nebezpeÄných digitálnych vodách, ale eÅ¡te dôležitejÅ¡ie je nauÄiÅ¥ ich empatii a solidarite, aby ich nikdy nenapadlo použiÅ¥ Å¡kolské fotografie svojich spolužiaÄok na vytvorenie faloÅ¡ného pornografického materiálu.