Pornografija bez pristanka u AI doba

Japanese Schoolgirls Shot in Breast. Sexy HouseWife Shot in Breast. Female Reporter Tragic End. Headshot AI. Sve su to nazivi videa koje je osoba skrivena iza profila Woman Shot A.I objavljivala na YouTubeu od 20. lipnja 2025. pa sve do sredine rujna, kada je umjetnom inteligencijom proizveden sadržaj na kojem žene mole za milost nekoliko sekundi prije no Å¡to ih se zakolje, propuca kroz prsa ili glavu konaÄno uklonjen. Profil je imao preko tisuću pratitelja i viÅ¡e od 175 000 pregleda. Da stvari budu joÅ¡ mraÄnije, Woman Shot A.I svoje je fantazije oživio pomoću Google AI Studio mehanizma pod imenom Veo 3, promoviranog kao alat sposoban generirati visoko realistiÄni sadržaj bogatog zvuka i joÅ¡ bogatijih detalja, s ciljem ostvarivanja svih naÅ¡ih najambicioznijih kreativnih vizija i ideja.

Dakle, ne priÄamo o internetskom podzemlju gdje se odlazi u nabavku po tuÄ‘e prljave gaće, ketamin i streljivo, nego o globalnoj videoplatformi koju svakodnevno koriste milijuni odraslih i djece (istraživanja pokazuju da djeca u dobi od druge do 12. godine u prosjeku provedu 106 minuta dnevno na YouTubeu). ÄŒinjenica da nijedan postojeći mehanizam provjere nije uspio detektirati problem, prvo u Veo 3 studiju koji navodno blokira sve naredbe u sukobu s Googleovim pravilnikom i smjernicama, a potom i na YouTubeu, samo pokazuje koliko se nasilje prema ženama u naÅ¡em druÅ¡tvu shvaća ozbiljno. Sporni je profil uklonjen tek nakon Å¡to je nezavisni medijski portal 404 Media izvijestio o sluÄaju te od YouTubea zatražio oÄitovanje. Odnosno, tek nakon Å¡to je Woman Shot A.I postao potencijalni PR problem. Dok su punili kesu, na papiru izrijekom zabranjeni seksualno eksplicitni i nasilni sadržaji bez problema su prolazili ispod radara.

Umjetnom inteligencijom producirani vizuali koji nemaju uporiÅ¡te u stvarnosti (vratit ću se na ovu konstrukciju) nazivaju se deepfakeom, a već prvi zabilježeni kontekst koriÅ¡tenja tog izraza razotkriva njegovu prvotnu namjenu. Naime, rijeÄ deepfake isprva služi za opisivanje tehnologije uz pomoć koje Älanovi subreddita „r/deepfakes†joÅ¡ 2017. godine lijepe lica slavnih žena na postojeće pornografske uratke. Panika koja se diže oko prodora umjetno kreiranog sadržaja u svaku sferu naÅ¡ih života, uglavnom kroz vene druÅ¡tvenih mreža, usredotoÄena je primarno na politiÄki kontekst te na razorni potencijal tehnologije koja se već poÄela koristiti za ispisivanje lažne povijesti, širenje mržnje te proganjanje pojedinaca_ki i ciljanih druÅ¡tvenih skupina. No rijetko tko s jednakom ozbiljnošću pristupa problemu koriÅ¡tenja umjetne inteligencije s ciljem ponižavanja i zastraÅ¡ivanja žena, odnosno za proizvodnju i raspaÄavanje mizoginije, primarno kroz deepfake pornografske uratke, a potom i oživljavanjem femicidnih fantazija uz pomoć aplikacija i programa svima nadohvat prstu, Äemu nas uÄi recentni sluÄaj s Woman Shot A.I.

Nije sluÄajnost to Å¡to spomenuti naslovi kontroverznog deepfake sadržaja (Japanese Schoolgirls Shot in Breast, primjerice) zvuÄe kao križanci crne kronike i PornHuba. U svakom se od 27 uklonjenih videa nad prestravljenom ženom, nerijetko bujnog poprsja, nadvija prijeteća figura muÅ¡karca publici okrenutog leÄ‘ima, koji u rukama drži piÅ¡tolj i razbacuje se mecima.

Statistika nas redovito poduÄava da fantazija o ubijanju i sakaćenju ženskog tijela nije nova, baÅ¡ kao ni pokuÅ¡aj da se žene diskreditira i kontrolira dovoÄ‘enjem u vezu sa seksom i seksualnošću. Cilj ostaje isti, samo su sredstva i metode danas tehnoloÅ¡ki sofisticiranije, pa se tako svatko s par dolara na kartici i malo dobre volje može osvetiti bivÅ¡oj partnerici tako Å¡to će je skinuti uz pomoć umjetne inteligencije i s prijateljima na WhatsAppu podijeliti njezine goliÅ¡ave snimke. Treba mu samo nekoliko njezinih fotografija, Å¡to u doba visoke tehnoloÅ¡ke ovisnosti uglavnom ne predstavlja problem, i voilà. U trenutku kada žrtva shvati Å¡to se dogodilo, ako ikada uopće i sazna, već je prekasno.

Pornografski uradci, baÅ¡ kao i žohari, imaju sposobnost zavući se duboko u raÄunala, laptope i drugu elektroniÄku opremu, u cloudove i digitalne smoÄnice, sposobni preživjeti Äak i nuklearnu katastrofu. Koliko god voljeli za sebe misliti da smo sposobni razaznati pravu od umjetnom inteligencijom proizvedene stvarnosti, Äinjenica je da AI uÄi i napreduje tolikom brzinom da već uspijeva prevariti Äak i oÄi tehnoloÅ¡ki najpotkovanijih. U praksi to znaÄi da se granice naÅ¡ih svjetova sve viÅ¡e zamagljuju. ÄŒak i ako se neÅ¡to nije dogodilo, postaje dijelom naÅ¡e stvarnosti već samim time Å¡to s takvim sadržajem dolazimo u interakciju i konzumiramo ga. Dakle, umjetnom inteligencijom proizvedena zbilja ima stvarne posljedice, Å¡to je i razlog zbog kojeg žrtve deepfake pornografije svoju situaciju nerijetko usporeÄ‘uju sa silovanjem.

Deepfake postaje sredstvo ucjene, manipulacije i zastraÅ¡ivanja, o Äemu svjedoÄe i sluÄajevi poput onih koje u svojoj knjizi The New Age of Sexism (2025) opisuje britanska novinarka i aktivistica Laura Bates. Naime, Bates Äitatelje_ice vodi u sanjivi Å¡panjolski gradić Almendralejo gdje se u rujnu 2023. godine viÅ¡e od 20 djevojÄica viÅ¡ih razreda osnovne Å¡kole naÅ¡lo na meti AI napada. Njihove gole fotografije, kreirane aplikacijom ClothOff, poÄele su kolati lokalnim WhatsApp grupama i online, zbog Äega su mnoge žrtve (najmlaÄ‘a je tada imala tek 11 godina) danima odbijale izlaziti iz kuće. PoÄinitelji su identificirani kao skupina lokalnih djeÄaka, njihovih vrÅ¡njaka, koji su traumatizirali Äitavu jednu generaciju žena iz Äiste dokolice. No prije no Å¡to krenemo drvljem i kamenjem na njih, mislim da je puno važnije pozabaviti se Äinjenicom da uopće postoje javno dostupne aplikacije za razgolićivanje bilo koga, a pogotovo maloljetnika_ca. Na ponaÅ¡anje tih djeÄaka ne treba gledati kao na izolirani sluÄaj, nego se njihova odluka da seksualiziraju i ponize svoje Å¡kolske kolegice treba tumaÄiti u svjetlu Å¡ireg druÅ¡tvenog konteksta u kojem se nasilje prema ženama redovito predstavlja kao neÅ¡to uobiÄajeno. Breme bivanja ženom, reklo bi se.

Budući da tehnoloÅ¡ki giganti maÅ¡ine hrane informacijama prožetima dominantnim vrijednostima i ideologijama druÅ¡tava iz kojih potjeÄu, tehnologija samo nastavlja perpetuirati postojeće odnose moći. To je i razlog zbog kojeg, primjerice, sustavi prepoznavanja ne uspijevaju detektirati lica crnkinja, a mnoge aplikacije za razgolićivanje ne funkcioniraju kada se u njih ubace fotografije muÅ¡karaca. Najdoslovniji primjer tog ideoloÅ¡kog preslikavanja ogleda se u dizajnu nove generacije ženskih seks-robota koji će, saznajemo iz promotivnog RealDoll videa, sve napraviti za svog muÅ¡karca, Å¡to ih, u kombinaciji s figurom pjeÅ¡Äanog sata, bijelom kožom i personaliziranim bradavicama, navodno Äini savrÅ¡enim partnericama. Možemo se samo nadati da su u cijenu od nemalih 11 349,99 $ (koliko, primjerice, koÅ¡ta Tanya) ukljuÄene i konzultacije s psihologom_injom.

Kao i s drugim oblicima rodno uvjetovanog nasilja, edukacija o hororima moderne tehnologije uglavnom ukljuÄuje i pasus o tome kako bi djevojÄice, djevojke i žene trebale biti opreznije u digitalnom prostoru, pripaziti koga sve prihvaćaju za prijatelje te kakve fotografije objavljuju, jer, znate, na internetu ima puno luÄ‘aka. Umjesto da se naglasak stavi na poÄinitelje, na tehnoloÅ¡ke kompanije poput Mete, na Äijim se stranicama redovito oglaÅ¡avaju aplikacije za proizvodnju deepfakea, ili pak na Google i YouTube, Äiji kontrolni mehanizmi oÄito ne uspijevaju prepoznati eksplicitni sadržaj, krivnja se ponovno prebacuje na žrtve. ZaÅ¡to je jedino rjeÅ¡enje kojeg se možemo dosjetiti prijedlog da se žene uÅ¡utka i da im se ograniÄi pravo kretanja, prvo noću, a sada i digitalnim prostorima? Laura Bates pronicljivo zakljuÄuje kako je jedina dobra stvar u vezi AI tehnologije to Å¡to je sada napokon jasno da žrtve osvetniÄke pornografije nikada nisu snosile krivnju za zloÄin i patnju kojoj su podvrgnute.

ÄŒini mi se da je izraz „pornografija bez pristanka†mnogo bolji od „osvetniÄke pornografije†jer postoje i drugi razlozi osim osvete zbog kojih bi netko s drugima bez dopuÅ¡tenja odluÄio podijeliti tuÄ‘i intimni sadržaj. Jedan od njih jest i ostvarivanje profita, s obzirom na to da je rijeÄ o industriji teÅ¡koj najmanje 15 milijardi $, ili, kao u sluÄaju iz Almendraleja, želja da se uživa veća popularnost meÄ‘u vrÅ¡njacima.

Hrvatska je meÄ‘u zemljama koje su prepoznale opasnost AI tehnologije, pa tako od 2022. godine za poÄinitelje kaznenog djela manipulacije (eksplicitnim) sadržajem Älanak 144.a KZ predviÄ‘a kaznu zatvora u trajanju od jedne godine, odnosno do tri ako je snimka postala dostupna većem broju ljudi, no pitanje je kako to izgleda u praksi. DjeÄaci iz Almendraleja kažnjeni su, ali rekla bih kako je to viÅ¡e iznimka no pravilo. Ne kažem da je rjeÅ¡enje kazneno goniti djecu, ali nije u redu da poÄinitelji proÄ‘u neokrznuti kada su tijela njihovih žrtava ostavljena na milost i nemilost predatorima i nepredvidljivim internetskim strujama. Reći ću samo da oko 50 posto žrtava pornografije bez pristanka razmiÅ¡lja o samoubojstvu.

Od videa u kojima se maÄke naganjaju po krevetu pa sve do zastraÅ¡ujućih prizora Donalda Trumpa sa stopalom Elona Muska u ustima, svatko tko joÅ¡ nije izbrisao druÅ¡tvene mreže reći će vam da se internet u 2025. pretvorio u septiÄku jamu do vrha ispunjenu AI proljevom (slobodni prijevod izraza AI slop). Svaki put kada pokrenemo aplikaciju pomoću koje možemo vidjeti kako bi naÅ¡a maÄka izgledala da je sredovjeÄni muÅ¡karac, svoj boravak na Zemlji pretvaramo u joÅ¡ veći pakao. I doslovno i figurativno, s obzirom na koliÄinu vode koja se potroÅ¡i svakim naÅ¡im promptom. UvoÄ‘enje strožeg regulativnog okvira prvi je korak, no iz ove nas distopijske noćne more u koju sve dublje zapadamo može spasiti samo ideoloÅ¡ki i misaoni zaokret. Naravno, nužno je djecu od malih nogu poduÄavati kako navigirati opasnim digitalnim vodama, ali joÅ¡ važnije je uÄiti ih empatiji i solidarnosti kako im nikada ne bi palo na pamet jednoga dana iskoristiti školske fotografije svojih kolegica da naprave lažni pornografski uradak.

A koliko je dug put ispred nas demonstrirao je i nedavni sluÄaj koriÅ¡tenja AI chatbota Grok, proizvoda s potpisom kompanije xAI Elona Muska, za niÅ¡ta drugo doli za skidanje stvarnih odraslih osoba i maloljetnika_ca. Naime, na Novu godinu Musk je na svojoj druÅ¡tvenoj mreži X podijelio svoju fotografiju u bikiniju produciranu upravo uz pomoć Groka, Å¡to je potaknulo i druge korisnike da uÄine isto. Ali, naravno, ne sa svojim fotografijama. Tek nakon Å¡to su mediji izvijestili o lavini kontroverznog deepfake sadržaja na bivÅ¡em Twitteru, Musk je svima koji Grok koriste za kreiranje maloljetniÄke pornografije zaprijetio „posljedicamaâ€. Ubrzo potom poÄeo je naplaćivati uslugu proizvodnje AI sadržaja na Groku, Å¡to je samo joÅ¡ jedna potvrda teze o tome kako je (tehnoloÅ¡kim) gigantima profit uvijek na prvome mjestu. Kada se tome pridoda i najava izvrÅ¡nog direktora OpenAI-a Sama Altmana o tome kako će ChatGPT uskoro imati adult mode, jasno je kao dan da se koriÅ¡tenje umjetne inteligencije za ostvarivanje korisniÄkih pornografskih fantazija, neovisno o tome jesu li one nevine ili patoloÅ¡ke, itekako ohrabruje.

 

Tekst je objavljen u sklopu temata ‘Rodna prizma za ravnopravnije druÅ¡tvo' koji je sufinanciran sredstvima Fonda za poticanje pluralizma i raznovrsnosti elektroniÄkih medija.