Po spletu se širi NEVAREN pornografski trend, ob katerem te spreleti SRH (tole je grozljivo!)

Sliši se kot epizoda serije Črno ogledalo, ampak (nesporazumna) 'deepfake' pornografska epidemija, v kateri trenutno smo, je – strašljivo – resnična. Naša novinarka je raziskala, kako prirejene gole vsebine uničujejo življenja na milijone žensk …

Gledam fotografijo svojega golega telesa, ki se naslanja na ograjo hotelskega balkona na Tajskem. Zgornji del mojih denim bikini kopalk je bil zamenjan z izpostavljenimi svetlo rožnatimi bradavičkami in gladkim mednožjem brez ene dlake. Približam fotografijo, da bi poskusila ugotoviti, kaj (če karkoli) bi lahko razkrivalo resnico za tem. Okoli dela mojega pasu je območje rahlo zrnato, ampak to se lahko hitro popravi z amaterskim 'fotošopiranjem'. In to je vse. Čeprav podoba ni točno tisto, kar vidim v odsevu ogledala v resničnem življenju, prav tako ni svetlobna leta stran od tega. Nekdo bi potreboval le nekaj klikov, da bi jo pripel v elektronsko sporočilo, objavil na Twitterju ali pa masovno razposlal vsem mojim stikom.

Ali pa naložil na pornografsko stran, mene pa pustil, da bi do konca življenja živela v strahu, da me je vsaka oseba, ki jo spoznam na novo, že videla golo. Čeprav me ni. V resnici.

Ker ta fotografija, čeprav se zdi še tako prepričujoča, pravzaprav ni resnična. In vse, kar je bilo zanjo potrebno, so enostavno odkrit avtomatiziran robot, standarden počitniški utrinek in 5 evrov.

Ta podoba je 'deepfake' in del strmo rastočega trga. V bistvu lahko tehnologija umetne inteligence (ki iz dneva v dan postaja dostopnejša) vzame katerokoli fotografijo in jo spremeni v nekaj drugega. Se spomniš tistih izredno realističnih posnetkov 'Toma Cruisa', ki so postali viralni preteklo leto? 'Deepfake'. Tistih aplikacij, ki ti zamenjajo obraz (aplikacije 'face swap'), ki so nas pred časom tako obsedle? Ja, uganila si: nekoliko manj kvalitetna oblika tehnologije 'deepfake'.

Kljub njegovi razširjenosti je termin 'deepfake' (in njegovo mračno podzemlje) relativno neznan. Če na grobo pojasnimo, je v ozadju tehnologije 'deepfake', generativnih kontradiktornih mrež (ang. generative adversarial networks ali GAN), dvodelni model: generator (ki ustvari vsebino po preučevanju podobnih fotografij, zvočnih ali slikovnih posnetkov) in diskriminator (ki preveri, ali nova vsebina 'gre skozi' kot legitimna). Predstavljaj si to kot najstnika, ki ponaredi svojo osebno izkaznico in z njo želi priti v klub; če ga zavrnejo, se mora naslednjič bolj potruditi. GAN-i so sicer izjemno cenjeni zaradi svojega neverjetnega razvoja v filmski, zdravstveni in tehnološki industriji (nanje se zanašajo tudi avtomobili brez voznika) – a na žalost v resnici obstaja večja verjetnost za njihovo zlorabo (seveda v slabe namene).

Raziskava iz leta 2019, ki jo je objavilo podjetje za odkrivanje prevar Sensity, je ugotovila, da je bilo več kot 90 % vseh posnetkov 'deepfake' na spletu nesporazumnih pornografskih posnetkov, katerih žrtve so bile ženske. Predvidevali so tudi, da se bo ta številka podvojila vsakih šest mesecev. In tri leta pozneje se je ta prerokba izkazala za resnično. V času pisanja tega je samo na Googlu možno videti več kot 51 milijonov zadetkov za 'deepfake porn'. V zadnjem letu se je zanimanje za to povečalo za 31 % in nič ne kaže na upočasnjevanje. Ali to pomeni, da smo že izgubili nadzor? In če ja, kaj lahko storimo, da to ustavimo?

Kdo je žrtev?

Konec leta 2017 se je v globinah priljubljenih klepetalnic začelo kuhati nekaj zahrbtnega. Uporabniki spletnega portala Reddit so začeli masovno zlorabljati fotografije zvezdnikov in s pomočjo 'deepfake' tehnologije njihove fotografije z rdeče preproge ali družabnih omrežij vstavljati v pornografijo. Uporabniki so delili svoje metode, sprejemali zahteve (zlorabo javnih osebnosti so opravičevali kot "bolje, kot pa samozadovoljevanje na njihove resnične gole fotografije, ki so ušle v javnost") in se obveščali o novostih. Novi val pornografije je navdušil ta specifični del spleta, saj je bilo neverjetno, kako realistični so bili posnetki.

Dokler se spletni šefi, od Reddita prek Twiterja do Pornhuba, niso združili in februarja 2018 prepovedali 'deepfake' posnetke ter se zaobljubili, da bodo hitro odstranili vse, kar se bo prikradlo na splet in pristalo na njihovih straneh – predvsem zato, ker je porasla (upravičena) zaskrbljenost, da naokoli krožijo tudi politično motivirani 'deepfake' posnetki. Izseki politikov, ki naj bi spodbujali nasilje ali 'govorili' stvari, ki bi lahko uničile njihov ugled, so bili hitro označeni kot problem. Čeprav je 'deepfake' pornografija občutno (za več milijonov) prednjačila pred posnetki političnih osebnosti, je bil izgovor, da je to razlog, le postranska posledica. A to ni bilo dovolj; imena forumskih tem so se zamenjala, ustvarjalci so priredili platforme in na vrhu seznama so se tokrat znašli tudi vplivneži.

Danes stran, ustvarjena specifično za 'deepfake' pornografijo slavnih, imenovana Mr Deepfakes, beleži 13 milijonov ogledov mesečno.

Stran ima pravila, v katerih piše, da zahteva po uporabi 'deepfake' tehnologije na 'normalnih' ljudeh ni dovoljena, a vendar so klepetalnice polne napotkov, kako sam doma poustvariš to tehnologijo, prav tako pa drugi uporabniki izpolnjujejo te prošnje. V eni izmed njih sem tudi sama našla vse potrebno, da sem ustvarila strašljivo realistično golo fotografijo sebe. Pošlješ lahko fotografijo kogarkoli, najbolje v kopalkah ali spodnjem perilu, nakar te 'sleče' v nekaj minutah. Brezplačna verzija sicer ni niti malo realistična, zgodba pa je (prav neprijetno) drugačna pri plačani. Robot je tako dobro natreniran, kako sleči žensko telo, da ko sem poslala fotografijo svojega fanta (z njegovo privolitvijo), mu je tam spodaj presenetljivo namestil neverjetno realistično vagino.

Ampak kako enostavno je iti korak dlje? In kako zabrisana je etična meja, ko gre za slavno osebnost v primerjavi z normalno (seveda je oboje kršitev)? V želji, da bi to ugotovila, sem šla pod krinko in se predstavila kot moški, ki bi rad "sodelavko s pomočjo 'deepfake' tehnologije vstavil v pornič". Že kmalu sem spoznala osebo z vzdevkom BuggedBunny*, ustvarjalca 'deepfake' pornografije, ki svoje storitve oglašuje v številnih klepetalnicah – in mi je izrecno povedal, da najraje dela posnetke, v katerih uporablja 'resnične' ženske.

Ko sem ga vprašala po dokazu njegovih veščin, mi je poslal fotografijo ženske v njenih dvajsetih. Imela je čokoladno rjave lase, sramežljiv pogled, na fotografiji pa je opravljala naloge poročne družice. BuggedBunny mi je nato povedal, da je to fotografijo uporabil v dveh pornografskih posnetkih. Po elektronskem sporočilu mi je poslal povezavo na Dropbox: v enem videu družica očitno (čeprav z nekaj napakicami) skupinsko seksa z moškimi; v drugem pa nekoga oralno zadovoljuje. Čeprav lahko vidiš, da gre za lažne posnetke, je presenetljivo videti, kaj lahko ustvarimo iz ene enostavno pridobljene fotografije. Ko BuggedBunny zahteva fotografije dekleta, za katerega želim, da ga obdela z 'deepfake' tehnologijo, mu odgovorim s fotografijo sebe, na kateri sem oblečena, in v hipu odgovori: "Mater, njo pa bi obdelal, haha!" (fuj) in prosi za enkratno plačilo v višini 45 evrov. V zameno mi obljubi, da bo naredil toliko fotografij in posnetkov, kolikor jih bom želela. Vpraša me celo, kakšno pornografijo imam raje. Ko mu odgovorim, ali lahko narediva tako, da je videti, kot da jo nekdo 'od zadaj', mi reče: "Imam ogromno posnetkov, ki jih lahko uporabiva za to, stari, lahko se zaneseš name."

Razmišljam o družici in se sprašujem, ali se ji sploh sanja, da jo je nekdo želel videti v pornografski sceni. Se je bolje narediti nevednega? Je bilo to storjeno zato, da bi jo ponižali, izsiljevali ali za čisto seksualno zadovoljstvo? In ali se odraslim igralcem v originalnem posnetku sploh sanja, kaj počnejo z njihovim delom? Zdi se, da ti ljudje (nekateri od njih so morda resnično mladi; ko sem namreč BuggedBunnyja povprašala o aplikaciji, prek katere mu nakažem denar, mi je rekel: "Je popolnoma legitimno! Moj oče jo uporablja ves čas.") – tako tisti, ki ustvarjajo 'deepfake' pornografijo, kot tisti, ki jo zahtevajo – živijo v virtualnem svetu, kjer njihova dejanja nimajo resničnih posledic. Pa vendar jih imajo. Kako naj dosežemo, da bodo to sprevideli?

Resnična lažna pornografija

Nekega tihega zimskega popoldneva, ko je bil njen sin v vrtcu, je 36-letno pesnico in pisateljico Heleno* presenetil zvonec na vratih. Bilo je sredi popolnega zaprtja, zato ni pričakovala obiskov ali dostave paketov. Ko je Helena odprla vrata, je tam stal znanec – videti je bil zaskrbljen. "Mislila sem, da je nekdo umrl," razloži. A tisto, kar je sledilo, je bila novica, ki je niti slučajno ni pričakovala. Vprašal jo je, ali lahko stopi naprej.

"Prej sem bil na pornografski strani in tam videl … tvoje fotografije," ji je moški zaskrbljeno rekel, medtem ko sta se usedla. "In zdi se, kot da so tam že več let. Tudi tvoje ime je zabeleženo."

Najprej je bila zmedena; besedici 'maščevalna pornografija' (kadar se delijo gole fotografije in posnetki brez soglasja) sta ji spreleteli um. A vendar se Helena nikoli prej ni fotografirala gola, kaj šele, da bi jih poslala osebi, dovolj brezčutni, da bi jih dala v javnost. Zato ni bilo možnosti, da gre zanjo.

"Tisti dan sem izvedela, kaj pomeni 'deepfake'," mi pove Helena. Ena njenih neprimernih fotografij je bila posneta med njeno nosečnostjo. Na drugi ji je nekdo celo dodal tatu, na njej je bil dodan njen obraz. Čeprav so bile fotografije lažne, to ni zmanjšalo vpliva njihovega obstoja na Helenino življenje. "Tvoj prvi odziv je sram in strah. Nisem želela zapustiti doma. Spomnim se, da sem hodila po ulici in nisem mogla nikogar pogledati v oči, saj sem bila prepričana, da so fotografije vsi videli. Počutiš se zelo, zelo izpostavljenega. Jeza takrat še ni udarila ven."

Krivca niso nikoli ujeli. Helena se je morala s posledicami spopasti sama. "Več mesecev sem bila zaprta vase. Še vedno uživam visoko dozo antidepresivov." Vse skupaj je prijavila policiji, ki jo je najprej podpirala, a naposled je bil primer opuščen. Anonimna oseba, ki je ustvarila to 'deepfake' pornografijo, ji nikoli ni poslala nobenega sporočila, zato ni bilo osnove za kakršnokoli nadlegovanje ali namerno škodovanje. Sčasoma je našla moč, da je napisala pesem, v kateri je podrobno opisala svojo izkušnjo in začela peticijo za preoblikovanje zakona glede zlorabe fotografij; izjemno težko je namreč preganjati nekoga zaradi uporabe 'deepfake' tehnologije na osnovi spolne zlorabe (čeprav gre v resnici prav za to: digitalno spolno zlorabo).

V nasprotju s Heleno pa je v enem izmed izjemno redkih primerov 32-letni Tini* vendarle uspelo razkriti moškega, ki je leta 2015 na pornografsko stran naložil njene predelane fotografije.

"Nekatere so bile jasno lažne, saj sem na njih imela gigantske prsi in slabo pritrjeno glavo; druge pa bi lahko zamenjali za prave. Kakorkoli, bilo je ponižujoče," se spominja. "In grozno. Sprašuješ se, zakaj bi ti nekdo naredil kaj takšnega. Četudi ne gre za resnične fotografije, se ob njih počutiš neprijetno, napadeno."

Tudi Tini je za to povedal prijatelj. Na začetku se je temu smejala, saj so bile nekatere fotografije res slabo obdelane. "Nato pa sem pomislila, kaj če jih nekdo vidi in misli, da sem se strinjala z njimi? Moje ime je bilo prav tako na tisti strani." Tako je preverila profil osebe, ki jih je objavila, in ugotovila, da je bila žrtev tudi njena bivša sodelavka. "Pomislila sem, da gre najbrž za moškega, s katerim sva obe delali. Resnično si nisem želela verjeti, da je on." V Tininem primeru je policija najprej vzela zadevo resno in storilca osebno obiskala, nato pa je komunikacija zamrla – ne ve, ali je obtožba kadarkoli šla naprej, a dvomi. "Po besedah policije se je zlomil in prosil za pomoč zaradi svojega mentalnega zdravja," pove Tina. "Počutila sem se krivo, a hkrati sem vedela, da sem morala prijaviti, kar se je zgodilo. Še vedno me je strah, da se lahko ponovi, in zdaj, ko je 'deepfake' tehnologija tako dostopna, me skrbi, da se lahko zgodi komurkoli."

In to je tudi bistvo vsega. Lahko se zgodi komurkoli in verjetno tega sploh vedeli ne bomo, razen če bo nekdo na to naletel in nam povedal, kot se je to zgodilo Tini in Heleni.

Na podoben način je bila letos žrtev tudi 25-letna irska političarka Cara Hunter. Pornografski posnetek, v katerem je zaigrala oseba s podobnimi lasmi in zakritim obrazom, je bil po WhatsAppu posredovan naprej več tisočkrat – poleg resničnih fotografij Care v kopalkah. Vse se je dogajalo ravno med volitvami, in čeprav Cara ne ve, kdo je začel video deliti in govoriti, da je na njem ona, je bilo verjetno politično motivirano.

"Takšne taktike in 'deepfake' pornografija lahko preprečijo še najboljšim ženskam, da pridejo na to področje," pojasnjuje in dodaja, da je bil trenutek, ko je morala povedati svojemu očetu, kaj se je zgodilo, najhujši v njenem življenju. "Na ulici so me ustavljali moški in me spraševali po oralnem zadovoljevanju, na Instagramu sem prejemala komentarje, kot je 'poredna punca' – nato pa si kliknil na profile teh ljudi, ki so to pisali, in so imeli družine, otroke. S pomočjo seksualnosti kot orožja so me poskušali objektivizirati in ponižati. S tem ti lahko v hipu uničijo sloves." Cara pravi, da je najhuje to, da imamo vsi mobitele, a zakoni še zmeraj narekujejo, da čeprav ti oseba ne more škodovati v javnosti, ti lahko legalno poskuša uničiti življenje na spletu.

A to ne more biti rešitev – da morajo ženske ponovno svoja življenja popolnoma prilagoditi v upanju, da ustavijo moške pred kriminalnimi dejanji. Pa vendar prav tako ne moremo le zapreti oči in upati, da bo šlo vstran.

'Deepfake' pornografija je tukaj in zdaj (in je prav tako simptom širšega problema: Europolovi strokovnjaki namreč predvidevajo, da bo do leta 2026 kar 90 % medijev, ki nas obkrožajo, sintetično generiranih).

Spletne strani težko odkrijejo vse podobe, ustvarjene s tehnologijo 'deepfake' – in čeprav se fotografije odstranijo, obstaja verjetnost, da jih je nekdo že delil naprej.

Uporabniki Reddita imajo jasno politiko, ki prepoveduje deljenje intimnih in eksplicitnih vsebin osebe brez njenega dovoljenja. "Še naprej bomo odstranjevali vsebino, ki krši našo politiko, in ukrepali proti uporabnikom in skupnostim, ki to počnejo," so povedali. Pogovor s Henryjem Ajderjem, vodilnim strokovnjakom za 'deepfake', o tem, kako se lahko zaščitimo – in kaj se mora spremeniti – odpira oči. "Redko vidim, da so žrtve moški zvezdniki, pa še to gre običajno za gej skupnost. Na tej točki predvidevam, da je bilo že več deset milijonov žensk žrtev 'deepfake' pornografije." Dodaja, da bodo seks, zaupanje in tehnologija postali le še bolj prepleteni, in razkriva, da realistični virtualni bordeli danes že obstajajo. "Najbolje, kar lahko naredimo, je, da se potrudimo tovrstno vedenje potisniti v bolj skrite kotičke interneta, ljudem – še posebej otrokom in najstnikom – preprečiti, da nanj naletijo."

Splet je ogromen prostor, ki ga je težko nadzorovati. Letos se je zakonodajna komisija začela ukvarjati s spletno varnostjo, pri čemer se trudi, da bo 'deepfake' pornografija postala prepoznana kot kriminalno dejanje – a vendar nas čaka še dolga pot. Do takrat pa bomo potrebovali kombinacijo vključenosti in truda tehnoloških podjetij, da identificirajo in preprečijo vsebine, ustvarjene s pomočjo 'deepfake' tehnologije. Pa tudi pozneje ne bomo imeli magične paličice, ki bo kar popravila vse. Čeprav dnevno na spletu preživimo več ur, kot družba še vedno menimo, da sta 'online' in 'offline' dva ločena svetova – pa nista. 'Online' se lahko naša morala nekoliko razprši, kriminalna dejanja se pogosto ne preverjajo, in čeprav ima 'resnično življenje' zakone, ki nas lahko do neke mere zaščitijo, še zmeraj potrebujemo radikalno prevetritev, ko gre za to, kako družba vidi žensko telo. 'Deepfake' pornografija je zadnji žebelj v krsto enakopravnosti in nadzora nad svojo lastno podobo; čeprav nikoli v življenju nisi posnela gole fotografije (nekaj, kar bi sicer morali početi brez skrbi, da bi zatavale na napačna mesta), si še zmeraj lahko žrtev in tvojo seksualnost uporabijo proti tebi. Kaj ni že čas, da se osredotočimo na to, da zadevo v celoti 'fotošopiramo' iz družbe?

Po predlogi Jennifer Savin prevedla in priredila N. Š.

"Preselil sem se k punci, nato pa v njeni omari odkril ZBIRKO ..." (izpoved šokiranega fanta)