Pornografia neconsensuală creată cu ajutorul deepfake reprezintă 98% din totalul video-urilor realizate cu acest tip de tehnologie. În 99% din cazuri victimele sunt femei şi fete.
Fenomenul a ajuns cunoscut sub numele de deepfake porn și de la o zi la alta devine din ce în ce mai sofisticat. În tot acest timp, din ce în ce mai multe persoane devin victime: fotografii ale lor absolut banale sunt transformate în câteva minute în nuduri sau video-uri cu conținut sexual explicit și distribuite online. Generarea acestui conținut a devenit o nouă formă de bullying în școli, chiar și în rândul copiilor de 11-12 ani.
Timp de trei luni, am analizat postările publicate pe un forum românesc dedicat fanteziilor sexuale ale bărbaților, pentru a vedea cum este folosită această tehnologie în manosfera din România. Membrii platformei respective creează conținut pornografic cu ajutorul deepfake, fără consimțământul femeilor care apar în acele imagini. Utilizatorii preiau imaginile de pe conturile lor de socializare și le „dezbracă” virtual cu ajutorul unora dintre membri, care acceptă „cereri pentru deepfake” și care știu să folosească aplicațiile pentru producerea lor.
Printre victime se numără zeci de celebrități, unele dintre ele abia trecute de vârsta majoratului, dar și femei obișnuite, care probabil nici măcar nu știu că apar în ipostaze pornografice pe internet. Unele par minore, lucru pe care-l spun spun chiar și membrii grupului. În discuții, bărbații împart între ei poze nud primite în conversații private de la prietenele lor sau femei cu care vorbesc online.
Am stat de vorbă cu părinții unei eleve care, la 13 ani, a aflat că în grupul de prieteni circulau nuduri deepfake cu ea. Adolescenții obişnuiau să le facă fetelor poze în parc, când ieşeau cu bicicleta, apoi le „dezbrăcau” într-un minut cu o aplicație extrem de accesibilă.
Am discutat cu activişti, psihoterapeuți şi reprezentanți ai instituțiilor, ca să aflăm dacă există sprijin pentru fetele și femeile care devin victime ale acestui fenomen şi dacă legiuitorii sunt pregătiți.
„Uite, minunile tehnologiei”
Undeva prin 2022, Alexandra a primit un mesaj pe Messenger de la amicul ei cu care vorbea constant. El locuia în Polonia, ea în România, dar păstrau o relație de prietenie la distanță.
„Uite, minunile tehnologiei”. Cam așa suna mesajul care însoțea o fotografie primită de la amicul respectiv și setată să dispară în câteva secunde. În momentul în care a deschis imaginea, Alexandrei i s-a făcut rău fizic. Era o poză cu ea complet goală.
„Primul meu gând a fost: «Când am făcut așa ceva?». Nu am apucat să văd prea mult. A fost un șoc”, își amintește tânăra la aproape doi ani de la acel moment.
Bărbatul luase fotografia de pe contul ei de Instagram, fără permisiunea ei. A aflat de la el că „o dezbrăcase” cu ajutorul unei aplicații care folosea tehnologie deepfake, de aceea arăta atât de real.
Pe moment, Alexandra nu a știut cum să reacționeze. Voia doar să se asigure că bărbatul nu va da mai departe imaginea, așa că a încercat să-și păstreze calmul și prietenia aparentă cu el.
„Nu știu ce s-a întâmplat cu poza aia”, continuă tânăra. „Nu cred că a șters-o. Sunt destul de sigură. Nu am nicio confirmare că nu e postată pe undeva”.
În cazul Alexandrei era vorba de un deepfake nude, care urmează același raționament ca deepfake porn, adică video-urile pornografice create cu același tip de tehnologie. Diferă doar rezultatul final.
„Deepfake-urile sunt imagini sau video-uri hiperrealiste, create cu ajutorul inteligenței artificiale (IA), prin care poți să portretizezi o persoană făcând lucruri pe care nu le-a făcut în realitate”, spune definiția dată într-un articol publicat în Technology Innovation Management Review.
Deepfake-ul este produs cu ajutorul unei Rețele Adversare Generative (Generative Adversarial Network, prescurtat GAN), formată mai exact din două rețele neurale artificiale, care reușesc să producă un tip de conținut media care arată real. Se numesc „adversare” pentru că sunt construite dintr-un model generator și unul discriminator, care funcționează unul împotriva celuilalt.
Modelul generator trebuie să creeze date noi și să păcălească discriminatorul, în timp ce modelul discriminator trebuie să arate dacă imaginile sunt false sau reale și să-și depășească adversarul.
Pentru că cele două modele sunt construite pentru a concura unul cu celălalt, rezultatul final ajunge să fie cât se poate de realist.
Deepfake porn, armă împotriva femeilor
În ultimii ani, această tehnologie a fost analizată în spațiul public, cu accent pe potențialul impact asupra alegerilor din anul superelectoral la nivel global 2024 și riscul pe care-l reprezintă falsurile asupra democrației. Prea puțin se vorbește însă despre deepfake-urile care n-au conținut electoral, deși sunt extrem de numeroase.
O cercetare realizată în 2023 de Home Security Heroes, companie specializată în găsirea unor soluții de securitate, arată că din cele 95.280 de clipuri deepfake, care reprezintă totalul de video-uri publicate online în acel moment, 96% reprezentau conținut pornografic. Dintre toate acestea, în 99% de cazuri victimele sunt femei.
Datele sunt confirmate de numeroasele forumuri dedicate fanteziilor sexuale ale bărbaților, unde ei cer și fac schimb de poze nud cu femei. Le găsești la un simplu search pe Google. Se observă și în creșterea numărului de aplicații care pot dezbrăca pe oricine în câteva minute, pentru doar zece lei. Unele chaturi de Telegram îți dau două încercări gratis, după care trebuie să plătești în funcție de ce rezultat vrei să obții.
Cazurile celebrităților sau politicienelor care au apărut în deepfake porn arată că ne confruntăm cu o problemă reală, a cărei rezolvare pare să fie departe.
A trecut prin asta premiera Italiei, Giorgia Meloni, care a găsit imagini pornografice contrafăcute cu ea pe un site pentru adulți. A cerut despăgubiri de 100.000 de euro de la cei doi bărbați care au creat acel clip. A depus mărturie în iulie împotriva lor, iar dacă va avea câștig de cauză, plănuiește să doneze banii unei organizații care luptă împotriva violenței domestice.
Cu siguranță cel mai mediatizat caz e cel al cântăreței superstar Taylor Swift, de la începutul anului, când cineva a postat mai multe imagini explicite cu ea pe platforma X, fostă Twitter. Fanii ei s-au mobilizat să raporteze imaginea, așa că răspunsul rețelei de socializare a fost mai rapid decât în alte cazuri, pe care le-a ignorat total.
Cu toate că deepfake-urile se răspândesc deja de câțiva ani buni, lumea nu le-a acordat atât de multă atenție în primii ani pentru că tehnologia era încă rudimentară.
Primul deepfake a fost postat într-un thread de Reddit, în decembrie 2017. Era vorba despre un clip explicit sexual și, chiar dacă platforma a șters toate mesajele, imaginile s-au răspândit ușor și prin alte părți ale internetului.
Diferența dintre acel moment și zilele noastre e că acum devine tot mai greu să distingi realul de fals, iar tehnologia e mult mai rafinată și accesibilă tuturor.
Cel mai mare site dedicat pornografiei create cu ajutorul deepfake*, al cărui logo este imaginea lui Donald Trump, a avut 27 de milioane de accesări în luna aprilie. Acolo găsești clipuri cu vedete din România, Marea Britanie, Statele Unite ale Americii, dar și cu persoane obișnuite. Site-ul a fost interzis în Marea Britanie în urmă cu două luni.
Pe cât e de simplu şi ieftin să creezi imagini deepfake, pe atât de anevoios şi obositor este pentru victime procesul prin care trebuie să treacă pentru a da jos o astfel de imagine jos de pe internet.
Încă nu este clar, inclusiv la nivel global, cui se pot adresa instituțional, dacă există vreo speranță ca platformele să șteargă clipurile respective sau dacă va înțelege cineva prin ce trec. Dacă situația este confuză peste tot în lume, în România lucrurile se complică și mai tare atunci când vorbim despre felul în care reacționează autoritățile la diferite probleme care țin de noi tehnologii sau internet.
Deepfake nude sau noua față a bullying-ului
Raluca se numără printre femeile care nu au știut unde ar trebui să facă o plângere. Într-o zi, în urmă cu aproximativ șase luni, Mara*, fiica ei de 13 ani, a venit la ea să-i arate o imagine pe telefon. Erau mai multe fotografii în care apărea dezbrăcată, pe un grup creat de alți băieți de vârsta ei.
„Dacă te uitai atent, observai că sunt fake, că nu se legau bine imaginile, nu se vedeau umbrele cum trebuie. De la distanță, totuși, păreau destul de reale”, îmi povestește mama fetei.
Mara* avea mai mulți prieteni cu care ieșea cu bicicletele. Din acel grup făceau parte și câțiva băieți. Aflase de un deepfake nude pe care unul dintre ei îl crease ca răzbunare pentru fosta lui prietenă, care făcea și ea parte din același anturaj. Până la acel moment, credeau că era vorba de un episod izolat.
„După aceea a aflat că era un grup de băieți care făceau asta drept amuzament, cu toate fetele pe care le cunoșteau”, explică Raluca. „Părinții uneia dintre ele s-a dus la poliție. Ni s-a spus să ținem secret și n-am mai primit niciun semn”.
Le făceau poze când ieșeau împreună în parc, iar apoi le foloseau fețele ca să le pună pe corpurile altor femei.
Mama Marei a luat legătura cu asociația ANAIS. Nu era pentru prima dată când asociația auzise de victime ale deepfake porn sau deepfake nude, însă din cauza vârstei foarte mici a celor care au produs conținutul nu credeau că ar putea să suporte vreo consecință.
Raluca nu știe dacă imaginile au fost transmise mai departe de conversația de WhatsApp a grupului de copii. Tot ce știu este că băieții foloseau acel grup ca să distribuie între ei imaginile și să râdă împreună de fetele din colectivul lor extins. Mama uneia dintre prietenele Marei a mers la Poliție în urmă cu aproximativ șase luni, însă până la acest moment nu au primit vreo informație în legătură cu cazul lor.
Primul proces din România deschis ca urmare a unui deepfake prezintă o situație oarecum similară.
O elevă minoră a pus fața unui coleg pe corpul unui actor dintr-un clip porno, pe care l-a urcat ulterior pe YouTube. Judecătorii au decis că părinții ambilor copii trebuie să plătească 5.000 de lei daune reciproce – părinții fetei pentru că a creat și distribuit acel deepfake porn, iar părinții băiatului pentru că a insultat-o când a aflat de existența videoclipului.
Adolescentele, dar și unii adolescenți din întreaga lume se confruntă cu realitatea în care colegii le iau pozele de pe social media și le transformă în nuduri pe care le distribuie în grupuri comune. Pe măsură ce inteligența artificială evoluează, școlile de peste tot din lume trebuie să învețe cum să facă față acestui nou fenomen.
Li s-a întâmplat unor fete de 11 ani din Spania. Poliția suspectează și băieți de vârsta lor, dar și bărbați, și în continuare investighează cazul.
Într-o situație relativ similară s-au aflat mai multe fete de la diferite școli din Statele Unite ale Americii. Cu toate că autoritățile încearcă să ia măsuri şi să-şi actualizeze legile pentru a acoperi astfel de cazuri, părinții sunt de părere că acestea nu fac destul pentru a reduce dimensiunea problemei.
Peste 300 de milioane de minori au fost abuzați sexual online în ultimul an, potrivit unui raport al Childlight Global Child Safety Institute. De asemenea, arată același studiu, unu din opt copii a primit imagini nedorite cu conținut sexual în ultimul an.
Andrada Cilibiu, expertă în egalitate de gen la Centrul FILIA, ne-a spus că nu a primit cereri de ajutor din partea unor victime ale deepfake porn, dar a auzit diverse mărturii de la fete foarte tinere:
„Este perioada asta de adolescență, care e plină de teribilism și în care tinerii sunt super conectați la device-urile lor și la tot ce se întâmplă pe internet. Pentru că nu au o lentilă, mai ales despre consimțământ, pe care ar trebui să o primească în școală de la orele de educație sexuală, unii ajung să facă lucrurile astea fără să înțeleagă că e ceva greșit”, explică Cilibiu.
Unele voci spun că ar trebui să fie incriminată mai dur crearea acestui tip de conținut. Altele consideră că nu ar putea fi asemănată cu agresiunea sexuală, pentru că nu are același efect asupra victimelor – un deepfake porn, spun cei din această tabără, ar fi mult mai puțin dăunător.
„Cu siguranță poate să fie un eveniment traumatic. Este tot acest concept care se numește moral injury (n.a.: rană morală), în care ni se întâmplă ceva ce nu e în controlul nostru și care ne pune într-o poziție extrem de vulnerabilă”, explică psihoterapeuta Denisa Maria Petriș.
Aceste experiențe pot să zguduie foarte tare încrederea în lume a oricui trece prin așa ceva. Până în momentul în care primește fotografia, de exemplu, poate să aibă un sentiment de siguranță. Apoi, evenimentul traumatic îi arată că lumea nu este un loc atât de sigur pe cum credea, explică terapeuta.
Multe dintre cele expuse la astfel de evenimente pot dezvolta șoc posttraumatic (PTSD). Denisa Maria Petriș consideră că definiția actuală a PTSD-ului este cumva în urmă. Psihoterapeuta este de părere că expunerea la traumă sau dezvoltarea șocului posttraumatic trebuie analizate într-un context dominat de tehnologie și internet.
„Face cineva, vă rog, un deepfake cu ea?”
Preluarea imaginilor fără consimțământ și răspândirea lor pe internet reprezintă o normalitate pentru unele comunități online. Într-un colț oarecum ascuns al internetului, mai mulți bărbați își satisfac fanteziile sexuale cu ajutorul tehnologiei deepfake, trimițându-și unul altuia fotografii cu partenerele, foste ori actuale, sau femeile cu care vorbesc, unele trimise chiar de ele în intimitate, sau postând arhive cu fete care abia au devenit majore.
Multe sunt celebrități, însă cantitatea cea mai mare de conținut este bazată pe imaginile preluate de pe conturile de Instagram sau Facebook ale unor femei obișnuite. Pe același principiu funcționează și site-ul pe care l-am analizat.
Conținutul problematic de pe acest site al cărui nume am decis să nu-l facem public a fost discutat în thread-uri de Reddit, precum și de către unii creatori de conținut care au vorbit în detaliu despre cererile deepfake de pe forum, dar și despre cum tratează membrii grupului femeile pe care le postează acolo.
Am urmărit timp de trei luni activitatea forumului, în special secțiunea dedicată creării de nuduri deepfake. Din 2021 și până în prezent, utilizatorii se folosesc de această tehnologie ca să creeze nuduri cu femei pe care le văd online.
În thread-ul numit „Cereri deepfake” există 234 de postări. Aici le centralizează, pentru că bărbații solicită nuduri cu femei aproape în fiecare thread. Cei care produc conținutul cerut sunt, de cele mai multe ori, utilizatorii xrayman sau mrdeepfake. Dacă cineva își dorește să dezbrace o femeie cu ajutorul inteligenței artificiale, ei îl ajută să o facă pe gratis. Primul a scris într-un mesaj că lucrează cu un program apărut în 2022*, care convertește textul în imagine și este folosit pentru a crea fotografii cu ajutorul inteligenței artificiale.
Bărbații trimit pozele cu femeile îmbrăcate și, la scurt timp, xrayman le dezbracă. „Abia aștept să văd ce deep iese la astea”; „Bro, dacă poți cu pozele astea ești ZEU”, „Cât de mișto a evoluat technologia”; „Face cineva un deepfake cu ea? Dacă faceți sunteți zei”, sunt doar câteva dintre mesajele pe care membrii grupului le atașează atunci când trimit imaginile.
În alte mesaje pur și simplu vorbesc despre ce anume le-ar face acestor femei, dintre care multe nici măcar nu știu că apar dezbrăcate pe acest site.
Unele postări adună peste 40.000 de vizualizări. Dacă este vorba de vreo celebritate, numărul celor care urmăresc postarea poate să depășească și 80.000.
Nuduri cu fete care par minore
Regulile forumului sunt explicite: membrii nu au voie să distribuie fotografii cu minore. Însă nimeni nu verifică vârsta fetelor care apar acolo. La un moment dat, chiar cel care se ocupă cu crearea nudurilor a remarcat că femeile din poze arată foarte tinere.
„Boss, o parte din fetele astea par minore”, răspunde bărbatul la o comandă de 15 fotografii primită în august 2023. „Bă, poate par, dar nu sunt”, îi scrie înapoi cel care a postat imaginile.
Utilizatorul xrayman nu a creat nuduri după imaginile respective, însă problema nu era doar la acea postare. Pe site sunt zeci de alte imagini în care persoanele par minore, dar asta nu îi împiedică pe bărbați să creeze nuduri pe baza lor. La fel procedează și când vine vorba de vedete care nu au împlinit 18 ani.
„Tanara perfecta de l*b@, o copila abia trecuta de 18 ani care starneste si cele mai pornoase fantezii barbatilor maturi, insurati, cu nevoi!”, scria un membru al grupului în 2023 despre o cunoscută creatoare de conținut din România.
În ziua în care tânăra a împlinit 18 ani, un utilizator a făcut o postare despre asta și i-a îndemnat pe ceilalți să posteze fotografiile pe care le aveau cu ea. Cel care postase avea deja o colecție întreagă.
Dacă sapi adânc în toate colțurile acestui forum, dai de o grămadă de lucruri tulburătoare sau chiar ilegale. De exemplu, există un thread numit „nuduri primite online”, cu 241 de mesaje, în care bărbații își trimit unul altuia fotografiile pe care le-au primit în privat de la diferite femei.
Website-uri similare au ajuns în atenția publicului și-n Marea Britanie, unde în aprilie s-a vorbit despre un site care distribuia poze explicite fără consimțământ cu persoane din Manchester, Liverpool, Doncaster și Wales. Jurnaliștii de la Manchester Evening News au găsit, la rândul lor, și imagini manipulate cu inteligență artificială.
Lara Karaian, profesor asociat în criminologie și justiție penală la Universitatea Carlton din Statele Unite ale Americii, mi-a explicat într-un video call că am ajunge să privim diferit întreg contextul în care apar aceste clipuri dacă ne-am raporta altfel la pornografie sau dacă am respecta mai mult drepturile lucrătoarelor sexuale.
„Cred că multe dintre femeile care se regăsesc în astfel de imagini vor fi șocate, dezgustate sau rușinate de ceea ce văd pentru că, de cele mai multe ori, trăim într-o societate în care sexul este văzut drept ceva negativ, pornografia la fel și în care există foarte multă homofobie”, explică Karaian.
„Am stat să o analizez pixel cu pixel, sperând că mă voi convinge că nu e o poză reală”
Cercetătorii încă nu au ajuns la un numitor comun în ceea ce privește etica conținutului deepfake pornografic. Carl Öhman, profesor asociat la Universitatea Uppsala din Suedia, a încercat să privească dintr-o nouă perspectivă pornografia deepfake, asemănând-o cu orice banală fantezie sexuală. Cu toate acestea, crede că problema etică din jurul deepfake porn ar putea fi rezolvată doar dacă analizăm contextul mai mare de inegalitate de gen în care apare acest tip de conținut.
În același timp, alți autori specializați în drept sunt de părere că producerea unor clipuri pornografice fără acord explicit reprezintă o invadare a libertății și integrității sexuale, chiar dacă are loc în mediul online. Problema este că aceste unelte devin acum accesibile tuturor oamenilor care vor să producă pornografie neconsensuală: foștilor parteneri, hărțuitorilor, colegilor de muncă sau unor străini, care ulterior le pot posta online.
Într-o situație similară s-a aflat și Georgiana*. L-a cunoscut pe Emil* online, iar discuțiile lor erau de cele mai multe ori despre muzică. Îl considera amic, pentru că nu îl cunoscuse în viața reală.
Într-o zi au ajuns să discute pe marginea unui articol în care se vorbea despre sexualizarea oamenilor pe care îi vezi pentru prima oară. Atunci, bărbatul i-a recunoscut că el o observase în viața reală și a încercat să dea de ea pe internet.
„Mi-a spus că are această «boală» în care, atunci când vede o fată care îi place, își face scenarii cu ea pe o perioadă lungă de timp și că a pățit la fel cu mine”, mi-a povestit Georgiana* într-o conversație pe Messenger. „Mi-a scris în speranța că va găsi ceva la mine care să nu îi placă, iar obsesia va dispărea”.
Georgiana l-a blocat, însă la scurt timp a primit o solicitare de mesaj de la o persoană din afara listei ei de prieteni. Era Emil, care își făcuse un cont nou.
„Continua să-mi trimită melodii. Printre linkuri de YouTube, era o poză cu mine complet dezbrăcată, alături de mesajul «Te-am tras prin AI. Nu m-am putut abține»”, își amintește Georgiana.
Pe moment, tânăra nu a simțit nimic. Crede că era în stare de șoc și a decis, pentru siguranța ei, că e mai bine să ignore. La câteva zile de la acel moment a început să se gândească tot mai mult la asta.
„Am stat să o analizez pixel cu pixel, sperând că-mi voi convinge creierul că nu e o poză reală, însă mi-e atât de greu, deși există semne clare de AI (membre distorsionate)”, continuă tânăra. „Am un nod în stomac, fiind convinsă că undeva acolo, cineva are o poză cu mine complet dezbrăcată, fără ca eu să îi fi oferit așa ceva”.
Georgiana* încă simte că bărbatul îi urmărește fiecare mișcare. Nu știe dacă a dat imaginea mai departe, dar a raportat mesajul la Meta, care a șters fotografia din conversație. La scurt timp după ce poza a fost dată jos, Emil i-a trimis un mesaj de pe un cont nou în care îi spunea că ar fi șters el imaginea, dacă Georgiana i-ar fi spus că nu-i place.
Nu a depus plângere la Poliție pentru că nu i se părea că ar fi luată în serios, mai ales că totul se întâmplase în privat. Singura persoană cu care a vorbit despre asta a fost partenerul ei, căruia i-a și arătat imaginea și care a spus că o susține, orice decizie ar lua.
La fel ca Georgiana*, Alexandra*, care a primit imaginea cu ea de la un prieten de-ai ei, nu e sigură că imaginea în care apărea dezbrăcată nu a fost distribuită mai departe. Tânăra se gândește de atunci la posibilitatea în care cineva o va găsi într-un film pentru adulți, în care nu este ea de fapt, dar nimeni nu-și va da seama.
Aceste acțiuni pot să aibă numeroase consecințe asupra vieții unei persoane: de la public shaming, pierderea unei relații sau a locului de muncă și până la încălcarea dreptului la imagine.
„Persoanele care fac deepfake porn sau revenge porn, până la urmă, pe asta capitalizează, pe faptul că noi, ca societate, o să facem restul muncii. Ei pun acolo victima și noi o traumatizăm mai departe”, completează psihoterapeuta Denisa Maria Petriș.
Această frică, generată de existența revenge porn sau, mai nou, a deepfake porn, este legitimă și e din ce în ce mai prezentă în societate. StopNCII.org oferă o unealtă victimelor ale căror imagini au fost răspândite neconsensual pe internet prin care identifică, pe baza unui hash pus pe imagine, unde au fost distribuite fotografiile. Mai apoi, ei distribuie aceste detalii cu companiile partenere, printre care se numără Facebook, TikTok sau PornHub, care se ocupă de ștergerea imaginilor respective.
O întreagă istorie în care corpurile femeilor au fost sexualizate
Andrada Cilibiu, expertă în egalitate de gen la Centrul FILIA, crede că am ajuns în punctul în care deepfake porn-ul sau pornografia din răzbunare reprezintă o normalitate, pentru că societatea s-a obișnuit să obiectifice femeile.
„Conversația asta este și o conversație foarte puternică despre cum, istoric, corpurile noastre (n.a.: ale femeilor) au fost identificate și sexualizate. Și exact asta așteptau agresorii și prădătorii, să ne folosească și mai mult corpurile pentru propria plăcere și pentru propriul interes”, continuă activista.
Singurul scenariu în care i se pare că deepfake porn ar putea să fie folosit într-o manieră etică ar fi cel în care persoanele și-ar da consimțământul.
„Și, evident, dacă e o formă de sex work, ar trebui să fie monetizată și persoana respectivă să primească niște foloase materiale din faptul că și-a oferit imaginea pentru genul ăsta de lucruri”.
Problema apare, explică ea, în momentul în care actele sexuale sunt combinate cu violență. Având în vedere că suntem o societate care încă normalizează violența asupra femeilor, felul în care sunt utilizate aceste deepfake-uri poate să fie problematic, chiar dacă este doar pentru propria fantezie sexuală a acelor bărbați.
Legislație destulă pe hârtie, dar încă nu știm cum să o aplicăm
Este greu de spus cine este principalul responsabil pentru a șterge respectivele imagini sau clipuri, în cazurile de pornografie creată cu ajutorul deepfake. Totuși, multă lume e de părere că greutatea stă pe umerii platformelor, cum ar fi Google, care ar trebui să facă o treabă mai bună în a ascunde acele website-uri unde femeile sunt dezumanizate sau umilite.
La un simplu search pe Google, dacă scrii „deepfake porn”, vei găsi sute de rezultate de la site-uri care se folosesc de identitatea unor femei fără consimțământul lor. O campanie globală strânge semnături pentru a pune presiune pe companii precum Google, Verizon sau Visa să blocheze aceste site-uri. Momentan a ajuns la 57.457 de semnături din țelul propus de 75.000.
Însă dacă ne bazăm pe buna-credință a platformelor pentru a rezolva situația, lucrurile ar putea să dureze. Bogdan Manolea, avocat și director executiv al Asociației pentru Tehnologie și Internet (ApTI), crede că o parte din răspunsul la această problemă se află în regulamentul Digital Services Act (DSA), regulamentul european care a intrat în vigoare la 17 februarie 2024.
DSA-ul permite utilizatorilor care depistează conținut ilegal să acționeze în legătură cu platformele respective, unde se află conținutul. Dacă acele imagini se află pe niște rețele sociale din Uniunea Europeană sau pe așa-numitele, potrivit DSA, very large online platforms (platforme online foarte mari) - cum ar fi Facebook, Instagram sau Tiktok, Comisia Europeană are capacitatea de a face o analiză de risc sistemic.
„Adică îți dai seama dacă platforma ta este folosită pentru această problemă în mod recurent, nu e doar un caz rătăcit sau două cazuri rătăcite. Și atunci trebuie să trebuie să vii cu niște soluții pentru riscurile respective”, continuă Manolea.
Dacă site-ul respectiv este din România, principalul responsabil este Autoritatea Națională pentru Administrare și Reglementare în Comunicații (ANCOM), coordonatorul pe servicii digitale la nivel național. Instituțiile desemnate drept coordonatori pe servicii digitale trebuie să ajute Comisia Europeană la monitorizarea și respectarea obligațiilor prevăzute în DSA.
Mai există și situația în care site-ul e înregistrat într-un alt stat membru al Uniunii Europene. În acest caz, ar trebui să existe niște mecanisme de cooperare între ANCOM și organizația similară din statul respectiv. La acest moment, însă, spune Bogdan Manolea, ele nu sunt foarte clare.
ANCOM ne-a răspuns că instituția se poate pronunța doar asupra legalității sau ilegalității unui conținut care intră în competența sa, potrivit Regulamentului privind serviciile digitale.
Autoritatea are atribuții limitate atunci când vine vorba de închiderea sau blocarea accesului la anumite site-uri sau la un anumit conținut disponibil online.
„Cum ar fi în cazul primirii unor sesizări privind nerespectarea prevederilor art. 7 din Legea nr. 196/2003 privind prevenirea şi combaterea pornografiei, republicată, unde ANCOM, după verificarea existenței măsurilor tehnice stabilite prin lege, solicită furnizorilor de servicii pentru internet blocarea accesului la site-ul în cauză, urmând ca, nerespectarea de către furnizorii de servicii pentru internet a obligaţiei de a bloca accesul la site, în termen de 48 de ore, să se sancţioneze de către organele de poliţie din cadrul Ministerului Afacerilor Interne”.
Cosmin Andreica, președintele sindicatului Europol, crede că Poliția ar trebui să fie mai implicată în cazurile de pornografie creată cu ajutorul deepfake sau a inteligenței artificiale.
Am întrebat Poliția Română câte plângeri de acest gen au primit din 2017, anul în care au apărut primele video-uri create cu acest tip de tehnologie, și până în 2024. De asemenea, am întrebat dacă dețin cifre care să ne arate numărul plângerilor privind infracțiuni de revenge porn sau pornografie creată cu ajutorul deepfake. Ne-au răspuns că nu dețin datele statistice solicitate pe care le-am solicitat.
„Noi ne rezumăm doar la niște critici, pentru că în realitate nu avem cifrele ca să vedem exact cât de mare este amploarea. Cert este că în momentul de față există foarte puțini polițiști care sunt specializați la nivelul structurilor de crimă organizată și se ocupă de acest fenomen”, explică Andreica. „Asta se întâmplă tocmai pentru că nu avem niște cifre care să ne arate dacă vorbim despre o problemă reală sau nu. Suntem o societate care reacționează doar la chestiuni tragice și la impulsuri de moment”.
Un alt hop apare când vorbim despre abilitatea de a înțelege problema de către organul către care faci plângerea, explică Alex Ștefănescu, colaboratoare ApTI:
„În funcție de cine face plângerea și despre ce este vorba, putem să vorbim de mai multă sau mai puțină compasiune. Persoanele publice, cu o anumită notorietate, au aici beneficiul notorietății lor și al faptului că îi e mult mai ușor unui om să înțeleagă că există o vătămare a reputației în aceste cazuri decât în cazul în care mie sau ție ni se întâmplă și noi mergem să raportăm la poliție”.
Cum sancționăm persoanele vinovate?
A doua parte a problemei ține de sancționarea persoanelor vinovate, adică a celor care creează și distribuie acest conținut, continuă Manolea. Aici există deja cele două căi: civil și penal.
În cazul în care este vorba despre o infracțiune, avocatul crede că infracțiunile clasice prevăzute de lege sunt suficiente ca să acopere o astfel de speță. Vorbim aici despre cele din zona de criminalitate informatică, cum ar fi alterarea fără drept a unor date informatice, în scopul producerii de consecințe. Contează foarte mult și cum a fost obținută acea imagine – dacă poza nu era publică putem vorbi despre accesul fără drept la un sistem informatic, iar în acest caz ar fi vorba de un concurs între infracțiuni.
Avocatul este de părere că nu avem nevoie de un nou text de lege, care să acopere specific zona aceasta. Problema principală la momentul de față, continuă Manolea, este că statul nu a creat mecanisme de identificare, sancționare și detecție a acestui tip de conținut.
Lara Karaian, profesor asociat în criminologie și justiție penală la Universitatea Carlton din Statele Unite ale Americii, este de aceeași părere cu Manolea, chiar dacă activează în jurisdicții total diferite.
Profesoara crede că trebuie să avem mai multă grijă când vorbim de incriminarea noilor tehnologii. Nu întotdeauna un nou text de lege sau o pedeapsă cu închisoarea este soluția, continuă ea. „Am văzut cazuri în care voiau să pedepsească pe cineva cu trei ani de închisoare doar pentru producerea conținutului deepfake. E extrem de mult pentru un așa ceva”.
Acum un an, un grup de senatori și deputați din Parlamentul României a creat un proiect de lege pentru sancționarea deepfake, care prevedea, printre altele, pedeapsa cu închisoarea de la șase luni la doi ani „pentru crearea/realizarea conținutului deepfake”.
Specialiștii în domeniu, printre care și reprezentanții ApTI, au semnat o scrisoare deschisă prin care încercau să arate că legiuitorul nu prea înțelege fenomenul pe care vrea să-l reglementeze. Proiectul de lege nu menționa nimic despre pornografia creată cu ajutorul acestei tehnologii, de parcă nu ar exista.
Documentul de lege ar fi trebuit să primească un raport suplimentar de la comisia pentru cultură și cea pentru tehnologie la 1 martie 2024, însă până în acest moment asta nu s-a întâmplat. Între timp, au intrat în vigoare și DSA, dar și Artificial Intelligence Act (AIA), care are același obiect.
Incriminarea creării și distribuirii conținutului deepfake este discutată și în alte țări. În SUA, cel puțin zece state au dat legi legate pe această temă, potrivit Associated Press. Georgia, Hawaii, Texas și Virginia au deja legi care incriminează pornografia neconsensuală realizată cu ajutorul deepfake. De asemenea, în California și Illinois victimele au drept să-i dea în judecată pe cei care le folosesc imaginea fără acordul lor pentru a o prelucra cu softuri bazate pe inteligență artificială.
Din aprilie, în Marea Britanie se discută posibilitatea ca cei care creează deepfake porn sau deepfake nudes să primească o „amendă nelimitată” și, alternativ, pedeapsa cu închisoarea, potrivit EuroNews. Guvernul britanic deja făcuse un pas înainte în 2023, când a decis să includă și violența online în cadrul violenței asupra femeilor care reprezintă o amenințare la nivel național.
Decizia vine în urma unei investigații realizate de Channel 4, publicată în aceeași lună, în care jurnaliștii au găsit peste 250 de celebrități britanice care apăreau în conținut pornografic deepfake.
Până când legiuitorii vor ajunge la un consens în legătură cu sancționarea persoanelor vinovate, victimele se simt în continuare neauzite și neputincioase.
O cercetare realizată de Sophie Maddocks, cercetătoare la Universitatea din Pennsylvania, în 2020, arată cum deepfake sau revenge porn sunt tactici folosite pentru a reduce femeile la tăcere în legătură cu violența sexuală. Cercetătoarea e de părere că victimele deepfake porn sunt descurajate să vorbească inclusiv de atenția extrem de mare pe care o primesc deepfake-urile în politică.
„Nevoile victimelor, motivația celor care produc acest conținut, rolul celor care-l consumă, dar și responsabilitatea site-urilor care îl distribuie sunt probleme care necesită atenție publică, doar așa putem adresa problema deepfake-ului într-o manieră completă”, conchide Maddocks cercetarea ei.
Nota autoarei: Numele unor victime au fost schimbate, pentru că au vrut să-și păstreze anonimatul. Nu sunt pregătite să vorbească despre un subiect atât de sensibil în public.
De asemenea, nu am menționat numele celebrităților sau ale persoanelor cunoscute pe care le-am găsit în timpul documentării, ca să evit o posibilă stigmatizare a acestora. Pornografia este în continuare un subiect tabu în societatea românească, iar reacțiile din partea publicului sunt, de foarte multe ori, din sfera celor de blamare a victimelor, nu de solidarizare cu acestea. Din acest motiv, am ales să nu le dezvălui identitatea.
În plus, am ascuns numele site-urilor unde se găsește cel mai mult conținut de acest gen, tocmai pentru a nu le promova.
Acest articol face parte din lucrarea de licență pe care am prezentat-o anul acesta, sub coordonarea lectorului universitar doctor, Emilia Șercan.
