Facebook, Youtube sau Twitter și-au asumat sarcina de a conecta omenirea prin crearea unei piețe libere și nemediate a ideilor. Astăzi, platformele sociale fac o echilibristică de multe ori problematică între limitele dreptului la libera exprimare și festionarea conținuturilor care pot produce rău.
Facebook cenzurează o poză cu un model plus-size pentru că nu respectă „politica de sănătate și fitness” a companiei. Aceeași companie cenzurează pe motive de indecență o poză cu victimele copii ale Holocaustului. Apoi, în urma întâlniri cu reprezentanții guvernului israelian, suspendă unele dintre cele mai citite pagini de știri din Palestina pentru incitare la violență. Toate aceste acțiuni i-au enervat atât de tare pe utilizatori, încât Facebook a trebuit să își ceară scuze.
În schimb, când aceeași companie i-a interzis permanent să aibă cont în rețea lui Tommy Robinson, partizan vocal și influent al extremei drepte din Anglia, iar Pinterest a decis să elimine conturile anti-vacciniștilor, valul de critici nu a mai fost atât de puternic. După toată nebunia cu fake news, manipularea și polarizarea pe care le fac posibile platformele sociale, încercarea de a mai corecta unele dintre fenomenele sociale negative, la a căror apariție contribuie sau pe care le amplifică, a părut unora o gură de aer proaspăt.
Însă toate exemplele de mai sus, de la sancționarea Centrului Anne Frank pentru indecență și până la dezactivarea conturilor militanților anti-vaccinare, au ceva în comun: sunt rezultatul încercărilor platformelor social media de a elimina postările care instigă la ură, violență sau reprezintă pornografie. Aceste acțiuni pot fi puse în seama faptului că publicul, dar și platformele sociale, au ajuns cu timpul la concluzia că aceste tipuri de postări pot avea consecințe teribile în viața de zi cu zi.
Prin urmare, aceste companii se confruntă astăzi cu una dintre cele mai spinoase dileme ale vieții online: compatibilizarea dreptului la libera exprimare cu datoria de a le oferi utilizatorilor un mediu sigur, unde se previne facerea răului. Atât libertatea de exprimare, cât și siguranța sau evitarea facerii răului sunt dezirabile. Problema este că niciuna nu poate fi pusă în practică fără a știrbi din puterea celeilalte. Pentru că, de exemplu, încercările de a mai tăia din avântul extremiștilor, conspiraționiștilor, teroriștilor pot avea un impact și asupra postărilor perfect legitime și legale, așa cum ne arată și cazurile de mai sus. Iar acest lucru impune noi limite asupra discursului public, adică asupra a ceea ce pot exprima utilizatorii.
@AnneFrankCenter, we put your post back up and sent you a message on FB. We don’t allow nude images of children on FB, but we know this is an important image of historical significance and we’ve restored it. We’re sorry and thank you for bringing it to our attention.
— Facebook (@facebook) 29 august 2018
Toate aceste probleme complicate au, aparent, un răspuns simplu: vorbim despre companii private care își pot pune în aplicare regulile după cum doresc. Dacă nu îți place ce se întâmplă pe o platformă, ești liber să te muți pe alta. Exact așa cum face orice consumator într-o piață liberă: dacă nu îl mai satisfac anumite produse și servicii, este liber să renunțe la ele și să aleagă altele. Însă în lumea digitală a zilelor noastre, lucrurile nu stau chiar așa.
Giganții lumii virtuale – Google, Facebook, Twitter, Apple sau Amazon – formează un oligopol pe piața serviciilor online. De aceea, aceste companii de tehnologie s-au transformat, cu timpul, într-o struțo-cămilă. Din punct de vedere legal sunt companii private, așa că teoretic ar trebui să se organizeze și guverneze cum vor ele. Doar că atunci când fac acest lucru, de exemplu când decid ce este și ce nu este discurs instigator la ură, incitare la violență sau pornografie, ne guvernează și pe noi. Asta pentru că serviciile pe care le oferă nu sunt ca oricare altele. De exemplu, dacă frizerul meu se hotărăște să-și schimbe stilul, o poate face fără să-mi încalce vreun drept. Dacă nu îmi mai place, pur și simplu mă duc la alt frizer. Dar decizia Facebook de a cataloga un anumit tip de conținut ca fiind indecent îmi poate încălca dreptul la libera exprimare. Mai ales atunci când postările sunt filtrate de algoritmi care nu pot sesiza nuanțele, ironia sau alte coloraturi ale felului în care se exprimă utilizatorii. Și pentru că aceste companii au un cvasi-monopol pe diverse tipuri de servicii online, este practic imposibil să îmi iau datele și să mă duc pe altă platformă socială.
Noile haine ale împăratului
Google, Amazon, Facebook, Apple (GAFA) s-au transformat, cu timpul, din companii de tehnologie în guvernatori ai imenselor comunități online pe care le găzduiesc. Prin intermediul acestor platforme sociale sunt mediate numeroase dintre drepturile noastre, printre care și dreptul la libera exprimare. Discursul public, laolaltă cu datele noastre personale, se scurg astăzi printr-o complicată infrastructură deținută și întreținută de o mână de companii private. Platformele sociale au pus la punct chiar și o elaborată birocrație, o împletire de oameni, algoritmi și „inteligențe artificiale”, care au rolul de a se îngriji că postările utilizatorilor respectă regulile vagi conținute în Termeni și Condiții. Astfel, capacitatea noastră practică de a ne exprima (sau de a ne păstra o sferă privată) este astăzi controlată de companii private care încearcă și ele să guverneze spațiile pe care ni le-au pus la dispoziție, în felul asta guvernându-ne și pe noi, cei aproape două miliarde și jumătate de utilizatori.
Doar că modul în care aceste companii ne guvernează este unul privat. În mod uzual, se vorbește despre guvernări private în raport cu statele. De exemplu, bisericile sau corporațiile întreprind o formă de guvernanță privată, în sensul în care nu trebuie să ceară aprobarea statului pentru felul în care se organizează. Însă, într-un sens larg, guvernanța presupune articularea raporturilor de putere între două categorii, iar aceasta devine privată atunci când unul dintre grupuri îl exclude pe celălalt de la gândirea și implementarea deciziilor care îl vizează în mod direct. În cazul de față, guvernanța privată se referă la faptul că utilizatorii nu sunt consultați ori incluși în procesele de luare a deciziilor care reglementează dreptul lor la libera exprimare. Cu alte cuvinte, ni se impune ce putem și nu putem spune pe aceste platforme sociale și nu dispunem de niciun resort pentru a putea obiecta sau îndrepta lucrurile spre ceea ce ne interesează sau considerăm corect. Problema este că ce se întâmplă în social media nu are consecințe doar în mediul virtual, ci și în viața de zi cu zi.
Privatizarea dreptății online
Pentru că netul nu e nicăieri, iar utilizatorii sunt peste tot, sistemul clasic de jurisdicții nu mai poate ține pasul. Așa că statele cooptează sau pun presiuni asupra platformelor sociale să traseze limitele dreptului la libera exprimare. În mediul online, platformele sociale devin noile tribunale care nu doar că decid ce este instigare la ură, la violență sau pornografie, ci stabilesc și cine trebuie pedepsit și cum pentru încălcarea regulilor pe care cine știe cum le stabilesc.
Atunci când statele se ocupau de treaba aceasta, lucrurile erau cât de cât transparente. Mai precis, în regimurile democratice (într-o oarecare măsură și în cele autoritare) oamenii știu destul de bine ce pot și ce nu pot spune și ce o să pățească dacă spun ceva nepermis. Atunci când există situații limită, când nu știi sigur dacă un anumit tip de discurs e incitare la violență sau ură sau pornografie, este destul de clar ce e de făcut. Mergi la Tribunal și rezolvi confuzia cu ajutorul unui corp independent care ia o decizie pe care o motivează public și ale cărui proceduri sunt sub control public. Însă online lucrurile nu stau așa. Teoretic există niște Termeni și Condiții care ne spun ce avem și nu avem voie să postăm pe platformele sociale, dar regulile sunt atât de vagi, mai ales în privința discursului urii, încât e mult mai ușor pentru un algoritm să detecteze un sfârc decât o postare care instigă la ură.
Cum pun însă statele presiuni asupra acestor companii pentru a controla discursul online? De exemplu, Comisia Europeană susține că intermediarii de informații, adică platformele sociale, motoarele de căutare, dar și furnizorii internet sau serviciile de hosting, au responsabilități sporite cu privire la conținutul urcat de părți terțe, adică de utilizatori. Când Comisia folosește termenul de responsabilitate, se referă la responsabilitate morală și nu la răspunderea legală. Asta pentru că în U.E., ca în majoritatea statelor democratice, legislația exclude obligația generală a intermediatorilor de informații de a monitoriza, filtra sau cenzura informațiile transmise de utilizatori. Acest model este denumit „modelul portului liber”. Deoarece Comisia nu poate impune în mod legal reguli de filtrare sau de control al conținutului, folosește limbajul responsabilității pentru a împinge aceste companii către auto-reglementare. Cu alte cuvinte, Comisia, în ciuda modelului portului liber, solicită companiilor private să pună în aplicare măsuri voluntare de control al conținutului și să suporte toate riscurile aplicării acestora.
Atunci când decid ce tipuri de conținut pot fi calificate drept discursuri ale urii, aceste companii vor lua decizii de natură morală. Problema este că deciziile sunt luate cel mai adesea într-o manieră grăbită sau netransparentă. De exemplu, moderatorii de conținut trăiesc sub o presiune psihologică permanentă și nu doar pentru că trebuie să evalueze sute de postări pe zi, ci și pentru că își petrec ziua de muncă privind cele mai groaznice lucruri de care este în stare omenirea. Așa că nu e de mirare că, uneori, aceștia mai pot greși, alegând uneori să cenzureze postări care nu încalcă nicio regulă din Termeni și Condiții. Însă nici algoritmii nu sunt perfecți, având în vedere că sunt complicați, se schimbă mereu și nu pot sesiza nuanțele din postări, ceea ce înseamnă că se vor produce numeroase greșeli. Mai mult, atunci când există greșeli, companiile tind să adopte tactica struțului, care își bagă capul în nisip: întâi așteaptă să vadă dacă publicul sesizează problema și dacă reacționează, iar abia apoi încep procesul de a-și cere scuze, de a promite că nu se va mai întâmpla și de a rezolva problema. Iar asta ar trebui să ne pună pe gânduri: înseamnă că temerile și plângerile utilizatorilor nu prea sunt luate în serios.
O altă problemă este că nu există modalități eficiente de a obiecta împotriva cenzurării conținutului postat online. Mulți s-au trezit cu conturile suspendate, fără să știe de ce se fac vinovați, cum au fost judecați și ce trebuie să facă pentru a rezolva problema. În cazul în care Procesul lui Kafka vi s-a părut SF, înseamnă că nu ați încercat niciodată să vă recuperați contul de Facebook după ce a fost spart sau închis temporar (dexonline s-a trezit într-o astfel de situație). Dacă pentru mulți astfel de situații sunt doar enervante, pentru unii ele pot deveni situații-limită ce fac diferența dintre viață și moarte (ca în acest caz, când tocmai victimele violențelor sunt cele cărora li se suspendă dreptul de a se exprima). În orice caz, utilizatorii nu mai au niciun cuvânt de spus nici atunci când se decid limitele dreptului la exprimare și nici atunci când sunt pedepsiți pentru încălcarea regulilor stabilite în moduri obscure.
Întrebarea importantă nu este dacă ar trebui să existe limite asupra libertății de exprimare. Până la urmă, ele există și în cele mai liberale societăți, pentru că toate s-au confruntat cu sarcina grea de a pune în echilibru dreptul tuturor de a se exprima liber cu dreptul tuturor de a fi în siguranță. Întrebarea cu adevărat importantă este ce valori am vrea să fie protejate în mediul virtual. Cred totuși că cea mai bună variantă ar fi să optăm pentru libertatea de exprimare în defavoarea siguranței. Ceea ce nu înseamnă că nu ar trebui să existe nicio limită asupra libertății de exprimare. John Stuart Mill, un filosof liberal convins, ne oferă un principiu de la care putem pleca atunci când gândim aceste limite: „unicul țel în care puterea se poate exercita, în mod legitim, asupra oricărui membru al societății civilizate, împotriva voinței sale, este acela de a împiedica vătămarea altora” (Despre Libertate, Editura Humanitas, București, 2014). Cu alte cuvinte, chiar dacă majoritatea crede că o anumită opinie este incorectă, imorală sau chiar eretică, nu ar trebui să îl constrângă sau să îi facă rău celui sau celei care o susține, dacă opinia în cauză nu dăunează nimănui. Asta pentru că oamenii sunt suverani ai propriilor corpuri și spirite. De aici discuțiile pot continua la nesfârșit, căci una dintre criticile ce pot fi aduse acestui principiu este faptul că nu poți da o interpretare neutră din punct de vedere moral vătămării, la fel cum nu poți trasa o distincție clară între opinie și instigare la acțiune. Din acest motiv, e greu de văzut cum poate deveni acest principiu o procedură decizională.
Cred, însă, că nu ar trebui să căutăm un algoritm perfect care să ne dicteze când și ce putem cenzura. Principiul lui Mill, împreună cu dificultățile pe care le ridică, are rolul de a ne arăta că majoritatea confuziilor noastre provin din acceptarea unor presupoziții ascunse, care nu sunt mai niciodată dezbătute critic. De exemplu, produc anti-vacciniștii un rău atunci când își susțin pozițiile empiric false sau au atunci doar potențialul de a produce un rău? În fond, susținându-și ideile, pe care mulți le considerăm aberante, nu ne forțează să facem nimic și nici nu ne încalcă vreun drept. Iar în acest caz, Facebook e puțin paternalist când le interzice exprimarea pe platforma socială. Într-un fel, îmi răpește mie, utilizatorului convins de importanța vaccinurilor, șansa de a mă familiariza cu idei contrare și de a le împinge, prin argumente, către limitele lor logice. Conform principiului lui Mill, conspiraționiștii medicali ar trebui lăsați să se exprime, iar statele, dar și alte asociații de profesioniști sau non-guvernamentale, ar trebuie să joace un rol mai activ în contra-balansarea acestor opinii prin diverse campanii publice de informare. Însă în cazul atentatului recent din Christchurch, lucrurile stau cu totul altfel. Acel terorist a avut intenția de a omorî oameni, de a le încălca dreptul la viață și de a face acest lucru sub privirile tuturor, instigându-i, astfel, și pe alții să facă la fel. Filmul lui este, practic, o invitație sau chiar o provocare pentru ca oameni care îl urmează să facă la fel. Nu ar trebui să existe nicio urmă de îndoială cu privire la eliminarea filmului atentatului de pe orice platformă socială. Orice tip de exprimare care, în mod vădit, are ca scop periclitarea vieții sau a drepturilor altora, deci crearea unui rău nejustificat, trebuie oprită și sancționată.
Trasarea unor limite asupra dreptului la liberă exprimare este încă o problemă deschisă pe marginea căreia filosofii în continuare scriu enorm. S-ar putea ca nici măcar să nu existe o soluție unică, valabilă în toate contextele și în toate mediile de comunicare. Până ne decidem cum vrem să arate libertatea de exprimare în lumea online, problema guvernării private ar putea fi ameliorată prin cel puțin două mecanisme: controlul asupra discursului public, atunci când e absolut necesar, ar trebui să fie evident și vizibil utilizatorilor. Și la fel de important ar fi să existe și mecanisme mai eficiente prin care utilizatorii să corecteze eventualele greșeli algoritmice sau umane care duc la cenzurarea diferitelor postări. Deocamdată, pentru că delegăm sarcina de a evalua și cenzura conținutul online în mod exclusiv platformelor de social media, ne supunem unui regim arbitrar și opac de sancționare a dreptului nostru la libera exprimare.
De aceeași autoare, puteți citi și:
