Cum se resimte violența conflictelor în rețelele sociale online și cum gestionează rețelele sociale postările din zonele de război?
Generațiile de azi știu cum arată războiul, chiar dacă nu l-au trăit. Știu pentru că pot vedea, datorită platformelor sociale, prin ochii celor de la fața locului. Războaiele devin visceral reale și prezente pe net, chiar și pentru cei care ar dori să le ignore cu orice preț. Între clipuri amuzante cu câini și pisici sau hack-uri pentru gătit, în newsfeed-uri se strecoară imagini din mijlocul bombardamentelor și instantanee cu trupuri sfâșiate. Printre toate acestea, reclamele, din ce în ce mai insidioase, au transformat platformele sociale într-un peisaj haotic și absurd, în care violența și durerea dansează în tandem cu plăcerea și consumul. Cum influențează acest amalgam de informații de pe platformele sociale viața noastră morală?
Expunerea la imagini ale suferinței poate avea valoare morală, pentru că suferința nu e niciodată abstractă, e de fiecare dată a cuiva: a copiilor, femeilor și bărbaților din Ucraina, Palestina, Siria, Yemen, Afganistan sau Nigeria. Astfel, războiul și imaginile sale ne confruntă cu realitatea că suferința celorlalți putea fi a noastră. Așa cum e trăit pe platformele sociale, în fragmente, imagini și clipuri strecurate în newsfeeduri populate cu postări amuzante și influenceri, războiul ne arată că oameni nevinovați sunt prinși în contexte asupra cărora nu au niciun control. E o chestiune de noroc, respectiv ghinion. Chiar în acest caracter aleatoriu al suferinței la care asistăm prin intermediul platformelor sociale stă potențialul său moral. Fluxul constant de durere și moarte pe care îl vedem zilnic este o invitație să reflectăm asupra justificărilor și raționalizărilor suferinței în masă oferite de puterile lumii. Cine e responsabil pentru ce se întâmplă? Cum s-a ajuns aici și de ce? Putea fi moartea nevinovaților evitată? Și, mai important, am acceptat până acum o stare de fapt pe care ar fi trebuit să o chestionăm? E important să știm ce se întâmplă pentru că asta ne ajută să înțelegem lumea în care trăim, să vedem unde și cum putem acționa. Expunerea la suferința altora, prin intermediul platformelor sociale, poate mobiliza acțiunea colectivă, așa cum s-a întâmplat în cazul Primăverii Arabe, al ajutorului oferit refugiaților ucraineni sau al protestelor masive împotriva violențelor la care au fost supuși civilii din Gaza.
În același timp, nu trăim într-o lume democratizată de platformele sociale, în care toți au o voce egală și informațiile la care avem acces sunt de încredere. De exemplu, războiul dintre Israel și Hamas s-a dus online și prin distribuirea conținutului senzaționalist, simplificator, care polarizează și induce în eroare. În focul momentului, nimeni nu e ferit de a lua de-a bune informații false, nici chiar președintele Statelor Unite - care s-a declarat ultragiat de decapitarea bebelușilor din kibbutzul Kfar Aza, eveniment care nu a fost verificat și nici confirmat. Dacă Biden, care are armate de consilieri și fact checkers în spate, poate fi indus în eroare de știri false, ce șanse avem noi, utilizatorii de rând, să ne ferim de ele? Cum se trăiesc războaiele pe platformele sociale? Și unde stă responsabilitatea lucidității?
Parțialitate și imparțialitate
Aproximativ 5 din cele 8 miliarde de oameni de pe această planetă folosesc cel puțin una dintre principalele platforme sociale – Facebook, X, TikTok, Youtube sau WhatsApp. Toate aceste companii, presupus neutre în raport cu ce produc utilizatorii, au trebuit să pună la punct sisteme mamut de gestionare, filtrare și cenzurare a conținutului. Milioane de postări sunt „date jos” în fiecare zi de sisteme automatizate care decid ce trece și ce nu trece testul regulilor de exprimare specifice fiecărei platforme în parte. Companiile big tech au devenit guvernatori privați ai libertății de exprimare. Bineînțeles, cum puterea pe care o au este din ce în ce mai mare, numeroși utilizatori denunță felul în care această putere este folosită.
Platformele sociale au fost acuzate, din nou, de partizanat în gestionarea conținutului referitor la violențele din Gaza. De exemplu, utilizatori ai Instagram au raportat că atunci când publicau conținut despre violențele din Gaza, postările lor erau ascunse, marginalizate, adică aveau puține vizualizări. Justificările platformelor sociale pentru eliminarea sau minimizarea acestui conținut, ce arată realitatea cu care se confruntă civilii din Gaza, au susținut că postările cenzurate ar încălca regulile privitoare la violență sau sexualitate. O fotografie cu un om mort, dezgolit, ca urmare a atacului asupra spitalul Al-Ahli, a fost cenzurată de Instagram, pentru că ar fi încălcat politicile privitoare la „nuditate sau activitate sexuală”. Meta a declarat că se confruntă cu un număr mult mai mare de postări raportate pentru încălcarea politicilor de exprimare, ceea ce înseamnă că uneori algoritmii de filtrare a conținutului vor face greșeli, deci vor elimina în mod nejustificat postări care nu ar trebui retrase. Mai mult, compania a recunoscut că a existat o eroare în sistemele automatizate de moderare a conținutului, care a dus la reducerea aleatorie a vizibilității unor postări, pe tot globul. Printre acestea s-au numărat și postări ale palestinienilor, în care arătau lumii suferința prin care trec.
Nu e prima dată când palestinienii denunță faptul că sunt marginalizați ca urmare a aplicării inegale a politicilor de moderare a conținutului. De exemplu, acum câteva luni, Instagram a trebuit să își ceară scuze pentru că insera cuvântul „terorist” în traducerile automate ale descrierilor utilizatorilor ce se prezentau ca palestinieni. În 2021 Facebook a fost acuzată de către unii utilizatori că cenzurează conținutul urcat de palestinieni și susținătorii lor, în care documentează încălcările drepturilor omului din Gaza. Ca urmare, Facebook Oversight Board, un consiliu creat pentru a ajuta compania să judece ce trebuie și nu trebuie să rămână online, a recomandat ca Meta să angajeze o organizație independentă care să efectueze o „examinare amănunțită pentru a determina dacă politicile Facebook de moderare a conținutului, și care includ utilizarea automatizării, au fost aplicate fără părtinire în arabă și ebraică”. Organizația care a făcut raportul a descoperit că „Acțiunile Meta din mai 2021 par să fi avut un impact advers [...] asupra drepturilor utilizatorilor palestinieni la libertatea de exprimare, libertatea de adunare, participarea politică și nediscriminare și, prin urmare, asupra capacității palestinienilor de a împărtăși informații și perspective despre experiențele lor așa cum au avut loc.” Se pare că au existat, într-adevăr, mai multe cenzurări lipsite de fundament ale conținutului în arabă și o aplicare mai laxă a politicilor de conținut pentru ebraică. Pe de altă parte, în raport apare și faptul că unele postări în mod evident antisemite nu au fost detectate de filtrele automatizate, iar unele conturi în ebraică au fost în mod nedrept cenzurate. Concluzia a fost că părtinirea anti-palestiniană, deși prezentă, nu a fost intenționată, de vreme ce și unele conturi israeliene au fost afectate. De vină sunt algoritmii care aplică fără minte regulile privitoare la ce poate sau nu poate fi urcat online.
Însă regulile nu sunt bătute în cuie. Uneori se face excepție de la ele, dacă asta servește intereselor directe ale companiei. De exemplu, Facebook și Instagram, adică Meta, au suspendat regulile privitoare la discursul urii și violență în cazul postărilor care cereau eliminarea cetățenilor ruși din Ucraina sau Belarus. În mod normal, astfel de postări ar fi trebuit șterse deoarece cer excluderea sau segregarea oamenilor în baza naționalității lor, ceea ce se consideră a fi incitare la violență și ură. Justificarea Meta a fost că e nevoie de aceste schimbări pentru a le putea permite ucrainenilor să se exprime liber. De fapt, Meta a schimbat regulile de moderare a conținutului atât de des la începutul războiului din Ucraina, încât compania a încetat să mai monitorizeze dacă moderatorii umani chiar aplică regulile cum trebuie. Acuzată apoi că nu face mare lucru pentru a împiedica răspândirea propagandei rusești, Meta a decis până la urmă să restricționeze în Uniunea Europeană conținutul Russia Today și Sputnik, outleturi de media controlate de stat. Ca răspuns, Rusia a interzis Facebook și Instagram pe teritoriul său. Regulile au fost schimbate în acest caz pentru că Rusia era clar dușmanul lumii democratice, în plus cu o lungă istorie de a crea bătăi de cap companiilor de tehnologie din Statele Unite. Decizia de a face o excepție de la reguli în favoarea Ucrainei a fost simplă în acest caz, căci Rusia este clar statul agresor, iar o bună parte din statele democratice, adică cele mai importante piețe pentru Meta, s-au poziționat de partea Ucrainei. Mai mult, Meta a fost interzis în Rusia, așa că efectiv nu era nimic de pierdut. Însă lucrurile nu sunt întotdeauna atât de clare.
Moderare în vreme de război
În alte războaie, precum cel din Gaza, în cazul cărora există deja un grad mare de polarizare, este mai greu ca platformele sociale să facă excepții, precum în cazul Ucrainei. Dificultatea vine din faptul că sistemele de moderare a conținutului sunt create pentru a limita distribuirea și răspândirea postărilor care reprezintă violența sau incită la violență sau ură. Însă războiul în sine reprezintă un exercițiu al violenței. Cum are loc moderarea conținutului în astfel de cazuri?
Ca de obicei. Gestionarea conținutului postat de către utilizatori este în mare parte automatizată, asta pentru că ar fi imposibil ca moderatorii umani să verifice cantitatea imensă de informații postate zilnic online. Există filtre automate și algoritmi care identifică și dau jos conținutul ce trimite la violență sau sexualitate, incitare la ură, violență sau bullying etc. Dar, așa cum am mai explicat și în alte articole, este imposibil ca un algoritm să sesizeze nuanțele postărilor și contextul lor. De exemplu, un algoritm nu poate distinge când o imagine cu victimele unui război reprezintă încurajarea violențelor și când e vorba de condamnarea lor. Mai mult, sistemele de moderare a conținutului „citesc” limba engleză și alte câteva limbi de circulație internațională, dar se descurcă foarte rău în cazul acelor limbi vorbite pe scară mai mică. Meta s-a confruntat cu dificultatea de a face filtrele automate să distingă ce conținut incită la violență în ebraică și în unele dialecte arabe, inclusiv din Palestina, așa că a decis să aplice reguli mai dure. Dacă, în mod normal, o postare este cenzurată în cazul în care are o probabilitate de 80% de a încălca politicile de conținut, se pare că în cazul postărilor din Israel și Palestina - deci din ambele teritorii - procentul a fost scăzut la 40%. Asta înseamnă că postări ce în mod normal nu ar fi fost cenzurate au fost date jos.
Pe lângă aceste probleme tehnice, mai există un aspect adeseori ignorat. Platformele sunt construite în jurul maximizării profitului și duc la centralizarea puterii. Postările sunt promovate în măsura în care cel care le publică plătește pentru acest lucru. Cei cu resurse au cea mai puternică voce. Dacă pe timp de pace acest model de business pare inofensiv, în timp de război el capătă dimensiuni aproape sinistre, căci presupune că aceia care nu au bani nu se vor face auziți. De exemplu, Israel a plătit pentru reclame online astfel încât să crească sprijinul pentru acțiunile sale. Așadar, asimetria reprezentării online a părților dintr-un război poate fi atribuită unui model de business în care trebuie să plătești pentru a fi auzit și împins înainte în newsfeeduri. Pe lângă asta, Facebook, Instagram, X, Youtube și TikTok sunt deja companii too big not to fail în ceea ce privește moderarea conținutului. Toate aceste platforme au intrat pe piețe străine fără a înțelege pe deplin impactul lor asupra culturii și politicii locale și nu investesc suficiente resurse pentru a acționa asupra diverselor probleme odată ce acestea apar. De exemplu, Facebook Papers au arătat că 87% din bugetul investit de Meta pentru identificarea și clasificarea dezinformării este alocat Statelor Unite, chiar dacă utilizatorii din America de Nord reprezintă doar 10% din utilizatorii activi zilnic.
Tocmai din cauza acestui model de business, platformele sociale nu pot fi echitabile în aplicarea regulilor și drepte în reprezentarea realității. Ele sunt construite în jurul profitului economic și tot ce contează e captarea atenției, indiferent de consecințe. Nu e clar dacă există o ideologie clară a platformelor sociale, dacă ele sunt pro sau anti Israel sau Palestina. Or, cel puțin nu avem dovezi clare că parti-pris-urile politice ale proprietarilor acestor platforme chiar sunt transferate în felul în care e moderat conținutul. Situația e mai simplă decât îmi place și vreau să cred. Orientările politice ale lui Zukerberg sau Musk sunt adeseori legate de interesele lor economice. Dar ce prespune, mai exact, acest model de business al platformelor sociale?
Platformele sociale accelerează dinamica morală
Deja nu mai e nimic nou în faptul că scopul principal al platformelor sociale e acela de a capta atenția utilizatorilor. Însă atenția umană e o resursă limitată, iar utilizatorii trebuie să aleagă cum să o aloce, în timp ce toată lumea va concura pentru captarea ei. Așa s-a ajuns la o economie a atenției în care platformele sociale folosesc algoritmi de personalizare, elemente de design persuasiv și influenceri pentru a capta și reține atenția. Bineînțeles, asta înseamnă că și utilizatorii au stimulente perverse de a posta conținut special curatoriat pentru a atrage privirile și nu pentru a reflecta în mod cât mai obiectiv realitatea. Iar conținutul cel mai atractiv e cel care ne stârnește emoțional sau moral.
Asta s-a văzut și în cazul războiului dintre Israel și Hamas. Foarte mulți au simțit nevoia să semnaleze pe X sau Facebook de partea cui sunt. Însă, spre deosebire de războiul din Ucraina, e mai puțin evident, în primă instanță, care e partea bună și care cea rea. Astfel, oameni de la mii de kilometri depărtare de zona de război au intrat în conflicte cu prieteni și chiar membri ai familiei pe tema „apartenenței morale” la o tabără sau alta. Adesea, au fost folosite verdicte clare, aruncate într-un mod simplificator și categoric: „Dacă nu ești împotriva lui X sau Y, atunci ești antisemit/pro-genocid”. Asta creează engagement. De aceea, platformele sociale au contribuit la o polarizare extremă în cazul războiului din Gaza. Problema este că din aceste verdicte tranșante și simplificatoare, care atrag atenția, lipsește o recunoaștere a complexității situațiilor comentate, modestia epistemică sau intelectuală, ori o recunoaștere a ignoranței și incertitudinii. Platformele sociale, în ciuda imensului lor potențial, par să scoată ce e mai rău din noi. Asta pentru că ne suscită emoțiile și ne fac să închidem ochii în fața complexității situațiilor cu privire la care ne exprimăm. Iar acest lucru este rău pentru că ne limitează abilitatea de a formula poziții ancorate în realitate și care au puterea de a schimba ceva în lume.
Dar e nevoie de doi pentru un tango, adică responsabilitatea pentru luciditate pe vreme de război e împărtășită între utilizatori și platformele sociale. De exemplu, pentru a mai calma apele și pentru a face din ecosistemele digitale medii mai puțin poluate informațional, platformele sociale ar putea să elimine stimulentele pentru împărtășirea conținutului senzațional și care suscită emoții sau ar putea să prioritizeze conținutul urcat de conturile care s-au dovedit, de-a lungul timpului, a fi de încredere, în detrimentul conturilor noi create pentru a monetiza momentul. Asta înseamnă schimbarea modelului de business, ceea ce e puțin probabil să se întâmple. Suntem deja dincolo de punctul în care mai putem schimba felul în care sunt construite și funcționează aceste platforme. Dar putem schimba ceva în felul în care noi funcționăm în aceste ecosisteme digitale. Aici intervine responsabilitatea noastră, ca utilizatori. De exemplu, putem să ne abținem din a posta imediat, să petrecem prea mult timp sau să refuzăm a mai căuta împlinirea pe platformele sociale. Există viață și în afara lor, ne putem informa și fără ele, putem ține legătura cu ceilalți și prin alte mijloace.
Într-un fel, trăim o zi a cârtiței. La fiecare conflict, ne mirăm și ne ultragiem că platformele sociale nu aplică regulile în mod egal, ne supărăm că unele comunități sunt marginalizate și ne simțim neputincioși în fața tăvălugului de informații și știri false. Cu toate acestea, ne întoarcem online să postăm ce minunății au mai zis copiii noștri ori ce năzbâtii au mai făcut pisicile. Altfel spus, în ciuda fiecărei noi crize majore, lucrurile merg mereu ca înainte. Dar, ca să îl parafrazez pe Walter Benjamin, „faptul că lucrurile merg ca înainte e o catastrofă”.
