Conținutul din social media este structurat de algoritmi de recomandare. Treptat, ajungem să vedem lumea prin ochii acestei tehnologii.
A început să ne fie clar că ceea ce vedem pe platformele de social media nu este o înșiruire cronologică a ceea ce postează prietenii noștri. Vorbim deseori despre un algoritm care alege să ascundă unele postări și să le propage pe altele. În mass-media, algoritmul este descris drept sursa multor nefaste în spațiul public românesc. Iar în viața de zi cu zi glumim că antrenăm algoritmul să ne servească ceea ce ne place.
Algoritmii de recomandare sunt tehnologii care filtrează și propagă conținut pe platformele de social media. Aceste decizii sunt făcute în baza unui profil al fiecărui utilizator, conturat de acțiunile pe care le face atât pe platforma de social media, cât și în afara acesteia. Atunci când algoritmul prezice corect preferințele utilizatorului, acesta petrece mai mult timp pe platformă, interacționând și cu reclamele plătite inserate între postări. Iar reclamele plătite din social media sunt principala sursă de profit a acestor companii.
În România, creșterea partidelor cu o ideologie de extremă dreaptă a fost amplificată și susținută de platformele de social media. Intrarea lui Călin Georgescu în al doilea tur al alegerilor prezidențiale a fost atribuită, în parte, unei campanii coordonate de susținere pe platforma TikTok, după cum arată organizația nonguvernamentală Expert Forum. Jurnaliștii de investigație de la Context au documentat cum susținătorii lui Georgescu sunt coordonați, prin Telegram, să posteze atât conținut cât și comentarii, conform unor reguli modelate după particularitățile algoritmilor de recomandare.
Pe fondul unei crize sociale și economice, într-un context amplu de nemulțumire socială, de declin vertiginos al bunăstării individuale și colective, Călin Georgescu și partide precum AUR, SOS și POT, s-au prezentat în fața alegătorilor ca parte din soluția miraculoasă pentru toate problemele românilor. Discursul acestora nu ar fi căpătat relevanță în absența unor infrastructuri tehnologice care să-l facă viralizabil, replicabil și accesibil.
Viralitatea discursului de extremă dreaptă pe platformele de social media se înscrie într-un context mai larg de facilitare a campaniilor polarizante. Algoritmii de recomandare ne populează feed-ul cu precădere cu conținut care generează reacții emoționale puternice, fie împotriva unei idei diametral opuse valorilor noastre, fie emoții de solidaritate cu o cauză comună. Dat fiind că algoritmul de recomandare va livra întotdeauna conținut care să ne incite să reacționăm emoțional și nu rațional, fiecare dintre noi ajunge să primească din ce în ce mai puține perspective nuanțate și din ce în ce mai multe idei care ne dezbină.
În timp, un utilizator al platformelor de social media va deveni parte a unui grup artificial, creat în baza preferințelor comune, așa cum sunt deduse de algoritmii de recomandare. Proprietățile grupului sunt cele în baza cărora sunt distribuite reclamele personalizate – astfel, reproducerea grupului înseamnă un profit mai mare pentru compania care deține platforma.
Fiecare grup în parte nu este omogen, dat fiind că utilizatorii cuprinși pot avea un comportament diferit în viața reală și chiar pe alte platforme de social media. Însă, dat fiind că majoritatea interacțiunilor se întâmplă în jurul unui conținut ales de algoritm, utilizatorii vor presupune că lumea se prezintă tuturor cum li se prezintă lor. Astfel, polarizarea și fragmentarea sunt alimentate de tehnologie, nu de o slăbiciune de caracter a fiecărui utilizator în parte.
Cum se vede lumea prin ochii algoritmilor de recomandare
În prezent, niciuna dintre cele mai folosite platforme de social media (Facebook, Instagram, TikTok, LinkedIn, YouTube, X) nu mai livrează conținutul produs de persoanele cu care e conectat utilizatorul în ordine cronologică. Singura excepție este feed-ul de Subscriptions (canale la care ești abonat) de pe YouTube.
Ursula K. Le Guin, autoare de romane de speculație științifico-fantastică, spune că tehnologia este „interfațarea activă a oamenilor cu lumea materială”. În spiritul acestei idei, conversația este o tehnologie (în care includem și dezbaterea, confesiunea, monologul, cearta și așa mai departe). Algoritmii de recomandare, la rândul lor, sunt o altă tehnologie. Amândouă structurează modul în care interacționăm, dar și modul în care ne structurăm gândirea.
Tehnologia conversației ne prezintă replicile persoanelor într-o ordine cronologică și contextualizată. Interlocutorul meu ascultă ceea ce am de spus și îmi răspunde. Ceea ce îmi spune a fost formulat după ce interlocutorul meu a aflat care e părerea mea. Într-o conversație, cauza și efectul, sau corelațiile între evenimente, sunt deduse din context.
Tehnologii precum radioul și televiziunea au influențat, la rândul lor, forma conversațiilor noastre și tipurile posibile de dialog. Acestea au pus bazele unui tipar de atomizare a ideilor. Fiecare emisiune izolează conținutul de contextul său mai larg. Prin omisiune, unele aspecte ale evenimentelor curente sau trecute nu sunt prezentate.
Pe bazele atomizării discursului, comunicarea pe platformele de social media a construit simultaneitatea și personalizarea conținutului. Contextul ideilor prezentate într-o singură postare este redus la minim, ceea ce duce la fragmentarea discursului și la bufeuri spontane de emoție. Personalizarea conținutului izolează dialogul între granițele unor bule informaționale particulare care se pretind a fi universale. Dialogul autentic cu alteritatea, cu o perspectivă complet diferită, devine o raritate.
Relația dintre interlocutori este, de asemenea, ștearsă treptat pe platformele de social media. Algoritmii de recomandare ne livrează în feed conținut postat de entitățile cu care suntem conectați (utilizatori, pagini, grupuri, hashtag-uri pe care le urmărim), dar și conținut ales de algoritm din surse cu care nu suntem conectați în nici un fel.
Tehnologia algoritmului de recomandare a dat naștere unui mod nou de a consuma informație. Vorbim despre cum am „dresat” algoritmul să ne ofere conținut care ne interesează, sau, în caz contrar, cum algoritmul greșește sau „o ia pe arătură” atunci când ne servește conținut cu care nu rezonăm deloc. Am învățat că modul în care interacționăm cu conținutul pe care-l vedem pe platformele de social media va influența direct ce conținut vom vedea mai departe.
Conținutul de pe platformele de social media compune o secvență de evenimente în care ideile nu interacționează între ele, ci persistă prin viralitate. Absența unei structuri cronologice ne îngreunează munca de a intui importanța fiecărei postări individuale care ne apare în feed. Un videoclip cu o pisică drăguță este pe picior de egalitate cu știrea privind rezultatele electorale din România.
Ne suntem cei mai eficienți cenzori
Modul în care ne exprimăm pe platformele de social media este structurat de cum intuim că ne tratează algoritmii de recomandare ideile. Dacă vrem ca vocea noastră să nu cadă în desuetudine, trebuie să ne potrivim forma și conținutul mesajului cu ceea ce vedem în propria noastră bulă informațională.
Alături de algoritmii de recomandare, moderarea semi-automatizată a conținutului determină ce putem exprima și ce nu. Materialele care conțin pornografie infantilă sau imagini violente și conținutul care încalcă drepturi de autor sunt categorii pentru care există algoritmi de detecție automată și proceduri de moderare manuală. Aceste tipuri de conținut ajung să fie șterse de pe platforme la scurt timp după ce sunt postate, în cazul în care nu sunt detectate de filtre de încărcare și respinse încă din capul locului.
Principiul conform căruia tot ceea ce este ilegal în mediul offline trebuie să fie ilegal – și tratat ca atare – și în mediul online se traduce în nevoia acestei moderări de conținut semi-automatizate. Însă, în implementarea principiului, unii algoritmi și unele practici ajung să submineze libertatea de exprimare. În viața reală, greșim adeseori când încercăm să deducem dacă o afirmație este sinceră sau ironică, sau să intuim care e contextul în care e făcută. Automatizând procesul, garantăm că aceste greșeli se vor replica mult mai des și mai rapid.
Cenzura de sus în jos a devenit, realmente, ineficientă în comparație cu autocenzura de jos în sus pe care o exercită fiecare dintre noi pentru a nu deveni problematici în ochii algoritmilor de recomandare. De la substituirea anumitor cuvinte cu emoji-uri, la schimbul de linkuri în comentarii sau folosind servicii externe, utilizatorii platformelor de social media intuiesc continuu trucuri pentru a exprima ceea ce algoritmii de recomandare refuză să propage. Astfel, ceea ce poate deveni viral devine ceea ce merită exprimat.
Conținutul cât mai simplu, cât mai fragmentat și alarmant, care generează reacții rapide și puternice are întâietate pe platformele de social media. Modul în care ne formulăm ideile pentru ca ele să devină vizibile online devine modul în care comunicăm, dezbatem și cooperăm între noi, în viața de zi cu zi.
Poate legea să limiteze puterea algoritmilor?
Înainte de votul din turul I, presa și organizațiile non-guvernamentale au documentat folosirea unor conturi de social media automatizate pentru a posta comentarii de susținere în favoarea unor candidați. Deși o parte dintre articole au recunoscut o responsabilitate a platformelor de social media de a dezactiva conturile care au o activitate automatizată, majoritatea discuțiilor s-au concentrat pe răspunderea partidelor care au decis să folosească această strategie.
Organizații nonguvernamentale, printre care Asociația pentru Tehnologie și Internet, Expert Forum și altele, au publicat o scrisoare deschisă care subliniază responsabilitatea platformelor de social media de a respecta Regulamentul privind serviciile digitale (DSA). Organizațiile reclamă în special faptul că, deși platforma TikTok interzice reclamele electorale plătite, nu a șters conturile care promovau în mod susținut un candidat, folosind un discurs aproape identic.
Încercarea de a forța companiile care dețin platforme de social media să acționeze conform legii are o eficacitate limitată. Chiar și în cazul în care se dovedește fără echivoc că aceste companii încalcă legea, ele își plătesc amenzile și își restructurează activitatea într-un mod nesemnificativ. Spre exemplu, compania Meta a primit cea mai usturătoare amendă în baza regulamentului GDPR de până acum, în valoare de 1,2 miliarde de euro. A mai fost amendată, înainte și după, pentru practici care încalcă același Regulament. Însă, în prezent, folosește date personale ale utilizatorilor pentru antrenarea algoritmilor de inteligență artificială și încearcă implementarea unui sistem prin care utilizatorii sunt obligați să plătească dacă vor să nu primească reclame personalizate. Amândouă practicile sunt contestate, în baza Regulamentului GDPR, de către organizația noyb.
Efortul de a constrânge legal algoritmii de recomandare produși de marile companii care dețin platforme de social media este valid și important, dar va urma, cel mai probabil, același itinerariu. Acest demers trebuie dublat și susținut de un efort paralel, care contestă etica din spatele algoritmilor. Indiferent de eficiența moderării conținutului de pe platformele de social media, algoritmii de recomandare în sine sunt incompatibili cu libertatea de exprimare, deoarece elimină contextul conținutului și transformă utilizatorii în cenzori.
Organizația Irish Council of Civil Liberties cere Comisiei Europene încă din 2023 să nu permită algoritmii de recomandare pe platforme de social media care găzduiesc conținut video. Raportul organizației pare o transpunere concretă a îndemnului filosoafei britanice Onora O'Neill, de a urma o „etică a comunicării digitale” care abolește intermediarii comunicării și restabilește relația de concretețe relațională dintre emițător și receptor.
Ne e mai ușor să ne imaginăm sfârșitul lumii decât sfârșitul algoritmilor de recomandare, am putea spune, adaptând un citat din filosoful Frederic Jameson. În contextul de față, e important să nu ne falimentăm imaginația când vine vorba de viața noastră în mediul digital.
Există platforme de social media care nu fac uz de algoritmi de recomandare, care funcționează și arată foarte similar cu cele cu care suntem obișnuiți. Platformele care formează Fediverse-ul funcționează fără reclame, fără algoritmi de recomandare. Sunt moderate și menținute chiar de membrii ai comunității care le populează. Asociația pentru Tehnologie și Internet a publicat o introducere în acest ecosistem, unde feed-urile sunt populate strict în ordine cronologică și utilizatorii au mecanisme de a curatoria conținutul pe care îl văd.
Migrarea de la un spațiu online la altul scindează și dezbină rețelele de oameni pe care ni le formăm. O bună parte din activitatea profesională a multor utilizatori depinde, azi, de platformele de social media. Mai mult, organizarea civică, discursul politic, mediatic și conexiunile noastre sociale sunt acum împământenite online.
Algoritmii de recomandare dezbină, polarizează, simplifică discursul public, jupuindu-l de context și temporalitate. Nu sunt necesari, nici inerenți acestor platforme – o altă lume e posibilă, fără ei.
Dintr-o perspectivă umanistă, jurnalistul Nicholas Diakopoulos spune că viitorul „mijloacelor media algoritmice trebuie să fie centrat pe om”, pe democrație ca valoare demnă de protejat. Spațiul online poate deveni unul mai prielnic pentru dialog, solidarizare și informare, atunci când tehnologiile implementate reflectă aceste valori. Puterea algoritmică trebuie supusă puterii democratice, și nu invers.
