Dacă am putea să ne îmbunătățim comportamentul moral printr-o serie de intervenții directe la nivel biologic, am face-o în mod voluntar? Am putea accepta în anumite cazuri obligativitatea unor astfel de intervenții? Ce impact ar avea asupra societății această posibilitate? Julian Savulescu a ridicat aceste întrebări cu ocazia participării sale la conferința internațională Bucharest – Oxford – Singapore – Conference on Applied Ethics. Și mai multe întrebări au apărut odată ce Savulescu a dezvăluit că prezentarea lui a fost făcută cu ajutorul ChatGPT. Cum putem să folosim în mod etic inteligența artificială în mediul academic? Ar putea fi ChatGPT considerat un coautor al unei lucrări sau doar un instrument de cercetare?
În perioada 25 – 26 mai, Centrul de Cercetare în Etică Aplicată din cadrul Facultății de Filosofie a Universității din București a găzduit conferința internațională Bucharest – Oxford – Singapore – Conference on Applied Ethics care a vizat două teme principale: Human Enhancement (Ameliorare Umană) și Applied Ethics (Etică Aplicată). Secțiunea Human Enhancement a fost deschisă de Julian Savulescu care a ținut o prelegere intitulată „Future prospects of human enhancement”, pe marginea căreia am discutat mai pe larg după conferință.
Născut în Australia, filosoful de origine română Julian Savulescu este unul dintre cei mai renumiți eticieni care se ocupă de probleme legate de inteligența artificială, biopolitică, tehnologii de bioameliorare și transumanism. Afirmațiile sale legate de manipulare genetică și eugenie au făcut subiectul unei controverse în rândul tabloidelor românești în 2010. Studiile sale variază de la bioetică la medicină și neuroștiință. În prezent, Savulescu este, printre altele, și directorul Centrului de Cercetare în Etică Biomedicală din cadrul National University of Singapore și membru al comisiei publicației academice Journal of Medical Ethics. În 2003, a fondat Oxford Uehiro Centre for Practical Ethics.
Am stat de vorbă cu Julian Savulescu despre tipurile de ameliorare umană, despre problemele pe care le ridică bioameliorarea morală și despre posibilitatea implementării normative a acesteia. Bioameliorarea morală, în cuvintele lui Julian Savulescu, presupune o serie de intervenții la nivelul corpului (precum medicații, stimulări transcraniale electrice sau magnetice, interfațe creier-computer, operații, optogenetică, editare genetică etc.) care să îmbunătățească comportamentul moral. Acestea sunt intervenții directe, diferite de corectarea comportamentului prin mijloace sociale sau metode psihologice care sunt mai degrabă intervenții indirecte asupra creierului uman. Pentru că Savulescu a declarat că și-a scris prelegerea susținută în cadrul conferinței, cu ajutorul ChatGPT, am discutat și despre utilizarea etică a noilor tehnologii și despre posibilele standarde academice care ar putea fi revizuite pentru a include studiile făcute cu ChatGPT.
De ce ar fi dezirabilă bioameliorarea morală obligatorie? Trebuie să ținem cont că implică o serie de probleme, precum limitarea libertății personale sau contrângerea indivizilor de a-și altera personalitatea în interesul altora. Și de ce ar fi elementul biologic al acestei ameliorări superior educației morale sau a unor forme de corecție ori îndreptare morală?
Moralitatea există pentru a facilita co-ordonarea socială, pentru a preveni fenomene de tipul free-riding, exploatarea sau prejudicierea altora pentru propriul interes. (N.a.: Conceptul de free-riding provine dintr-o problemă ridicată în științele sociale și se referă la un anumit tip de eșec al pieței, care apare atunci când cineva beneficiază de bunuri publice fără să contribuie la acestea.) Cum aproape toți oamenii au înclinația de a face free-riding, de a își plasa interesele personale deasupra celor ale altor indivizi și de a-i dezavantaja într-un fel sau altul pe ceilalți, moralitatea trebuie să fie, la un anumit nivel, obligatorie. Deseori, pedeapsa asociată comportamentului imoral este pedeapsa socială: rușinarea, înjosirea, apostrofarea, excluziunea etc.. Fiecare cultură are moduri specifice prin care fortifică, promovează și impune un anumit grad de comportament moral. Bioameliorarea morală ar fi un alt mod de a obține același rezultat, dar ar trebui să fie obligatorie ca să fie pe deplin eficientă. Cei care au cea mai mare nevoie de ameliorare morală sunt cei mai predispuși la a o evita în mod voluntar.
Superioritatea bioameliorării morale față de formele psiho-sociale tradiționale de corectare morală depinde de circumstanțe precise – gravitatea problemei, siguranța și eficacitatea metodei și compararea utilității relativă la intervențiile psiho-sociale. În unele cazuri, intervenția biologică ar putea fi cea mai profitabilă din punct de vedere al costurilor și al beneficiilor, iar în altele, intervenția psiho-socială ar putea fi o opțiune mai bună. Nu există o regulă simplă pentru a determina aceste aspecte. Orice tip de intervenție afectează, în cele din urmă, biologic atât creierul, cât și mintea. Intervențiile biologice directe sunt potențial mai puternice și pot, în principiu, să afecteze direct activitatea creierului, ceea ce le face mai riscante.
Atunci când discutați despre bioameliorarea morală, vorbiți, de asemenea, despre implementarea obligatorie și coercitivă a acesteia în anumite cazuri. Cu toate acestea, aveți grijă să specificați anumite condiții în care acest lucru ar fi justificat. Mai precis, este vorba despre existența unei amenințări foarte grave; garanția siguranței și a eficacității metodelor presupuse, prevalența beneficiilor în fața costurilor asociate procedurii, și demonstrarea superiorității utilității acesteia față de oricare alte opțiuni mai puțin coercitive. În primă instanță, acest calcul de predicție pare a fi foarte complicat. Atunci când ați făcut o analogie cu obligativitatea vaccinării în timpul pandemiei, ați spus că vaccinul nu corespunde acestor condiții, deoarece eficacitatea sa nu a fost încă dovedită. Desigur, nu putem spune că vaccinarea a fost în mod direct obligatorie, dar deținerea unui certificat verde în urma acesteia a garantat o vreme accesul în magazinele alimentare și dreptul oamenilor de a călători. A fost, așadar, vorba mai degrabă de o constrângere indirectă. Am putea spune că, în acest caz, un vaccin obligatoriu este o încălcare a libertății cetățenilor? Ce alte opțiuni ar mai avea un stat în acest tip de situație, când descoperirea unui anumit vaccin este destul de recentă și eficiența acestuia nu poate fi dovedită cu 100% certitudine?
Introducerea unui certificat verde este o formă de vaccinare obligatorie – închide orice opțiune de acces la anumite servicii. Este doar mai slab coercitivă. Vaccinarea obligatorie este o încălcare a libertății. Societatea încalcă tot timpul libertatea individuală prin legi și reguli. Acestea sunt necesare pentru funcționarea socială. De exemplu, avem nevoie de limite de viteză în trafic și aproape toate țările le au.
Vaccinarea obligatorie poate fi justificată pentru toate persoanele. Dacă COVID ar fi fost la fel de letal ca Ebola, vaccinarea obligatorie, chiar și folosind unele vaccinuri oarecum ineficiente și riscante, ar fi fost justificată. În cazul COVID, am argumentat că o opțiune la vaccinarea obligatorie a tuturor ar fi fost obligativitatea selectivă. Vaccinarea obligatorie a vârstnicilor în cazul COVID este mai ușor de justificat decât cea obligatorie a tinerilor, deoarece vârstnicii au puțin de pierdut și mult de câștigat, iar tinerii au mult de pierdut și puțin de câștigat.
În prefața uneia dintre cărțile pe care le-ați editat, Enhancing Human Capacities, atunci când discutați despre ameliorarea biologică în general, includeți o serie de categorii distincte, precum bioameliorarea fizică, bioameliorarea stării mentale (mood bioenhancement), bioameliorarea cognitivă, prelungirea duratei de viață și bioameliorarea morală. Pentru primele patru putem găsi cu ușurință câteva criterii obiective de măsurare a succesului procedurilor presupuse în fiecare caz. De exemplu, o procedură de bioameliorare cognitivă reușită va conduce la creșterea capacităților cognitive, cum ar fi inteligența, atenția și memoria. Extinderea duratei de viață are ca obiectiv prelungirea existenței biologice a indivizilor. Îmbunătățirea stării mentale presupune ameliorarea anumitor stări negative prin administrarea de medicamente, cum ar fi antidepresivele. Dar care ar fi criteriul și obiectivul bioameliorării morale? Am putea spune, de exemplu, că un grad mai înalt de empatie sau un nivel crescut de altruism sunt întotdeauna și în mod universal benefice pentru ambele instanțe implicate într-o situație morală?
Aflată la antipodul interesului propriu, moralitatea se definește printr-un anumit grad de considerație față de celălalt. Pentru utilitariști, fiecare individ trebuie să conteze la fel de mult ca oricare altul și niciunul nu trebuie să conteze mai mult decât altul. Așadar, bunăstarea fiecăruia contează în mod egal. Desigur, pentru alte coduri morale, considerarea celuilalt ia forme diferite. Ceea ce rămâne totuși comun tuturor sistemelor de moralitate este faptul că necesită renunțarea într-un anumit grad la ceea ce este mai bine pentru sine (interesul propriu) de dragul celorlalți (sau al grupului). Moralitatea necesită un anumit nivel de sacrificiu de sine. Astfel, pregătirea prin educație de a-ți sacrifica propriile interese pentru alții ar fi o formă de îmbunătățire morală. Acesta este altruismul. Desigur, în unele cazuri, nu ar trebui să ne sacrificăm interesele proprii - poate că acei „ceilalți” despre care am vorbit ne-au exploatat sau ne-au nedreptățit. Deci avem nevoie, de asemenea, de un simț al dreptății - acesta este motivul pentru care eu și [filosoful suedez, n.r.] Ingmar Persson ne-am concentrat în studiile noastre pe altruism și pe simțul dreptății.
Există totuși și alte calități care alcătuiesc consolidarea morală. Ceea ce am propus eu a fost un proiect social și de cercetare, pentru a sublinia importanța serioasă a îmbunătățirii morale. Aceasta necesită atât definirea unei concepții legate de ce ar putea fi ameliorarea morală, cât și despre cum ne poate ajuta știința să o realizăm. Deși există multe dezacorduri cu privire la ceea ce înseamnă o persoană bună din punct de vedere moral, există și multe puncte în care teoriile morale sunt în acord. Ar trebui să începem mai degrabă din acest punct. Nimeni nu ar putea crede în mod plauzibil că un psihopat este bun din punct de vedere moral.
Deoarece există suspiciuni justificate cu privire la interesul guvernelor pentru bunăstarea indivizilor și la exercitarea morală a puterii, ce tip de instituție ar fi potrivită pentru a stabili dacă o anumită situație necesită sau nu bioameliorare morală obligatorie? Mai mult decât atât, cine ar putea decide ce nivel de putere coercitivă trebuie aplicat?
O parte a argumentării noastre are scopul de a destigmatiza și demistifica bioameliorarea. Nu există nimic special în ceea ce privește îmbunătățirea biologică, în comparație cu îmbunătățirea psihosocială. Ambele pot prezenta atât riscuri, cât și beneficii. De exemplu, fenomenul spălării pe creier (brainwashing) este extrem de periculos. În mod obișnuit, biointervențiile, precum psihochirurgia, au efecte mai puternice, așa că ar trebui să fim mai precauți cu aceste practici, dar alte intervenții, cum ar fi utilizarea metilfenidatului sau a psilocibinei [substanțe psihoactive, n.r.], sunt mai puțin riscante. Aceleași autorități care trebuie să decidă în privința îmbunătățirii psihopedagogice și a obligativității acesteia ar trebui să decidă și în privința biointervențiilor. De exemplu, judecătorii și comisiile de liberare condiționată decid asupra utilizării medicamentelor antilibidinale pentru pedofili, ceea ce reprezintă o formă de bioameliorare morală agresivă. Aceleași autorități decid asupra programelor de încarcerare sau de reabilitare, care sunt tot forme de ameliorare morală aspră. Îmbunătățirea biologică morală nu diferă în niciun fel, din punct de vedere moral și intrinsec, de intervențiile psihosociale. Unii nu sunt de acord și susțin că oamenii sunt capabili să participe, să se angajeze și să reziste intervențiilor psihosociale, ceea ce nu pot face în cazul intervențiilor biologice. Totuși, revenind la primul exemplu dat, este greu de rezistat la fenomenul de spălare pe creier. Personal, nu cred că există o diferență de gen între aceste forme de ameliorare - toate își exercită efectul asupra creierului și a minții.
Întregul subiect al ameliorării biologice ridică, de asemenea, întrebări serioase cu privire la posibila inegalitate între oameni. Cine ar trebui să beneficieze de aceste proceduri și cum ar putea fi asigurat accesul tuturor în mod egal la această remediere? Toate tipurile de bioameliorare (morală, cognitivă, fizică etc.) ar implica inegalități? Ar putea aceste fenomene să creeze și mai multe disparități între oameni?
Bineînțeles, remedierea biologică ridică și probleme legate de egalitate și justiție, dar nu este diferită din acest punct de vedere de alte forme de ameliorare umană, cum ar fi ameliorarea digitală, prin intermediul calculatoarelor sau al internetului. Oricare ar fi principiile pe care le așezăm la baza guvernării distribuției practicilor de ameliorare, acestea ar trebui să guverneze și îmbunătățirile biologice. Sunt ameliorările biologice diferite în vreun fel de alte ameliorări? Ele pot fi mai puternice sau mai riscante, în funcție de context, dar nu există nicio diferență în ceea ce privește natura lor. De exemplu, trebuie să decidem cum să distribuim educația, asistența medicală și îmbunătățirile umane, inclusiv cele biologice.
Bioameliorarea morală este totuși diferită într-un anumit sens. Pentru că implică creșterea respectului față de ceilalți, contează mai puțin dacă unii o au, iar alții nu - cei care nu o au vor beneficia și ei, la rândul lor, de ea.
Cred că toți cei care am asistat la prelegerea dumneavoastră de la Bucharest – Oxford – Singapore - Conference on Applied Ethics ne-am putea pune de acord că a fost chiar un performance. Spre sfârșitul discursului, ne-ați surprins pe toți spunând că lucrarea dumneavoastră a fost scrisă folosind ChatGPT. Ați putea să-mi spuneți mai multe despre procesul implicat în utilizarea acestui instrument? Cu ce provocări v-ați confruntat, odată ce ați primit primul draft produs de ChatGPT?
Colegul meu Sebastian Porsdam-Mann a antrenat ChatGPT 3.5 cu informații despre cercetarea mea, cea făcută de el și cea făcută de Brian D. Earp. Am folosit câteva articole pe care le-am scris ca autori unici pentru a-l antrena. Am comparat rezultatele oferite de ChatGPT atunci când este neinstruit vs. instruit pe o anumită persoană vs. când folosește modelul de instruire combinat. Am constatat că toate versiunile antrenate au fost mai bune în abordarea problemelor de bioetică decât versiunile neantrenate. Modelul meu și cel al lui Brian au fost cele mai bune.
Am decis să văd dacă versiunea mea antrenată poate scrie o lucrare. Primul pas este să îi dai indicații, așa că am scris rezumatul, am creat titluri de secțiuni și am scris unul sau două rânduri la fiecare secțiune. Era o idee pe care o aveam deja. Apoi a completat-o excelent până a ajuns să fie o lucrare de 3500 de cuvinte. Într-adevăr, a trebuit să mai corectez câteva inexactități și, de altfel, nu a introdus o secțiune pe care voiam să o includ, așa că am scris-o eu. Apoi am trecut-o prin ChatGPT 4 pentru referințe - a adăugat doar câteva, dar erau corecte. Aș spune că întregul proces mi-a luat aproximativ 45 de minute și, la final, am avut o lucrare destul de bună. În cazul meu, ChatGPT nu a scris nimic nou, dar într-un alt caz, cel al versiunii antrenate a lui Brian, lucrând la o discuție despre ameliorarea iubirii, programul a găsit o conexiune nouă cu literatura de specialitate. Recent, am adresat o întrebare modelului meu antrenat ChatGPT, și anume: „cum pot fi un tată mai bun?”. A venit cu câteva răspunsuri bune: "Un bărbat ar trebui să-și iubească copiii cu înflăcărare, să-i protejeze cu un scop, să-i disciplineze cu perseverență și să-i încurajeze cu entuziasm. Ar trebui să-i trateze ca și cum ar fi deja ceea ce vrea el ca ei să devină și să acționeze ca și cum caracterul lor ar fi deja format. Ar trebui să-i învețe cu fidelitate tot ceea ce știe." Cred că penultima propoziție este destul de inedită.
Așadar, cred că trebuie să învățăm să trăim cu și să folosim LLM-urile (large language models) - dar avem nevoie de noi norme cu privire la modul în care ar trebui să facem acest lucru. Într-un articol recent publicat în Nature Machine Intelligence, Brian, Sebastian, eu și alți colegi descriem câteva norme de atribuire.
Unde vă poziționați în discuția despre integritatea academică, în contextul utilizării inteligenței artificiale pentru scrierea unui articol academic sau a unei prezentări pentru o conferință? Credeți că studenții ar beneficia dacă ar economisi timp folosind ChatGPT pentru redactarea lucrărilor? Ce alte beneficii are un astfel de instrument pentru cercetători?
Cred că trebuie să ne angajăm în cocreație cu ChatGPT. Adică trebuie să folosim rezultatele, să le interogăm, să le corectăm, să le elaborăm și să le folosim ca o rampă de lansare pentru un nou tip de originalitate, creativitate și productivitate. Nu ar trebui să le folosim în mod necritic sau să le regurgităm – asta ne-ar transforma într-un recipient, un simplu instrument al ChatGPT. Dar putem fi stăpânul său, sau cel puțin un cocreator. Tot ceea ce face ChatGPT este să producă previziuni bazate pe cuvintele umanității - noi putem construi pe această bază. Provocarea va fi să distingem ce este al nostru și ce este produsul altora. Poate că va trebui să renunțăm la ideile de individualitate, atribuire și laudă individuală. Poate că va fi prea dificil. Dar lumea ar putea fi, totuși, un loc mai interesant astfel.
Dacă ar fi să stabiliți o serie de reguli sau condiții privind modul de utilizare etică a ChatGPT în mediul academic, ce ați sugera? Cum ați reglementa, preveni și penaliza utilizarea sa necorespunzătoare? (De exemplu, ar trebui să o penalizăm așa cum pedepsim plagiatul?)
Cred că aspectele fundamentale țin de a raporta ce am făcut noi și ce a făcut programul. Nu va fi suficient doar să menționăm ChatGPT drept coautor - noi susținem într-una din lucrările noastre că, din punct de vedere tehnic, nu poate fi vorba de un coautor. Trebuie să menționăm orice idee originală pe care am avut-o și munca depusă. Poate că ar putea fi folosit un block chain pentru a înregistra ordinea evenimentelor în evoluția lucrării. De exemplu, eu aș pune ștampila pe proiectul meu original, apoi aș pune ștampila pe prima său draft, apoi pe al doilea proiect etc.. Întreaga evoluție a unei lucrări ar putea fi apoi examinată cu atenție. Nu m-am gândit foarte serios la modul în care ne confruntăm cu această revoluție tehnologică - am încercat să văd doar ce ar fi posibil să facem cu ea în momentul de față.
În concluzie, unde ați plasa inteligența artificială în schema mai amplă a ameliorării umane? Am putea spune că ChatGPT reprezintă o formă de îmbunătățire cognitivă sau, dimpotrivă, că va diminua capacitatea oamenilor de a-și folosi în mod corespunzător propriile capacități cognitive?
În prezent, există o creștere exponențială a îmbunătățirii cognitive prin intermediul internetului, deoarece acesta recuperează și sintetizează cunoștințele umane. Această contribuție este mult mai semnificativă decât orice perspectivă de bioameliorare cognitivă umană și promite în continuare să sporească – încă nu folosim internetul la capacitatea sa maximă. Într-un fel, LLM-urile cercetează întregul internet. La fel ca orice tehnologie influentă, ChatGPT are capacitatea de a face mult bine, dar și mult rău. Într-adevăr, ea reprezintă o nouă și reală amenințare existențială. Cu siguranță ar putea diminua capacitatea cognitivă umană, dacă ne limităm la a-i regurgita rezultatele, dar cred că soluția este să începem să creăm împreună cu ea.
