A rămâne umani în era algoritmilor

Andrea Tornielli

În era inteligenței artificiale, cu demnitatea umană care riscă să fie umbrită de enorme concentrări de putere tehnologică necontrolată și de noi forme de dezumanizare, Papa Leon ne amintește de ”datoria urgentă” de a rămâne profund umani. Într-o epocă a polarizărilor și violențelor, care vede răspândirea unei ”culturi a puterii” cu războiul reabilitat ca instrument al politicii internaționale, Succesorul lui Petru ne cere să lăsăm tehnica să crească ”fără a permite inimii să regreseze”. Ne invită să acceptăm limitele și fragilitatea umanității fără a le considera, așa cum face ideologia tehnocratică, o eroare care trebuie corectată. Ne îndeamnă să privim lumea nu prin prisma celor mari, ci de jos, cu ochii celor care suferă, începând cu cei din urmă. Cu ochii unui Dumnezeu care a luat asupra sa slăbiciunea noastră, transformând-o într-o sursă de mântuire, pentru că ”chiar și atunci când mașinile excelează în eficiență, centrul istoriei rămâne un chip uman care cere să fie privit”.

”Magnifica humanitas”, prima enciclică a lui Leon al XIV-lea, nu este în primul rând un text analitic despre inteligența artificială, nu intră în detaliile proceselor aflate în continuă evoluție. Mai degrabă, este o ”summa”, care aplică principiile Doctrinei sociale timpului nostru, care este timpul IA, consolidând și actualizând punctele cheie ale magisteriului. Este un text care pune capăt și confuziei celor care, având încredere în libertatea absolută a piețelor și a noilor tehnologii, tind să considere ca o învățătură discutabilă magisteriul papal privind necesitatea unei guvernări umane asupra IA, despre ecologia integrală, despre structurile economice care devin ”structuri ale păcatului”, despre a spune nu pentru război.

Papa, care a preluat numele autorului ”Rerum novarum”, în timpul revoluției digitale, ne cere fiecăruia dintre noi să ne asumăm un rol activ, deoarece construirea ”civilizației iubirii” se realizează datorită ”unei sume de credințe mici și tenace”, capabile să oprească dezumanizarea. Este, așadar, o sarcină care ne privește pe toți și în mod direct.

Leon ne amintește că ”nedreptățile nu se nasc doar din alegerile greșite ale persoanelor, ci și din structuri, mecanisme și situații economice și culturale care produc inegalitate” și că ”dezvoltarea care crește consumul unora în timp ce descarcă costuri și suferințe asupra altora, sau care relegă regiuni întregi în roluri subordonate, nu este uman”, așa cum se întâmplă, din păcate, astăzi, chiar și în contextul noilor tehnologii și al resurselor pe care le necesită. În enciclică se citește că funcția socială a proprietății private este o ”doctrină anume” a Bisericii și, astăzi, printre bunurile universale destinate tuturor, ”trebuie să includem și noi forme de proprietate: brevete, algoritmi, platforme digitale, infrastructuri tehnologice, date”, pentru a preveni apariția sau consolidarea unor noi forme de excluziune și privare de libertate. Tehnica, de fapt, nu este un simplu instrument, iar atunci când devine un criteriu, ”ajunge să stabilească ce contează și ce poate fi eliminat”, reducând ”persoanele la angrenaje ale unui sistem care trebuie făcut din ce în ce mai performant”.

Astăzi, controlul platformelor, infrastructurilor, datelor și puterii de calcul ”nu este apanajul statelor, ci a marilor actori economici și tehnologici”, care stabilesc condițiile de acces, regulile de vizibilitate și însăși posibilitățile de participare. Atunci când o astfel de putere este concentrată în câteva mâini, ”tinde să devină opacă și să scape de sub controlul public”, aducând cu sine riscul unei dezvoltări distorsionate ”care generează noi dependențe, excluderi, manipulări și inegalități”.

Papa, reafirmând necesitatea de a fi depășită teoria ”războiului just”, solicită ca utilizarea inteligenței artificiale în război să fie supusă celor mai stricte constrângeri etice, deoarece ”Nu există algoritm care să poată face războiul acceptabil din punct de vedere moral”. În plus, inteligența artificială a devenit un element determinant în modelarea opiniei publice prin manipularea imaginilor și a conținuturilor, făcând din ce în ce mai dificilă distincția dintre adevăr și fals. Există, de asemenea, multe incertitudini cu privire la piața muncii. Enciclica amintește, în acest sens, că nu mai este posibil să ne bazăm exclusiv pe ”mâna invizibilă” a pieței: politica are sarcina de a orienta dinamicele economice și tehnologice spre binele comun, promovând munca demnă, incluziunea socială și o distribuție echitabilă a beneficiilor inovației.

Rămânând umani, guvernând procesele, evitând – chiar și în acest domeniu – monopolurile care ajung să sporească puterea câtorva în detrimentul vieții multora: calea indicată de Pontif nu ridică baricade și nici nu respinge a priori utilizarea IA. Într-adevăr, el subliniază numeroasele sale aspecte pozitive și aplicații utile, dar în același timp explică faptul că nu este suficient să ne punem o întrebare etică despre scopul bun sau rău pentru care este folosită. Este esențial să intervenim mai întâi și, de asemenea, să ne întrebăm cum este proiectat un sistem și ce idee de persoană și societate este înscrisă în datele și modelele care îl ghidează. Acest lucru necesită cadre juridice adecvate, supraveghere independentă, educarea utilizatorilor și, mai presus de toate, încă o dată, ”o politică care nu abdică de la propria sarcină”. Altfel, schimbarea va fi guvernată exclusiv de logicile tehnocratice și va fi prezentată ca fiind ”necesară și inevitabilă”, ajungând astfel să impună reguli ”dictate” de cei care dețin datele, infrastructurile și puterea de calcul.

Prin urmare, este necesar să fie ”dezarmată” IA, adică să fie ”ruptă această echivalență dintre puterea tehnică și dreptul de a guverna”. Nu pentru a renunța la tehnologie, ci pentru a o împiedica să domine omul: ea trebuie făcută discutabilă, contestabilă și, prin urmare, locuibilă. Tocmai pentru a nu abdica de umanitatea noastră, atât de fragilă și atât de ”măreață”.