»Magnifica humanitas«, prva okrožnica Leona XIV.

Isabella Piro – Vatikan

»Veličastno človeštvo, ki ga je ustvaril Bog, je danes pred odločilno izbiro: zgraditi nov babilonski stolp ali zgraditi mesto, v katerem Bog in človeštvo bivata skupaj.« Začetek prve okrožnice Leona XIV. – Magnifica humanitas »o varovanju človeške osebe v času umetne inteligence« – povzema njene temeljne razloge in namen. Objavljeno danes, v ponedeljek, 25. maja, je papež podpisal preteklega 15. maja, ob 135-letnici razglasitve Rerum novarum Leona XIII. Papež Leon XIV. je od svojega predhodnika prevzel dediščino in napisal socialno okrožnico, ki se loteva enega od temeljnih izzivov sodobnega časa: umetne inteligence.

Magnifica humanitas, ki je razdeljena v pet poglavij, ter uvod in zaključek, izhaja iz trditve: tehnologija »ni nasprotna sila v odnosu do osebe« (4), niti »sama po sebi zlo« (9). Kljub temu pa »ni nevtralna, ker dobi obraz tistih, ki si jo zamišljajo, jo financirajo, urejajo, uporabljajo.« Od tod papežev poziv, da »gradimo v dobrem« in »ostajamo ljudje«, sledeč logiki pogumne soodgovornosti, subsidiarnosti, občestva, da bo »svet mogel spoznati … v človekovem srcu kraj, kjer želi prebivati Bog« (16).

Družbeni nauk Cerkve in teologija občestva

Prvo poglavje – Dinamična misel, zvesta evangeliju – prehodi Družbeni nauk Cerkve (DNC) v nedavnem učiteljstvu in v 2. vatikanskem koncilu, ter osvetli njegov »dinamičen značaj« (17). Daleč od tega, da bi bila »priročnik načel in norm, ki jih je treba uveljavljati«, je DNC prej »pot skupnostnega razločevanja«, »teologija občestva v zgodovini« (27), ki usmerja branje dogodkov v luči evangelija. Leon XIV. omenja misel svojih predhodnikov: od Pija XII. – prvega, ki je uporabil izraz »Družbeni nauk Cerkve« v apostolski spodbudi Menti nostrae leta 1950 – do papeža Frančiška, pri čemer gre seveda skozi Rerum novarum iz leta 1891, ki je opredeljena kot »mejnik v razvoju socialnega učiteljstva« (30). V svojem obdobju je vsak Petrov naslednik »pokazal različne vidike ene same dediščine: dostojanstvo osebe, vrednoto dela, univerzalno namembnost dobrin, solidarnost in subsidiarnost, skrb za stvarstvo, središčnost miru in bratstva« (45).

Varovanje človekovega dostojanstva, človek ni vir za izkoriščanje

V drugem poglavju Leon XIV. našteje temelje in načela Družbenega nauka Cerkve: med prve prišteva dostojanstvo osebe, ustvarjene po Božji podobi in podobnosti. Na to je nujno potrebno spomniti, saj »pritisk novih tehnologij in odločilnih zelo močnih interesov« lahko človeka skrči na »vir za uporabo in izkoriščanje« ali na »to, kar doseže ali proizvede« (51). Nasprotno, »temeljno dostojanstvo vsakega človeka se ne pridobi in ne zasluži, niti ga ni treba dokazovati« (53). Drug temelj DNC je nedotakljivost človekovih pravic, med katerimi je prva pravica do življenja »od spočetja do naravnega konca«. V zvezi s tem Leon XIV. opredeli nameren splav, ubijanje nedolžnih in evtanazijo kot »zelo nedopustne odločitve« (55). Tretji temelj je priznanje pravic manjšin, s posebno pozornostjo do žensk. V njihov prid papež zahteva »konkretne odločitve« v zakonih, v delu, v izobraževanju, v socialnih in političnih odgovornostih, da bi jih zares slišali in cenili (57).

Nemoralno in nesprejemljivo je odstraniti ali podrediti si nek narod

Kar zadeva načela DNC, jih Leon XIV. navede pet: prvi je skupno dobro, »družbena oblika dostojanstva, ki je priznana vsakemu« (59). Na neki točki je papež posebej odločen: »Spodbujanje skupnega dobrega ne more biti nikoli ločeno od spoštovanja ljudstev do obstoja, varovanja lastne identitete in s svojo izvirnostjo prispevati k družini narodov.« Posledično je »kakršen koli poskus ali načrt za odstranitev ali podreditev nekega naroda skrajno nemoralen in zato nesprejemljiv (64).

Tehnologija naj ne bo zbrana v rokah peščice

Drugo načelo zadeva univerzalno namembnost dobrin. Tukaj in v drugih točkah okrožnice Leon XIV. vztraja na tem, naj znanje in tehnologija ne bodo skoncentrirani v rokah peščice, kar bi povečevalo razliko med vključenimi in izključenimi iz digitalne revolucije (67). Iz tega sledita tretje in četrto načelo, oziroma subsidiarnost (68), ki zahteva preseganje paternalizma in asistencializma v prid soodgovornosti, in solidarnost (73), »načelo in krepost«, ki se zoperstavlja brezbrižnosti in upošteva ljudstva in prihodnje rodove.

Družbena pravičnost in »preizkusni kamen« migrantov

Peto načelo, ki ga je  pokazal papež, je družbena pravičnost. V digitalnem času mora vsem zagotoviti enak dostop do priložnosti, zaščititi najbolj krhke, boriti se proti sovraštvu in dezinformacijam, uporabo podatkov in tehnologij podvreči javnemu nadzoru, »tako da načelo ne bo več samo dobiček, ampak dostojanstvo vsakega človeka in dobro ljudstev« (80). »Odločilni preizkusni kamen« na tem področju Leon XIV. pokaže v migrantih, beguncih in razseljenih osebah. Način, kako družba ravna z njimi, dokazuje, »če idejo pravičnosti vodi strah ali bratstvo.« Od tod opomin tako k varovanju »pravice do upanja« za tiste, ki so prisiljeni oditi, da se jim zagotovijo varne in zakonite poti, dostojen sprejem in integracija, kot tudi spodbujanje »pravice, da ostanejo vsak na svoji zemlji v miru in varnosti, s spopadanjem z »globokimi vzroki« migracij (81).

Zlorabe in spraševanje vesti za Cerkev

Papež ima namen teh pet načel nasloviti ne samo na družbo, ampak tudi na Cerkev, ki je poklicana »k spraševanju vesti«. Papež nas spodbuja, »naj odnose in cerkvene strukture očistimo tistih izkrivljanj, ki povzročajo neenakost, nepreglednost in poneverbe.« Povabi nas, da prisluhnemo »žrtvam duhovnih, ekonomskih, institucionalnih, spolnih zlorab, zlorab moči in vesti«, v kolikor je to »sestavni del poti pravičnosti, ki vključuje priznanje škode, pravično povračilo in preprečevanje« (89).

Potrebujemo skupen etični kodeks o umetni inteligenci

Tretje poglavje – Tehnika in oblast. Veličina človeške osebe pred obljubami Umetne inteligence – stopi v središče teme o umetni inteligenci. Leon XIV. posvari pred »tehnokratskim vzorcem«, ki ga je razkrinkal že papež Frančišek in zaradi katerega vsako odločitev narekujejo izključno vzorci učinkovitosti in dobička (92). Nasprotno pa najmočnejša tehnologija ni nujno tudi najboljša. Umetna inteligenca lahko posnema in simulira človeka, nima pa moralne vesti, empatije, čustvenih, odnosnih in duhovnih sposobnosti. Zato moramo k umetni inteligenci pristopati trezno in pozorno, ohranjajoč jasnost o odgovornosti vseh njenih prehodov (accountability) ter staviti na ustrezno politiko in pravne okvire, na neodvisen nadzor, izobraževanje uporabnikov. Predvsem je potreben etični kodeks, podvržen merilom skupne družbene pravičnosti, saj »bolj moralna umetna inteligenca ni potrebna, če o tej morali odloča samo peščica« (107). Ne da bi zanemarili okoljski vpliv novih tehnologij, ki zahtevajo velike količine energije in vode, vplivajo na emisije ogljikovega dioksida in škodujejo stvarstvu (101).

Razorožiti umetno inteligenco in jo odtegniti tekmovalni logiki

Treba je »razorožiti umetno inteligenco« - vztraja Leon XIV. – da jo bomo odtegnili logiki vojaške, gospodarske in kognitivne tekme; da bi prekinili enakovrednost med tehnično močjo in pravico do vladanja; da jo odtegnemo monopolom in ji preprečimo, da bi gospodovala nad človeštvom. Ta naloga je etična, tehnična in ekološka, ker je umetna inteligenca »že okolje, v katerega smo potopljeni in moč, ki jo moramo pretehtati« (110). Veliko prostora je namenjenega kritiki transhumanizma in posthumanizma, ki napredek razlagata kot preseganje človeških mej. Nasprotno pa omejitev ni pomanjkljivost, ki jo je treba odstraniti, ampak sestavna razsežnost človeka, »saj se človek ne razcveti kljub omejitvi, ampak pogosto skozi omejitev« (118), ko v krhkosti in končnosti prepozna kraje, na katerih zorijo odnosi, skrb in odprtost za Boga in za drugega.

Napredek tehnologije naj ne povzroči nazadovanja srca

Vložek je visok: spodbujati rast tehnike z odstranjevanjem človeških omejitev pomeni nazadovanje srca. Veličastno in vendar ranjeno človeštvo »ne sme biti ne zamenjano ne preseženo«. Tehnologija mu lahko lajša trpljenje in odpira nove možnosti, ne sme pa ga zanikati v tem, kar mu je lastno: »v sposobnosti za odnose in ljubezen« (126). Spričo umetne inteligence alternativa ni med navdušenjem in strahom, ampak med dvema načinoma gradnje napredka: v službi človeka in ljudstev ali logike moči (129). Izbira, ki zadeva vse: »gradnja Babela ali gradnja Jeruzalema«, dveh »mest« človeka in Boga, ki ju pokaže tudi sv. Avguštin. (130), se začenja pri vsakem.

Ekologija komunikacije in središčnost šole

V četrtem poglavju – Varovati človeško v transformaciji. Resnica, delo, svoboda – okrožnica gleda na resnico kot na skupno dobro in bistveno prvino demokracije. V digitalnem okolju mora biti resnica izražena v »ekologiji komunikacije«, da bi kultura, ki jo poraja splet, ne postala orodje »homologacije in obvladovanja«, ampak prostor zorenja za »notranjo svobodo in kritično misel« (136-137). Papež nakaže nekaj orodij: preglednost v logiki izbiranja vsebin; zaščita osebnih podatkov; resno novinarstvo, utemeljeno na utemeljevanju in preverjanju; novo zavedanje o »pravilni in kritični rabi« umetne inteligence; povezovanje znanja. Pregledna in poštena komunikacija se zahteva tudi od Cerkve, predvsem v primerih krivic in zlorab. Osrednji del okrožnice je poziv k obnovljenemu izobraževalnemu zavezništvu, da v mladih ne bi ugasnila »želja po postavljanju vprašanj« zaradi popolnih strojev, zaradi katerih se zdi, da je človeška misel nepotrebna (140). »Naučiti se moramo, da se bomo postili od umetne inteligence«, pripominja Leon XIV., z odpravljanjem neenakosti pri dostopu do izobrazbe in z osredotočanjem na šolo kot kraj, kjer se naučimo »iskati in ljubiti resnico«, in se uči tisto, česar digitalno ne more dati: »skupen čas za učenje in za zanesljive odnose« (147).

Delo naj bo osredotočeno na človeka, ne na dobiček

V »četrti industrijski revoluciji«, ki jo predstavlja digitalni prehod, papež poudarja pomembnost varovanja dostojanstva in vrednosti dela: »Novi načini dela niso nujno boljši,« pojasnjuje, saj tehnologija delavce lahko dekvalificira, jih odrine na obrobne funkcije, jih podvrže avtomatiziranemu nadzoru (150). Nasprotno, treba je načrtovati sisteme, ki so osredotočeni na človeka in ne samo na uspešnost, saj tehnologija gotovo lahko človeka razbremeni obremenjujočih ali ponavljajočih se opravil, nikakor pa ne sme voditi k brezposelnosti v imenu zmanjševanja stroškov in povečevanja dobička. V scenariju, v katerem so na vidiku večja revščina in neenakosti, ki jih povzročajo avtomatizirani sistemi, ki stopajo na mesto človeka, papež želi tudi prenovo sindikalnih organizacij (155).

Razvoj se ne meri samo z BDP

Digitalno preobrazbo je treba vnaprej voditi po trdnih družbenih merilih, z dostopnim in stalnim izobraževanjem za delavce, s podjetniško odgovornostjo. Papež tudi poudarja, da je nujno potrebno preseči BDP kot parameter stopnje razvoja v neki državi in se namesto tega osredotočili na dostojanstvo dela, skupno blaginjo, zmanjšanje neenakosti, varovanje okolja. Finance za finance se namreč razlikujejo od financ za razvoj (159-160). Po vzoru sv. Pavla VI. je poudarjena medsebojna odvisnost med mirom in razvojem, v želji po mednarodnem sodelovanju, ki bo sposobno opredeliti skupne strategije »zlasti v korist najbolj ranljivih držav in skupin«, saj blaginja prispeva k miru »samo, če je razširjena, vključujoča in trajnostna« (163).

Družina, primarno družbeno dobro

Okrožnica potem močno opozarja na družino, ki temelji na trdni zvezi med moškim in žensko. Gre za »primarno družbeno dobro«, »osnovno in nenadomestljivo celico vsake skupnostne organizacije« (165), ki jo je treba podpirati tudi s politiko dela v dobro stabilnosti in človeških ritmov, da se zagotovi pravo življenjsko ravnovesje in zaščiti tista »sposobnost graditve prihodnosti«, ki družbo naredi rodovitno.

»Arhitektura vidnosti« in tveganja za svobodo

Na koncu je še tema človekove svobode, ki jo je treba zavarovati pred odvisnostjo in spreminjanjem v potrošno blago. V dobi, v kateri so digitalne platforme zasnovane tako, da ujamejo čas uporabnikov in izkoriščajo njihovo krhkost, je nujno treba okrepiti notranjo svobodo vsakogar in se spopasti s tveganjem družbenega nadzora, ki izhaja iz množičnega zbiranja podatkov in uporabe algoritemskih sistemov. Načrtovanje, predvidevanje in usmerjanje obnašanja je »nova moč« (171), ki je nevarna za diskriminacijo najbolj šibkih. Papež še posebej obsoja »arhitekturo vidnosti«, ki nagrajuje in poveličuje samo to, kar je vidno, s tem da oblikuje mnenja in ustvarja konformizem.

Nove sužnosti in novi kolonializem

Umetna inteligenca povzroča nove oblike suženjstva, kot je suženjstvo »zaznamovanih, pohabljenih in iztrošenih teles« (173) tistih, ki delajo na pridobivanju »redkih zemelj«, ki so potrebne za tehnologijo. Zato je boj proti novim sužnostim drug »odločilen preizkusni kamen za etično presojo« digitalne preobrazbe. S tem v zvezi Leon XIV. poudarja, da »Cerkev ponovno odločno obsoja vse oblike sužnosti, trgovine z ljudmi in njihovo spreminjanje v potrošno blago« in poudarja, da če se ne odzovemo ali dopuščamo te »resne kršitve človekovega dostojanstva« dejansko pomeni, da »postanemo sokrivci« (174). Istočasno papež »iskreno prosi za odpuščanje« za zamudo, s katero je Cerkev v preteklosti  obsodila »bič suženjstva«. Okrožnica omenja tudi »nove redke zemlje moči« oziroma življenjsko pomembne informacije – na primer o zdravstvenem varstvu ali demografiji – ki se uporabljajo za vodenje gospodarskih strategij. Gre za, kot pojasnjuje papež, še neznan obraz kolonializma, ki se polasti podatkov in osebna življenja spremeni v informacije, ki jih je mogoče izkoriščati, kar spletno okolje naredi za »prostor plenjenja« (178-179).

Preseganje teorije o »pravični vojni«

V petem in zadnjem poglavju – Kultura moči in civilizacija ljubezni – Leon XIV. svoj pogled usmeri na vojno: »Digitalna revolucija spreminja gramatiko konfliktov« in brez etičnega pristopa bodo odločitve o življenju in smrti ljudi vedno bolj neosebne, zatekanje k sili pa bo veljalo za »takojšnjo in izvedljivo možnost« (182-183). V osnovi vsega je »kultura moči«, ki normalizira voljno in jo rehabilitira kot »sredstvo mednarodne politike«, ki je naklonjeno ponovnemu oboroževanju. Javno mnenje, ki je v preteklosti vojskovanje videlo samo zadnjo možnost, sedaj obremenjujejo tudi polarizirajoče medijske pripovedi, »kot tudi zaskrbljujoča izguba zgodovinskega spomina«, zaradi katere smo brez dolgoročne vizije (191). Posledično danes mir ne razumemo več kot nalogo, ki jo je treba sprejeti, ampak kot začasen premor med spopadi. Zato moramo, poudarja Leon XIV. – brez poseganja v pravico do zakonite obrambe v strogem pomenu besede – preseči teorijo »pravične vojne« in namesto tega spodbujati dialog, diplomacijo in odpuščanje (192).

Noben algoritem ne naredi vojne moralno sprejemljive

Papež ne pozabi obžalovati rasti vojne industrije, tekme v jedrskem oboroževanju, pojava novih oboroženih dejavnikov – vključno z džihadisti – ki hočejo ohranjati spopade kot vir moči in zaslužka. Potem je jasno opozorilo pred orožjem, povezanim z umetno inteligenco, ker »ni algoritma, ki bi lahko vojno naredil za moralno sprejemljivo«, ravno nasprotno: tehnologija »spopada ne odtegne od njegove notranje nečloveškosti, lahko ga naredi samo hitrejšega in bolj neosebnega, ko zniža prag zatekanja k nasilju in spremeni obrambo v operativno predvidevanje, z žrtvami, ki so skrčene na podatke. Tako nas navadi na misel, da je nasilje neizogibno in ga je treba samo optimizirati« (198). Potrebne so torej stroge etične omejitve, skupne na mednarodni ravni, ki temeljijo na osebni odgovornosti in na zaščiti civilistov, saj »vsaka tehnologija, ki olajša napad, ne da bi videli obraz drugega, zniža moralni prag spopada« (199).

Kriza multilateralizma

Kultura moči izhaja tudi iz krize multilateralizma in iz pojava »neurejene in konfliktne večpolarnosti«, v kateri prevlada nezaupanje do drugega (201). Moč prava nadomesti pravica močnejšega; logike moči prevladajo nad izgradnjo miru, ki je potisnjena v ozadje, in ustanove, ki so nastale za varovanje skupne usode ljudstev, so sedaj oslabljene, nepriznane v svoji moralni avtoriteti. S tem v zvezi papež za Združene narode in za mednarodni politični sistem želi »globoke reforme«, ki bodo premagali trenutno krizo vrednot v korist resničnega skupnega dobrega (226).

Neodgovorna Realpolitik

Danes se, nadaljuje okrožnica, bijejo »hibridne« vojne, ki vključujejo gospodarsko, finančno, informacijsko področje, izkoriščajo dezinformiranje in strah zato, da vplivajo na javno mnenje in predstavljajo rast vojaških izdatkov kot »edini odgovor« na negotovo prihodnost. Vendar je vse to samo »lažni realizem«, neodgovorna Realpolitik, ki v zavest ljudi in v kulture seje sprijaznjenost z neizogibno vojno in mir opredeljuje kot utopijo (204-205). Ne smemo izključevati dejstva, da bi oborožen spopad za nekatere mogel biti orodje za »cinično obvladovanje« težav, pa tudi način za odvračanje pozornosti od notranjih problemov (208).

Civilizacija ljubezni

Kristjan je poklican, da na to kulturo moči odgovori z gradnjo »civilizacije ljubezni«. Milost namreč spopada ne odpravlja kot z magijo, ampak ustvarja »dejaven odpor proti zlu in presenetljivo ustvarjalnost v dobrem« (211). Vsak je na svojem področju delovanja poklican k odločitvi, ali bo gojil logiko moči ali bo varoval mir in z majhnimi dejanji zvestobe in vztrajnosti zajezil razčlovečenje. Papež nakaže »Pet poti odgovornosti«: razorožitev besed z govorjenjem resnice; graditev miru v pravičnosti; sprejeti pogled žrtev z zavzemanjem stališča, ker obstajajo spopadi, v katerih »ni prav ostati nevtralen«. Napadi na civiliste, na bolnišnice, na infrastrukturo prizadenejo samo človečnost in ne morejo vstopati na področje abstraktnih analiz. Nasprotno, dati moramo glas žrtvam, da »se bomo zares zavedali brezna zla«, ki ga ima v sebi vojna in vsako nasilje (217). In še: papež spodbuja, naj gojimo »zdrav realizem«, ki išče poti miru, ki so dejansko izvedljive in ne ostanejo samo pri besedah.

Ne uporabljati Božjega imena za opravičevanje vojne

In nenazadnje, znova začeti dialog s prehodom od kulture moči h kulturi pogajanja. Odločilen je tudi »dialog med verstvi«, ki je nosilec sporočila miru. »Kdor uporablja Božje ime za opravičevanje terorizma, nasilja ali vojne, izda njegov obraz – je opozorilo Leona XIV. – bojevati se v imenu vere v resnici pomeni prizadeti vero samo« (223). S svoje strani diplomacija Svetega sedeža uporablja »evangeljsko načelo usmiljenja« kot konkretno merilo političnega delovanja. Od tod izhaja spodbuda k molitvi, kajti mir prihaja predvsem od Boga (227-228).

Veličastno človeštvo

Na koncu pisma papež povabi vernike, naj nove tehnologije uporabljajo v luči evangelija, po »trezni in zahtevni poti krščanskega življenja,« da bodo tudi v času umetne inteligence vsi lahko pričevali za »lepoto veličastnega človeštva, v katerem prebiva Bog«.