Magnifica humanitas: å forbli menneskelig i algoritmenes tidsalder

Andrea Tornielli – Vatikanstaten

I KI-tidsalderen – når menneskeverdet står i fare for å bli overskygget av enorme konsentrasjoner av teknologisk makt hinsides all kontroll og av nye former for umenneskeliggjøring – minner pave Leo XIV oss om den «presserende plikten» [MH, 15] til å forbli dypt menneskelige. I polariseringenes og voldens tidsalder, der en «maktens kultur» [MH, 185] brer om seg og krig igjen blir akseptert som et redskap i internasjonal politikk oppfordrer Peters etterfølger oss til «ikke å la det gå tilbake med hjertet» [MH, 126] under den teknologiske utviklingen. Han inviterer oss til å akseptere menneskehetens grenser og svakheter uten å anse dem – slik teknokratisk ideologi gjør – som feil som bør rettes. Han oppfordrer oss til å betrakte verden ikke med de mektiges øyne, men nedenfra, med øynene til dem som lider, til dem som kommer sist. Med øynene til en Gud som tok vår svakhet på seg og forvandlet den til et sted for frelse, for «selv om maskinene er overlegne i sin effektivitet, forblir historiens sentrum et menneskelig ansikt som ber om å bli sett» [MH, 233].

Magnifica humanitas, Leo XIVs første encyklika, er ikke først og fremst en analytisk tekst om kunstig intelligens. Den går ikke inn i detaljene i prosesser som er i stadig utvikling. Den er snarere en «summa» som anvender sosiallærens prinsipper på vår tid – som er KI-tiden – og bekrefter og aktualiserer hovedpunkter i læreembetet. Det er en tekst som også setter en stopper for misforståelsen hos dem som, i tillit til markedets absolutte frihet og nye teknologier, har en tendens til å avfeie det pavelige læreembetet når det gjelder behovet for felles menneskelig styring av kunstig intelligens, integrert økologi, økonomiske strukturer som blir til «syndens strukturer» [MH, 36], og nei til krig.

Pave Leo XIV, som tok navn etter forfatteren av Rerum novarum, ber hver og en av oss om å innta en aktiv rolle i denne digitale revolusjonens tid, for byggingen av «kjærlighetens sivilisasjon» [MH, 185] skjer takket være «summen av små og store trofastheter», i stand til å demme opp for umenneskeliggjøringen. Altså en oppgave som angår oss alle på nært hold. Leo minner oss om at «urettferdighet ikke bare oppstår gjennom enkeltpersoners gale valg, men også gjennom strukturer, mekanismer og økonomiske og kulturelle forhold som skaper ulikhet» [MH, 79], og at «en utvikling er ikke menneskelig dersom den øker forbruket for noen ved å velte kostnader og skader over på andre, eller dersom den henviser hele regioner til en underordnet rolle» [MH, 83], slik det dessverre skjer i dag, også på området for nye teknologier og ressursene de krever. I encyklikaen heter det at den sosiale funksjonen til privat eiendom er «sikker lære» i Kirken [MH, 66], og at vi i dag, blant goder som er universelt bestemt for alle, «også må regne med nye former for eiendom: patenter, algoritmer, digitale plattformer, teknologisk infrastruktur og data» [MH, 67] for å forhindre at nye former for ekskludering og frihetsberøvelse oppstår eller befestes. For teknologi er ikke bare et verktøy, og når den blir målestokken som alt vurderes etter, «bestemmer den hva som teller og hva som kan vrakes». Slik fornedres menneskene til tannhjul i et system som stadig må effektiviseres [MH, 92].

I dag ligger kontrollen over plattformer, infrastrukturer, data og regnekraft «ikke hos statene, men hos store økonomiske og teknologiske aktører» [MH, 95] som fastsetter vilkårene for tilgang, reglene for synlighet og selve muligheten for deltakelse. Når slik makt konsentreres på få hender, «har den en tendens til å bli ugjennomsiktig og unndra seg offentlig kontroll» [MH, 95], noe som medfører risiko for en forvrengt utvikling «som skaper nye avhengigheter, ekskludering, manipulasjon og ulikheter» [MH, 95]. Paven bekrefter at teorien om «rettferdig krig» er foreldet, og ber om at bruken av kunstig intelligens i krigføring underlegges de strengeste etiske begrensninger, for «det finnes ingen algoritme som kan gjøre krig moralsk akseptabel» [MH, 198]. Kunstig intelligens er dessuten blitt en avgjørende faktor for å påvirke den offentlige opinionen gjennom manipulering av bilder og innhold, noe som gjør det stadig vanskeligere å skille sant fra falskt. Det er også mye som er usikkert når det gjelder arbeidsmarkedet. Encyklikaen minner i denne sammenhengen om at det ikke lenger er mulig å stole utelukkende på markedets «usynlige hånd» [MH, 163]: Det er politikkens oppgave å styre de økonomisk-teknologiske dynamikkene mot det felles beste, ved å fremme anstendig arbeid, sosial inkludering og en rettferdig fordeling av innovasjonens goder.

Å forbli menneskelig, styre prosessene og – også på dette området – unngå monopoler som ender opp med å øke makten til noen få på bekostning av mange menneskers liv: Veien som paven peker ut verken reiser barrikader eller avviser bruken av KI i seg selv. Tvert imot peker han på mange positive sider og mange nyttige anvendelser av KI, men forklarer samtidig at det ikke er nok å stille seg et etisk spørsmål om hvorvidt formålet med bruken er godt eller dårlig. Det er nemlig helt nødvendig å gripe inn tidligere og spørre seg også hvordan et system utformes, og hvilket menneske- og samfunnssyn som er lagt inn i dataene og i modellene som styrer det. Derfor trengs egnede juridiske rammeverk, uavhengig tilsyn, opplæring av brukere og fremfor alt – nok en gang – «et politisk system som ikke fraskriver seg sin oppgave» [MH, 106]. Ellers vil endringen bli styrt utelukkende av teknokratisk logikk og bli fremstilt som «nødvendig og uunngåelig», og dermed «ende opp med å påtvinge regler diktert av dem som besitter dataene, infrastrukturen og regnekraften» [MH, 106]. Det er derfor nødvendig å «avvæpne» KI, det vil si «å bryte denne sammenblandingen mellom teknisk makt og rett til å styre» [MH, 110]. Ikke for å gi avkall på teknologi, men for å hindre at den dominerer mennesket: Den må gjøres diskuterbar, mulig å bestride og dermed mulig å leve med. Nettopp for ikke å gi avkall på vår menneskelighet, så sårbar og så «storslått».

Oversatt av Vuokko-Helena Caseiro

Les Magnifica humanitas.