Leo XIV:s encyklika: AI ska tjäna mänskligheten, inte makten hos några få

Vatican News

”Den magnifika mänsklighet som skapats av Gud står idag inför ett avgörande val: att resa ett nytt Babels torn eller att bygga den stad där Gud och mänskligheten lever tillsammans.” Inledningen till Leo XIV:s första encyklika – Magnifica humanitas, ”om människans värdighet i den artificiella intelligensens tid” – sammanfattar dess grundläggande motiv och syfte.

Dokumentet publicerades idag, måndagen den 25 maj, och undertecknades av påven den 15 maj, på 135-årsdagen av Leo XIII:s Rerum novarum. Påven Prevost gör därmed som sin föregångare och skriver en social encyklika som behandlar en av vår tids största utmaningar: artificiell intelligens.

Uppdelad i fem kapitel, plus en introduktion och en avslutning, utgår Magnifica humanitas från ett antagande: tekniken är inte ”en antagonistisk kraft mot människan” (4), och inte heller ”i sig själv ond” (9). Däremot är den inte neutral, eftersom den antar formen av dem som tänker ut den, finansierar den, reglerar den och använder den. Därför uppmanar påven till att ”bygga det goda” och att ”förbli mänskliga”, genom ett modigt gemensamt ansvar, subsidiaritet och gemenskap, så att ”världen kan se i människans hjärta … den plats där Gud önskar bo” (16).

Kyrkans sociallära är en gemenskapens teologi

Det första kapitlet – Ett dynamiskt tänkande troget evangeliet – går igenom kyrkans sociallära i det senaste läroämbetet och i Andra Vatikankonciliet och lyfter fram dess ”dynamiska karaktär” (17). Långt ifrån att vara ”en handbok med principer och normer att tillämpa”, är socialläran snarare ”en gemensam urskiljningsväg”, en ”gemenskapens teologi i historien” (27), som vägleder tolkningen av händelser i evangeliets ljus.

Leo XIV påminner om sina föregångares tankar: från Pius XII – den förste som använde uttrycket ”kyrkans sociallära” i den apostoliska uppmaningen Menti nostrae från 1950 – till påve Franciskus, och naturligtvis genom Rerum novarum från 1891, som definieras som ”en milstolpe i utvecklingen av det sociala läroämbetet” (30).

I sina respektive epoker har varje Petri efterträdare lyft fram olika aspekter av ett och samma arv: människans värdighet, arbetets värde, den universella förvaltningen av jordens tillgångar, solidaritet och subsidiaritet, omsorgen om skapelsen samt fredens och broderskapets centralitet (45).

Skydda människans värdighet: exploatera inte

I det andra kapitlet räknar Leo XIV upp grunderna och principerna för kyrkans sociallära. Bland de första nämns människans värdighet, skapad till Guds avbild och likhet. Det är nödvändigt att påminna om detta eftersom ”trycket från nya ideologier och vissa mycket mäktiga intressen” kan reducera människan till ”en resurs att använda och exploatera” eller till ”det hon åstadkommer eller producerar” (51).

Tvärtom ”förvärvas eller förtjänas inte varje människas grundläggande värdighet, och den behöver inte heller bevisas” (53).

En andra grund för socialläran är de mänskliga rättigheternas okränkbarhet, där den första är rätten till liv ”från befruktningen till dess naturliga slut”. I detta sammanhang definierar Leo XIV abort, dödandet av oskyldiga och eutanasi som ”allvarligt otillåtna handlingar” (55).

En tredje grund är erkännandet av minoriteters rättigheter, med särskild uppmärksamhet på kvinnor. Till deras förmån efterlyser påven ”konkreta beslut” inom lagstiftning, arbete, utbildning och socialt och politiskt ansvar, så att de verkligen blir hörda och uppskattade (57).

Omoraliskt och oacceptabelt att eliminera eller underkuva en nation

När det gäller sociallärans principer anger Leo XIV fem stycken. Den första är det gemensamma bästa, ”den sociala formen av den värdighet som erkänns varje människa” (59).

På en punkt är påven särskilt tydlig: ”Främjandet av det gemensamma bästa kan aldrig skiljas från respekten för folkens rätt att existera, att bevara sin identitet och att bidra med sin egen särart till nationernas familj.” Därför är ”varje försök eller projekt att eliminera eller underkuva en nation allvarligt omoraliskt och därmed oacceptabelt” (64).

Tekniken får inte koncentreras i händerna på några få

Den andra principen gäller den universella förvaltningen av jordens tillgångar. Här och på andra ställen i encyklikan betonar Leo XIV behovet av att kunskap och teknik inte koncentreras i händerna på några få och därigenom fördjupar klyftan mellan de som inkluderas och de som utesluts från den digitala revolutionen (67).

Därav följer den tredje och fjärde principen: subsidiaritet (68) – som kräver att paternalism och bidragsberoende övervinns till förmån för medansvar – och solidaritet (73), en ”princip och dygd”, som står i motsats till likgiltighet och tar hänsyn till folk och framtida generationer.

Social rättvisa och migranter som ett ”avgörande test”

Den femte principen i kyrkans sociallära som påven anger är social rättvisa. I den digitala tidsåldern måste denna garantera alla rättvis tillgång till möjligheter, skydda de mest sårbara, motverka hat och desinformation samt ställa användningen av data och teknik under offentlig kontroll, ”så att kriteriet inte bara är vinst, utan varje människas värdighet och folkens bästa” (80).

Ett ”avgörande test” inom detta område ser Leo XIV i migranter, flyktingar och fördrivna människor. Hur samhället behandlar dem visar ”om idén om rättvisa styrs av rädsla eller av broderskap”. Därför uppmanar han både till att skydda ”rätten till hopp” för dem som tvingas lämna sina hem genom att garantera säkra och lagliga vägar, värdigt mottagande och integration, och till att främja ”rätten att stanna kvar” i sitt eget land i fred och säkerhet genom att ta itu med migrationens ”djupare orsaker” (81).

Övergreppen och kyrkans samvetsrannsakan

De fem principerna riktar påven inte bara till samhället utan också till kyrkan, som kallas till ”en samvetsrannsakan”. Han uppmanar till att ”rena relationer och kyrkliga strukturer från de förvrängningar som producerar ojämlikhet, brist på öppenhet och övergrepp”.

Inbjudan är att lyssna till ”offer för andliga, ekonomiska, institutionella, sexuella, makt- och samvetsrelaterade övergrepp”, eftersom detta ”är en integrerad del av en rättvisans väg, som omfattar erkännande av skadan, rättvis gottgörelse och förebyggande arbete” (89).

Ett gemensamt etiskt regelverk för AI behövs

Det tredje kapitlet – Teknik och dominans. Människans storhet inför AI:s löften – leder in på temat artificiell intelligens.

Leo XIV varnar för det ”teknokratiska paradigmet”, som redan kritiserats av Franciskus och enligt vilket varje beslut styrs uteslutande av effektivitet och vinst (92).

Tvärtom är den mest kraftfulla tekniken inte nödvändigtvis den bästa. AI kan imitera och simulera människan men saknar moraliskt samvete, empati, affektiv förmåga samt relationell och andlig kapacitet.

Därför måste man närma sig AI med nykterhet och vaksamhet, med tydlighet kring ansvar i alla dess steg och genom att satsa på lämplig politik, juridiska ramverk, oberoende tillsyn och användarutbildning.

Framför allt behövs ett etiskt regelverk underkastat kriterier för gemensam social rättvisa, eftersom ”det hjälper inte med en mer moralisk AI om denna moral bestäms av några få” (107).

Man får inte heller förbise den miljöpåverkan som ny teknik medför, eftersom den kräver enorma mängder energi och vatten, påverkar koldioxidutsläpp och skadar skapelsen (101).

Avväpna AI och frigör den från konkurrenslogiken

Man måste ”avväpna AI”, insisterar Leo XIV, för att befria den från logiken bakom militär, ekonomisk och kognitiv konkurrens; för att bryta likställandet mellan teknisk makt och rätten att styra; för att skydda den från monopol och förhindra att den dominerar människan.

Denna uppgift är etisk, teknisk och ekologisk, eftersom AI ”redan är den miljö vi lever i och den makt vi måste förhålla oss till” (110).

Stort utrymme ägnas åt kritiken av transhumanism och posthumanism, som tolkar framsteg som övervinnandet av människans begränsningar. Men begränsningen är inte ett fel som ska elimineras utan en konstitutiv dimension av människan, eftersom ”människan inte blomstrar trots begränsningen, utan ofta genom begränsningen” (118), genom att erkänna sårbarheten och ändligheten som platser där relation, omsorg och öppenhet för Gud och den andre mognar.

Teknikens framsteg får inte få hjärtat att backa

Det som står på spel är stort: att låta tekniken växa genom att eliminera människans begränsningar innebär i praktiken att låta hjärtat förfalla.

Mänskligheten, magnifik men sårad, ”får inte ersättas eller övervinnas”. Tekniken kan lindra lidande och öppna nya möjligheter, men den får inte förneka det som är specifikt mänskligt: ”förmågan till relation och kärlek” (126).

Inför AI handlar det verkliga alternativet inte om entusiasm eller rädsla, utan om två sätt att bygga framsteg: i människans och folkens tjänst eller i maktlogikens tjänst (129).

Det är ett val som berör alla: ”byggandet av Babel eller Jerusalem”, människans och Guds två ”städer” som även nämns av Augustinus (130), börjar hos var och en.

Kommunikationens ekologi och skolans centralitet

I det fjärde kapitlet – Att värna om det mänskliga i omvandlingen. Sanning, arbete, frihet – betraktas sanningen som ett gemensamt gott och ett väsentligt element i demokratin.

I den digitala miljön måste sanningen förstås som en ”kommunikationens ekologi”, så att den kultur som skapas på nätet inte blir ett verktyg för ”likriktning och dominans”, utan ett rum för mognad av ”inre frihet och kritiskt tänkande” (136–137).

Påven anger flera verktyg: transparens i logiken bakom urvalet av innehåll, skydd av personuppgifter, seriös journalistik baserad på argumentation och verifiering, en ny medvetenhet om korrekt och kritisk användning av AI samt integration mellan olika kunskapsområden.

Även kyrkan uppmanas till transparent och lojal kommunikation, särskilt i fall av orättvisor och övergrepp.

Centralt i encyklikan är också uppmaningen till en förnyad utbildningsallians, så att de ungas ”önskan att ställa frågor” inte släcks av perfekta maskiner som får mänskligt tänkande att framstå som onödigt (140).

”Vi måste lära oss att fasta från AI”, understryker Leo XIV, genom att minska ojämlikheten i tillgången till utbildning och stärka skolan som en plats där man lär sig att ”söka och älska sanningen” och där man undervisar i det som det digitala inte kan ge: ”gemensam tid för lärande och tillitsfulla relationer” (147).

Arbetet centrerat kring människan, inte vinsten

I den ”fjärde industriella revolution” som den digitala övergången innebär betonar påven vikten av att skydda arbetets värdighet och värde.

”De nya sätten att arbeta är inte nödvändigtvis bättre”, förklarar han, eftersom tekniken kan nedvärdera arbetare, reducera dem till marginaliserade funktioner och utsätta dem för automatiserad övervakning (150).

Tvärtom måste system utformas med människan i centrum och inte enbart prestationen. Tekniken kan visserligen befria människan från tunga eller repetitiva uppgifter, men den får absolut inte leda till arbetslöshet i kostnadsminskningens och profitökningens namn.

I ett scenario där större fattigdom och ojämlikhet hotar genom automatiserade system som ersätter människan hoppas påven också på en förnyelse av fackföreningsrörelsen (155).

Utveckling mäts inte bara i BNP

Den digitala omvandlingen måste styras i förväg genom stabila sociala kriterier, tillgänglig och kontinuerlig utbildning för arbetstagare samt företagsansvar.

Påven framhåller dessutom behovet av att gå bortom BNP som mått på ett lands utvecklingsnivå och istället fokusera på arbetets värdighet, delat välstånd, minskad ojämlikhet och skydd av miljön.

Finans för finansens skull skiljer sig nämligen från finans för utveckling (159–160).

I Paulus VI:s anda betonas också sambandet mellan fred och utveckling, med en önskan om internationellt samarbete som kan definiera gemensamma strategier ”särskilt till förmån för de mest sårbara länderna och grupperna”, eftersom välstånd endast bidrar till fred ”om det är spritt, inkluderande och hållbart” (163).

Familjen – ett grundläggande socialt värde

Encyklikan innehåller också en stark hänvisning till familjen, grundad på den stabila föreningen mellan en man och en kvinna. Familjen är ”ett grundläggande socialt värde”, ”den grundläggande och oersättliga cellen i varje samhällsorganisation” (165), som måste stödjas genom arbetsmarknadspolitik som främjar stabilitet och mänskliga livsrytmer.

På så sätt kan man säkerställa en sund balans i livet och skydda den ”förmåga att bygga framtid” som gör samhället fruktbart.

”Synlighetens arkitektur” och riskerna för friheten

Slutligen behandlas temat mänsklig frihet, som måste skyddas mot beroende och kommersialisering.

I en tid då digitala plattformar är utformade för att fånga användarnas tid och exploatera deras sårbarheter är det brådskande att stärka människors inre frihet och möta risken för social kontroll som uppstår genom massiv datainsamling och användning av algoritmiska system.

Att profilera, förutse och styra beteenden är ”en ny form av makt” (171) som riskerar att diskriminera de svagaste.

Påven beklagar särskilt den ”synlighetens arkitektur” som belönar och förstärker endast det som syns och därigenom formar åsikter och skapar konformism.

Nya former av slaveri och ny kolonialism

AI skapar nya former av slaveri, såsom de ”märkta, stympade och förbrukade kropparna” (173) hos dem som arbetar med utvinningen av de ”sällsynta jordartsmetaller” som tekniken kräver.

Därför är kampen mot de nya formerna av slaveri ännu ett ”avgörande test för den etiska urskiljningen” av den digitala omvandlingen.

I detta sammanhang understryker Leo XIV att ”kyrkan förnyar sitt tydliga fördömande av varje form av slaveri, människohandel och kommersialisering av människor” och påminner om att den som inte reagerar eller tolererar dessa ”allvarliga kränkningar av människans värdighet” i praktiken ”gör sig medskyldig” (174).

Samtidigt ber påven ”uppriktigt om förlåtelse” för den långsamhet med vilken kyrkan tidigare fördömde ”slaveriets gissel”.

Encyklikan hänvisar också till ”maktens nya sällsynta jordarter”, det vill säga vital information – till exempel om hälsa och demografi – som används för att styra ekonomiska strategier.

Detta är, förklarar påven, en ny form av kolonialism som tillägnar sig data och förvandlar människors liv till exploaterbar information, vilket gör den digitala miljön till ”ett område för rovdrift” (178–179).

Att övervinna teorin om ”det rättfärdiga kriget”

I det femte och sista kapitlet – Maktens kultur och kärlekens civilisation – riktar Leo XIV blicken mot kriget.

”Den digitala revolutionen förändrar konfliktens grammatik”, och utan ett etiskt förhållningssätt kommer beslut om människors liv och död att bli alltmer opersonliga, samtidigt som användningen av våld betraktas som ”ett omedelbart och praktiskt alternativ” (182–183).

Bakom allt detta finns en ”maktens kultur” som normaliserar kriget och återupprättar det som ett ”verktyg för internationell politik”, vilket främjar upprustning.

Den allmänna opinionen påverkas idag även polariserande medienarrativ och ”en oroande förlust av historiskt minne”, vilket gör människor oförmögna till långsiktigt tänkande (191).

Därför ses fred inte längre som en uppgift att ta ansvar för utan som ett tillfälligt avbrott mellan konflikter.

Leo XIV upprepar därför att – samtidigt som rätten till legitimt självförsvar i strikt mening erkänns – måste teorin om ”det rättfärdiga kriget” övervinnas till förmån för dialog, diplomati och förlåtelse (192).

Ingen algoritm kan göra krig moraliskt acceptabelt

Påven Prevost fördömer också tillväxten av vapenindustrin, kapprustningen kring kärnvapen och framväxten av nya väpnade aktörer – inklusive jihadister – som vill hålla konflikter vid liv som en källa till makt och ekonomisk vinning.

Han uttalar dessutom en skarp varning mot AI-baserade vapensystem: ”det finns ingen algoritm som kan göra kriget moraliskt acceptabelt”. Tekniken ”berövar inte konflikten dess inneboende omänsklighet, den kan bara göra den snabbare och mer opersonlig, sänka tröskeln för användningen av våld och förvandla försvar till operativ förutsägelse, där offren reduceras till data. På så sätt vänjer den oss vid tanken att våld är oundvikligt och bara behöver optimeras” (198).

Därför krävs strikta etiska regler, på internationell nivå och grundade på personligt ansvar och skydd av civila, eftersom ”varje teknik som gör det lättare att slå till utan att se den andres ansikte sänker konfliktens moraliska tröskel” (199).

Multilateralismens kris

Maktens kultur uppstår också ur multilateralismens kris och framväxten av ”en oordnad och konfliktfylld multipolaritet” där misstro mot den andre dominerar (201).

Rättens styrka ersätts av den starkares rätt; maktlogik ersätter fredsbyggande, som hamnar i bakgrunden, och institutionerna som skapats för att skydda folkens gemensamma öde har försvagats och förlorat sin moraliska auktoritet.

Påven efterlyser därför ”djupgående reformer” av FN och det internationella politiska systemet för att övervinna den nuvarande värdegrundskrisen och återupprätta det verkliga gemensamma bästa (226).

En ansvarslös realpolitik

Idag förs dessutom ”hybridkrig” som omfattar ekonomiska, finansiella och digitala områden och använder desinformation och rädsla för att påverka den allmänna opinionen och framställa ökade militära utgifter som ”det enda svaret” på en osäker framtid.

Men allt detta är bara ”falsk realism”, en ansvarslös realpolitik som sår resignation inför ett oundvikligt krig och framställer fred som en utopi (204–205).

Det kan till och med vara så att väpnade konflikter för vissa utgör ett verktyg för en ”cynisk hantering” av svårigheter och ett sätt att avleda uppmärksamheten från interna problem (208).

Kärlekens civilisation

Mot denna maktens kultur uppmanas den kristne att bygga ”kärlekens civilisation”. Nåden eliminerar inte konflikten som genom magi, men den skapar ”ett verksamt motstånd mot det onda och en överraskande kreativitet i det goda” (211).

Var och en är kallad att välja om man vill göda våldets logik eller skydda freden genom små handlingar i trohet och uthållighet.

Påven anger fem ”ansvarsområden”: att avväpna orden genom att tala sanning; att bygga fred i rättvisa; att anta offrens perspektiv och ta ställning, eftersom det finns konflikter där ”det inte är rätt att förbli neutral”.

Angrepp mot civila, sjukhus och infrastruktur sårar hela mänskligheten och får inte reduceras till abstrakta analyser.

Tvärtom måste man ge röst åt offren för att ”verkligen bli medveten om avgrunden av ondska” som finns i kriget och allt våld (217).

Dessutom uppmanar påven till att odla ”en sund realism” som söker praktiska vägar till fred genom handling, inte bara ord.

Använd inte Guds namn för att legitimera krig

Slutligen uppmanar Leo XIV till att återuppliva dialogen genom att gå från en maktkultur till en förhandlingskultur.

Särskilt viktigt är ”dialogen mellan religionerna”, som bär ett budskap om fred.

”Den som använder Guds namn för att legitimera terrorism, våld eller krig förråder hans ansikte”, varnar Leo XIV. ”Att föra krig i religionens namn innebär i själva verket att slå mot religionen själv” (223).

Den Heliga Stolens diplomati använder ”evangeliets barmhärtighetsprincip” som ett konkret kriterium för politiskt handlande.

Därav följer också uppmaningen till bön, eftersom freden i första hand kommer från Gud (227–228).

Den magnifika mänskligheten

Som avslutning uppmanar påven de troende att leva med den nya tekniken i evangeliets ljus och följa ”en nykter och krävande väg för kristet liv”, så att alla även i AI:s tidsålder kan vittna om ”skönheten hos en magnifik mänsklighet bebodd av Gud”.