Ledare: Att förbli mänsklig i algoritmernas tidsålder

Andrea Tornielli

I den artificiella intelligensens tidsålder, där människans värdighet riskerar att överskuggas av enorma koncentrationer av teknologisk makt bortom all kontroll och av nya former av avhumanisering, påminner påve Leo XIV oss om den ”brådskande plikten” att förbli djupt mänskliga.

Petri efterträdare uppmanar oss att låta tekniken utvecklas ”utan att låta hjärtat gå bakåt”, även i vår tid som präglas av polarisering och våld, där en ”maktens kultur” breder ut sig och kriget åter legitimeras som ett instrument för internationell politik.

Han uppmanar oss att acceptera människans begränsningar och sårbarhet och att inte betrakta dem som fel som måste korrigeras, såsom den teknokratiska ideologin gör. Påven manar oss att inte se världen ur de mäktigas perspektiv, utan underifrån, genom de lidandes ögon, med början hos de minsta och mest utsatta.

Vi måste, säger han, betrakta mänskligheten genom Guds ögon, han som tog vår svaghet på sig och förvandlade den till en plats för frälsning, eftersom ”även när maskiner överträffar människan i effektivitet, förblir ett mänskligt ansikte, som ber om att bli sett, centrum i vår historia.”

Magnifica humanitas – påve Leo XIV:s första encyklika – är i första hand inte en analytisk text om artificiell intelligens och går inte heller in på detaljerna i processer som ständigt förändras. Snarare är den en ”summa” som tillämpar kyrkans sociallära på AI-eran och sammanfattar samt uppdaterar de centrala punkterna i det påvliga läroämbetet.

Det är en text som sätter punkt för missförståndet hos dem som, i förtröstan på marknadens och den nya teknikens absoluta frihet, tenderar att avfärda påvarnas undervisning om behovet av en gemensam mänsklig styrning av AI, integrerad ekologi, ekonomiska strukturer som blir ”syndens strukturer” och avvisandet av kriget.

Påve Leo XIV, som tog sitt namn efter Leo XIII – författaren av Rerum novarum – uppmanar var och en av oss att ha en aktiv roll i denna digitala revolutionens tid. Byggandet av ”kärlekens civilisation”, säger han, sker genom små och uthålliga handlingar av trohet som kan hejda avhumaniseringen. Detta ansvar gäller oss alla personligen.

Påven påminner oss om att ”orättvisor inte endast uppstår genom individers felaktiga val, utan också genom strukturer, mekanismer och ekonomiska och kulturella system som skapar ojämlikhet”, och att ”utveckling inte är verkligt mänsklig om den ökar konsumtionen för vissa samtidigt som kostnader och bördor läggs på andra, eller om hela regioner reduceras till underordnade roller.”

Tyvärr sker detta redan idag inom området ny teknologi och de resurser den kräver.

Encyklikan fastslår att principen om privat egendom har ”en oumbärlig samhällelig funktion” och försvaras av kyrkan. ”Idag måste vi bland de tillgångar som är avsedda för alla också inkludera nya former av egendom, såsom patent, algoritmer, digitala plattformar, teknologisk infrastruktur och data”, för att förhindra att nya former av exkludering och frihetsberövande uppstår eller permanentas.

Tekniken, säger han, är inte bara ett enkelt verktyg. När den blir måttstocken för allt ”börjar den diktera vad som är viktigt och vad som kan kastas bort”, och reducerar ”människor till kuggar i ett system som drivs mot allt större effektivitet.”

Idag, konstaterar han, ligger kontrollen över plattformar, infrastruktur, data och datorkraft ”inte hos staterna utan hos stora ekonomiska och teknologiska aktörer”. Dessa företag fastställer villkoren för tillgång, reglerna för synlighet och själva möjligheten till deltagande.

”När sådan makt koncentreras i händerna på några få”, säger påven, ”tenderar den att bli ogenomskinlig och undandra sig offentlig kontroll, vilket ökar risken för förvrängda former av utveckling som skapar nya beroenden, exkluderingar, manipulationer och ojämlikheter.”

Genom att åter bekräfta behovet av att gå bortom teorin om det ”rättfärdiga kriget” kräver påve Leo att användningen av artificiell intelligens i krigföring måste underställas de striktaste etiska begränsningarna, eftersom ”ingen algoritm kan göra krig moraliskt acceptabelt.”

Artificiell intelligens har blivit ett avgörande verktyg för att forma den allmänna opinionen genom manipulation av bilder och innehåll, vilket gör det allt svårare att skilja sanning från lögn.

Det finns också många osäkerheter kring arbetsmarknaden. I detta sammanhang påminner encyklikan om att det inte längre är möjligt att enbart förlita sig på marknadens ”osynliga hand”.

Politiska system har uppgiften att styra ekonomiska och teknologiska dynamiker mot det gemensamma bästa genom att främja värdigt arbete, social inkludering och en rättvis fördelning av innovationens vinster.

Att förbli mänskliga, att styra processerna och att undvika monopol som ökar makten hos några få på bekostnad av mångas liv – detta är den väg som påven visar. Den reser inga barrikader och avvisar inte AI i sig självt.

Tvärtom framhåller påve Leo de många positiva aspekterna och användbara tillämpningarna av artificiell intelligens.

Samtidigt förklarar han att det inte räcker att ställa en etisk fråga om huruvida AI används för goda eller dåliga syften. Det är avgörande, säger han, att ingripa tidigare och fråga hur ett system utformas och vilken människosyn och samhällssyn som skrivs in i de data och modeller som styr det.

Därför efterlyser han lämpliga juridiska ramverk, oberoende tillsyn, utbildning av användare och framför allt ”ett politiskt system som inte abdikerar från sitt ansvar.”

Annars, säger Leo XIV, kommer förändringen enbart att styras av teknokratisk logik och framställas som ”nödvändig och oundviklig”, vilket till slut leder till regler ”dikterade” av dem som äger data, infrastrukturer och datorkraft.

Påven Leo säger därför att vi måste ”avväpna” AI – det vill säga underkänna ”antagandet att teknisk makt automatiskt ger rätten att styra.”

Detta måste göras, säger han, inte för att avstå från tekniken, utan för att förhindra att den dominerar mänskligheten och för att öppna den för kritisk diskussion.

I stället för att abdikera från vår mänsklighet måste vi ”vittna om människans storhet, i vilken Gud har tagit sin boning.”