Katolske ledere, politikere og AI-forskere har fått et klart religiøst-etisk rammeverk å vise til, etter at pave Leo XIV publiserte encyklikaen Magnifica Humanitas. Dokumentet er hans første encyklika og etterlyser internasjonal regulering, uavhengig tilsyn og tiltak mot at maskiner fatter dødelige eller irreversible avgjørelser. Teksten advarer mot teknologier som fremmer dominans, utestengelse og krig, og formulerer at AI «må avvæpnes». Encylikaen ble presentert i Synodhallen og er rettet til hele den katolske kirke.

Politikere og teknologiledere må nå forholde seg til krav om juridisk ansvarlighet, etter at Vatikanet satte ord på et omfattende etisk rammeverk i Magnifica Humanitas. Encylikaen flytter debatten bort fra frivillige etiske retningslinjer og over mot konkrete krav: internasjonal regulering, uavhengig tilsyn, og klare advarsler mot at algoritmer eller maskiner skal fatte beslutninger som kan være dødelige eller irreversible.

Hva paven krever

Dokumentet kombinerer teologisk refleksjon med konkrete krav til regulering. Paven peker på to hovedfarer: for det første at AI kan konsentrere makt hos noen få private, ofte transnasjonale selskaper, og for det andre at teknologien kan brukes til å nekte mennesker tilgang til grunnleggende goder. Encylikaen understreker at algoritmer ikke må avgjøre om folk får helsetjenester eller jobbmuligheter på grunnlag av skjev data, og den retter sterk kritikk mot bruk av AI til desinformasjon fordi det undergraver demokratiske prosesser.

Magnifica Humanitas sier direkte at AI «må avvæpnes», et bilde paven bruker for å stille krav mot autonome våpensystemer og teknologier som gjør beslutninger irreversible. Dokumentet etterlyser også uavhengig tilsyn med utviklingen av AI og at staten og internasjonale organer tar juridisk ansvar for teknologienes konsekvenser.

Kulturelle referanser og historisk ramme

Teksten plasserer dagens teknologiske omveltning i en historisk tradisjon ved å trekke linjer tilbake til Rerum Novarum og de store sosiale spørsmålene som fulgte av den industrielle revolusjon. Paven bruker også kulturelle bilder for å understreke moralsk ansvar; et sitat fra J.R.R. Tolkiens figur Gandalf illustrerer viktigheten av små, trofaste handlinger i kampen mot ondskap, og fungerer som et bilde på kollektivt ansvar overfor teknologisk makt.

Mastheads

Encylikaen problematiserer videre begrepet «digital kolonialisme» og advarer mot nye former for utnyttelse gjennom dataspor og datamerking. Paven kritiserer en teknokratisk logikk som risikerer å redusere mennesker til rene produktive enheter, og han understreker at automatisering aldri kan rettferdiggjøre systematisk eliminering av jobber. Teknologi bør, ifølge teksten, frigjøre menneskelige evner, ikke redusere menneskers verdi til datapunkter.

Lansering og dialog

Ved presentasjonen i Synodhallen sa pave Leo XIV at teksten vokste frem etter samtaler med forskere, ingeniører, lærere, politiske ledere og familier, og at han hadde hørt "mye bekymringsfulle røster" om autonome våpensystemer og ekskluderende algoritmer. Som et tegn på at kirken søkte reell dialog med AI-miljøet, deltok eksperter og sikkerhetsforskere ved lanseringen.

At slike aktører var til stede gir encyklikaen tyngde i teknologi- og forskningsmiljøene. Samtidig markerer deltakelsen at kirken forsøker å bygge broer mellom moralsk refleksjon og teknisk ekspertise, ikke bare å gi et teologisk korstegn til eksisterende politikk.

Kritikk og begrensninger

Flere kommentatorer har framhevet at Magnifica Humanitas tilfører et nødvendig etisk perspektiv til AI-debatten. Samtidig ønsker noen at paven hadde gått lenger i å skissere hva AI konkret bør designes for og hvilke institusjonelle modeller som kan erstatte dagens utviklingslogikk. Dokumentet retter seg i stor grad mot regulering og risikoreduksjon, og gir mindre detaljer om tekniske eller organisatoriske alternativer for hvordan et annet utviklingsparadigme faktisk kan gjennomføres.

Det er et sentralt spørsmål hvorvidt religiøse autoriteter kan påvirke juridisk politikk i et internasjonalt regelverk som primært formes av stater og multinasjonale aktører. Encylikaen legger imidlertid et klart normativt press: ved å formulere kravene som moralske imperativer fra en global religiøs institusjon, endres det offentlige rommets forventninger til hva som er akseptabel praksis for AI-utviklere og beslutningstakere.

For arbeidslivet peker teksten på at automatisering må styres slik at teknologi ikke blir et påskudd for å avskaffe menneskelige roller. For demokratiene er advarselen mot AI-drevet desinformasjon rettet mot behovet for verktøy og lover som hindrer manipulasjon av offentligheten. Men for internasjonal politikk er utfordringen å få på plass bindende rammer som kan stå mot ressurssterke selskapers innflytelse.

Encylikaens kombinasjon av moralske argumenter, kulturelle referanser og krav om juridisk ansvar gjør at den vil bli sitert i debatter om AI-regulering framover. Men den vil også møte krav om mer detaljerte forslag til hvordan nye institusjoner skal organiseres og finansieres for å kunne håndheve de prinsippene paven skisserer.

Related Articles

Konkret oppfordrer Magnifica Humanitas til et forbud mot at maskiner fatter dødelige eller irreversible avgjørelser. Opprinnelig rapportert av SVT.

Denne artikkelen er laget med hjelp av AI.