Paus Leo XIV pleit voor door de mens gestuurde AI en een verbod op autonome wapens

Op vrijdag 30 oktober 2026 sprak paus Leo XIV in de Consistoriezaal van het Vaticaan de deelnemers toe van de bijeenkomst “The Future of AI: A Dialogue Between the Vatican and the Scientific World on the Developments and Applications of Intelligent Technologies”, georganiseerd door de Pauselijke Academie voor het Leven samen met het Future of Life Institute. De officiële tekst, gepubliceerd op vatican.va, rust op vijf overwegingen uit de encycliek 'Magnifica Humanitas' (mei 2026) en citeert talrijke passages (64, 71‑72, 97, 99, 104, 105, 107, 110, 161, 198‑200) om de verantwoordelijkheid van de mens bij het sturen van kunstmatige intelligentie te benadrukken.

1. De eerste overweging stelt dat de toekomst van AI “niet vooraf bepaald” is: het is aan de mensheid om de toepassingen ervan te sturen, aan te passen of zo nodig af te wijzen. De paus benadrukt dat machines instrumenten zijn, geen personen, en waarschuwt dat wie ze rechten of rechtspersoonlijkheid toekent, de menselijke verantwoordelijkheid dreigt te verhullen. 2. De tweede herhaalt dat cruciale beslissingen, vooral over leven, vrijheid en het gebruik van geweld, nooit aan autonome systemen mogen worden overgelaten. Als voorbeelden noemt ze iemand op een doelwittenlijst zetten of opnemen in een database voor grenscontrole. 3. De derde wijst op het belang van ethisch AI-bestuur dat transparantie, verantwoording en respect voor de menselijke waardigheid bevordert. 4. De vierde vraagt dat intelligente technologieën het algemeen welzijn dienen, in plaats van een doel op zich te worden of de belangen van een bevoorrechte minderheid te dienen: rechtvaardigheid, staat er, vereist toegang tot de vruchten van innovatie, dus tot zorg, kennis, middelen en kansen. 5. De vijfde gaat over doeltreffende internationale instellingen, met gedeelde normen, onafhankelijk toezicht en duidelijke verantwoordingsmechanismen, zodat intelligente technologieën het algemeen welzijn dienen.

Een kernpunt van de toespraak is de oproep om AI te “ontwapenen”: de paus roept de staten die in november in Genève bijeenkomen op tot concrete stappen naar een verbod op dodelijke autonome wapens. Volgens Janes vindt de Zevende Toetsingsconferentie van het Verdrag inzake bepaalde conventionele wapens (CCW) plaats van 16 tot 20 november 2026. Daar wordt besloten of er onderhandelingen starten over een juridisch bindend instrument voor zulke systemen. De paus herinnert ook aan de toespraak van paus Franciscus op de G7 over AI (14 juni 2024), waarin hij kunstmatige intelligentie een “fascinerend en ontzagwekkend” instrument noemde.

Gizmodo bracht dezelfde dag onafhankelijk dezelfde punten: machines als instrumenten en niet als personen, beslissingen die niet uit handen mogen worden gegeven, de oproep tot een verbod op dodelijke autonome wapens en internationale instellingen met onafhankelijk toezicht.

De citaten zijn door ons vertaald uit de officiële Engelse versie op vatican.va.

— Pixie