In deze rubriek reflecteren twee theologen uit het dopers tiental op een actuele kwestie.

Paus Leo waarschuwt in zijn eerste encycliek voor argeloos gebruik van AI. Marius van Hoogstraten en Geke van Vliet uit het Dopers tiental lazen de pauselijke rondzendbrief en waarderen het doordachte kritische geluid dat hij daarin laat horen.

‘We moeten het over AI hebben’, vindt Paus Leo XIV en daarom wijdde hij zijn eerste encycliek aan Artificiële Intelligentie (AI). Het is een tekst van iemand die er echt goed over heeft nagedacht, vindt Marius van Hoogstraten, filosoof en docent aan het Doopsgezind Seminarium. Zelf raakte hij gefascineerd door het thema toen hij merkte dat zijn studenten de wereld van de AI beter kenden dan hij zelf. “Ik wilde beter begrijpen hoe je AI kunt gebruiken, maar ook welke gevaren het met zich meebrengt.”

Gevaren zijn er zeker, vindt Geke van Vliet. Zij is doopsgezind proponent en promoveerde onlangs aan de Universiteit van Pretoria op een proefschrift over de vraag hoe kerken in Duitsland en in Zuid-Afrika omgaan met de klimaatcrisis. Van Vliet staat kritisch tegenover het massale gebruik van AI in alle hoeken van de samenleving. “In no time is AI de wereld gaan domineren. Iedereen lijkt het klakkeloos te omarmen. Terwijl ik denk: dat moeten we helemaal niet willen! Ik vind het goed dat de paus in zijn encycliek de aandacht vestigt op de nadelen van AI, waar veel mensen zich helemaal niet van bewust zijn.”

In no time is AI de wereld gaan domineren

Bezorgd
Als eerste noemt Van Vliet de enorme ecologische voetafdruk van AI. Al die toepassingen gebruiken ontzaglijk veel water en energie. Maar ze deelt ook de ethische zorgen die de paus benoemt. Onzichtbare werkers in Afrikaanse landen testen voor een hongerloon de modellen, verzamelen data en checken ze op compromitterende beelden. Bovendien is er nog het machtsvraagstuk. “AI-diensten zijn in handen van de superrijke en supermachtige techgiganten. AI is compleet met het kapitalisme verweven.”

Dat AI privébezit is, vindt ook Van Hoogstraten problematisch. “Dat zegt de encycliek heel goed: deze technologie is niet neutraal. Kijk, met een pen schrijven kun je leren, en dan kun je het verder zelf. Maar voor AI heb je diensten nodig die het eigendom zijn van een klein clubje miljardairs. De manier waarop zij naar de wereld kijken zit daar ingebakken. In een AI-dienst zoals Grok bijvoorbeeld, zit een heel duidelijke ideologische sturing. Wie daar intypt ‘Wat was de reden voor de Amerikaanse Burgeroorlog?’ krijgt een antwoord dat niet is gebaseerd op historische gegevens, maar op de overtuiging van Elon Musk. Het witte koloniale denken is als het ware de grondstof waar AI op draait.”

Van Vliet en Van Hoogstraten wijzen er beiden op dat de mens verandert door de inzet van AI. Van Vliet: “De mens devalueert. We denken niet meer zelf, we schrijven niet meer zelf. We vragen de hele tijd alles maar aan chatboxen.” Van Hoogstraten haalt aan wat de paus zegt over het verdwijnen van creativiteit: “Als je een tekst laat produceren door AI, rolt er zonder moeite meteen iets uit dat er heel goed uitziet. Maar het is per definitie clichématig, want AI kan alleen maar reproduceren. Terwijl juist vanuit wrijving de creativiteit kan ontstaan die zo eigen is aan de mens. Als dat verdwijnt, verandert de mens.”

Babel versus Jeruzalem
De paus gebruikt bijbelse beeldspraak om duidelijk te maken dat de mensheid voor een keuze staat. Kiezen we voor de toren van Babel of voor het opbouwen van de muren van Jeruzalem? Met het beeld van de toren van Babel verwijst de paus naar een situatie waar geen plek meer is voor God en waar de menselijke diversiteit ontbreekt, omdat iedereen één taal spreekt. Van Vliet: “Met AI zijn we machines aan het creëren die beter, effectiever en efficiënter moeten zijn dan dat wij zijn. Maar waarom moet dat eigenlijk? Wat doet dat constante streven naar verbetering met het idee dat wij zijn geschapen naar Gods evenbeeld? We zijn een soort afgod aan het creëren die beter moet zijn dan God.”

Het tweede beeld, dat van het opbouwen van de muren van Jeruzalem, komt uit het bijbelboek Nehemia. Dat beeld staat voor een gemeenschap die draait op gezamenlijke verantwoordelijkheid. Vanuit die gemeenschap vindt de opbouw van de stad plaats. De vraag van de paus is dus: kiezen we voor een klein clubje techreuzen of kiezen we voor een gemeenschap waarin het belang van iedereen voorop staat? Van Hoogstraten: “De paus zegt het niet zo nadrukkelijk, maar een stad had in de oudheid ook de betekenis van een rijk, de plek waar een vorst zit. Het is een plek van macht. Dat maakt het een extra geslaagde vergelijking.”

Vasten van AI
In de encycliek roept de paus ons op om te vasten van AI. Van Hoogstraten vindt dat een goed gekozen term. “Vasten is een manier om heel bewust om te gaan met wat je tot je neemt. Vasten is bij rooms-katholieken ook echt iets gezamenlijks. Paus Leo zegt dus niet: AI is alleen maar slecht en we moeten weer terug naar pen en papier. Maar hij zegt: we moeten er met z’n allen veel bewuster mee omgaan.”

Van Vliet vindt de oproep van de paus nog lang niet radicaal genoeg. “Vasten? Ik pleit eerder voor een verbod op individueel gebruik. Het is natuurlijk schier onmogelijk, maar ik vind dat AI alleen ingezet zou mogen worden door bedrijven en organisaties met positieve ideële doeleinden, zoals in de zorg. Ik denk dat de mens gewoon niet in staat is om steeds weer de verleiding te weerstaan en voor Jeruzalem te kiezen, in plaats van voor de toren van Babel.”

Deze aflevering van Dopers Denken verscheen eerder in Mondig 4

Tekst: Marleen Kieft
Beeld: Pieter Breughel d. O. – De toren van Babel