Paus Franciscus: ‘Artificiële Intelligentie raakt ons allemaal, niet alleen de professionals’

Dierbare broeders en zusters,

De ontwikkeling van artificiële intelligentiesystemen — het centrale thema van mijn recente Boodschap voor de Werelddag van de Vrede — leidt tot een radicale transformatie van de informatie- en communicatiewereld. Deze verandering heeft een diepgaande impact op bepaalde fundamenten van onze samenleving en raakt ons allemaal, niet alleen de professionals. De snelle verspreiding van verbazingwekkende innovaties, waarvan de werking en het potentieel vaak ons begrip te boven gaan, is zowel opwindend als ontwrichtend. Dit roept onvermijdelijk fundamentele vragen op: Wat is de mens dan? Wat is zijn specificiteit? Hoe ziet de toekomst van de homo sapiens eruit in het tijdperk van artificiële intelligentie? Hoe kunnen we volledig mens blijven en de huidige culturele transformatie in goede banen leiden?
 

Beginnen bij het hart

Allereerst moeten we de catastrofale voorspellingen en hun verlammende effecten terzijde schuiven. Een eeuw geleden reflecteerde Romano Guardini op de relatie tussen de technologie en de mens. Guardini spoorde ons aan om het nieuwe niet af te wijzen in een poging om vast te houden aan een mooie wereld die gedoemd is te verdwijnen. Tegelijkertijd waarschuwde hij ons met een profetische urgentie dat we continu deel uitmaken van een evolutieproces. We moeten onszelf daarin actief positioneren, ieder op zijn of haar eigen manier, met een open geest maar ook met een gevoeligheid voor alles wat daarin destructief en onmenselijk is. Hij concludeerde: Dit zijn technische, wetenschappelijke en politieke problemen, maar ze kunnen alleen door de mens worden opgelost. Er moet een nieuw soort mens worden gevormd, met een diepere spiritualiteit, een nieuwe vrijheid en innerlijkheid.

In deze tijd, die dreigt te kantelen naar technologische welvaart en menselijke armoede, moet onze reflectie beginnen bij het menselijke hart.  Alleen door een spirituele kijk op de werkelijkheid te hanteren en de wijsheid van het hart te herontdekken, kunnen we de innovaties van onze tijd begrijpen, interpreteren en de weg naar een volledig mensgerichte communicatie herontdekken. In de Bijbel wordt het hart gezien als de bron van vrijheid en de plaats waar de belangrijkste levensbeslissingen worden genomen. Het symboliseert integriteit en eenheid, en omvat onze emoties, verlangens en dromen. Bovenal is het de innerlijke plaats van onze ontmoeting met God. Wijsheid van hart is daarom de deugd die ons in staat stelt om het geheel en de delen, onze beslissingen en hun gevolgen, onze sterke en zwakke punten, ons verleden en onze toekomst, onze individualiteit en ons deel uitmaken van een grotere gemeenschap, te integreren.

Smaak

Deze wijsheid van het hart laat zich vinden door wie haar zoekt en laat zich zien aan wie haar liefheeft. Ze anticipeert op wie naar haar verlangen en zoekt wie haar waard zijn (cf. W 6,12-16). Ze begeleidt wie goede raad ter harte neemt (cf. Spr 13,10) en wie een opmerkzame geest heeft (cf. 1 Kon 3,9). Het is een gave van de Heilige Geest die ons in staat stelt om de wereld door Gods ogen te bekijken, om verbanden, situaties en gebeurtenissen te begrijpen en hun ware betekenis te ontdekken. Zonder deze wijsheid verliest het leven zijn smaak, want wijsheid – waarvan de Latijnse wortel sapere verwant is aan het zelfstandige naamwoord sapor – geeft het leven smaak.

We kunnen niet verwachten dat machines deze wijsheid bezitten. Hoewel de term artificiële intelligentie in de wetenschappelijke literatuur inmiddels de meer correcte term machinaal leren heeft verdrongen, kan het gebruik van het woord intelligentie op zich al misleidend zijn. Machines hebben ongetwijfeld een veel grotere capaciteit dan mensen om gegevens op te slaan en te correleren, maar alleen mensen zijn in staat om de betekenis ervan te ontcijferen. Het doel is dus niet om machines te laten lijken op mensen, maar om mensen wakker te schudden uit de hypnose waarin ze verkeren door hun illusie van almacht. Deze illusie is gebaseerd op het geloof dat we volledig autonoom en zelfreferentieel zijn, losgekoppeld van elk sociaal verband en vergetend dat we geschapen zijn.

Kwetsbaarheid

Mensen hebben zich altijd gerealiseerd dat ze het niet in hun eentje kunnen bolwerken. Daarom hebben ze op alle mogelijke manieren geprobeerd hun kwetsbaarheid te overwinnen. Van de eerste prehistorische artefacten die dienden als verlengstuk van de armen, tot de communicatiemiddelen die dienden als verlengstuk van de spraak, zijn we nu in staat om zeer geavanceerde machines te creëren die dienen als ondersteuning voor het denken. Elk van deze instrumenten kan echter misbruikt worden door de oorspronkelijke verleiding om te worden als God zonder God; d.w.z. om te proberen met eigen kracht te grijpen wat als een geschenk van God ontvangen zou moeten worden om er samen van te genieten. 

Afhankelijk van de oriëntatie van ons hart, kan alles wat binnen ons bereik ligt, worden gezien als een kans of een gevaar. Ons lichaam, dat is geschapen voor communicatie en gemeenschap, kan een instrument van agressie worden. Op dezelfde manier kan elke technologische uitbreiding van ons mens-zijn dienen als een middel tot liefdevolle dienstbaarheid of vijandige overheersing. Artificiële intelligentiesystemen kunnen bijdragen aan het overwinnen van onwetendheid en het vergemakkelijken van de uitwisseling van informatie tussen verschillende volkeren en generaties. Ze kunnen bijvoorbeeld een enorme schat aan kennis uit het verleden toegankelijk en begrijpelijk maken, of communicatie mogelijk maken tussen individuen die geen gemeenschappelijke taal delen. Tegelijkertijd kunnen deze systemen fungeren als een bron van cognitieve vervuiling, die de werkelijkheid vervormt door gedeeltelijk of volledig onware verhalen te geloven en te verspreiden alsof ze waar zijn. 

Denk aan het aloude probleem van desinformatie in de vorm van fakenieuws, dat tegenwoordig gebruik maakt van deepfakes. Dit zijn kunstmatig gecreëerde en verspreide beelden die volkomen echt lijken maar vals zijn (het is mij ook overkomen), of audioberichten waarin iemands stem wordt gebruikt om dingen te zeggen die hij of zij nooit heeft gezegd. De simulatietechnologie achter deze programma’s kan nuttig zijn in bepaalde specifieke gebieden, maar wordt schadelijk wanneer ze onze relatie met anderen en met de werkelijkheid verstoort.

Preventieve actie

Sinds de eerste golf van artificiële intelligentie, met name die van de sociale media, hebben we de ambivalentie ervan ervaren: de mogelijkheden, maar ook de risico’s en de bijhorende problemen. Het tweede niveau van generatieve artificiële intelligentie markeert ongetwijfeld een significante vooruitgang. Daarom is het cruciaal om de instrumenten die in de verkeerde handen tot zorgwekkende scenario’s kunnen leiden, te begrijpen, te doorgronden en te reguleren. Net als alles wat voortkomt uit de geest en handen van mensen, zijn algoritmen niet neutraal. Daarom is preventieve actie nodig, door ethische reguleringsmodellen voor te stellen om schadelijke, discriminerende en sociaal onrechtvaardige effecten van het gebruik van artificiële intelligentiesystemen te beteugelen en om te voorkomen dat ze worden gebruikt om pluralisme in te perken, de publieke opinie te polariseren of een ‘eenheidsdenken’ te creëren. Ik roep de internationale gemeenschap opnieuw op om samen te werken aan een bindend internationaal verdrag dat de ontwikkeling en het gebruik van artificiële intelligentie in al haar vormen reguleert. Tegelijkertijd is regulering, zoals in elke menselijke context, op zichzelf niet voldoende.

Groeien in menselijkheid

We worden geroepen om gezamenlijk te groeien, in menselijkheid en ook als wereldwijde mensenfamilie. We staan voor de uitdaging om een kwalitatieve sprong voorwaarts te maken om gelijke tred te houden met een complexe, multi-etnische, pluralistische, multireligieuze en multiculturele samenleving. We worden aangespoord om grondig na te denken over de theoretische ontwikkeling en het praktische gebruik van deze nieuwe communicatie- en kennisinstrumenten. Ondanks hun groot potentieel voor positieve verandering, brengen deze instrumenten ook risico’s met zich mee. Er bestaat een gevaar dat alles wordt gereduceerd tot abstracte berekeningen die individuen degraderen tot data, denken tot een mechanisch proces, ervaringen tot geïsoleerde gevallen, en het goede tot winst. Het grootste risico is echter het ontkennen van de uniciteit van elk individu met zijn of haar verhaal, waardoor de concrete realiteit oplost in een zee van statistische gegevens.

De digitale revolutie kan ons vrijer maken, maar alleen als we ons niet laten vangen door het fenomeen van echokamers. In plaats van het pluralisme van informatie te vergroten, riskeren we dan te verdwalen in een onbekend moeras dat de belangen van de markt of de machthebbers dient. Het is onaanvaardbaar dat het gebruik van artificiële intelligentie leidt tot een eenheidsdenken, een samenraapsel van niet-geverifieerde gegevens, en een collectieve verwaarlozing van redactionele verantwoordelijkheid. De weergave van de werkelijkheid in big data, hoe nuttig ook voor systeembeheer, kan uiteindelijk leiden tot een aanzienlijk verlies van de waarheid der dingen, een belemmering van interpersoonlijke communicatie en een bedreiging voor onze menselijkheid. Informatie kan niet worden losgekoppeld van existentiële relaties. Deze omvatten het lichaam en de betrokkenheid bij de echte wereld. Ze vereisen ook dat we niet alleen data correleren, maar ook menselijke ervaringen met elkaar in verband brengen. Ze vereisen een openheid voor gelaatsuitdrukkingen, oogcontact, mededogen en uitwisseling.

Ondersteunende rol

Ik denk aan de verslaggeving over oorlogen en aan de ‘parallelle oorlog’ die wordt gevoerd door desinformatiecampagnes. Ik denk ook aan de vele verslaggevers die ter plaatse gewond raken of sterven om ons te laten zien wat ze zelf hebben gezien. Want alleen door dit directe contact met het lijden van kinderen, vrouwen en mannen, kunnen we de absurditeit van oorlogen echt begrijpen.

Het gebruik van artificiële intelligentie kan een positieve bijdrage leveren aan de communicatiesector, als het de rol van journalisten ter plaatse niet tenietdoet, maar juist ondersteunt; en als het de professionaliteit van de communicatie naar waarde schat door de verantwoordelijkheid te leggen bij elke communicator en door de rol van kritische communicator terug te geven aan elk individu.

In deze context rijzen er verschillende vragen. 

Hoe kunnen we het professionalisme en de waardigheid van communicatie- en informatiemedewerkers, evenals die van gebruikers wereldwijd, waarborgen? 

Hoe kunnen we de interoperabiliteit van platforms garanderen? 

Hoe kunnen we bedrijven die digitale platforms ontwikkelen, aansporen om verantwoordelijkheid te nemen voor wat ze verspreiden en waar ze van profiteren, net zoals uitgevers van traditionele communicatiemedia? 

Hoe kunnen we de criteria achter de algoritmes voor indexering en de-indexering, en voor zoekmachines die in staat zijn om mensen en meningen, verhalen en culturen te verheerlijken of te verwijderen, transparanter maken? 

Hoe kunnen we de transparantie van informatieprocessen waarborgen? 

Hoe kunnen we het auteurschap van teksten zichtbaar maken en de bronnen traceerbaar houden om anonimiteit te voorkomen? 

Hoe kunnen we onderscheiden of een afbeelding of video een gebeurtenis weergeeft of simuleert? 

Hoe kunnen we voorkomen dat bronnen worden gereduceerd tot één enkele, door algoritmen gegenereerde denkwijze? 

Hoe kunnen we in plaats daarvan een omgeving bevorderen die pluralisme behoudt en de complexiteit van de werkelijkheid weerspiegelt? 

Hoe kunnen we een technologie die krachtig, duur en energie-intensief is, duurzaam maken? 

Hoe kunnen we deze technologie toegankelijk maken voor ontwikkelingslanden?

Het antwoord op deze en andere vragen zal bepalen of artificiële intelligentie zal resulteren in het ontstaan van nieuwe kasten gebaseerd op de toegang tot informatie, wat kan leiden tot nieuwe vormen van uitbuiting en ongelijkheid. Of dat artificiële intelligentie zal bijdragen aan meer gelijkheid door het bevorderen van correcte informatie en een groter bewustzijn van de baanbrekende veranderingen die we doormaken. Dit kan ook de mogelijkheid bieden om de diverse behoeften van individuen en volkeren te erkennen binnen een goed gestructureerd en pluralistisch informatienetwerk. Aan de ene kant is er het schrikbeeld van een nieuwe vorm van slavernij, aan de andere kant de mogelijkheid van meer vrijheid. Aan de ene kant is er het risico dat een kleine groep het denken van iedereen bepaalt, aan de andere kant de mogelijkheid voor iedereen om bij te dragen aan de ontwikkeling van het denken.

Onderscheiden

Het antwoord ligt niet vast, het hangt van ons af. Het is onze keuze of we voer voor algoritmes worden of dat we ons hart voeden met de vrijheid die essentieel is voor het groeien in wijsheid. Deze wijsheid ontwikkelt zich door op een bewuste manier met tijd om te gaan en onze kwetsbaarheden te omarmen. Ze bloeit op in de verbondenheid tussen generaties, tussen degenen die zich het verleden herinneren en degenen die naar de toekomst kijken. Alleen samen kunnen we ons vermogen om te onderscheiden en waakzaam te zijn vergroten, en de dingen zien in het licht van hun vervulling. Laten we, om onze menselijkheid niet te verliezen, zoeken naar de wijsheid die vóór alles aanwezig was (cf. Sir 1,4), de wijsheid die op vrome mensen overgaat en hen tot vrienden van God en tot profeten maakt (cf. W 7,27): zij zal ons helpen om ook artificiële intelligentiesystemen af te stemmen op een volledig mensgerichte communicatie.

Paus Franciscus,
Rome, Sint-Jan van Lateranen, 24 januari 2024