Ik wil twee vragen aan de orde stellen. Ten eerste: hoe beïnvloeden de mensbeelden van twee bestsellerschrijvers over AI, Yuval Harari en Nick Bostrom, de manier waarop wij onszelf en ons brein begrijpen? Ten tweede: waarom zijn uitgerekend theologen nodig om bij hun mensbeelden kritische vragen te stellen?

Harari beschrijft in Homo Deus de werkelijkheid als een geheel van datastromen. Ieder organisme is volgens het door hem omarmde dataïsme een systeem dat informatie verwerkt: ‘Organisms are algorithms.’ Ook de mens is een samenstel van organische algoritmen, gevormd door miljoenen jaren natuurlijke selectie. Gevoelens, verlangens, overtuigingen en beslissingen zijn binnen dit mensbeeld uiteindelijk biochemische processen die in beginsel kunnen worden ontleed, berekend en voorspeld. De mens is, in Harari’s woorden, ‘a biochemical algorithm’.

Dit materialistische mensbeeld is niet nieuw. Epicurus en Lucretius begrepen de mens al als een tijdelijke ordening van atomen; sterven was het uiteenvallen van die samenhang. Harari vertaalt dit antieke materialisme in de taal van de eenentwintigste eeuw: de atomen zijn biochemische processen geworden en hun ordening heet algoritme. De indruk wordt gewekt dat de mens met behulp van de vergelijking met atomen en algoritmen volledig kan worden verklaard en alternatieve mensbeelden overbodig zijn geworden.

Tegenstrijdige drijfveren

Maar vanuit de geschiedenis van het denken bezien keert Harari terug naar een versmald mensbeeld waarvan René Descartes de mens juist probeerde te bevrijden. Descartes werd van 1607 tot 1615 gevormd aan het door jezuïeten geleide college in La Flèche. In de ignatiaanse Exercitia spiritualia stond systematisch zelfonderzoek centraal: de mens onderzocht zijn innerlijke bewegingen om tegenstrijdige drijfveren te onderscheiden. Waar Ignatius van Loyola deze introspectie richtte op het onderscheiden van Gods wil, zette Descartes haar in voor een ander doel: om het onbetwijfelbaar fundament van kennis te vinden. Zich in zichzelf inkerend, groeide de methodische twijfel.

Hij kon twijfelen aan zijn waarnemingen, de buitenwereld en zijn lichaam, maar niet aan het feit dat hij twijfelde: cogito, ergo sum. De mens werd in zijn idee zo res cogitans: een denkend wezen dat zich reflexief tot zijn waarnemingen en impulsen kan verhouden. Daartegenover stond de res extensa, de materiële werkelijkheid die volgens natuurwetten functioneert. Die hadden mensen en dieren gemeen. Maar dieren beschikten volgens Descartes niet over een âme pensante, taal of reflexief zelfbewustzijn en functioneerden daarom als verfijnde automaten.

Harari neemt dit cartesiaanse beeld van het dier als mechanisme over, maar betrekt het op de mens. Honger, angst, verliefdheid, overtuigingen en politieke voorkeuren worden uitkomsten van biochemische informatieverwerking. Zo kent hij de mens precies de status toe waaraan Descartes hem wilde onttrekken: die van een mechanisme dat reageert, maar niet werkelijk vrij oordeelt en kiest. Als denken en beslissen volledig worden herleid tot berekenbare processen, verdwijnt de reflexieve ruimte waarin de mens zich tot zijn impulsen verhoudt en verantwoordelijkheid neemt. En werkelijk mens wordt.

Het cartesiaanse mensbeeld omarmen wij nog steeds. De Universele Verklaring van de Rechten van de Mens van de Verenigde Naties postuleert de mens in 1948 uitdrukkelijk als een vrij, redelijk en moreel wezen, ‘begiftigd met verstand en geweten’. Dat laatste impliceert bij uitstek reflexief vermogen. Wanneer de mens zichzelf begrijpt naar het model van zijn eigen uitvinding – als biologisch algoritme – verdwijnen juist deze vrijheid en verantwoordelijkheid uit beeld. Door mens, dier en algoritme te vereenzelvigen, versmalt Harari het mensbeeld en gaat ons iets wezenlijks ontbreken.

Superintelligentie

Nick Bostrom vertrekt vanuit een tegengestelde beweging. Maar een reductionisch, versmald mensbeeld is evenzeer het gevolg. In Superintelligence definieert superintelligentie als intellect dat informatie vele malen sneller verwerkt dan een mens. Het redeneert sneller, begrijpt ingewikkelde verbanden veel eerder en ontwikkelt concepten en oplossingen op een niveau dat voor mensen niet meer te doorgronden is. Het verschil is dus niet alleen kwantitatief — meer snelheid en rekenkracht — maar vooral kwalitatief: een fundamenteel hoger niveau van intelligentie. Zo’n systeem zou zelfstandig wetenschappelijk en technologisch onderzoek kunnen verrichten en betere strategieën ontwikkelen dan menselijke deskundigen. Zelfverbetering zou een intelligence explosion kunnen veroorzaken: elke verbeterde versie ontwerpt een nog bekwamere opvolger. En de mens is eigenlijk nergens meer.

Nu beschrijft Bostrom uitvoerig wat superintelligentie kan aan de hand van de gevolgen, maar hij laat in het midden wat intelligentie is. Zij kan volgens hem worden gedragen door een menselijk brein, een computer of een netwerk van computers. Net als Alan Turing vat hij intelligentie vooral op als het vermogen cognitieve taken succesvol uit te voeren. Daardoor kan hetzelfde begrip worden gebruikt voor mensen, organisaties en machines: zij gelden als intelligent wanneer zij vergelijkbare uitkomsten produceren.

Hierdoor ontstaat een semantisch probleem. Intelligentie verwijst bij mensen niet alleen naar snelheid, rekenvermogen en taakprestatie, maar houdt ook verband met waarneming, ervaring, affectiviteit, bewustzijn en moreel oordeel. Zij is verbonden met lichamelijkheid en levensgeschiedenis en wordt gevormd door herinneringen, emoties, opvoeding, of je in armoede bent opgegroeid, en omgang met anderen. Wij spreken niet toevallig ook over emotionele intelligentie.

Maar wanneer het zelfstandig naamwoord ‘intelligentie’ zowel menselijke intelligentie als machinale informatieverwerking aanduidt, gebeurt er toch iets vreemds. Eerst vermenselijken wij de machine: zij ‘leert’, ‘begrijpt’ en ‘beslist’. Maar ‘intelligentie’ blijkt vervolgens alleen maar het vermogen doeltreffende middelen te selecteren, los van het vermogen doeleinden te beoordelen en verantwoordelijkheid voor keuzes te dragen. En wanneer deze instrumentele betekenis vervolgens als maatstaf voor menselijke intelligentie gaat gelden, wordt niet alleen de machine vermenselijkt, maar ook de mens naar het beeld van zijn machine herschreven. Zo leidt ook Bostroms denken tot een beperkt mensbeeld.

Theologen

Waarom zijn juist theologen nodig om daar vragen bij te stellen? Niet omdat theologie en empirische wetenschap hetzelfde onderzoeksobject of dezelfde methode hebben. Empirische wetenschappen toetsen hypothesen aan waarneembare gegevens. Theologen bestuderen teksten en tradities waarin al tweeduizend jaar genuanceerd over God – die niet empirisch te verifiëren is – maar ook over het verschijnsel mens wordt gesproken. De wijze waarop dit laatste gebeurt, kan voorkomen dat technisch taalgebruik ongemerkt tot antropologische versmalling leidt. Of God nu bestaat of niet.

Een voorbeeld. Schrik niet. Op het Concilie van Nicea werd in 325 vastgesteld dat de Zoon niet geschapen, maar één in wezen – homoousios – met de Vader is; Constantinopel bevestigde in 381 ook de goddelijkheid van de Heilige Geest. Zo ontwikkelde het christendom een spreken waarin Gods eenheid het onderscheid tussen Vader, Zoon en Geest niet opheft en onderscheid niet tot scheiding leidt. Een soort eenheid in verscheidenheid, maar dan wezenlijk.

Reeds in het begin van het christendom begrepen gelovigen en ongelovigen hier eigenlijk niet veel van. Om die eenheid in onderscheidenheid enigszins voorstelbaar te maken, trof Augustinus in De Trinitate een vergelijking met onze herinnering, wil en ons intellect (intelligentie). Deze vermogens zijn onderscheiden, maar werken nooit geïsoleerd. Indien wij ons iets herinneren, dat wij onprettig vonden, willen we dat niet meer. Wanneer wij vervolgens op onze ervaringen reflecteren, kunnen wij middels goed gebruik van ons intellectus, in het Engels intelligence, besluiten iets opnieuw te doen of juist te laten. Herinnering, inzicht en wil functioneren dus als een drie-eenheid.

Rijk vocabulaire

Kennen middels het intellect en liefhebben zijn bij Augustinus evenmin losstaande functies. ‘Niemand wordt gekend dan door vriendschap’, schrijft hij. Liefde vervangt het verstand niet en levert geen onfeilbare kennis op, maar verandert wel de houding van de kennende mens ten opzichte van het gekende object of subject. Wie een ander lief heeft, kent hem anders dan wie hem uitsluitend wil voorspellen of classificeren. Menselijke intelligentia is daarom verweven met herinnering, verlangen, lichamelijkheid, levensgeschiedenis, vriendschap en verantwoordelijkheid. Paradoxaal genoeg leverde juist de theologische poging om de Drie-eenheid te begrijpen zo een uitzonderlijk rijk vocabulaire voor het begrijpen van de mens op.

Dat vocabulaire raken wij allengs kwijt. En wij zijn met zekerheid te laat om voor machinale processen nog een geheel eigen vocabulaire te ontwikkelen, waarin we vermijden dat wij mensen steeds meer naar het model van de machine gaan begrijpen (Harari) of een menselijk vermogen, intelligentie, beperkt gaan opvatten als een uitvoerende capaciteit die de mens gaat overtreffen(Bostrom). En dus een beperkt mensbeeld ontwikkelen. Semantische precisie is dus geen academische luxe. Zij bewaakt een mensbeeld waarin de mens niet tot afzonderlijke functies wordt teruggebracht, maar als lichamelijk, historisch en relationeel wezen drager blijft van vrijheid en verantwoordelijkheid.

De theologie bewaakt echter niet alleen de rijkdom van onze begrippen, maar houdt de mensheid ervan bewust dat er grenzen aan ons weten zijn. Zij ontwikkelde daarvoor in de loop der eeuwen twee elkaar corrigerende manieren om over God te spreken. De via affirmationis, de bevestigende weg, schrijft eigenschappen als goedheid, wijsheid en rechtvaardigheid aan God toe. Zulke begrippen maken spreken mogelijk, maar Gods goedheid valt niet eenvoudig samen met wat mensen in tijd en ruimte als goedheid ervaren.

Daarom wordt de bevestigende weg gecorrigeerd door de via negativa: de weg van de ontkenning. Hierop wordt de uitspraak dat God goed is niet ingetrokken maar wordt wel ontkend dat in woorden ‘de werkelijkheid’ van God nooit adequaat geformuleerd kan worden. Je moet dus ontkennen dat wat je over God zegt helemaal ‘waar’ is. Het Vierde Lateraans Concilie stelde in 1215 voor te belijden dat de ongelijkheid tussen Schepper en schepsel groter is dan de gelijkheid en God eenvoudig niet gedacht kan worden.

‘Geleerde onwetendheid’

Deze wijze van spreken noemen wij ‘negatieve theologie’. Diplomaat, geleerde en kardinaal Nicolaas van Cusa zou in 1440 de levenshouding die hieruit bij de geleerde voortvloeide in De docta ignorantia ‘geleerde onwetendheid’ noemen: hoe scherper zij de omvattendheid en reikwijdte van hun kennis doorzien, des te nauwkeuriger beseffen geleerden wat daaraan ontsnapt. Onwetendheid komt dus niet voort uit gebrek aan onderzoek, maar behelst het inzicht in de grenzen van het bereikte weten.

De negatieve theologie levert natuurlijk geen aanvullende methode voor biologen, psychologen, economen of datawetenschappers. Zij verschaft geen nieuwe gegevens en corrigeert geen empirische bevindingen van buitenaf. Maar zij biedt een kennistheoretische grondtoon die ieder onderzoek zou moeten begeleiden: begrippen en modellen ontsluiten de werkelijkheid, maar vallen nooit met haar samen. De indicator is niet het verschijnsel, de meting niet de werkelijkheid en het model niet de mens.

Voor het spreken over kunstmatige intelligentie betekent dit dat iedere bevestiging om een ontkennend vervolg vraagt. Menselijke cognitieve processen kunnen in bepaalde opzichten algoritmisch worden beschreven; daarmee is niet gezegd dat de mens een algoritme is. Een machine kan gegevens bewaren, patronen herkennen en overtuigende taal produceren; daarmee is nog niet aangetoond dat zij zich herinnert, begrijpt of spreekt in de volle menselijke betekenis van die woorden.

Misschien moeten we – als ware dit een soort fundamentele disclaimer - uit de negatieve theologie een negatieve antropologie gaan afleiden. Een negatieve antropologie houdt het besef vitaal dat mensen altijd meer zijn dan wat één discipline, diagnose of model van hen zichtbaar maakt. Ook de vergelijking met de machine blijft daarom begrensd: zij kan functionele overeenkomsten verhelderen, maar rechtvaardigt niet dat de mens wordt gedefinieerd naar het model van een artefact dat hij zelf heeft vervaardigd.

Tot slot

De titel van deze rede, Baas in eigen brein?, laat zich na het voorgaande niet met een eenvoudig ja of nee beantwoorden. De mens is geen volkomen autonoom subject dat zich onafhankelijk van biologische, sociale en technologische invloeden vormt. Ons denken en handelen worden mede bepaald door genen, instituties, taal en opvoeding, en inmiddels ook door algoritmen die onze aandacht sturen, voorkeuren voorspellen en keuzemogelijkheden ordenen. In die zin zijn wij nooit volledig baas in eigen brein geweest. Daaruit volgt echter niet dat vrijheid een illusie is of dat de mens kan worden herleid tot een biologisch algoritme.

Augustinus schreef ooit: si comprehendis, non est Deus – als u meent God te hebben doorgrond, is het niet God die u hebt doorgrond. Als Leonardo hoogleraar hier in Tilburg herinnerde Rutger Kopland ons er in 2000 aan in zijn Inleiding in de patafysica, dat een gevonden antwoord de vraag niet beëindigt, maar deze juist nauwkeuriger kan maken. Hij was psychiater en wist dat een diagnose iets wezenlijks kan verhelderen maar de mens niet zijn diagnose is. Een mens is meer, onbegrijpelijk veel meer.

Voor ons spreken over de mens moeten wij de inzichten van Augustinus en Kopland misschien daarom vertalen als: si comprehendis, non est homo. Wie meent de mens volledig in een theorie, meting of model te hebben gevat, heeft niet de gehele mens gevat. Dat houden uitgerekend godgeleerden de mensheid voor.