Het debat rond de toenemende invloed van AI draait veel om maatschappelijke gevolgen en het gevaar van controleverlies. Het is echter niet minder belangrijk om de vraag te stellen: wat doet het met de mens om over zo een machtig middel te beschikken? Hoe verandert het leven en de blik van de mens in de aanwezigheid van AI-technologie, die de interactie met de wereld radicaal vereenvoudigt? Dit essay is een beschouwing van de manier waarop AI inspeelt op de controlebehoefte van de mens en het uitbesteden van het verstand leidt tot een overheersing van de verlangens. Gebruikmakend van Plato en Tolkiens magische ringen verkennen we de psychische uitwerkingen van de macht.
De mens voert oorlog tegen de natuur. De maarschalken, generaals, luitenants, en officieren in haar leger zijn de technologieën, die als vervaarlijke, dienstbare schepsels in de laboratoria van de instrumentele rede zijn gecreëerd. Met de vervaardiging van nieuwe technologieën is de macht van de mens gegroeid. Men geniet nog altijd na van enkele historische overwinningen; hoe daverend de drukpers de onwetendheid versloeg, de stoommachine de vermoeidheid verbande, en de elektriciteit de duisternis verdreef. Het gevecht ontwikkelt zich voortdurend, nieuwe technologieën krijgen gestalte en oude evolueren.
In recente tijden is de mens eraan begonnen het bevel uit handen te geven. De technologie is nu zelf tot aan de kern van het geschil doorgedrongen en oppermachtig geworden. Kunstmatige intelligentie ontstaat daar waar de mens het door natuurvrees gevoede instrumentele verstand uitbesteedt. Zo vormt zich een superwapen. En wanneer de mens zich ervan bedient, krijgt hij toegang tot onmeetbare kennis en vaardigheid.
Macht corrumpeert
J.R.R. Tolkiens beroemde fantasytrilogie The Lord of the Rings (1954-55) staat erom bekend er een simplistisch beeld van goed en kwaad op na te houden (licht versus donker, schoonheid versus lelijkheid, dapperheid versus bedrog), maar hierachter gaat een machtsopvatting schuil die wel degelijk interessant is. In het werk wordt de ultieme macht gesymboliseerd door de ring, het object waar het allemaal om te doen is en dat vernietigd dient te worden om het kwaad te verslaan. Wie haar omdoet, wordt onzichtbaar en kan derhalve aan alle gevaren ontsnappen en overal mee wegkomen. Naast dat de ring het directe effect van onzichtbaarheid heeft, werkt zij ook op subtielere manieren in op de drager. De eigenaar behoudt bijvoorbeeld, ondanks ouder te worden, een zekere vitaliteit, zoals het geval is bij de hobbit Bilbo, hoofdpersonage uit Tolkiens eerdere werk The Hobbit (1937). Bovendien versterkt en faciliteert de ring verborgen verlangens naar controle, afhankelijk van wie de drager is. Zo raakt Sméagol dankzij de ring getraind in het afluisteren van de gemene dingen die de lieden uit zijn dorp over hem zeggen en fantaseert Boromir – een nobele afgevaardigde van het mensenras die zijn volk probeert te redden van de ondergang – over grootse allianties, glorieuze overwinningen, en het onderwerpen van zijn vijanden om ten slotte zelf een machtig koning te worden.
Degene die de ring bezit, zal meer en meer de behoefte voelen haar te gebruiken. Zo ontstaat er een obsessie; de ringdrager zal bevangen worden door het gevoel niet zonder de magische snuisterij te kunnen en ten slotte compleet in bezit genomen worden door zijn verlangens. Het eindstadium van deze bezetenheid is isolement, zoals bij de ringgeesten, die in eeuwige onrust ronddwalen, niet kunnen sterven maar ook niet leven – of bij het personage Sméagol, dat tot een getormenteerd, kruiperig wezen verwordt en zich in een diepe grot verbergt om aan het daglicht te ontkomen.
AI als magische ring
Zoals de ring de machtsdromen van diens dragers faciliteert, faciliteert AI-technologie de machtsdroom van de mens. AI-technologie werkt door op het verlangen naar controle en overheersing, niet van mens tot mens, maar van mens jegens natuur. Middels slimme algoritmen en alleskunnende chatbots, wordt meer en meer chaos en onzekerheid uit het leven verbannen. AI vindt voor jou de perfecte partner, zorgt dat je koelkast altijd goed aangevuld is, en plant je vakantie. Ook hoef je je nooit te vervelen dankzij de eindeloze stroom aan content die aan je voorbijraast. Hoe meer de mens diens eigen denkvermogen niet hoeft in te zetten om door het leven te navigeren, hoe meer tijd en energie hij overhoudt voor het bevredigen van verlangens – en, hoe meer deze verlangens hem zullen bezighouden.
Ook de obsessie en afhankelijkheid zijn terug te zien. Bijna iedereen is tegenwoordig bekend met het verslavende effect van de met algoritmen bekrachtigde sociale media. Zelfs wanneer je hier niet bewust aan denkt, kun je zomaar je telefoon uit je zak hebben gehaald en zijn begonnen met scrollen. Een moment later denk je: ‘Wacht eens, dit is helemaal niet wat ik nu wilde doen’ en stop je je telefoon weer weg (en dit herhaalt zich meermaals per dag). De recentere introductie van slimme chatbots heeft er daarnaast toe geleid dat je te allen tijde met een simpele prompt toegang hebt tot de meest toegespitste informatie. ChatGPT vat de moeilijkste teksten voor je samen, schrijft papers, sollicitatie- en liefdesbrieven, maakt kunstwerken en muziek. Op den duur, doordat de mens zelf niet meer in deze zaken vaardig is, ontstaat er een afhankelijkheidsrelatie met de technologie.
De overeenkomst tussen de invloed van Tolkiens ring en de invloed van AI-technologie is niet in alle opzichten waar te nemen. De macht die de AI-technologie de mens verschaft, is niet die van een eenling tegenover de samenleving, maar die van de mensheid tegenover haar eigen toestand van contingentie (te definiëren als een mengeling van onzekerheid, mogelijkheid, toeval, willekeur – oftewel, het tegenovergestelde van noodzakelijkheid). De vergelijking is echter treffend daar waar het gaat om een machtsmiddel dat op de verlangens inspeelt, het gebruik waarvan een zekere bezetenheid en slaafsheid tot gevolg heeft. Zowel Tolkiens ring van macht als de AI-technologie leveren een snelkoppeling van verlangen naar bevrediging, waarbij het verstand overbodig wordt en waardoor de verlangens de geest in beslag nemen.
Plato over de passies
Hoe komt het dat een superhandig instrument zo een rottige uitwerking heeft? Een antwoord vinden we reeds in de oudheid. Plato schrijft in het tweede boek van Politeia (ook wel de Staat of Republiek) eveneens over een magische ring die de drager onzichtbaar maakt – ongetwijfeld heeft Tolkien zich erdoor laten inspireren.
Gyges, een arme boer, is zijn kudde aan het weiden wanneer zich, na hevige regenval en een aardbeving, een kloof in de aarde opent. Door de kloof betreedt hij een onderaardse ruimte waar hij vele wonderlijke dingen aantreft, waaronder een bronzen paard, dat hol is van binnen. In deze holte ligt het lijk van een naakt figuur, groter dan een mens en met een ring om de vinger. De boer neemt de ring mee en ontdekt dat, wanneer hij de ring draagt en de ringsteen naar de palm van zijn hand draait, hij onzichtbaar wordt. Met deze superkracht weet hij de koningin te verleiden en de koning te doden, zodat hij koning van Lydië wordt.
In Politeia wordt het verhaal van de ring van Gyges aangehaald om te bevragen of rechtvaardigheid slechts voortkomt uit vrees voor de negatieve gevolgen van onrechtvaardig handelen. Glaukon, Plato’s broer, meent dat de moraal slechts bestaat bij gratie van de sociale controle en in het bezit van de ring van Gyges altijd voor eigen gewin zou kiezen, want hier is immers geen straf aan verbonden. In de loop van de dialoog reageert Socrates op Glaukon door het genuanceerde ethische standpunt in te nemen dat men onvrij en ongelukkig is wanneer men de ratio uit handen geeft en slaafs wordt aan de verlangens. Het maakt volgens Socrates derhalve niet uit of men de ring in het bezit heeft of niet; rechtvaardigheid stamt af van het vermogen om de verlangens te weerstaan.
Het idee dat men weerstand dient te bieden aan de verlangens om een rechtvaardig en gelukkig leven te leiden staat centraal in Plato’s ethiek en komt in meerdere van zijn dialogen terug. Teneinde zich niet te laten leiden door verlangens, dient de mens rationeel in controle te blijven. Wanneer hij zijn verstand uit handen geeft, bijvoorbeeld door het uit te besteden aan technologie, riskeert hij door de verlangens te worden gestuurd. Dit zorgt voor een ongelukkig en onrustig bestaan, daar de verlangens toch nooit werkelijk kunnen worden bevredigd en steeds weer de kop opsteken.
Het verstand als drijfveer
Socrates’ reactie op het verhaal over de ring van Gyges in Plato’s Politeia concretiseert hetgeen Tolkien reeds illustreerde met zijn befaamde trilogie over de ring; macht ontmenselijkt.
Mensen verlangen er bovenal naar om grip te krijgen op de grillige en onzekere wereld en om dit verlangen te vervullen koesteren zij hun verstand. In de constante strijd tegen de natuur is er nu een wapen ontwikkeld dat enerzijds in dit grootste verlangen voorziet en anderzijds het verstand rust geeft doordat het het stokje overneemt. Het verstand is echter nodig om de verhouding tot de verlangens, die al snel slaafs van aard is, te mediëren. Wanneer onze kennis en kunde in AI-technologie wordt geplaatst, blijft het verlangen naar controleerbaarheid alleen achter, wat op zijn beurt de afhankelijkheid van de AI-technologie ernstig versterkt.
Van de personages in The Lord of the Rings wordt gevergd dat ze het gebruik van de snelkoppeling van verlangen naar bevrediging afwijzen om het kwaad te weerstaan. Deze afwijzing behelst het omarmen van de onzekere, chaotische wereld, waarin het niet zeker is of de dingen zich zo zullen voordoen als jij hoopt. Wie zich bezighoudt met de gevaren van AI, doet half werk wanneer zij slechts de maatschappelijke implicaties bestudeert. In de menselijke psyche woekert de verslaving aan controle, die aan ons zal blijven vreten totdat we als machtige schimmen over de aarde waren, in een eeuwige, perverse hunkering geklemd.
Tekst Riem Smakman, beeld Kian Moradi
Babel Magazine 