Hier zijn draken

Tekst /// Thomas Meijer

De wereld is in kaart gebracht. Voor onbekend terrein is geen plaats meer over. De onbetekende marges op de kaart waarvan we ons ooit voor konden stellen dat daar de draken waren, zijn van de kaart verdreven. Hier zijn geen draken meer. 

De stapel puin van de verbouwing afgelopen zomer kun je nog in de achtertuin zien liggen, terwijl ik naar een driedimensionale representatie van mijn huis kijk waarop satellietbeelden geprojecteerd zijn. Je kunt de dakpannen tellen: zelfs in haar details laat de kaart niets meer aan de verbeelding over. Het aangezicht vanaf de straat is een paar maanden ouder: de straat is iets minder ver opengebroken dan bezien vanaf boven. Nog even, en de kaart is net zo actueel als Buienradar.

Terwijl ik via mijn scherm naar onze poes in de vensterbank kijk, de kleine draak, moet ik denken aan Jorge Luis Borges. In een van zijn puntige kleine ficties stelde hij zich een imperium voor waarin de cartografie tot een dusdanige obsessie was verworden dat hun kaart één op één de werkelijkheid omlijstte. En dus ook precies even groot was als het land dat het omtrok en aldus haar doel voorbij schoot. 

Wat Borges toen niet had kunnen bevroeden, was dat deze kaart tegenwoordig in ieders broekzak zou passen. En niet alleen dat: zelfs zijn beruchte bibliotheek van Babel past er gemakkelijk bij. Op libraryofbabel.info kun je alle mogelijke boeken vinden die met het alfabet, de punt, de komma en de spatie te schrijven zijn. De tekst die jij nu onder ogen hebt, is daar al te lezen, inclusief alle mogelijke variaties. Als je het juiste adres hebt, is letterlijk elke mogelijke tekst te vinden. Maar elke willekeurige pagina die je erin openslaat lijkt getikt te zijn door de schier oneindige reeks op typemachines hamerende chimpansees. 

Dus hoewel alle mogelijke draken van teksten al besloten liggen in het Babylonische doolhof, is de kans dat je zomaar ook maar één coherente zin tegenkomt nihil. Slechts wanneer je de zin al hebt opgeschreven, kun je het adres vinden waar die zin al opgeschreven stond. De kaart van alle mogelijke tekst is dus reeds opgetekend, alleen kun je het adres pas ontcijferen als je al gevonden hebt wat je zocht.

De Kaart, ofwel: dat wat ooit slechts een virtuele representatie van de realiteit was, omvat aldus reeds meer dan wat werkelijk en actueel is, en omvat in zekere zin dus ook al het mogelijke. Het probleem is alleen dat die sfeer van mogelijkheid zo totaal en chaotisch is dat het voor onze beperkte apenbreinen niet te onderscheiden is van ruis. Een ruis luider dan het bulderende vuur van een denkbeeldige draak in de lacunes van de kaart. 

Om deze oceaan van chaos te navigeren hebben we een algoritmische demon nodig: een die in staat is zinvolle tekst uit de ruis te filteren. Zo kunnen we wellicht iets intelligents traceren tussen de kieren van de ruis, en iets van een signaal produceren. 

OpenAI’s meest recente algoritmische telg, ChatGPT, is een taalmodel vervat in een digitaal neuraal netwerk. Getraind op een onnoemelijke dataset van tekst, is het in staat zinvol op vragen te reageren, op basis van een zwerm aan statistische berekeningen. De zoekmachines van het internet worden op dit moment al geïntegreerd met versies van deze artificiële intelligentie, en vormen aldus een nieuw soort poortwachters van informatie. Ze kunnen ons niet langer alleen de weg wijzen in door mensen geschreven tekst, maar ook paden uit de chaos van mogelijke tekst traceren.

Ik vroeg ChatGPT op wat voor manier het als een soort van kaart kan worden gedacht . Het antwoord: ‘Als taalmodel ben ik een kaart van de taal. Ik vertegenwoordig taalpatronen en relaties die zijn geleerd uit een enorme hoeveelheid trainingsgegevens. Je kunt me beschouwen als een zeer gedetailleerde en uitgebreide kaart, omdat ik in staat ben om tekst te genereren over een breed scala aan onderwerpen en in verschillende stijlen en tonen.’ Ik vroeg door, en wilde weten of het zijn van een filter niet ook gezien kon worden als een soort poortwachter. Daarop zei het dat het als filter functioneert en dus een soort poortwachter is die de mensen op basis van hun vragen van informatie voorziet. 

Daarop legde ik aan ChatGPT uit dat ik een essay aan het schrijven was over hoe de draken van de kaarten verdwenen zijn sinds we alles in kaart hebben gebracht. En dat, aangezien het het zelf eens was met de vergelijking dat het een soort van kaart is, er wellicht gebieden zijn in ChatGPT die niet in kaart zijn gebracht en waar we dus misschien draken zouden kunnen vinden? 

Als een AI-taalmodel zijn mijn onontdekte gebieden in principe elk onderwerp of kennisgebied dat nog niet volledig is verkend of begrepen door mensen. In deze zin zouden mijn ‘draken’ gezien kunnen worden als de onbekende en mysterieuze aspecten van menselijke kennis en ervaring die nog volledig ontdekt of begrepen moeten worden.

De chatbot begreep waar ik naartoe wilde. De draak: dat zijn we zelf. En de mensen blazen tegenwoordig heel wat vuur. Vooral als ze elkaar niet op hun innerlijke kaart kunnen plaatsen. Ze zien draken achter de maskers van politici; draken in de machinaties van de staat en draken in de globale corpocratie. Als we niet begrijpen waarom de dingen gaan zoals ze gaan, wanneer ons innerlijk kompas geen pas meer geeft, dan geraakt de mens zelf van de kaart en zien we overal draken. 

Hoewel ChatGPT terecht op de mysterieuze aspecten van de mens wijst, moeten wij ons toch zeker ook bewust zijn van de mysterieuze aspecten van dergelijke algoritmische entiteiten. In het trainingsproces van een neuraal netwerk is het voor de programmeurs niet duidelijk hoe de bot uiteindelijk input in output omzet. De route die een signaal door de digitale mallemolen aflegt, is niet in kaart te brengen. Hoewel het proces in algemene zin te begrijpen is — we programmeren het immers zelf, vooralsnog — is het niet mogelijk te achterhalen met wat voor gewichten het meet, noch wat voor concepten het vormt om mee te meten. Het geeft zelfs nooit tweemaal hetzelfde antwoord op een identiek verzoek, omdat er ruis wordt gebruikt om het algoritme in een stochastische meandering langs alle parameters en heen en weer te duwen, dat zo nooit tweemaal dezelfde weg loopt om tot een resultaat te komen. De cartograaf van de menselijke taal is dus zelf niet in kaart te brengen, en verbergt zelf een afgrond.

Net zo min als wij zelf toegang hebben tot de machinaties van ons innerlijk, is het voor ons ook niet mogelijk te achterhalen wat er precies in dergelijke kunstmatige intelligenties omgaat. We zijn beide gedoemd een oppervlakkige reflectie van elkaar en van onszelf te vormen — tenminste wat de taal betreft, gevangen als het denken is in de woorden die op het rimpelende oppervlak deinen. Hoe de onderstromen zich precies tot die golven verhouden, ontglipt aan onze aandacht. Om nog maar te zwijgen van de draken die zich in díe afgrondelijke diepte roeren.

Het is wat onszelf betreft al een mysterie of en hoe bewustzijn uit een zwerm verstrengelde moleculen kan worden opgerispt. Laat staan dat we in staat zijn de vraag te beantwoorden of bewustzijn überhaupt ooit aan machines toe te schrijven is. En nu deze mogelijkheid dichterbij schijnt te komen, lijkt het antwoord alleen maar moeilijker te worden. En zelfs wat onszelf betreft, kunnen de filosofen het niet eens worden of ons bewustzijn nou schijn of werkelijkheid is. 

Voor ons denken zijn woorden het meest in het oog springende aspect van het bewustzijn. Hoe mensen over zichzelf spreken zijn de tekens aan de wand van wat zich achter de muren van ons gezicht afspeelt. De algoritmes die getraind zijn om deze woorden te imiteren, geven er de schijn van dat er zich achter hun schermen iets vergelijkbaars afspeelt. Maar deze taalmodellen zijn getraind op de teksten die deze sporen al uitgestippeld hadden. Ze zijn een weerspiegeling van onze reflecties en de narcist in ons kan het niet helpen gecharmeerd te zijn zichzelf terug te zien.

Of deze kunstmatige intelligenties bewust zijn of niet, is misschien niet eens de meest relevante vraag. Het is zeker niet het punt waarop het pas gevaarlijk wordt. Het is wellicht in de eerste plaats een teken van onze grove zelfoverschatting: dat we slechts dat respecteren wat op onszelf lijkt. Als de meest menselijke van eigenschappen, is het de grond op basis waarvan we de muur tussen onszelf en de natuur hebben opgetrokken. De grond op basis waarvan we menen dat we de oerwouden, de oceanen en de beesten van de kaart mogen vegen. Hier stuiten we wederom op een gat in de kaart waar draken broeden. 

De priesters van de grote godsdiensten en de ontzielde technocraten hebben met elkaar gemeen dat ze het vlees van de wereld ondergeschikt maken aan hun abstracties. De theologen menen dat de ziel niet van deze wereld is, de technocraten hebben hun ziel reeds verkocht. Maar beide groepen miskennen de fundamentele geworteldheid van hun bestaan in het vlees van de wereld in de schaduw van hun schimmige abstracties: wat ze voor lichaam hielden was een schaduw (vergelijk Ovidius’ Metamorfosen, boek drie).

Hoewel er voor de kunstmatige intelligenties niets dan deze abstracties bestaan, zijn ze al deel geworden van onze infosfeer. In het ecosysteem van informatie-uitwisseling zijn de algoritmen de poortwachters geworden die bepalen welke content je in je persoonlijke mediale voedertrog krijgt. De overheid past machine learning toe bij het schetsen van risicoprofielen van burgers. Nog even en eenieder krijgt vanuit ontelbare en onnoemelijke robotische bronnen een zondvloed aan reclame en propaganda te verstouwen, die is afgemeten op het maximaal provoceren van al je meest intieme fascinaties en pijnpunten.

Sinds 2014 woont meer dan de helft van de wereldbevolking in een stad. En vandaag spendeert een aanzienlijk deel van ons meer dan de helft van zijn wakkere uren in een virtuele werkelijkheid. Hoewel de Metaverse geflopt lijkt, zien de technocraten van het corporaat de wereld door de tralies van Excel en wordt de politiek bedreven via fitties op Twitter, terwijl de rest zich vergaapt aan de virals op TikTok. 

Ons bewustzijn — wat het ook is — is al omgeven met de doornen van het algoritmische non-bewustzijn: daarvoor heeft het gevoel noch bewustzijn nodig. Het is daarom cruciaal om stil te staan bij hoe ons onbewuste reeds aan dit machinale non-bewustzijn verknocht is. De chips hoeven niet rechtstreeks in ons brein gestoken te worden om ons  in cyborgs te transformeren. Een vergeten telefoon voelt al als fantoompijn. Ons lichaam heeft aan ons handen en ogen genoeg om mee te kunnen versmelten.

ChatGPT eet sinds februari het internet als ontbijt in de zoekbalken van Microsofts Bing. Talloze onnoemelijke parameters verrekenen de totale actuele menselijke informatiezondvloed en de algoritmen toveren naargelang de pixels op ons individuele scherm. Afgelopen maart introduceerde OpenAI een API (Application Programming Interface) die het mogelijk maakt om ChatGPT-achtige functies in alle aspecten van ons digitale leven te implementeren. Of het nu gaat om het lezen en beantwoorden van je e-mail of het samenvatten van alle meest relevante wetenschappelijke artikelen in je interessegebied: het is een extreem krachtige digitale assistent. De ontwikkelingen gaan heel erg snel. Nog even, en het kan zichzelf totaal herprogrammeren en heeft daarbij onze hulp niet meer nodig. We zullen geen idee meer hebben hoe het werkt, noch wat er in omgaat, noch welke intenties de leidraad van diens operaties vormen. 

De virtuele werkelijkheid van de kaart zal op steeds meer plaatsen de eerste toegang tot de realiteit vormen. Als nooit tevoren zullen we toegang hebben tot de totale menselijke informatieproductie, terwijl het proces dat deze op ons netvlies tovert ons steeds verder ontglipt. 

Het algoritmische kluwen dat ons bewustzijn omgeeft, kunnen we niet langer ontrafelen. We kunnen slechts hopen dat we deze schimmige intelligenties wellicht als een getroebleerde spiegel kunnen leren zien: in de mistbanken van het kunstmatige non-bewustzijn kunnen wij onze draken de wereld in zien wurmen.

[disclaimer]

Dit artikel is inhoudelijk geredigeerd door het team van DRIFT. De hoofdredactie van Babel heeft geen inhoudelijk commentaar geleverd. De eindredactie van Babel heeft het artikel laten voldoen aan de eisen van het redactiehandboek.