In the year 3535

Ain’t gonna need to tell the truth, tell no lie

Everything you think, do and say

Is in the pill you took today

In het popnummer In the Year 2525 uit 1969 beschrijft het Amerikaanse zangduo Zager & Evans de belevenissen van het menselijke ras vanaf 2525 tot aan zijn uitsterven enkele millennia later. Met elk bezongen millennium is het leven meer geautomatiseerd, waardoor zelfs het menselijk lichaam overbodig wordt. Zo zijn in het jaar 4545 tanden en ogen niet meer nodig, want: ‘You won’t find a thing to chew, nobody’s gonna look at you’. 

Wie de technologiediscussies volgt, krijgt het gevoel dat we zo lang niet hoeven te wachten. De bionische implantaten die ‘De Man van Zes Miljoen’ in de gelijknamige serie uit de jaren zeventig had, zijn al geen sciencefiction meer. Kunstmatige intelligentie staat in alle sectoren op een voetstuk en er is al een land (China) waar de totale controlestaat digitale middelen inzet voor het reguleren van menselijk gedrag. 

Tegelijkertijd is de neiging om technologische mogelijkheden te overschatten groot. Of zoals nota bene sciencefictionschrijver en Google-consultant Bruce Sterling in Het Financieele Dagblad zei: “Je hond denkt, je computer niet.” De expert vergelijkt de obsessie met artificiële intelligentie dan ook met de zeventiende-eeuwse tulpenmanie. 

Cultuursocioloog en publicist Siri Beerends verzet zich al langer tegen misverstanden en mythes rond kunstmatige intelligentie. Zoals dat kunstmatige intelligentie vergelijkbaar is met menselijke intelligentie, of dat computers zelfstandig opereren en dankzij hun ‘onfeilbaarheid’ mensen zullen verslaan. Beerends, die als buitenpromvendus aan de Universiteit Twente onderzoek doet naar artificiële intelligentie en authenticiteit, veroorzaakte beroering toen ze in een artikel schreef dat we een AI-bullshitpauze nodig hebben, waarmee ze refereerde aan de oproep van techprominenten om een pauze in te lassen voor het trainen van systemen die krachtiger zijn dan ChatGPT-4. 

In geautomatiseerde beveiligingssystemen worden mensen gereduceerd tot hun gedrag of bepaalde kenmerken. Denk aan de toeslagenaffaire.

Guido van der Knaap, techniekfilosoof UvA

Volgens de brief, die meer dan dertigduizend keer werd getekend, zijn er regels nodig voor zulke systemen, die bovendien alleen ontwikkeld zouden mogen worden als ze een ‘positief effect hebben’ en ‘de risico’s beheersbaar zijn’. Beerends: “Elke vorm van vertraging in AI-ontwikkelingen is voor mij vooruitgang. Mijn bezwaar tegen de brief is dat de indruk wordt gewekt dat AI een onbeheersbare natuurkracht is die alleen door techbedrijven in goede banen is te leiden. Van mij hoeft een klein groepje techneuten niet te bepalen wat goede AI is, net zomin als dat ik wil dat de overheid ons vertelt welke informatie waar of onwaar is. De consternatie rond de waarschuwingsbrief leidt af van de echte gevaren: namelijk dat we technologie te veel macht toekennen, met als gevolg dat we zelf niet meer nadenken. Dat is geen toekomstmuziek; daar zitten we al middenin.”

Techniekfilosoof Guido van der Knaap van de Universiteit van Amsterdam is eveneens sceptisch over de oproep, die werd ondertekend door voorlopers in technologisering, zoals Twitterbaas Elon Musk en transhumanist en futuroloog Yuval Noah Harari. “Misschien zijn sommigen tot inkeer gekomen en een deel van de ondertekenaars meent het ongetwijfeld oprecht, maar het lijkt eerder op een reclamestunt. Als iedereen denkt dat kunstmatige intelligente onbeheersbaar is, gaat er meer geld naar techbedrijven. Dat neemt niet weg dat sommige geuite zorgen realistisch zijn.” 

In zijn boek Van Aristoteles tot algoritme verkent Van der Knaap via verschillende filosofische disciplines, zoals de politieke filosofie, de mogelijkheden en onmogelijkheden van AI. Het boek, dat een beter filosofisch begrip van kunstmatige intelligentie beoogt, toont dat er meer dan één perspectief is op AI. Van der Knaap: “Het succes van AI zegt niet zo veel over AI zelf, maar vooral iets over ons. Of je vindt dat bepaalde technologische toepassingen vooruitgang zijn of verwerpelijk, hangt af van de meetlat waarlangs je de ontwikkelingen legt.” 

In zijn boek geeft hij daarvan voorbeelden: “Deepfake-filmpjes kunnen technisch gezien prachtig zijn, maar vanuit moreel oogpunt verwerpelijk. Gepersonaliseerde koopsuggesties zijn commercieel misschien aantrekkelijk, maar kunnen tegelijkertijd ons blikveld vernauwen. Hetzelfde geldt voor veiligheid. Een samenleving die daaraan hecht zal digitale middelen omarmen voor bijvoorbeeld preventie. Maar wie een hang heeft naar avontuur, medemenselijkheid of een goede sfeer in een bruin café koopt weinig voor de gaven van AI.”

Toepassingen van kunstmatige intelligentie, waar verschillende definities van bestaan, variëren van vertaalmachines tot gepersonaliseerde zoekresultaten of gezichtsherkenning. Een recent breed voor het publiek beschikbaar gekomen toepassing is ChatGPT-4, waarmee teksten, gedichten en grappen gegenereerd kunnen worden. Van der Knaap: “Een verschil met dertig jaar geleden is dat AI-systemen niet rationalistisch worden getraind, maar empirisch. Voorheen kregen de systemen regels toegediend voor meer ‘kennis’. Ze kregen kenmerken om bijvoorbeeld katten te herkennen, aan hun spitse oren en staart. Nu geven we AI heel veel kattenfoto’s, op basis waarvan het systeem zelfstandig bepaalt hoe een kat eruit moet zien. Systemen leren nu door ervaring, of eigenlijk door de enorme hoeveelheid data waarmee wij ze voeden.”

Dat een computer – na heel veel training – zelfstandig honden- en kattenplaatjes herkent, wil niet zeggen dat het systeem over menselijke intelligentie beschikt, zegt Van der Knaap, wiens boek dit jaar werd genomineerd voor de Socratesbeker, de prijs voor het meest ‘urgente, oorspronkelijke en prikkelende Nederlandstalige filosofieboek’. “Om een computer het woord ‘hond’ te leren moet je hem zo’n tienduizend plaatjes van een hond geven. Een kind leert dat woord veel sneller. Het verschil is vooral dat zo’n woord voor een kind betekenis heeft. Die ziet een hond bijvoorbeeld als bedreigend of juist als een vriend of huisdier.” 

Het grote verschil tussen computerkennis en menselijke intelligentie is dat onze kennis is gestoeld in lichamelijke, geestelijke en zintuigelijke ervaringen. De gelaagdheid van ‘mensenkennis’ ontbreekt ook bij ‘krachtigere systemen’: “ChatGPT kan ‘menselijke’ taal simuleren, maar die taal heeft weinig van doen met onze taalvaardigheid. Bij ons is taal veelzijdig en verbonden met de omgeving. We gebruiken taal om een toneelstuk te schrijven, maar ook om een praatje te maken met de groenteboer. Een grap maken, bidden of een tekst vertalen vraagt weer andere vaardigheden. Een computer kan taal imiteren, maar mist context of de connectie met de complexe werkelijkheid. Een computer heeft ook geen bewustzijn of eigen wil.” 

De grenzen aan de ‘intelligentie’ van AI laten onverlet dat de implicaties ervan ingewikkeld zijn, zegt de techniekfilosoof. “De angst dat banen verdwijnen door geavanceerde technologie is al heel oud. Tot nu toe komen er steeds andere banen voor in de plaats, maar als net jouw baan op de tocht staat, is dat zuur. Niet iedereen kan na jaren zijn vak inruilen voor een totaal ander beroep. En wat betreft de zorg dat deepfakes gebruikt worden voor desinformatie: dat kan natuurlijk, maar als je dat gaat reguleren, krijg je een overheid die bepaalt wat wel en niet waar is. Daarmee begeef je je op een wankel terrein.”

In de roman Het lied van Europa beschrijft Leon de Winter hoe Nederland na een neergeslagen opstand vanaf 2040 verandert in een totalitaire staat, waarin iedereen in de gaten wordt gehouden, behalve in ‘de dode hoek’ van je huis, waar camera’s net niet bij kunnen. Nepnieuws wordt hard bestraft en persoonlijke vrijheden zijn verdwenen. Eerder beschreef historicus Coen de Jong in zijn boek Dwingeland – Orwell in de polder de parallellen tussen onze samenleving en George Orwells dystopische roman 1984. Ook de gelijkenissen met Aldus Huxley’s roman Brave New World tekenen zich scherper af. In die technologische utopie ligt de macht in handen van een klein club technocraten die iedereen ‘gezond’ en ‘gelukkig’ houden, ten koste van iedere vorm van vrijheid of individualiteit. 

Digitale controle is aan een opmars bezig. Internationale samenwerkingsverbanden spreken zich uit voor digitale controlemiddelen als een internationaal vaccinatiepaspoort of de digitale euro; landen als China zetten AI bovendien in voor grootschalige gedragssturing of voor het onderdrukken van minderheden als de Oeigoeren. Ook dichter bij huis is de inzet van digitale middelen voor veiligheid niet ongewoon. 

Net zo interessant als de relatie tussen mens en machine is hoe de macht machines inzet om de status quo te handhaven. Van der Knaap bespreekt via de filosofie van Michel Foucault hoe de manier om de bevolking in het gareel te houden (‘disciplinering’) is veranderd door digitalisering. Foucault beschreef hoe de samenleving zichzelf vanaf de achttiende eeuw disciplineert door toegenomen toezicht. Hij gebruikte daarvoor het beeld van het panopticum, een cirkelvormig gevangenisontwerp met in het midden een inspectietoren van waaruit de bewaker alle gevangenen in de gaten houdt. De gevangenen zien de bewaker niet. Hoewel ze dus niet weten of hij ze daadwerkelijk bekijkt – misschien is hij even met koffiepauze –, voelen ze zich continu bespied. Het ‘panopticisme’ zag de Franse denker ook in andere institutionele structuren, zoals het leger, scholen of bedrijven. Door het gevoel van permanente zichtbaarheid gedragen burgers zich automatisch volgens bepaalde regels en normen.

Het grote verschil nu is dat disciplinering op afstand plaatsvindt, zegt Van der Knaap, die ook politicologie studeerde. “Bij Foucault is disciplinering gebonden aan tijd en plaats, bijvoorbeeld de kazerne of het examenlokaal. In die instituten wordt bovendien het gehele individu gezien. In geautomatiseerde beveiligingssystemen worden mensen gereduceerd tot hun gedrag of bepaalde kenmerken, denk aan de toeslagenaffaire. De macht is ook niet meer aan een persoon gebonden zoals bij de gevangenisbewaarder, maar anoniem en machinaal. De beveiligingscamera’s die voor ons ook niet altijd even zichtbaar zijn, geven het gevoel constant onder toezicht te staan. Een heleboel beveiligingscamera’s veranderen de samenleving in een panopticum.” 

Het vertrouwen in technologische vooruitgang is geworteld in de Verlichting. Dat technologische toepassingen tot meer controle van het individu leiden staat haaks op de oorspronkelijke idealen van de intellectuele stroming, zoals autonomie. Het is niet de enige paradox rond digitalisering, zegt cultuursocioloog Siri Beerends: “Dé grote belofte van digitalisering is efficiëntie. De gedachte is: als we alle vervelende taken aan computers uitbesteden, houden we tijd over voor betekenisvolle en belangrijke zaken. Het tegendeel is waar.” 

Beerends geeft een voorbeeld: “In biomedische labs bleek de tijd die wetenschappers kwijt zijn aan het AI-leesbaar maken van informatie en het controleren van AI-systemen ten koste te gaan van zinvolle zaken als het ontwikkelen van nieuwe hypothesen. Ook in bedrijven zijn mensen vaker bezig met technische problemen dan met de mensen op de werkvloer of de inhoud van hun vak.”

Beerends: “AI wordt voorgesteld als een zelfstandige entiteit, maar er komt heel veel mensenwerk bij kijken. Denk aan de laagbetaalde arbeiders die categorieën moeten labelen, zodat computers plaatjes herkennen. Of de enorme hoeveelheid data waarmee wij ze voeden. Dat AI krachtiger wordt heeft niet te maken met een toename aan computerintelligentie, maar met een toename aan toepassingen die op de markt komen, en het enthousiasme waarmee wij die toepassingen gebruiken. We verwarren meer data en parameters met meer intelligentie. Computers worden niet ‘slimmer’, wij zijn zo dom om technologie op een voetstuk te plaatsen.”

In bedrijven zijn mensen vaker bezig met technische problemen dan met de mensen op de werkvloer of de inhoud van hun vak.

Siri Beerends, cultuursocioloog en publicist

Technologie is niet neutraal, zegt Beerends. “Achter technologisering zitten impliciete aannames. Eén aanname is dat technologische oplossingen sneller en efficiënter zijn en daarom altijd beter. Dat is te betwisten. Soms is vertraging vooruitgang. Je hebt nu bijvoorbeeld programma’s die automatisch samenvattingen maken van vergaderverslagen. Je hoeft dan niet zo’n heel document te lezen, maar als je dat wel doet, zie je misschien iets geks of krijg je associaties waardoor je nieuwe ideeën opdoet. Hetzelfde geldt voor schrijfwerk uitbesteden aan bijvoorbeeld ChatGPT. Schrijven is ook je gedachten ordenen, nadenken. Als we niet meer willen nadenken, getuigt dat eerder van nihilisme.”

Het idee van computers als zelfstandige, mensachtige entiteiten wordt gevoed door jubelverhalen in de media over bots die patiënten beter informeren dan artsen, of juist spookverhalen die reppen van superslimme systemen die onderling ruziemaken. Beerends: “Op een gegeven moment kwam Google met het verhaal dat hun chatbot zichzelf Bengaals had geleerd. Een klokkenluider van het bedrijf onthulde dat het systeem al eerder was getraind om die taal te leren. Elke angsthype voedt het idee dat we techbedrijven nodig hebben om ons te beschermen tegen de gevaren.” 

De scifi-achtige spookverhalen leiden volgens Beerends af van de echte gevaren, zoals een te grote machtsconcentratie van techbedijven. Beerends: “Een ander groot gevaar is schade aan het klimaat. Het energie- en waterverbruik dat komt kijken bij het trainen van grote AI-modellen is ongekend.

“We rennen achter elke AI-hype aan zonder na te denken over wie daar nu precies beter van worden. In plaats van werk te maken van onze eigen creativiteit, stoppen we al onze tijd, geld en energie in ChatGPT of programma’s als Dall-E die content genereren. Dan zeggen we: kijk, we hebben nu ook een computer die schrijft of kunst maakt. Het enige wat die programma’s doen is het remixen van bestaande informatie, door teksten of kunstwerken van mensen te gebruiken die daar geen toestemming voor hebben gegeven en niets voor betaald krijgen. Je krijgt een soort cognitieve inteelt. Met creativiteit heeft dat weinig te maken.”

Beerends wil vooral af van het vastgeroeste frame dat technologische vooruitgang onvermijdelijk is: “Het hele concept van vooruitgang is problematisch. Het veronderstelt dat er één universele uitkomst is, die goed is voor iedereen. Wat voor de een vooruitgang is, is voor de ander achteruitgang. Technologische vooruitgang is geen maatschappelijke of culturele vooruitgang. Ik kan geen enkel urgent maatschappelijk probleem bedenken dat met AI is opgelost.” 

Dat we desondanks technologie adoreren hangt samen met een robotisch mensbeeld, zegt de cultuursocioloog, die ook verbonden is aan het medialab Setup,waar ze met kunstenaars en ontwerpers alternatieve toekomsten met technologie verbeelden. “Als je de mens ziet als zijn brein, en het brein als een machine, dan geloof je dat een computer de mens kan vervangen. Als je denkt dat het blind volgen van beslisbomen de taak van een arts is, in plaats van een empathisch gesprek voeren, dan kan een computer dat werk ook doen.”

Het risico van grote technologieafhankelijkheid is uniformiteit, zegt Beerends. “Computersystemen zijn rechtlijnig en contextblind. Surveillancesystemen pikken bijvoorbeeld alles wat afwijkt van de statistische meerderheid automatisch eruit. Het gevaar daarvan is dat wij ons als voorspelbare robots gaan gedragen, omdat we ons aanpassen aan hoe die systemen ons beoordelen.” 

De gevarieerde gevaren van AI lijken ook door te dringen tot de politiek. De EU komt met meer regulering van AI. Zo komt er een verbod op riskante toepassingen, zoals door de overheid beheerde sociaalkredietsystemen, en heeft het Europees Parlement een resolutie aangenomen voor een verbod op gezichtsherkenning in de publieke ruimte. Tegelijkertijd staat digitale transformatie hoog op de EU-agenda, waaronder een Europese digitale identiteit of verplichte digitale controlesystemen om het autorijden ‘veiliger’ te maken. 

Of regulering en technologie-pauzes de toekomst veranderen, valt te betwijfelen, zegt Guido van der Knaap. “Dat EU-voorstel moet nog worden goedgekeurd door de lidstaten. Bovendien blijven overheden en bedrijven volop digitaliseren, om niet ‘achter’ te blijven.” 

Hoewel technologische toepassingen de hele wereld dichtbij brengen, vergroot automatisering ook afstanden. Zoals die tussen burgers en bestuurders, klanten en bedrijven, of zelfs tussen vrienden die alleen via sociale media communiceren. Van der Knaap noemt het verlies van ‘een zeker persoonlijk contact’ een van de grootste implicaties tot nu toe. “Je kunt je afvragen of dat vooruitgang is. Vooruitgang is het idee dat we met meer kennis tot een beter leven komen, maar wat is beter? Technologiekritiek wordt vaak weggezet als ouderwets of aartsconservatief; dat is iets normatiefs. Ik denk dat we met een open blik moeten kijken naar de maatschappelijke gevolgen. Iedereen zal daar anders over denken, maar die vragen moeten wel worden gesteld.”

Ook Beerends pleit voor meer AI-wijsheid. “Dat betekent niet dat we meer kennis moeten hebben over programmeren of prompts, maar dat we met verbeeldingskracht nadenken over de toekomst en onze relatie met technologie, los van de eeuwige scifi-clichés die ons worden voorgehouden door de hogepriesters uit Silicon Valley.”

Tegenover de rechtlijnige weg naar voorspelbare ‘vooruitgang’ staat de chaos van veelvormigheid die de wereld betekenis geeft. Niet ten prooi vallen aan een digitale dystopie vergt flexibiliteit en vindingrijkheid. 

Soms, heel soms, moeten we net zo compromisloos zijn als computers. Als het om surveillancetechnologie gaat, geldt er één antwoord: The people say no! 

Met uw donatie steunt u de onafhankelijke journalistiek van HP/De Tijd. Word donateur of word lid, al vanaf €4 per maand.