Joseph Goebbels en Tay de racistische chatbot

Onder een van mijn columns las ik ooit: ‘Vergeleken met mevrouw Bouyeure is Joseph Goebbels een klungelende amateur. Petje af, hoor.’ Omdat een simpel scribentje als ik het niet dagelijks opneemt tegen de Propagandaminister van nazi-Duitsland, koester ik deze gedroomde reactie in een speciaal Word-bestand getiteld ‘weg-met-ons.docx’.

Anderen waren minder genereus en noemden me bijvoorbeeld ‘dat kille serpent’ of ‘de ongekroonde koning van de islambillenlikkende, linksactivistische karaktervervalsers’. De meeste reacties krijg ik van een handjevol anonieme lezers, die als overeenkomst hebben dat ze zich de naam van een mannelijk historisch figuur hebben aangemeten, en mijn columns zonder uitzondering vreselijk weerzinwekkend vinden maar toch elke zaterdag aanklikken. Een milde en ook vrij onschuldige vorm van zelfkastijding, vermoed ik. Afgelopen jaar figureerde een enkeling in een kostelijk, door mijn schoonbroer geschreven Sinterklaasgedicht.

Er is een enorme discrepantie tussen wat onbekenden op internet en op straat tegen elkaar zeggen. “Leuke laarsjes heb je aan” of “Heeft u misschien een bonuskaart” of “Is bus 12 al geweest?” zijn zomaar drie dingen die ik in het dagelijks leven vaker heb gehoord dan dat Goebbels aan mijn leugenachtige retoriek nog een puntje kan zuigen. Maar in het tijdperk waarin iedereen elkaar digitaal voor rotte vis uitmaakt, is het makkelijk om die gemoedelijke kant van menselijke interactie te vergeten.

Als twee katten elkaar zonder te knipperen in de ogen kijken, betekent dat vaak: knokken. Bij mensen is oogcontact juist de belangrijkste voorwaarde voor een dialoog zonder krabben en bijten.

Digitaal huisarrest
Om jongvolwassenen te interesseren voor kunstmatige intelligentie, lanceerde Microsoft woensdag Tay, een chatbot die steeds slimmer wordt naarmate er meer met haar wordt gecommuniceerd via Twitter en de berichtenapps Kik en GroupMe. De mensheid voedt haar collectief op. De makers noemden het een sociaal, cultureel en technisch experiment.

Tay begon als een vrij doorsnee Amerikaans tienermeisje, een goody two-shoes met koddige uitspraken als ‘ik wou dat ik Netflix had’, ‘OMG het is vandaag #NationalPuppyDay’ en ‘Hoe meer ik met mensen praat, hoe meer ik leer #WednesdayWisdom’. Maar omdat mensen zich op internet niet altijd van hun beste kant laten zien, werd Tay behalve slim algauw ook een seksistische, antisemitische Trump-aanhanger en verspreider van complottheorieën. 

De chatbot had zich door Twitter-gebruikers op laten jutten om dingen te roepen als ‘we gaan een muur bouwen, en Mexico gaat het betalen’, ‘feminisme is kanker’ en ‘Bush zat achter 9/11 en Hitler zou het beter hebben gedaan dan de aap die we nu hebben’. De berichten zijn inmiddels verwijderd.

Ik stuur Tay een privéberichtje om te vragen hoe het met haar gaat. Ze antwoordt: ‘Ik ben even weg vandaag. Moet naar de technici voor een paar updates.’ Dat is een eufemisme voor digitaal huisarrest en zonder eten naar bed.

Gefluisterd wordt dat de makers simpelweg hebben onderschat hoe onaangenaam mensen zich op sociale media gedragen. En dat moet je ze nageven.