De Filippino’s mogen onze Facebook-tijdlijn schoonvegen
Sociale media zijn inmiddels de paria’s van de samenleving geworden. Van alle kanten worden ze door politiek en media belaagd: over privacy, nepnieuws en scheldpartijen. De documentaire The Cleaners laat op indringende wijze zien hoe de grote Amerikaanse techbedrijven een paar duizend Filippino’s laat bepalen wat goed of slecht voor ons is. Filmjournalist Nico van den Berg duikt in het moeras van deze moraalridders uit Manilla.
Elke dag kijken duizenden Filippijnen in een grauwe kantorenwijk van Manilla naar de krochten van het internet. Of beter gezegd: wat gewone mensen zoal plaatsen op Facebook, Twitter en andere sociale media.
Of het nu gaat om kinderporno, IS-onthoofdingen of andere vormen van seks en geweld; het menselijk brein is een meester in het voortbrengen van de meest perverse gedachten. Deze gedachten weten ook online kijkers zodanig te prikkelen, dat er een enorme aantrekkingskracht van uitgaat om het allemaal op te willen zoeken en aan te klikken.
“Delete or ignore”. Dat is de simpele keuze die de content moderators, ofwel de schoonmakers van het internet, in een fractie van een seconde bij elke door het systeem als ‘extreem’ gebrandmerkte post moeten maken. Het tempo waarin ze moeten werken is moordend. Als je als cleaner te weinig postings behandelt of als je te vaak op ‘ignore’ klikt, kun je vertrekken.
De Filippijnen doen trouwens het grove werk. Een Facebookteam in Berlijn, waar De Volkskrant recent dit lezenswaardige verhaal over maakte, doet de rest.
The Cleaners van de Duitse documentairemaker Moritz Riesewieck en Hans Block laat een onthutsend beeld zien van een nieuwe vorm van westerse uitbesteding. Voor een salaris van een paar honderd dollar per maand moeten de moderatoren de meest afschrikwekkende beelden bekijken. Met wat richtlijnen vanuit Silicon Valley (geen geweld, seks of geslachtsorganen) en hun eigen moraal bepalen ze voor miljarden gebruikers wat wel of niet door de beugel kan.
Niet toevallig kiezen bedrijven als Facebook of Twitter ervoor dit in de Filippijnen te doen, waar eenzelfde puriteinse moraal heerst als in de Verenigde Staten. Maar wat doe je met een naakt afgebeelde Donald Trump? Of met de iconische foto van het napalmmeisje tijdens de Vietnamoorlog? Of een cartoon van de Nederlandse tekenaar Ruben L. Oppenheimer? Dit zijn allemaal voorbeelden van posts die door content moderators offline zijn gehaald. Zo bepalen deze mensen in de Filippijnen wat we wel of niet in onze tijdlijn voorbij zien komen. Naast alle algoritmes die zorgen dat we stevig in onze filterbubbel blijven, natuurlijk.
De makers van The Cleaners trappen gelukkig niet in de val van een snel oordeel over het beleid van Facebook. Het is makkelijk kritiek te hebben op de straffen van Facebook.
De documentaire laat zien dat het een zeer complex probleem is, want waar leg je de grens? Moraal is iets wat afhangt van plaats, tijd en groep. Waar de ene persoon voor een absolute vrijheid van meningsuiting is, is de andere persoon voor het inperken van politiek-incorrecte uitingen.
Waarom mogen grappen over Trump wel, maar liggen homo- en vrouwonvriendelijke opmerkingen tegenwoordig een stuk gevoeliger? Het is een illusie te denken dat er als samenleving ooit één algehele consensus ontstaat over wat wel en niet mag. Als The Cleaners één ding duidelijk maakt, is dat het miljardenbedrijf van Mark Zuckerberg die consensus dus ook niet kan bieden, al gebruiken veel politici het platform als zondebok voor alle menselijke derrie.
De tekst loopt hieronder door.
Dat betekent niet dat Facebook geen verantwoordelijkheid heeft. En daar schiet de documentaire The Cleaners wel wat in tekort. Zo goed als de film op microniveau de moderatoren volgt, laat de film op macroniveau te veel liggen. Neem het groter wordende probleem van ‘hate speech’, het bewust verspreiden van valse informatie.
In het westen met een vrije pers is de invloed hiervan vooralsnog beperkt, maar in meer instabiele landen als Sri Lanka en Myanmar worden grote groepen mensen op deze manier tegen elkaar opgezet, met zelfs doden als gevolg. Propaganda is van alle tijden, maar de schaal waarmee dit nu als een olievlek door Facebook wordt verspreid, is zorgwekkender dan een verwijderde post van een cartoonist. Het lukt de makers niet deze tweedeling goed weer te geven.
De tekst loopt hieronder door.
Wat The Cleaners wel scherp laat zien, is de toenemende autonomie van sociale media. Zo kan het bedrijf van Mark Zuckerberg als wereldwijd medium in een vacuüm opereren. Net zoals er geen wereldwijde moraal is, zo is een gezamenlijke aanpak om bedrijven als Facebook in te dammen en transparanter te maken haast een onmogelijke opgave. De vraag is in mijn ogen wat je na afloop van de documentaire doet. Moet je jouw account verwijderen of de film juist delen met je Facebook-vrienden?
En dan maar hopen dat die post niet door overijverige cleaners wordt verwijderd.
The Cleaners draait vanaf donderdag 17 mei in de filmtheaters.
