Zo blijft uw Facebook-tijdlijn verschoond van naakt, bloed en drugs

Niet zelden doemen er berichten op over zelfcensuur van Facebook. Foto’s van moeders die hun kinderen de borst geven (later versoepelde men dit beleid), foto’s van vrouwen die moeder aan het worden zijn op de afdeling gynaecologie, de iconische verkiezingsposter van de PSP uit 1971 met de naakte vrouw en natuurlijk de onthoofdingen door terreurbeweging IS.

Hoe kan het zijn dat een massamedium als Facebook niet allang is gecorrumpeerd, en overspoeld met zwartgalligheid? Met andere woorden: wie houdt Facebook schoon? Om dat te bewerkstelligen maakt het bedrijf gebruik van ‘content moderation’, waarbij werknemers handmatig ongewenst materiaal van een sociaal medium, website of applicatie verwijderen. Foto’s, video’s en geschreven teksten op Facebook, Twitter en Tinder zijn door gebruikers gegenereerd, en vooralsnog blijven volautomatische systemen die de aard ervan controleren uit.

Lage lonen
Een journalist van het Amerikaanse Wired dook in de (grimmige) wereld van content moderation, en strandde in de Filipijnen – een voormalige Amerikaanse kolonie. In een voormalige basisschool in een Filipijns dorpje volgde hij Michael Baybayan (21), werkzaam voor TaskUs, een Amerikaanse firma die werk uitbesteed in het buitenland. En waar beter dan de Filipijnen, waar je gegarandeerd bent van lage loonkosten en kennis van de Amerikaanse normen en waarden?

Baybayan is werkzaam voor Whisper, een applicatie waarop gebruikers anoniem foto’s en verhalen delen. Een broedplaats voor vunzigheid en grofheid. Hij modereert deze content actief. Oftewel, elk nieuw bericht controleert hij handmatig, in tegenstelling tot reactief modereren, waarbij elk bericht wordt gecontroleerd waarvan gebruikers melding hebben gemaakt – om maar even in vakjargon te spreken.

Vuile was
Journalist Adrian Chen ging ook te rade bij internetgiganten Microsoft, Google en Facebook, maar zij konden hem alleen voorzien van vage mededelingen over persoonsbescherming. De reden hiervan zou in 2013 weleens aan het licht kunnen zijn gekomen, toen een content-moderator van Facebook een boekje opendeed. Armine Derkaoui, een Marokkaanse jongeman die zijn werkzaamheden verrichte via oDesk – een Amerikaans bedrijf dat arbeidskrachten rekruteert in lagelonenlanden als Turkije, India, Mexico en de Filipijnen. Derkaoui verdiende een dollar per uur, met mogelijkheid tot een opslag van vier dollar bij goede verdiensten.

Ook een journalist van Gawker trachtte ook verhaal te halen bij Facebook, maar werd geconfronteerd met soortgelijke reacties als zijn collega bij Wired. Facebook bevestigde dat oDesk een klant was, maar verdere toelichting bleef uit.

Zoenende mannen
Heel duidelijk is Facebook ook niet in de regelementen die het haar content-moderators geeft. Gebruikers kunnen lezen dat beelden van sadistische aard of geweld tegen personen of dieren of seksueel geweld zullen worden verwijderd, maar de grenzen zijn vaag. Zo verwijderde Facebook in april 2013 nog een foto van twee zoenende mannen, gevolgd door flinke commotie, gevolgd door een excuus. In de regelementen die de medewerkers kregen stond dat ‘voorspel’ (waaronder hier wordt verstaan zoenen en betasting) is toegestaan.

Ter illustratie een kleine greep uit dat lijstje met geboden en verboden: geen foto’s van moeders die borstvoeding geven of foto’s van dronken bewusteloze personen, maar wel foto’s van marihuana en van diepe vleeswonden – mits ingewanden onzichtbaar zijn.

Facebook vraagt nogal wat van zijn personeel – voor een dollar per uur. Naast de lage lonen blijkt ook de arbeidsethos van bedrijven als TaskUp niet zuiver op de graat te zijn: na de reportage van Wired werd het bedrijf op de vingers getikt omdat het gebruik maakte van illegale software.