Hoe ‘vulgaire’ content van Twitter verdwijnt

Als u een enigszins shockerende en vulgaire foto op Facebook, Twitter of Instagram plaatst, zal het enige tijd circuleren voordat u de melding krijgt dat de (ongepaste) content is verwijderd. Zo konden we deze week lezen over vrijzinnige vrouwen die boos zijn omdat foto’s met daarop vrouwelijke tepels van Facebook worden geweerd, en die met daarop mannelijke tepels niet. (De #freethenipple-beweging was geboren.) Op Facebook en Twitter houden content moderators handmatig de boel schoon, al brengt Twitter daar nu verandering in.

Vorig jaar kon u hier lezen hoe content moderators de hele dag Facebooktijdlijnen afstruinden naar ongepaste content. Bij Twitter gebeurde iets soortgelijks. Op de Filipijnen werden zo’n 100.000 mensen ingehuurd om, dicht op elkaar aan een lange tafel, naaktfoto’s te verwijderen. Soms gaat de content verder dan een onschuldige tepel, denkt u bijvoorbeeld aan de gruwelijke onthoofdingsvideo’s van IS.

Het loon is beter dan bij een kledingfabriek, maar het confronterende werk levert nog geen vetpot op. The Wired meldt dat het werk de werknemer per maand ongeveer zo’n 312 tot 500 dollar oplevert. Niet alle arbeid vond in de Filipijnen plaats, ook studenten uit de Verenigde Staten worden soms ingehuurd door technische bedrijven.

Algoritmes
Maar er lijkt een keerpunt te zijn bereikt. Twitter kocht Madbits op, een jong bedrijf dat kunstmatige intelligentie heeft ontwikkeld die bepaalde elementen in foto’s herkent. Toen Twitter het bedrijf een jaar geleden inhuurde had de start-up Madbits vijf medewerkers. In 2014 kregen ze van Twitter een opdracht: ontwerp een systeem dat alle tweets en foto’s die niet geschikt zijn om te bekijken onder werktijd filtert. Dat jaar is voorbij, en de kunstmatige intelligentie mag de content moderators vervangen.

Het algoritme dat ongepaste foto’s moet herkennen is nog niet perfect, schrijft The Wired. Een foto van een baby die in bad wordt gestopt is natuurlijk geen pornografie, maar de machine vindt het nog lastig om dat verschil te zien. De ontwikkelaar van Madbits, Clément Farabet, beweert dat de kunstmatige intelligentie maar zeven procent van de gefilterde foto’s foutief verwijderd. De voordelen van het nieuwe systeem zijn dat het werk goedkoper en sneller is dan mensenkrachten en dat er geen emotionele prijs hoeft te worden betaald door de werknemer.