VNG Magazine nummer 1, 24 januari 2020
Sinds 2014 wordt een groot aantal ouders door de Belastingdienst vervolgd volgens vermeende fraude met kinderopvangtoeslagen. Na vijf jaar geven de fiscus en de minister eindelijk toe dat zij fout zaten en van ‘verkeerde gegevens’ gebruikmaakten. Dit is geen eenmalige en toevallige fout. Er heeft een structurele verandering plaatsgevonden in de manier waarop we omgaan met burgers die de overheid nodig hebben voor financiële ondersteuning in hun levensonderhoud.
In elk land zijn er mensen die niet mee kunnen komen op de arbeidsmarkt, langdurig ziek worden of om een andere reden een beroep doen op de publieke voorzieningen, zoals sociale huurwoningen. Over de afgelopen decennia hebben overheden in de westerse wereld – ook in Nederland – miljarden euro’s gestoken in een steeds strengere controle van mensen die een (financieel) beroep doen op de overheid. Er is een digitale dystopie ontstaan die mensen reduceert tot nummers en hun omstandigheden tot keiharde ‘meetbare’ variabelen.
De Amerikaanse politicoloog Virginia Eubanks heeft aangetoond dat de algoritmen die worden gebruikt bij het profileren en controleren van de meest kwetsbaren in de samenleving vol zitten met vooroordelen die leiden tot permanente uitsluiting en marginalisering van bepaalde groepen. Terwijl overheden beloven dat procedures eerlijker, sneller en objectiever worden, is het omgekeerde het geval. Computers vervangen het menselijk oordeel en observatievermogen, maar vooral ook de empathie verdwijnt uit het besluitvormingsproces. Het gaat niet meer om mensen, maar om nummers.
Controle is nodig, maar ook een menselijke maat
Nog verontrustender is dat onderzoek heeft aangetoond dat de vervanging van het menselijk oordeel door een computerberekening leidt tot een automatisering van armoede en discriminatie. Door ‘voorspellers’ van fraude te integreren in de algoritmen (eerder een uitkering hebben gehad) worden specifieke groepen – vooral de meest kwetsbaren – strenger en vaker gecontroleerd dan andere groepen. Ook is directe inkomensondersteuning aan lage inkomens eenvoudiger te controleren dan belastingfraude door hogere inkomens en bedrijven. Als je geen slimme belastingadviseur hebt, maar zelf allerlei online formulieren moet invullen, zijn fouten eerder gemaakt – en minder makkelijk hersteld.
Procedures en online formulieren en systemen worden gemaakt door mensen die weinig kennis (en empathie) hebben met de allerarmsten en kwetsbaren in onze samenleving. Of er gewoon niet bij stilstaan welke mate van stress er gepaard gaat met armoede en inkomensonzekerheid, waardoor het moeilijker wordt verplichtingen na te komen. Controle is nodig, maar een menselijke maat ook. Geen enkel algoritme kan het persoonlijk contact vervangen. Werkloosheid en armoede zijn structurele problemen in iedere kapitalistische samenleving, niet de schuld van individuen. Stop dat maar eens in het algoritme!
André Krouwel is oprichter van Kieskompas en werkt als politicoloog aan de Vrije Universiteit: andre.krouwel@vu.nl, @AndreKrouwel