VNG Magazine nummer 4, 6 maart 2020
‘Zeg niet “technologie is niet neutraal”, maar zeg: “de technologie die we hebben is een afgeleide van machtsverhoudingen – net als de invloed die ze heeft”.’
Aldus tech-criticus Evgeny Morozov, die in een recente tweet nog even de puntjes op de i zette. Als we over technologie spreken, moeten we ons afvragen van wie de technologie is, waartoe de technologie is ontwikkeld en wie er voordeel aan heeft.
Het is een gezonde achterdocht die merkwaardigerwijs vrijwel ontbreekt in het politieke en maatschappelijke debat. Voetstoots wordt ervan uitgegaan dat technologie noodzakelijk en onvermijdelijk is, alsof het een natuurkracht is die over ons heen dendert. Of, de dramatische variant, dat de mensheid alleen kan overleven door op te gaan in een grote cloud, samen te smelten met kunstmatige intelligentie (AI) en door in een continue verbinding te staan met 4G, 5G en nog snellere netwerken.
In werkelijkheid wordt technologie ontworpen en draagt het de maatschappelijke en culturele waarden van de ontwerpers, de opdrachtgevers en de eigenaren. Technologie weerspiegelt belangen en verlangens en legt een wereldbeeld bloot.
Kritische bevraging is cruciaal om machtsongelijkheid bloot te leggen
De gedachte dat technologie noodzakelijk is, en dat bijvoorbeeld datagedreven beleid superieur zou zijn aan gewoon beleid, is zo dominant dat het alle kritische reflectie monddood maakt. Zo kunnen gemeenten op dit moment niet eens de vraag stellen of 5G wel noodzakelijk is; of het energiebeslag wel evenredig is met wat het op zou moeten leveren, en of de mogelijke gezondheidsrisico’s wel in kaart zijn gebracht. Kritische bevraging is cruciaal om de machtsongelijkheid die door technologie kan ontstaan voor te zijn en de vooringenomenheid bloot te leggen.
Kritisch betekent niet dat je met een aluminium hoedje tegen technologie ageert, maar dat je valse en terechte claims van elkaar onderscheidt; dat je de vraag kunt beantwoorden in wiens belang de technologie wordt ontwikkeld, en of de effecten wenselijk zijn. Technologie kan bijdragen aan het oplossen van vraagstukken, maar is ook de bron voor veel problemen: in handen van verkeerde partijen leidt ze tot verlies van soevereiniteit en tast ze fundamentele democratische waarden aan.
Neem de investeringen in AI. Als voor elke miljoen euro die daar nu in geïnvesteerd wordt door het bedrijfsleven, een miljoen aan AI besteed kan worden door vakbonden, consumentenorganisaties, burgerbewegingen en onderzoeksjournalisten, zouden de CEO’s dan nog steeds zo enthousiast zijn over de mogelijkheden? Als we een nationale AI-strategie ontwikkelen, moeten we er dan niet voor zorgen dat deze volledig in lijn is met onze publieke waarden, en dat de samenleving aan de tekentafel staat? We kunnen het ons niet permitteren dat de machtsbalans tussen big tech en onze rechtsorde nog verder wordt verstoord.
Marleen Stikker is directeur van Waag en oprichter van De Digitale Stad.
@marleenstikker