‘Digitalisering kan leiden tot een transparantere en efficiëntere overheid, zodat burgers zelf kunnen zien welke beslissingen genomen worden. Dit kan bijdragen aan meer vertrouwen in de overheid. Er zijn ook risico’s verbonden aan digitalisering in de democratie. Het kan leiden tot een gebrek aan privacy en veiligheid. Informatie die online wordt gedeeld, kan gemakkelijk worden gehackt en misbruikt, waardoor manipulatie van verkiezingen en andere vormen van cybercriminaliteit op de loer liggen.’

Deze zinnen komen uit een column die ik liet schrijven door het AI-programma ChatGPT. VNG Magazine heeft mij niet meer nodig. Of toch wel? Het probleem met kunstmatige intelligentie is dat het helemaal niet intelligent is. AI-toepassingen kunnen taken uitvoeren die normaal gesproken menselijke intelligentie vereisen, zoals het begrijpen van menselijke spraak of het nemen van beslissingen. Maar die ‘intelligentie’ is helemaal niet artificieel, want AI-systemen moeten worden ‘getraind’ op bronnen die door mensen zijn gemaakt. Het brein werkt niet hetzelfde als een computer en een algoritme is geen vervanging voor de complexiteit van onze hersenen. Wetenschappers denken dat nog zeker 25 jaar duurt voor we een complete kaart van de hersenen van een zoogdier kunnen maken. En dan waarschijnlijk van een muis.

VNG Magazine heeft mij niet meer nodig. Of toch wel?

De stap naar een echt intelligent systeem betekent dat ‘het’ daadwerkelijk begrip ontwikkelt van de wereld om ons heen en een leervermogen heeft op basis van autonome ervaringen die betekenis krijgen door interpretatie via een referentiekader. Onze unieke menselijke manier van betekenisvolle kennis genereren, waarbij ervaringen, taalconnotaties, creativiteit, emoties en intuïtie een rol spelen, samen met een ingewikkeld verwerkingsproces tijdens de slaap, is niet eenvoudig te programmeren.

Vooral het denken ‘buiten de box’, waarbij nieuwe inzichten en ideeën tot stand komen staat diametraal tegenover de huidige ‘intelligente’ toepassingen. AI-systemen zitten vol met vooroordelen en genereren vooral kennis die zeer algemeen is en een gemiddelde van het corpus waarop het systeem getraind is. Troep erin is troep eruit.

Uw gemeente kan, vanuit politiek en democratisch oogpunt, beter zeer terughoudend zijn met digitalisering van besluitvormingsprocessen. Die zit namelijk vol technologische valkuilen. De studie Automating Inequality van Virginia Eubanks liet zien dat automatische beslissingen in de sociale hulpverlening leidden tot verregaande discriminatie – omdat algoritmen vol zitten met sociale stereotypen, zonder ook maar een greintje empathie voor de problematiek van mensen en de context waarin deze tot stand komt.