Minister Agema van VWS wil vol inzetten op AI om de betaalbaarheid en toegankelijkheid van de zorg te redden. Met AI kan de productiviteit omhoog, kunnen kosten omlaag, en leveren we betere zorg. Ook voor gemeenten zou AI uitkomst kunnen bieden. Meer doen met minder mensen is nodig, want onvervulde vacatures zijn legio. En met AI kan beleid scherper en preciezer worden. Maar toch is AI geen reden voor vrolijkheid of optimisme.

Om het risico te doorgronden, moeten we een stap terugzetten naar wat AI is en wat het anders maakt dan zomaar een instrument. Complexiteitsdenker Dave Snowden maakt daarvoor onderscheid tussen silicons en carbons. Wij mensen zijn carbons: koolstofverbindingen die met onze slimheid, kennis en intuïtie in lastige situaties altijd tot handelen komen. We gooien in het moment alles wat we waarnemen en weten op een hoop en komen dan tot actie. Voor heel veel ingewikkelde situaties is dát wat er nodig is. 

Daartegenover staan silicons: microchips, die razendsnel berekeningen uitvoeren op data. Dat doen ze sequentieel. Ze maken slierten van berekeningen om tot een oplossing te komen. Dat doen ze zo ongelofelijk snel en op basis van zo extreem veel informatie, dat het tot indrukwekkende uitkomsten leidt. 

Silicons en carbons zijn twee manieren om tot antwoorden te komen. Bijvoorbeeld welke gezinnen risico’s vormen en welk bedrijf ruimte verdient. Met voldoende data berekenen silicons die antwoorden. Beter dan wij carbons, met onze beperkingen en neiging om belangrijke dingen over het hoofd te zien. 

AI fungeert als megafoon van bestaande bias

En toch moeten we oppassen. Elk op AI gebaseerd oordeel van silicons is een verdelende beweging: iemand krijgt iets wel, een ander niet. Dat raakt de basis van de democratie en de rechtsstaat. En wij carbons kunnen niet doorzien wat de silicons doen en waarom. Democratische controle en rechtsbescherming werken dan niet. AI-toepassingen botsen altijd met democratische en rechtsstatelijke principes en vereisen daarom sturing door de overheid. Dat niet doen, betekent per definitie verlies van democratische en rechtsstatelijke kwaliteit. 

AI-toepassingen optimaliseren de productielogica en machtsstructuren van een bestaand systeem. Stille en zwakke belangen worden door AI-toepassingen altijd verzwakt, omdat AI fungeert als megafoon van bestaande bias. Zonder expliciete sturing zijn de gevolgen voor zwakke belangen daarmee groter dan ooit. Wij carbons moeten AI niet uit de weg gaan, maar ook nooit naïef zijn. Bijsturing van AI is niet moeilijk, maar wel lastig: het vereist commitment, investering en lange adem. En dat kost geld. 

Omdat AI ingrijpt in de fundamenten van het overheidsbestuur moeten we het als fundamentele kwestie benaderen. De democratie en rechtsstaat zijn te belangrijk om zomaar aan silicons over te laten.