Column Kirsten Veldhuijzen: AIthiek

VNG Magazine nummer 1, 25 januari 2019

De essentie van het openbaar bestuur bestaat uit het toedelen van rechten en plichten, het herverdelen van schaarsten en het afwegen van belangen. Dat is allemaal niet eenvoudig. Het is mensenwerk, waarbij persoonlijke voorkeuren, visies op de samenleving, normen en waarden een rol spelen. Daar is – binnen de grenzen van de wet – ruimte voor in de politieke besluitvorming, maar bij beleidsuitvoering is daarvoor geen plaats: loyaal, neutraal en objectief is dan de norm.

Zo’n honderd jaar geleden beschreef de socioloog Max Weber de kenmerken van rationeel bestuur: efficiëntie, voorspelbaarheid, gelijkheid voor de wet en objectiviteit. Tot op de dag van vandaag zijn Webers denkbeelden leidend voor overheidshandelen. Zo zijn ze terug te vinden in de algemene beginselen van behoorlijk bestuur, de gedragsregels voor de omgang met burgers. Er zijn geen bevoegdheden zonder wettelijke basis, zorgvuldig onderzoek naar feiten en belangen is verplicht, besluiten vereisen motivering, en juiste en consequentie regeltoepassing is een waarborg voor rechtszekerheid.

Max Weber beschreef ook minder gelukkige kenmerken van rationeel bestuur, zoals niet-menselijke technologie. Zijn overwegingen blijven actueel nu de overheid na automatiseren, digitaliseren en dataficeren artificiële intelligentie (AI) omarmt. Deze technologie stelt computers in staat te beslissen over allerlei zaken en taken in de publieke sfeer zonder tussenkomst van mensen. Algoritmen, digitale beslisregels, zijn het antwoord op de behoefte om goedkoop, snel, rationeel, efficiënt, zonder aanzien des persoons rechten en plichten toe te delen, patronen te ontdekken in energiegebruik (wietplantages!) of om verplaatsing of verblijf van inwoners te detecteren. Dat is een verbetering voor het zo efficiënt mogelijk inzetten van straatveegwagentjes of het appen van een gat in het wegdek, het  wordt al snel minder gezellig wanneer de gemeente je straat aanmerkt als ‘eenzaamheidsrisicogebied’ of de politie op basis van data aan ‘voorspellende opsporing’ doet.

Besturen blijft mensenwerk

Zowel de rechtsstaat als de democratie verandert wanneer digitale beslisregels eigenstandig rechten en plichten toedelen. Computers kennen geen grenzen, normen, waarden of fatsoen en houden wellicht rekening met feiten, maar niet met omstandigheden. Het is dan ook niet zozeer een technische als wel een politieke vraag hoe de rechtmatigheid van het overheidshandelen vorm moet krijgen in een digicratie. Besturen is zo veel meer dan besluiten alleen; er moet plaats blijven voor empathie, creativiteit en uitzonderingen die regels bevestigen. De techniek mag het bestuur veranderen, de politiek blijft het primaat van personen; besturen blijft mensenwerk. Dat werk is dan ook gebaat bij digitale beslisregels die voldoen aan de ethische normen die de oude Max honderd jaar geleden al beschreef: transparantie, herleidbaarheid, navolgbaarheid en uitlegbaarheid. De computer zegt geen ‘nee’, maar doet dat op gezag en voor rekening en risico van zijn eigenaar. En dat bent u. 2019 wordt wat mij betreft dan ook het jaar van een nieuwe bestuurlijke ethiek: AIthiek. 

Kirsten Veldhuijzen is strategisch onderzoeker bestuurlijke en financiële verhoudingen bij de Algemene Rekenkamer, @kirstenregine