Zoals nieuwe ontwikkelingen op het terrein van kunstmatige intelligentie (articifial intelligence, AI) en machine learning elkaar in rap tempo opvolgen, zo geldt dat ook voor initiatieven met waarborgen die het gebruik van algoritmen door overheden beteugelen. Er is al gepleit voor een nationale toezichthouder voor algoritmen, voor een voorafgaande impact assessment van algoritmen en voor een wettelijke regeling voor het gebruik van algoritmen naar Frans voorbeeld. Ook de richtlijnen voor het toepassen van algoritmes door overheden die minister Sander Dekker voor Rechtsbescherming onlangs heeft gepubliceerd, passen in die stroom aan initiatieven.

Veel van deze initiatieven lijken te berusten op de veronderstelling dat de juridische kaders zoals die voortvloeien uit bestaande regelgeving en jurisprudentie, onvoldoende in staat zijn om de risico’s en keerzijden van op algoritmes gebaseerde data-analyses (zoals computer says no, bias en black box) adequaat te beteugelen. Dit roept de vraag op of het bestuursrecht inderdaad met lege handen staat als het gaat om de normering van geautomatiseerde besluitvorming. Dat is zeker niet het geval. Zo heeft de Afdeling bestuursrechtspraak van de Raad van State in 2017 bepaald dat de gemaakte keuzes en gebruikte gegevens en aannames in geautomatiseerde besluitvorming proactief openbaar moeten worden gemaakt. Tegelijk is dit juridische kader voor geautomatiseerde besluitvorming nog verre van uitgekristalliseerd. 

Zorgvuldigheidsbeginsel

De Afdeling advisering van de Raad van State heeft in haar advies over de effecten van digitalisering betoogd dat de algemene beginselen van behoorlijk bestuur, zoals het zorgvuldigheidsbeginsel en het motiveringsbeginsel, ‘de nodige richting’ kunnen geven indien bestuursorganen deze ‘op een juiste wijze’ interpreteren en toepassen in de relatie tussen burger en digitale overheid. Dat is makkelijker gezegd dan gedaan, want wat is de juiste interpretatie die overheden moeten hanteren?

Een eerste stap die in dit verband moet worden gezet, is het gebruik van een eenduidig discours omtrent algoritmen. Wat bedoelen we eigenlijk als we spreken over bias en black box? Het zou winst zijn wanneer het discours van het klassieke, ‘analoge’ bestuursrecht wordt verbonden met het discours dat wordt gehanteerd in kringen van AI en machine learning. Wat stellen noties als ‘technische transparantie’ en ‘uitlegbaarheid’ eigenlijk voor in het analoge bestuursrecht? Een volgende stap is in kaart brengen welke eisen het bestuursrecht eigenlijk stelt aan menselijke besluitvorming, dus zonder tussenkomst van een computer. Moeten we de lat in het digitale bestuursrecht hoger leggen dan in het analoge bestuursrecht? Die vraag kan alleen zinvol worden beantwoord als we het analoge en digitale bestuursrecht naast elkaar leggen en met elkaar vergelijken.

Hoe waarborgen gemeenten dat ze hun beslissingen deugdelijk kunnen motiveren?

Voor gemeenten ligt er een aantal specifieke uitdagingen te wachten. Allereerst lijkt juist bij decentrale overheden eerder aanleiding te bestaan om een beroep te doen op de expertise van private partijen. Hoe waarborgen gemeenten dat ze hun beslissingen deugdelijk kunnen motiveren als private partijen hun software niet openbaar willen maken? Vervolgens: wie is verantwoordelijk voor geautomatiseerde besluitvorming als gemeenten (en provincies) door de landelijke overheid verplicht worden om gebruik te maken van een bepaald systeem van geautomatiseerde besluitvorming? Tot slot: hoe kunnen gemeenten in hun organisatie een betekenisvolle human in the loop creëren, zodat de uitkomst van algoritmen niet blind wordt gevolgd?

Uitdagingen

Al met al liggen er de nodige uitdagingen voor de normering van geautomatiseerde besluitvorming, maar staat het recht zeker niet met lege handen. Daarvoor is wel noodzakelijk om het analoge en het digitale bestuursrecht niet als twee gescheiden werelden te zien, maar te laveren tussen beide domeinen. Dan zal ook kunnen blijken dat bepaalde vormen van geautomatiseerde besluitvorming veel dichter aanliggen tegen analoge besluitvorming dan andere, meer complexe vormen van geautomatiseerde besluitvorming, zodat differentiatie in normering nodig is.

Johan Wolswinkel is sinds 1 november 2018 hoogleraar Bestuursrecht, markt en data aan Tilburg University. Op 17 januari 2020 sprak hij zijn oratierede ‘Willekeur of algoritme? Laveren tussen analoog en digitaal bestuursrecht’ uit.