Begin als gemeente zo snel mogelijk met het vastleggen met algoritmen en sensoren in een publiek toegankelijk register. Dat was de oproep van experts tijdens de drukbezochte meetup van het Kennisnetwerk Data & Smart Society op 18 mei.
De registratie van risicovolle algoritmen wordt in 2023/24 wettelijk verplicht op basis van de Europese AI verordening, maar een aantal gemeenten loopt daar nu al op vooruit en wil óók sensoren registreren. Veruit de meeste deelnemers van de meetup waren het er mee eens dat er haast moet worden gemaakt.
Waarom snel beginnen met het ontwikkelen van een algoritmeregister?
Volgens Ivonne Jansen - Dings, die zich bij de provincie Zuid-Holland bezig houdt met ethiek en digitale transformatie, heeft het opzetten van een register heel wat voeten in aarde. Niet alleen de inrichting van het register zelf, het inventariseren van de algoritmen, wie verantwoordelijk is en het vaststellen welke algoritmen moeten worden opgenomen in het register, vergt veel tijd. Vaak vereist een verantwoorde governance aanpassingen van de organisatiestructuur.
Tanaquil Arduin, Chief Data Officer van de gemeente Den Haag is van mening dat je gewoon moet beginnen met het opzetten van de registers. Haar ervaring is dat werkenderwijs registers gefinetuned kunnen worden en er er de nodige discussie in de organisatie ontstaat. Bijvoorbeeld over welke algoritmen in het register moet worden opgenomen. In principe zijn dat bij de gemeente Den Haag algoritmen die een maatschappelijke impact hebben.
Ook Mildo van Staden, senior beleidsmedewerker bij het Ministerie van Binnenlandse Zaken, adviseerde gemeenten niet te wachten met voorbereidingen voor een algoritmeregister, hoewel het nog niet helemaal duidelijk is welke eisen de nieuwe wetgeving aan het register stelt.
Waarom algoritmen en sensoren vastleggen in een register?
Een van de belangrijkste redenen om algoritmen en sensoren vast te leggen in een register, is transparantie. Volgens Dirk van Brederode, adviseur digitalisering en innovatie bij VNG, is het nodig om inzicht te bieden in de aanwezigheid en werking van een algoritme of sensor om publieke controle, onderzoek en discussie mogelijk te maken. Met het register laat een gemeente zien dat het algoritmen verantwoord gebruikt, wat voor vertrouwen bij de burger zorgt. Transparantie is ook de achterliggende reden dat de Tweede Kamer om een landelijk register van algoritmen gevraagd heeft. VNG pleit ook voor een sensorenregistratie. In de concept Principes voor crowd-managementtechnologie van VNG wordt registratie van algoritmen en sensoren als norm gesteld, op basis van beschreven waarden en grondrechten. Meedenken over de Principes kan via de open online consultatie.
Het consortium publieke controle algoritmen, een samenwerking van meerdere overheden, heeft een landelijke Algoritme Register Standaard ontwikkeld. Het is een open standaard voor inventarisatie, registratie en publicatie algoritmische toepassingen. Zij is te vinden op www.algoritmeregister.org. Deze algoritmeregister-standaard is continu in ontwikkeling. Johan Groenen van het consortium is momenteel bezig met de doorontwikkeling van de standaard. Hiervoor inventariseert hij op algoritmeregister.nl algoritmeregisters van Nederlandse (semi-)publieke organisaties. Heeft uw organisatie een eigen algoritmeregister, meld het dan op algoritmeregister.nl.
Met de handreiking governance, ook te vinden op www.algoritmeregister.org, kunnen overheden te weten komen hoe ze hun organisatie zodanig kunnen inrichten dat er op een verantwoorde manier met algoritmetoepassingen wordt omgegaan