Met de contractvoorwaarden voor algoritmen maak je afspraken over welke informatie een leverancier moet delen. Zo is altijd uit te leggen hoe een algoritme werkt en waarom die ingezet wordt.

Jaartal
2021
Gemeente

De contractvoorwaarden zijn het resultaat van een samenwerking van vele experts: juristen, inkopers, leveranciers en technisch experts hebben in veel sessies en gesprekken meegedacht over hoe deze voorwaarden eruit moeten zien zodat ze werkbaar zijn voor iedereen. De voorwaarden zijn vervolgens binnen Amsterdam en andere overheden in de praktijk getest in inkoopprocessen en feedback van leveranciers is vervolgens verwerkt. Inmiddels zijn de voorwaarden onderdeel van het inkoopproces van Amsterdam en worden ze gebruikt bij alle inkoop van producten en diensten waarbij een algoritmische toepassing geleverd wordt. Ook zijn de contractvoorwaarden opgenomen in de modelovereenkomstengenerator van de VNG en zijn ze dus beschikbaar voor alle gemeenten. 

Als overheid hebben zij de verantwoordelijkheid om uit te leggen welke keuzes wij maken en op basis van welke informatie een beslissing genomen wordt. Ook als algoritmen helpen bij het nemen van die beslissing. Dat betekent dat de algoritmen die gebruikt worden eerlijk en transparant moeten zijn. Maar omdat algoritmen in computertaal geschreven zijn is niet voor iedereen altijd duidelijk welke afwegingen er precies gemaakt worden. Om aan burgers goed uit te leggen hoe een algoritme werkt en welke gegevens deze gebruikt, is het essentieel om zelf ook alles te weten. Daarom worden via de contractvoorwaarden voor algoritmen duidelijke kaders voor de informatie die leveranciers moeten aanleveren gesteld. Op die manier kan de gemeente de werking, kwaliteit en risico’s van algoritmen beoordelen zonder dat de leverancier bedrijfsvertrouwelijke informatie hoeft te overhandigen. Zo kunnen de burgers, de raad en toezichthouders altijd uitleg krijgen welke impact een algoritme op een besluit of dienstverlening heeft gehad. 

De contractvoorwaarden zijn vrij te gebruiken door gemeenten en andere organisaties die maatregelen willen nemen om verantwoord gebruik van algoritmen te stimuleren. Ze zijn zo opgesteld dat er maar hele kleine wijzigingen nodig zijn om ze van toepassing te verklaren in een andere gemeente. Ook is er een uitgebreide toelichting geschreven zodat zowel gemeenten als leveranciers begrijpen waarom er voor bepaalde bewoording of artikelen is gekozen. Daarnaast zijn ze ook vertaald naar het Engels, voor Engelstalige leveranciers. 

Dit praktijkvoorbeeld was een van de inzendingen voor de #GemeenteDelers2022.