maandag 24 februari 2025

Veel gemeenten gebruiken al AI en algoritmes en vragen zich af hoe ze deze verantwoord kunnen ontwikkelen, inkopen en toepassen. Deze trendanalyse beschrijft trends en ontwikkelingen en geeft concrete handvatten voor gemeenten op het gebied van beleid, organisatie-inrichting en ‘checks and balances’. Daarbij is er aandacht voor zowel de beloofde gouden bergen als de realiteit van de gemeentepraktijk.

Inleiding 

De mogelijkheden van artificiële intelligentie (AI) en algoritmen, op allerlei gebieden van het dagelijks leven, zijn veelbelovend. Neem de gezondheidszorg, het RIVM schreef over mogelijkheden als automatische diagnostisering en vroegsignalering van uitbraken. De VO-raad en de Universiteit van Amsterdam hebben het over adaptieve leersystemen en personalisatie in het onderwijs. En volgens de Nederlandse AI-coalitie (NLAIC) is er veel potentie voor voedselproductie en -consumptie. Ook in het regeerprogramma van kabinet-Schoof wordt de inzet van AI en algoritmen genoemd, bijvoorbeeld als oplossing voor arbeidsmarkttekorten.

Tegelijkertijd waarschuwen onderzoeksinstituten, het Europees parlement, mensenrechtenorganisaties en grote (AI)techbedrijven voor de potentiële risico’s. Denk aan de verspreiding van desinformatie, privacyschending, discriminatie, milieuschade en het vergroten van verdeeldheid en kansenongelijkheid. Ook de bedreiging van onze digitale autonomie door de machtspositie van de grote, commerciële techbedrijven wordt aangemerkt als significant risico. Regelmatig verschijnen er kritische nieuwsberichten, bijvoorbeeld over oneigenlijk datagebruik bij de ontwikkeling van AI, de beïnvloeding van verkiezingen door AI-gegenereerde desinformatie en het versterken van stereotypen en discriminatie, door gebrek aan diversiteit bij AI-ontwikkeling.   

Veel organisaties stellen de vraag hoe de inzet van AI en algoritmen op een verantwoorde manier kan bijdragen aan onder andere efficiëntie, kostenbesparing en het beter bedienen van hun klanten en inwoners. Ook bij gemeenten wordt deze vraag steeds vaker gesteld, zeker met het oog op financiële onzekerheid en het naderende ravijnjaar 2026. 

Deze trendanalyse is een vervolg op de trendanalyse AI en algoritmen uit 2024, dat artikel had een overwegend observerend en rapporterend karakter. Deze trendanalyse gaat dieper in op de behoefte naar en praktische toepassing van AI en algoritmen binnen gemeenten en de trends daarbinnen. Deze trendanalyse heeft een meer instruerend karakter met praktisch toepasbare handreikingen. De nadruk ligt hierbij op een verantwoorde inzet van AI en algoritmen: wat betekent dat en wat is daarvoor nodig?

Analyse  

Definities 

Deze trendanalyse gaat over zowel AI als algoritmen. De AI-verordening geeft een definitie van de term AI-systeem die gebaseerd is op de aanbeveling vanuit de Organisatie voor Economische Samenwerking en Ontwikkeling (OESO). We houden dezelfde definitie aan.

Definitie AI-systeem: een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen. 

Belangrijke elementen uit deze vrij technische definitie zijn autonomie en aanpassingsvermogen. In de praktijk betekent dit: systemen die zonder menselijke tussenkomst kunnen werken en een zelflerend karakter hebben, voorbeelden hiervan zijn toepassingen van generatieve AI zoals ChatGPT, of aanbevelingssystemen zoals voorgestelde afspeellijsten in Spotify. 

Voor de term ‘algoritme’ gebruiken we de definitie van de algemene rekenkamer, die ook wordt gebruikt voor het algoritmeregister. Een algoritme is:  

een set van regels en instructies die een computer geautomatiseerd volgt bij het maken van berekeningen om een probleem op te lossen of een vraag te beantwoorden. 

Deze definitie is breed geformuleerd, hier vallen bijvoorbeeld ook simpele beslisbomen onder.  

Kortom, het gaat hier over de brede toepassing van beslisbomen tot systemen met een hogere mate van complexiteit, zoals machine learning modellen. Binnen gemeenten worden de termen AI en algoritmen soms gebruikt als synoniem voor een diversiteit aan datagedreven oplossingen, statistiek en data-analyse, dat wordt hier niet bedoeld. Om AI en algoritmen op een verantwoorde wijze te ontwikkelen en toe te passen, is er specifiek, aanvullend beleid nodig en aanpassingen in onder andere de inrichting en geletterdheid binnen de organisatie. Vaak is dit een aanvulling op de bestaande datagovernance. 

Generatieve AI

Veel van de aandacht voor Al en algoritmen komt voort uit de opkomst van generatieve Al-applicaties zoals ChatGPT. Generatieve Al-applicaties zijn vaak getraind op historische of oudere data en kunnen hallucineren, als zij gebruikt worden in een context die voor hen onbekend of die zeer specialistisch is. Vaak ontbreekt het hierbij aan traceerbaarheid van de bronnen. Voor elke toepassing is het verstandig te evalueren welk(e) model(len) de beste resultaten geeft (geven). Bedenk daarbij ook of de omvang van het model (het aantal parameters) een rol speelt. Kleine modellen zijn voor specialistische toepassingen beter aan te passen aan een context. Samenwerking op het gebied van fine-tuning door overheidsorganisaties (en andere partijen) die actief zijn hetzelfde domein, valt aan te raden met het oog op onder meer traceerbaarheid, consistentie, efficiëntie en robuustheid.

En ‘verantwoorde inzet’ dan? Wat betekent dat? Dit is lastiger concreet te maken dan de definities van typen technologie. De definitie is tweeledig; ten eerste gaat het over verantwoord in de zin van uitlegbaar en gerechtvaardigd. Om dit te doen moet er een duidelijk doel zijn, ontwerpkeuzes moeten worden uitgelegd en verbonden worden aan maatschappelijke en beleidsmatige doelen. 

Ten tweede gaat het over de inzet van technologie op een manier waarbij publieke waarden worden geborgd en digitale grondrechten van inwoners worden beschermd. Praktisch kunt u hierbij denken aan het toepassen van een instrument als het Impact Assessment Mensenrechten en Algoritmen (IAMA) die belangrijke waarden van de organisatie toetst en keuzes vastlegt en rechtvaardigt. Andere voorbeelden zijn het Utrechtse ethische waardenmodel Uthiek en de inzet van ethische commissies bij diverse gemeenten. Het proces is hierbij vormvrij, het resultaat is afweging en borging van publieke waarden.  

Behoefte en toepassingsgebieden 

Veel gemeenten zetten AI en algoritmen al in. Uit een recent onderzoek van TNO (link) blijkt dat gemeenten zelfs ‘grootgebruikers’ zijn, waarbij zowel de inzet als de transparantie hierover de afgelopen jaren toenam. Uit onderzoek van Binnenlands Bestuur (link) blijkt dat gemeentesecretarissen de grootste kansen zien bij het verhogen van efficiëntie en verbeteren van de dienstverlening. 

De toepassingsgebieden zijn heel divers. Denk aan het vergroten van de efficiëntie bij afhandeling van verzoeken bij burgerzaken of het toepassen van anonimiseringssoftware voor het lakken van documenten. Of inzet voor de automatisering van (onderdelen van) toezicht, communicatie met inwoners of het opstellen of samenvatten beleidsstukken en brieven. Verder kunnen routes van vuilnis- en strooiwagens geoptimaliseerd worden, vroegsignalering van schuldenproblematiek en gepland onderhoud op basis van voorspellingen. 

Dit zijn enkele voorbeelden uit de gemeentepraktijk: 

Voor vrijwel alle taken van de gemeente kunnen AI en algoritmen worden ingezet, veelal vanuit behoeften als kostenbesparing en het verhogen van efficiëntie en nauwkeurigheid. De menselijke capaciteiten zouden dan ingezet kunnen worden voor de afhandeling van complexere (en vaak leukere) zaken, ook zou de vrijgekomen capaciteit mogelijk meer ruimte geven voor de menselijke maat. 

In tijden van arbeidsmarktkrapte en financiële onzekerheid zouden AI en algoritmes een uitkomst kunnen bieden om de dienstverlening op peil te houden en de uitvoering te ontlasten. Tegelijkertijd is de vraag of de inzet van AI en algoritmen altijd de geschikte oplossing is voor de taken en uitdagingen waar gemeenten mee te maken hebben. De ontwikkeling en inzet brengen, naast kansen, ook kosten en risico’s met zich mee. Het is belangrijk vragen te stellen als: zijn AI en algoritmen de beste oplossing voor dit probleem? Is de informatiehuishouding van voldoende kwaliteit? Welke risico’s brengt de inzet met zich mee en zijn we bereid deze te accepteren? Het is hierbij van belang dat er bewuste keuzes worden gemaakt en dat de communicatie hierover transparant en toegankelijk is.  

Bewust & transparant 

Voor het maken van goede afwegingen bij de ontwikkeling en inzet van AI en algoritmen zijn diverse randvoorwaarden noodzakelijk. Het is van belang overkoepelend te kijken naar het gemeentelijk AI-beleid en de benodigde organisatie-inrichting. Tegelijkertijd moet er integraal gekeken worden naar potentiële risico’s en moeten deze overwegingen per algoritme of AI-toepassing gewogen worden. Het expliciet maken van deze afwegingen helpt bij besluitvorming en het verhogen van transparantie. Deze transparantie kan bijdragen aan het (herstellen van het) vertrouwen van inwoners in het gebruik van technologie door de overheid.  

Beleid en organisatie-inrichting  

Diverse rapporten concluderen dat de verantwoorde inzet van AI en algoritmen een complex vraagstuk is, zowel beleidsmatig als qua organisatie-inrichting. De aanbevelingen uit die rapporten lichten we toe, want die bieden concrete aanknopingspunten voor gemeenten. Het gaat om 1. beleid en voorwaarden, 2. governance en verantwoordelijkheden en 3. bewustwording en geletterdheid.   

1. Beleid en voorwaarden  

Wanneer maakt u als organisatie wel of geen gebruik van AI en algoritmen en aan welke voorwaarden moet het voldoen om te worden ingezet? Het gemeentelijk algoritme- en AI-beleid geeft antwoord op dergelijke vragen. Dat kan aan de hand van afwegingskaders, inkoopvoorwaarden voor leveranciers, beleid voor het gebruik van generatieve AI of een waardenkader voor technologie.  

Als gemeente kunt u een standpunt innemen, bijvoorbeeld over de noodzaak van betekenisvolle menselijke tussenkomst of de uitlegbaarheid van AI en algoritmen aan de inwoner.  Verschillende gemeenten zijn hier al mee aan de slag, of hebben dergelijk beleid al vastgesteld. Zo hebben onder andere de gemeenten Amsterdam, Rotterdam, Groningen, Eindhoven en Nijmegen beleid opgesteld voor het verantwoord gebruik van algoritmen, waarin ze de registratie in het algoritmeregister, contractvoorwaarden, gedragscodes en impactassessments voor algoritmen beschrijven.   

Een van de voorwaarden voor de ontwikkeling van Al en algoritmes is een informatiehuishouding die op orde is, met data van goede kwaliteit en hoog volume. Lang niet alle gemeentelijke systemen lenen zich hiervoor. Dergelijke minimumvereisten voor de ontwikkeling van algoritmes en Al kunnen opgenomen worden in gemeentelijk algoritme- en Al-beleid. Een uitkomst hiervan kan zijn: een plan ter verbetering van de datakwaliteit om te voldoen aan de minimale vereisten voor de ontwikkeling van Al en algoritmes.

2. Governance en verantwoordelijkheden 

Wie krijgt er in de gemeentelijke organisatie allemaal te maken met AI en algoritmen? En wat zijn de bijbehorende taken en verantwoordelijkheden? Een duidelijke algoritme- en AI-governance met een overzicht van de organisatie-inrichting en beschrijving van verantwoordelijkheden is nodig om op een verantwoorde manier algoritmen en AI te ontwikkelen en gebruiken. 

In de Principes voor de Digitale Samenleving (pdf) is in het bijzonder aandacht voor de rol van de gemeenteraad en het college van burgemeester en wethouders als poortwachter op de inzet van technologie. Daarnaast zullen er door de gehele organisatie medewerkers betrokken zijn, van de consulent in de uitvoering die gebruik maakt van AI en algoritmen in het dagelijks werk, tot de proceseigenaar die verantwoordelijk is voor het gebruik van de toepassing in het proces, maar ook de directie, die een rol en verantwoordelijkheid heeft in de strategische visie op AI en algoritmen. Vaak zijn er veel experts betrokken bij het proces, zoals de privacy en security officer, de ethisch adviseur, algoritme expert, functionaris gegevensbescherming, maar ook de data scientist, inkoper en communicatieadviseur. Ook kan externe expertise betrokken worden in de governance, bijvoorbeeld in de vorm van een ethische commissie of externe partij die een audit kan uitvoeren. Welke specialisten nodig zijn, verschilt per toepassing en is afhankelijk van de risico-inschatting. 

Het ministerie van Binnenlandse Zaken ontwikkelt momenteel een algoritmekader, waarbij één van de werkgroepen zich specifiek richt op het onderwerp AI-governance. In aanvulling hierop wordt door diverse gemeenten, met VNG, een handreiking algoritme- en AI-governance voor gemeenten ontwikkeld, gebaseerd op input van o.a. gemeente Utrecht, Rotterdam, Arnhem, Amersfoort en Veenendaal en het samenwerkingsorgaan Holland Rijnland. De ontwikkeling gebeurt in afstemming met de werkgroep vanuit het algoritmekader en de Directie Coördinatie Algoritmen (DCA) van de Autoriteit Persoonsgegevens, die de toezichthouder is op dit onderwerp. De handreiking wordt naar verwachting in het voorjaar van 2025 op de VNG communitypagina AI & algoritmes gepubliceerd.

3. Bewustwording en geletterdheid in de organisatie 

Het vastleggen van AI en algoritme-governance kan helpen het bewustzijn van rollen en verantwoordelijkheden te verhogen en het kan ook zichtbaar maken waar nog extra training en bewustwording nodig is. Lang niet iedereen is zich bewust van het werken met AI en algoritmen en de afwegingen die daarbij van belang zijn. Het verhogen van bewustwording en geletterdheid op het gebied van AI en algoritmen kan bijdragen aan een verantwoorde inzet. Denk hierbij aan het leren herkennen van toepassingen, het gebruik ervan begrijpen, vaardigheden ontwikkelen in het toepassen van tools en bewustzijn creëren van de ethische implicaties en de maatschappelijke impact. Kortom: het leren herkennen, begrijpen, gebruiken en evalueren van AI- en algoritmetoepassingen. Dat kan met workshops en trainingen waarin kennisdeling, leren van experts en elkaar, en oefenen met praktijkvoorbeelden centraal staan.    

Als we het doen, doen we het verantwoord  

Ook de ontwikkelingen op projectniveau volgen elkaar in rap tempo op. Welke afwegingen zijn belangrijk om te maken per algoritme of AI-toepassing, om te komen tot een verantwoorde inzet? Hiervoor zijn diverse kaders en instrumenten ontwikkeld, waarbij sommigen zich specifiek richten op non-discriminatie en anderen de focus leggen op security, privacy of mensenrechten in bredere zin. Hieronder staan enkele voorbeelden, deze lijst is niet uitputtend: 

Wat kunnen we leren uit deze kaders en instrumenten, bij de ontwikkeling van AI en algoritmen voor gemeentelijke toepassingen? We lichten enkele kernboodschappen uit:  

  1. Maak een bewuste afweging of de inzet van AI en algoritmen de beste oplossing is voor het probleem, beschrijf de alternatieven en de kosten-baten overwegingen die hierbij gemaakt zijn. Dit beperkt zich niet tot financiële overwegingen, maar kan bijvoorbeeld ook de impact op de inwoner omvatten of ecologische voetafdruk van AI. Beschrijf ook hoe goed een algoritme of AI-toepassing moet functioneren om goed genoeg te zijn; wanneer en onder welke voorwaarden is het beter dan alternatieve opties? Daarbij is het van belang om vanuit de opgave te beredeneren, niet vanuit de technologie. Juist omdat het zoveel mogelijkheden biedt, is het van belang een bewuste keuze te maken wanneer wel en wanneer niet in te zetten.  

Nauwkeurigheid – Fouten maken is menselijk

Een algoritme of Al-toepassing is, net als de mens, nooit 100% nauwkeurig. Toch zijn onze verwachtingen van de nauwkeurigheid van machines anders van de verwachtingen die we van mensen hebben. Het maken van fouten wordt gezien als een menselijke eigenschap, onderdeel van een leerproces, waar we vergevingsgezind tegenover staan. Wanneer een algoritme of Al- toepassing een fout maakt, zijn we veel kritischer en verliezen het vettrouwen in de toepassing. Bij de inzet van algoritmen en Al is het van belang om bewust te zijn van de te verwachten nauwkeurigheid, waarbij een bewuste afweging gemaakt wordt welke risico's geaccepteerd worden en er procedures worden ingericht voor klachten en fouten. Sommige fouten kunnen daarbij ingedeeld worden als ernstiger dan anderen, denk bijvoorbeeld aan een fout bij verslaglegging van een inteme vergadering versus een fout in de berekening van de hoogte van een uitkering.

2. Zorg ervoor dat de informatiehuishouding op orde is, wat wordt opgeslagen en wat niet? Wat wordt wanneer gearchiveerd? Evalueer hierbij ook de datakwaliteit, de bekende uitdrukking 'garbage in = garbage out' is hier zeker relevant. Is de data geschikt voor de ontwikkeling van een algoritme? Kan er vooringenomenheid in de data schuilen, wat vergroot kan worden door een algoritme? Wees hiervan bewust en neem maatregelen waar nodig. 

3. Maak een weloverwogen keuze bij de selectie van externe leveranciers, op basis van een brede marktverkenning. Voorkom een zogenaamde ‘vendor lock-in' waarbij u als opdrachtgever afhankelijk wordt van een externe partij en u niet meer van leverancier kunt veranderen zonder substantiële omschakelingskosten of ongemak. 

4. Beschrijf of de toepassing hoog- of laag-risico is, waarbij minimaal wordt voldaan aan de indeling volgens de AI Verordening, aangevuld met beleid vanuit de eigen gemeente. De Gids AI-verordening (link) kan hierbij een handig hulpmiddel zijn. 

5. Voer een ethisch gesprek, waarbij verschillende experts en belanghebbenden worden betrokken. Hierbij kan het waardevol zijn om te doemdenken (bijv. met een ‘pre-mortem analyse’), zodat u tijdens de ontwikkeling al mitigerende maatregelen kunt toepassen. Hierbij kan gedacht worden aan maatregelen tegen potentiële bias of mensenrechtenschendingen, maar ook over de rol van betekenisvolle menselijke tussenkomst bij inzet van de toepassing. 

6. Zorg voor een goede communicatiestrategie, houd daarin rekening met specifieke doelgroepen: inwoners, gemeenteraad, medewerkers, onderzoekers en journalisten en toezichthouders. Transparantie en uitlegbaarheid zijn daarbij van belang. Communiceer proactief naar inwoners als er een algoritme of AI-toepassing wordt ingezet, dat kan bijvoorbeeld via registratie in het landelijk algoritmeregister.

7. Leg vast hoe (en door wie) toepassingen worden beheerd en geëvalueerd, met welke frequentie en aan welke voorwaarden het moet voldoen om in gebruik te blijven. Denk hierbij aan eigenaarschap en het vastleggen van verantwoordelijkheden, deze kunnen zowel in de eigen organisatie liggen als daarbuiten, bij een externe leverancier.   

8. Zorg ervoor dat bezwaar- en klachtenprocedures zijn uitgewerkt en dat is vastgelegd hoe omgegaan wordt met fouten. Pas processen zo aan dat de consequenties van (automatische) fouten beperkt en eenvoudig reparabel zijn.

9. Stel inkoopvoorwaarden op wanneer een toepassing extern wordt ingekocht. Maak afspraken over bovenstaande punten, zoals eigenaarschap, rechten op de data, prestatiecriteria, transparantie, uitlegbaarheid, reproduceerbaarheid, risicomanagement en beheer. De inkoopvoorwaarden uit de Gemeentelijke Inkoop bij IT Toolbox  (GIBIT) zijn hiervan een voorbeeld.  

Kortom: maak bewuste afwegingen en keuzes en leg deze vast in het kader van transparantie. Zowel bij inkoop als bij eigen ontwikkeling zijn al deze punten van belang, waarbij het zwaartepunt van verantwoordelijkheden kan verschillen. Bij eigen ontwikkeling van AI-toepassingen gelden er andere vereisten vanuit de AI Verordening, dan wanneer een AI-toepassing wordt ingekocht, dit heeft te maken met de rol van aanbieder versus gebruikersverantwoordelijke.  

AI en algoritmen in de gemeentepraktijk  

Ontwikkelingen

Uit onderzoek van TNO (pdf) blijkt dat het gebruik van AI door overheidsinstanties toeneemt, waarbij gemeenten zelfs koploper zijn in het gebruik. De transparantie over het gebruik van de verschillende technieken in tal van toepassingsgebieden neemt ook toe. Daarbij kan de kanttekening gemaakt worden dat AI en algoritmen al langere tijd ingezet worden bij gemeenten, maar de bewustwording hiervan en de transparantie hierover toenemen. Ook zorgt het inkopen van eenzelfde applicatie door meerdere gemeenten, voor een veelvoud aan registraties in het algoritmeregister. Desalniettemin is er in de afgelopen jaren veel gebeurd qua ontwikkelingen op het gebied van AI en algoritmen en ontwikkelen gemeenten hierin mee. 

Steeds vaker wordt de stap gezet van experiment naar implementatie. We zien dat de volwassenheid op het gebied van AI en algoritmen toeneemt. In eerdere jaren lag de focus op procesautomatisering, zoals robotic process automation (RPA), waarbij repetitieve en tijdrovende processen van medewerkers geautomatiseerd worden. Daarna volgden voorspellingen, bijvoorbeeld: het voorspellen van de drukte bij stembureaus in de gemeente Den Haag. Naarmate de volwassenheid toeneemt, wordt er vaker gebruik gemaakt van technieken zoals beeldherkenning, bijvoorbeeld bij scanauto’s die ingezet worden voor parkeercontrole. Met de opkomst van generatieve AI, bijvoorbeeld bij taalmodellen voor chatbots, zijn er initiatieven opgekomen zoals de virtuele gemeente-assistent Gem en Mai die antwoord geven op vragen van inwoners. De ontwikkeling is hierbij uiteraard niet lineair; ze volgen elkaar in rap tempo op. 

Regelmatig worden toepassingen ontwikkeld op basis van een actuele behoefte, zoals de lakapplicaties voor Woo-verzoeken na de inwerkingtreding van de wet. Het is ook niet zo dat procesautomatisering of voorspellingen nu minder van toegevoegde waarde zijn. Er zijn over het gehele spectrum - van relatief eenvoudige tot zeer complexe machine learning- bruikbare, nuttige toepassingen in ontwikkeling en in gebruik.   

Autonomie — Wie zit er 'aan het stuur'? 

Verschillende onderzoeken beschrijven de mogelijkheden van de inzet van generatieve AI voor maatschappelijke opgaven. Een voorbeeld hiervan is de inzet van een AI-tool voor het transcriberen, samenvatten en interpreteren van keukentafelgesprekken die in het kader van de Wet Maatschappelijke Ondersteuning (WMO) worden gevoerd. Toepassing van een dergelijke AI-tool kan zorgen voor tijdsbesparing, maar brengt ook uitdagingen met zich mee in de verwerking van complexe informatie. Hierbij is de inrichting van de rol van de mens essentieel, de controle op de uitkomsten moet betekenisvol zijn en geen kwestie van snel een vinkje zetten. Als analogie kan gedacht worden aan een zelfrijdende auto, waarbij je nog wel zelf moet sturen. Maar, als we geloven dat AI zijn werk goed doet, zullen we ook eerder geneigd zijn om hierop te vertrouwen en dit te bevestigen, dit wordt ook wel automatiseringsbias genoemd. Automatiseringsbias is de neiging van mensen om suggesties van geautomatiseerde besluitvormingssystemen te bevoordelen en tegenstrijdige informatie die zonder automatisering tot stand is gekomen, te negeren, zelfs als deze correct is. Het inbouwen van goede controles en maatregelen, ook wel checks and balances genoemd, is hierbij van om te zorgen voor een verantwoorde inzet van de technologie.

Samenwerking 

Overheden zoeken actief de samenwerking met elkaar op, bijvoorbeeld bij de ontwikkeling en vulling van het algoritmeregister, het algoritmekader en de ontwikkeling van de overheidsbrede visie op generatieve AI. Gemeenten zijn bij deze ontwikkelingen zowel rechtstreeks betrokken en/of geconsulteerd, ook speelt VNG hier een belangrijke rol in door de belangenbehartiging van gemeenten.   

Ook gemeenten zoeken elkaar steeds vaker op om kennis en expertise uit te wisselen. Bijvoorbeeld voor het gezamenlijk uitvoeren van risico-assessments, om van elkaar te leren en te komen tot gezamenlijk gedragen beleid. Door de toenemende aandacht wordt vaker de wens uitgesproken voor de oprichting van regionale ethische commissies en het gezamenlijk uitvoeren van een mensenrechtentoets, zoals het impact assessment mensenrechten en algoritmen (IAMA). 

Bij ingekochte applicaties die door een veelvoud van gemeenten gebruikt worden, kan de samenwerking gezocht worden op het gebied van toetsing (bijvoorbeeld DPIA en IAMA) en registratie in het algoritmeregister. Krachtenbundeling op het gebied van expertise, training, standaardisatie en het opschalen van succesvolle algoritmen en AI-toepassingen kan zorgen voor efficiëntere inzet van publiek geld en een gezamenlijk gedragen visie. Toch kent de samenwerking op dit onderwerp vaak nog een ad hoc-karakter.

Samenwerking, kennisdeling en leren van elkaar op het onderwerp AI en algoritmen kan toegevoegde waarde bieden voor de verantwoorde inzet van deze technologieën binnen gemeenten. De VNG kan hier een faciliterende rol in spelen. 

Conclusie   

AI en algoritmen zijn een 'hot topic’ dat veel besproken wordt in het nieuws en waar grote verwachtingen van bestaan, zowel bij het bedrijfsleven als de overheid. Bij gemeenten worden AI en algoritmen voor diverse toepassingsgebieden ingezet, waarbij de mate van volwassenheid verschilt. Voor de verantwoorde inzet van AI en algoritmen is het van belang zowel op organisatieniveau als op projectniveau afwegingen en keuzes te maken en deze vast te leggen. 

Transparantie over de overwegingen en keuzes kan bijdragen aan het (herstellen van het) vertrouwen van inwoners in het gebruik van technologie door de overheid. Samenwerking tussen gemeenten en juist ook op interbestuurlijk niveau is noodzakelijk om echt maatschappelijke meerwaarde te realiseren en de technologie op een verantwoorde manier in te kunnen zetten binnen gemeenten. Momenteel kennen gemeentelijke samenwerkingen vaak nog een ad hoc-karakter. Er is winst te behalen op het gebied van collectivisering en krachtenbundeling. Alleen gezamenlijk kunnen we zorgen voor een effectieve, efficiënte en verantwoorde inzet van AI en algoritmen bij gemeenten. 

Handige informatie en links  

Zelf meedenken en kennis delen

  • Word lid van de VNG community AI en algoritmes. Dit is een centrale plek voor praktische handvatten en kennisdeling over AI-beleid, -governance en -inkoop. De community bestaat inmiddels uit meer dan 400 professionals bij gemeenten. Samen maken we werk van de verantwoorde inzet van AI en Algoritmen. Bezoek een meet-up, kijk een webinar terug, stel een vraag of bekijk de nieuwste praktijkvoorbeelden.
  • Denk mee bij de ontwikkeling van het algoritmekader. U kunt input leveren, use cases en best practices beschrijven en mee- en meepraten over de ontwikkeling van het algoritmekader, dat praktische handvatten biedt om algoritmes en AI verantwoord te kunnen inzetten en te voldoen aan de (minimale) vereisten die wet- en regelgeving daaraan stellen.

Analyses, onderzoeken en rapporten

  • Het rapport Uitvoeringsanalyse Digital Decade AI-verordening beschrijft de impact van de AI-verordening op de gemeentelijke uitvoering.  Het rapport bevat gewenste vervolgacties en beschrijft wat gemeenten nu kunnen doen in de voorbereiding.
  • Het rapport IAMA in actie (pdf) van de Universiteit Utrecht en het Rijks ICT Gilde, beschrijft de geleerde lessen van 15 IAMA-trajecten bij Nederlandse overheidsorganisaties. Interessant om te lezen als u meer wilt weten over de toepassing van dit instrument, met concrete bevindingen en quotes van deelnemers.
  • De Generatieve AI Scan (pdf) van het Rathenau Instituut beschrijft wat generatieve AI is, wat het nu kan en wat het misschien later kan. En welke kansen, risico’s voor publieke waarden en beleidsopties ermee verbonden zijn.
  • Het State of the world's human rights rapport (pdf) van Amnesty International gaat over de risico's van nieuwe en bestaande technologieën, waaronder AI. Ook is er aandacht voor de risico's van desinformatie, ongelijke behandeling en discriminatie en de schadelijke businessmodellen van Big Techbedrijven.
  • De Quickscan AI in de publieke dienstverlening (pdf) van TNO rapporteert over het gebruik van AI in de publieke dienstverlening, dit betreft een herhaalmeting, eerdere metingen zijn in 2019 en 2021 gedaan. De quickscan beschrijft de ontwikkeling van AI-toepassingen over de afgelopen jaren, per organisatie (waaronder ook gemeenten), toepassing, techniek en domein.
  • Als coördinator van het toezicht op algoritmes en AI analyseert de Autoriteit Persoonsgegevens elk halfjaar de risico’s rond AI-systemen en adviseert de samenleving, bedrijven, overheid en politiek over te nemen stappen. Het meest recente rapport is van februari 2025: Rapportage AI- & Algoritmerisico’s Nederland (RAN).

Tools, kaders en gidsen 

  • De Gids AI-verordening (pdf) van het ministerie van Economische Zaken is een hulpmiddel om op een toegankelijke manier inzicht te krijgen in de belangrijkste aspecten van de AI-verordening. Het beschrijft  de AI-verordening, de verschillende stappen en bijbehorende vereisten.
  • Het Implementatiekader 'Verantwoorde inzet van algoritmen’ (pdf) van BZK geeft een overzicht van de belangrijkste normen en maatregelen bij de ontwikkeling en implementatie van algoritmes.
  • De Interprovinciale Gids Digitale Ethiek (pdf) biedt praktische handvatten voor digitale vraagstukken en helpt bij het maken van verantwoorde keuzes in een digitale wereld. De gids bevat praktische handvatten, toepasbare tips en concrete voorbeelden uit provincies.
  • Het Onderzoekskader Algoritmes (pdf) van de Auditdienst Rijk geeft inzicht in de risico’s die algoritmes met zich meebrengen en met welke maatregelen deze risico’s beheerst (kunnen) worden. 

Standpunten, visie en strategie

  • De Digitale Agenda Gemeenten 2028 (pdf) beschrijft hoe gemeenten de komende jaren de kansen benutten die digitalisering biedt, voor grote maatschappelijke opgaven, het verdienvermogen van Nederland, en om de dienstverlening nog beter aan te laten sluiten bij de eisen en verwachtingen van de samenleving. Hierbij is AI één van de onderwerpen.
  • Het position paper AI, Algoritmen en Gemeenten (pdf) geeft antwoord op de vraag 'Wat vindt de VNG van AI en algoritmen?'. De VNG vindt dat gemeenten de kansen van technologie moeten omarmen, vanuit politiek-bestuurlijk bewustzijn en mandaat met een weloverwogen visie vanuit bestuurders. Met de behoefte en bescherming van de inwoner centraal en een duidelijk doel voor ogen.
  • De overheidsbrede visie op generatieve AI gaat in op de kansen en risico's van generatieve AI,  wet- en regelgeving en beleid. Ook worden acties beschreven om de gevolgen van generatieve AI voor de samenleving in goede banen te leiden.