Generatieve AI is een vorm van kunstmatige intelligentie die op basis van beschikbare data zelf tekst, audio, afbeeldingen, computercodes en video’s kan creëren. Naast ChatGPT zijn er nog vele andere generatieve AI-toepassingen (openbaar) beschikbaar, zoals Midjourney, DALL-E en Google  Bard. Alleen al van ChatGPT maken wereldwijd meer dan 100 miljoen mensen gebruik. En waarom ook niet, zou je denken, als een algoritme in een handomdraai iets kan doen waar jij zelf eigenlijk geen tijd voor hebt?

‘Omdat het volstrekt onduidelijk is welk algoritme er achter jouw vraag zit’, antwoordt Henk Mensink, gemeentesecretaris van de gemeente Oss. ‘Een AI-chatbot graast razendsnel het internet af en genereert de content waar jij om vroeg. Maar welke data wordt daarvoor gebruikt? En vooral: welke niet? En waarom niet? Wat zijn de criteria? Als wij bij de gemeente een beleidsnotitie schrijven, doen we bronnenonderzoek en kijken we nauwkeurig naar de betrouwbaarheid, geloofwaardigheid en neutraliteit van die bronnen. Met alleen generatieve AI kun je geen betrouwbaar beleid maken.’

Overheidsbrede visie

Toch zal generatieve AI hoe dan ook steeds meer impact krijgen op de hele maatschappij. Aan de ene kant liggen er kansen voor meer productiviteit, economische groei en efficiëntere dienstverlening. Aan de andere kant zijn er zorgen over de risico’s. Wat betekent generatieve AI voor de werkgelegenheid? Voor onze privacy en zelfs de democratie? Om antwoord te geven op dit soort vragen, presenteerde het kabinet onlangs als een van de eerste EU-lidstaten een overheidsbrede visie op generatieve AI. Hierin benadrukt het kabinet het belang van het ondernemen van actie met het oog op de mogelijkheden én uitdagingen van de generatieve AI.

Actie ondernemen is inderdaad van groot belang, vindt Cathy Noordergraaf, raadslid van de gemeente Hilvarenbeek. ‘Want stilstand is achteruitgang. Ook voor gemeenten biedt generatieve AI nieuwe mogelijkheden. In de raad heb ik bijvoorbeeld voorgesteld om de technologie te gebruiken voor een informatieboekje voor nieuwe inwoners. Het is veilig, laagdrempelig en eenvoudig op te stellen in andere talen voor nieuwkomers.’

Ook voor de gemeente Oss ziet Mensink mogelijkheden. ‘We werken nu al met robotisering in de factuurafhandeling, scanauto’s met slimme camera’s registreren foutparkeren. Die technologie kan voor veel meer opgaven worden ingezet. Maar de grote vraag is: hoe ver wil je daarin gaan? Hoe zorgen we dat de gebruikte data en algoritmes transparant zijn? Hoe zorgen we dat overheden en uitvoeringsdiensten hier op dezelfde manier mee omgaan, binnen de juridische, ethische, maatschappelijke en technologische uitdagingen waar we voor staan?’

Optreden als één overheid

Al eerder kwam het demissionaire kabinet met een voorlopig standpunt over het gebruik van generatieve AI door Rijksorganisaties. In een notendop: het gebruik van generatieve AI is toegestaan, als deze voldoet aan de geldende wet- en regelgeving. Om dit te controleren, moet er per geval een risicoanalyse worden uitgevoerd.
Noordergraaf en Mensink kunnen zich hierin vinden, maar benadrukken het belang van optreden als één betrouwbare overheid. Noordergraaf: ‘Het is aan inwoners niet uit te leggen als de gemeente anders omgaat met generatieve AI dan de provincie of het Rijk. Daarom moeten alle betrokken partijen continu met elkaar in gesprek blijven. En dat niet alleen: we moeten aan de slag. Ervaring en expertise opdoen in pilots, richtlijnen opstellen hoe we onze eigen data kunnen gebruiken binnen onze eigen wetten en normen en waarden.’

Meer regie

Een overheidsbrede visie op generatieve AI vraagt volgens de twee bestuurders om meer onderlinge samenwerking. Mensink: ‘Meer samenwerking vraagt ook om een bepaalde mate van sturing, om meer regie. Die behoefte voelen we vanuit de gemeente heel sterk. Of dat nou door een minister van Digitalisering is of iemand anders, het doel is hetzelfde: meer eenheid binnen één overheid. 

Noordergraaf sluit zich daarbij aan. Een overheidsbrede visie op generatieve AI is echter nooit ‘af’, benadrukt ze. ‘Ja, er moeten duidelijke richtlijnen, randvoorwaarden en kaders worden opgesteld. Maar we kunnen daarna niet met de armen over elkaar blijven zitten. Wat we vandaag bedenken is morgen alweer veranderd. We worden nu al aan alle kanten ingehaald door de markt en ook door partijen met minder nobele bedoelingen.’ 

De menselijke maat

‘Heel goede technologie kan op een heel slechte manier worden toegepast’, vult Mensink aan. ‘Reguleren is daarom belangrijk, maar we moeten niet de illusie hebben dat we de ontwikkelingen rond generatieve AI kunnen tegenhouden.’

Wat we volgens Noordergraaf en Mensink bovendien nooit mogen vergeten, is de menselijke maat. Noordergraaf: ‘Ook betrouwbare data en statistieken leiden niet per definitie tot de juiste beslissing. Een arts kan op basis van zijn ervaring toch besluiten om een andere behandelmethode te kiezen dan wat de modellen zeggen. Die menselijke expertise kun je niet in een algoritme vatten.’