De topmannen van de grote Amerikaanse bigtechbedrijven lijken in de verste verte niet op de sirenen die met hun verleidelijke stemmen zeelieden naar de kust lokten, waar hun een fataal lot wachtte. Toch noemt de VNG in haar position paper AI, Algoritmen en Gemeenten de ‘ogenschijnlijke kansen’ die een technologie als kunstmatige intelligentie (AI) biedt, ‘een onweerstaanbare lokroep’. Het zijn zware tijden voor gemeenten die allemaal kampen met financiële krapte, personeelstekorten en een uitdijend takenpakket. Als zich dan een technologie aandient die belooft al die problemen in een oogwenk op te lossen, dan wordt het heel lastig om die verleiding te weerstaan.
De Griekse held Odysseus ontsnapte aan de sirenen door zijn bemanning te bevelen was in de oren te stoppen. Moeten gemeenten zijn voorbeeld volgen en doof blijven voor de beloften van AI?
Een ‘gezonde terughoudendheid’ is zeker op z’n plaats, volgens de VNG. Want ja, er zijn risico’s aan AI verbonden, dat heeft de praktijk ook al aangetoond. Kijk naar de toeslagenaffaire, de inzet van het Systeem Risico Indicatie (SyRI) om uitkeringsfraude in kaart te brengen en het gebruik van Chinese beveiligingscamera’s. Of neem de dominantie van een handjevol (Amerikaanse) bigtechbedrijven die het niet zo nauw nemen met privacy en ethiek. In de Trendanalyse AI en algoritmes van de VNG staat dat de bedreiging van de digitale autonomie van gemeenten door de machtspositie van de grote, commerciële techbedrijven een ‘significant risico’ is.
Het zou niet zo gek zijn als Europa zijn eigen alternatieven zou ontwikkelen om ook op dit terrein minder afhankelijk te worden van de Verenigde Staten, zegt Maaike Harbers, lector Artificial Intelligence & Society aan de Hogeschool Rotterdam. ‘Die moet je dan wel ontwikkelen en dat kost geld. Gemeenten kunnen daar een kleine rol in spelen. Zij kopen een deel van de technologie in en kunnen daar voorwaarden aan stellen. Misschien kan het goedkoper als je het uit China haalt, maar is dat je doel? Gemeenten hebben geen winstoogmerk dus ze hoeven niet altijd voor het goedkoopste product te kiezen. Uiteindelijk ben je er voor de burgers van je stad, daar zou het gesprek veel meer over moeten gaan.’

Gemeenten hoeven niet altijd voor het goedkoopste product te kiezen

De grootste gemeente pakt die handschoen al op. ICT-wethouder Alexander Scholtes van Amsterdam wil meer investeren in eigen technologie en cyberveiligheid. Amsterdam werkt met de systemen van Amerikaanse techbedrijven als Microsoft en Google en dat brengt risico’s met zich mee. Scholtes wil volgens de lokale zender AT5 een koerswijziging op nationaal en Europees niveau, maar dat weerhoudt de gemeente er niet van zelf alvast maatregelen te nemen. Zo wordt ‘digitale autonomie’ een nieuw criterium bij de aanbesteding van digitale diensten en wordt er onderzocht of data opgeslagen kunnen worden in eigen systemen in plaats van op Amerikaanse servers.

Is Amsterdam een uitzondering? Veel gemeenten lijken AI van harte te omarmen.
‘Niet iedereen. Ik werk in onderzoekstrajecten veel samen met gemeenten en zit ook in de algoritme-adviesraad van de gemeente Rotterdam, dus ik ken de gemeentelijke wereld redelijk goed. Er zijn grote verschillen tussen medewerkers in hun houding ten opzichte van AI. De mensen van de innovatieafdelingen zijn vaak heel enthousiast en zien allerlei mogelijkheden voor het toepassen van AI. Maar bijvoorbeeld communicatieprofessionals die teksten schrijven, zijn doorgaans meer terughoudend.’

Waarom?
‘Samen met de hogescholen van Utrecht en Amsterdam doen wij het onderzoek “Duidelijke TAAL”. Daarbij kijken we hoe AI kan bijdragen aan simpeler taalgebruik door de overheid. AI kan best wat betekenen, maar er zijn ook ethische issues. Wil je als gemeente bijvoorbeeld al je teksten delen met een commercieel bedrijf dat achter die AI zit? Er zijn ook juridische implicaties. Als een tekst leesbaarder wordt, klopt hij dan nog wel? Je kunt niet zomaar elke tekst door zo’n taalmodel halen. Wij willen nu weten in hoeverre AI een rol kan spelen, onder welke voorwaarden. En hoe je ervoor zorgt dat je als mens en als gemeente de controle houdt over je communicatie.’

Je kunt niet zomaar elke tekst door zo’n taalmodel halen

Is weerstand tegen AI niet zinloos? De opmars gaat zo snel, dat je eigenlijk niet achter kunt blijven als gemeente. Iedereen gebruikt het immers.
‘Technologie is niet een natuurkracht die ons overkomt, het is geen tsunami of een astroïde. Wij mensen maken technologie met z’n allen. Als individu heb je er niet veel invloed op, maar via de politiek wel. Je kunt stemmen op partijen die de technologie meer of juist minder willen reguleren. Het is geen goed idee om met AI om te gaan alsof we er geen enkele invloed op hebben. Dat zou ons ontslaan van elke verantwoordelijkheid. Als gemeente heb je een bepaalde taak in deze maatschappij, en daarmee een verantwoordelijkheid. Het is te gemakkelijk om te zeggen: AI is er en we gaan het hoe dan ook in onze processen verwerken. We moeten daar met z’n allen over ­nadenken.’

Technologie is niet een natuurkracht die ons overkomt

Is dat te vergelijken met het besluit van veel gemeenten om massaal van X af te gaan?
‘Dat is wel een mooi voorbeeld van een punt waarop je als gemeente een ethische keuze maakt. Ook het inzetten van AI is een kwestie van voortdurend ethische keuzes maken. AI wordt heel vaak gezien als iets technisch, als een exacte wetenschap. Maar ook bij de ontwikkeling van een AI-systeem moet je voortdurend ethische keuzes maken. Je kunt niet oneindig data verzamelen, je moet dus keuzes maken wat je in je systeem meeneemt en wat je weglaat.’

AI is ook niet bepaald duurzaam. Iets vragen aan ChatGPT kost ongeveer net zoveel stroom als een ledlamp in een uur verbruikt. Hoe valt de inzet van AI te rijmen met het streven naar duurzaamheid?
‘AI kost heel veel energie. Die is niet alleen nodig voor het uit de mijnen halen van de grondstoffen die nodig zijn om de technologie te maken voor de servers, maar ook voor de rekenkracht. We weten dat het impact heeft, maar vaak niet hoeveel precies. Ik weet ook alleen maar bij benadering hoeveel energie mijn router thuis gebruikt, of mijn koelkast. Omdat het zo onzichtbaar is, is het makkelijk om dit aspect naar de achtergrond te verdringen en daardoor doen we het maar gewoon, zoals we ook snel even iets googelen. En bedrijven willen best duurzaam zijn, als het niet te veel kost. Met AI kunnen ze winst maken, dat gaat dan regelmatig ten koste van duurzaamheid. Er komt nu wel meer aandacht voor dit aspect, maar nog relatief weinig.’

Alles afwegend, is AI dan een vloek of een zegen?
‘Dat is moeilijk te beantwoorden, maar dat geldt voor technologie in het algemeen. Zijn we beter geworden van de smartphone? Die heeft ons veel gebracht, maar ook nieuwe problemen veroorzaakt. Technologie ontwikkelen hoort erg bij mensen. Maar als ik kijk naar de manier waarop AI de afgelopen jaren is ontwikkeld, zie ik vooral dat grote techbedrijven daar een heel groot stempel op hebben gedrukt. We hebben nu Europese wetgeving, de AI Act. De regelgeving had strenger kunnen zijn, maar ik ben heel blij dat er nu überhaupt regelgeving ís. De eerste fase van de AI Act is net van kracht en het is heel spannend hoe dit uit gaat pakken. Dat hangt onder meer af van hoe streng en hoeveel toezicht er gehouden gaat worden. Maar uiteindelijk is het toch ook aan ons, aan iedereen, om te kijken: hoe kan het beter? AI is niet alleen maar schadelijk.’