De gelegenheid vroeg erom, vond wethouder Ufuk Kâhya van ’s-Hertogenbosch. In de aanloop naar de jaarlijkse DataWeek NL hield hij eind juni een toespraak die volledig was geschreven door ChatGPT. Volgens de wethouder keken mensen even vreemd op, want het computerprogramma gebruikte woorden die hij normaal niet zou uitspreken. Pas aan het einde van de speech kwam de onthulling dat de speechschrijver een machine was. Een primeur voor het Bossche college van B en W, meldde Kâhya trots in het Brabants Dagblad.
Het gesprek over de zin en onzin van kunstmatige intelligentie neemt een hoge vlucht sinds de introductie van ChatGPT, merkt Maaike Harmsen op. Zij is gemeenteraadsraadslid in Rijswijk en werkt daarnaast aan een promotieonderzoek over technologie en ethiek. Niet alleen als wetenschapper, maar ook als lid van de werkgroep digitalisering van de ChristenUnie volgt ze het debat op de voet. Ze is vooral benieuwd naar het mensbeeld dat schuilgaat achter de argumenten die voor- en tegenstanders gebruiken. 
Maaike Harmsen neemt zelf een nuchter standpunt in. Kunstmatige intelligentie of AI gaat in steeds meer onderdelen van ons leven een rol spelen, passief en actief. Maar we moeten van AI niet meer maken dan het is: een stuk gereedschap, een hulpmiddel dat in het beste geval ons geestdodend werk uit handen kan nemen. ‘We moeten aan deze techniek niet te veel macht en waarde toekennen, want AI zal nooit een beslissing moeten nemen, dat moet altijd de mens zijn.’

We moeten aan AI niet te veel macht en waarde toekennen

Koudwatervrees

Eerder dit jaar vroegen techbedrijven om een ‘adempauze’ bij het gebruik van ChatGPT. De ontwikkelingen met kunstmatige intelligentie zouden te snel gaan, stelden onder anderen Elon Musk en Apple-oprichter Steve Wozniak. Harmsen vindt zo’n pauzeknop overdreven, zelf kan ze de ontwikkelingen op het gebied van kunstmatige intelligentie nog uitstekend bijbenen. ‘En ik ben theologe.’ Wel ziet ze veel ‘koudwatervrees’ bij dit onderwerp. ‘Maar als je er even in duikt, valt het reuze mee.’ 
De kunst is volgens de promovendus om kunstmatige intelligentie niet groter te maken dan het is. ‘Het hangt heel erg af van je mensbeeld hoe bedreigend je AI vindt.’ In Silicon Valley, de bakermat van AI, wordt de mens beschouwd als een optelsom van datapunten die kunnen worden gemanipuleerd. Daar komt het idee vandaan dat je met computers de mens zou kunnen nabouwen. Met zo’n ‘klein, gereduceerd mensbeeld’ wordt vooral veel waarde gehecht aan rekenkracht. ‘Een computer ontbeert bijvoorbeeld een moreel kompas, daarom moet de mens altijd de beslissing nemen.’

Privacy

De mens, met zijn creativiteit en kritisch denkvermogen, is volgens haar juist heel hard nodig om kunstmatige intelligentie bij te sturen. Dat geldt ook voor de algoritmes die gemeenten in toenemende mate gebruiken voor het voorkomen van verkeersopstoppingen, het automatisch herkennen van afvalzakken tot het voorspellen van fraude. ‘Als toezichthouder moeten raadsleden hier kritisch naar kijken. Is het gebruik veilig, wat voor profilering levert dit algoritme op, is de privacy geborgd?’ Ze kunnen daarbij sinds kort terecht bij een register waarin een aantal gemeenten hun rekenmodellen registreerden. 

Raadsleden kunnen vragen om algoritmes die zorgmijders opsporen

Als volksvertegenwoordigers moeten raadsleden zich bewust zijn van de werking van algoritmes in sociale media, zegt Harmsen. ‘Deze zoeken extremen op, dus als jouw standpunt mild is, word je minder snel gevonden. Met een middenpositie heb je minder bereik.’ Verder ziet ze ook een rol voor raadsleden als initiatiefnemer. Ze kunnen bijvoorbeeld vragen om algoritmes die zorgmijders opsporen. ‘Nu zijn we vooral gefixeerd op burgers die géén recht hebben op een uitkering. Maar we kunnen het ook omkeren: wie heeft er wél recht op maar krijgt deze niet?’
Ze doelt daarbij op de algoritmes die worden ingezet voor de opsporing van fraude en ondermijning. ‘Algoritmes geven een voorspelling over mogelijke fraude of ondermijning. Maar dat is nog geen veroordeling. Met een algoritme stel je een bescheiden vraag, met het antwoord moet bescheiden worden omgesprongen, maar dat gebeurt niet altijd.’ Raadsleden moeten hier extra alert op zijn. Harmsen is blij met de nieuwe Europese wet die het gebruik van kunstmatige intelligentie reguleert. Daarin worden eisen gesteld aan de kwaliteit van data, transparantie, menselijk toezicht, nauwkeurigheid en risicobeheersing.

Kansen

Nijmegen nam in 2021 een rigoureus besluit over algoritmes. ‘Geen besluitvorming met behulp van kunstmatige intelligentie’, staat in het manifest Wij zijn open en weerbaar Nijmegen. De wethouder digitalisering, Tobias van Elferen (D66), vindt het bovendien belangrijk dat raadsleden zich bewust zijn van het belang van kunstmatige intelligentie en hoe die raakt aan publieke waarden. 
Bij dat laatste wordt automatisch gedacht aan informatiebeveiliging en privacy, maar ook kansengelijkheid en democratie kunnen volgens hem in het geding zijn. Over hoe kunstmatige intelligentie uitpakt voor de publieke waarden, organiseerde hij voor raadsleden een bijeenkomst. Aan een vervolg wordt gewerkt.
De wethouder ziet niet alleen beren op de weg als het om AI gaat. ‘De potentie van deze ontwikkeling is groot. Wel moeten er goede afspraken worden gemaakt over hoe we de kansen kanaliseren, en we moeten het aandurven om kunstmatige intelligentie meer voor ons te laten werken.’ Bijvoorbeeld door AI te gebruiken om de privacy te beschermen. Als voorbeeld noemt hij het idee om camera’s te gebruiken op de vuilniswagen. ‘Dat levert een schat aan informatie over de openbare ruimte op, maar kan ook een gigantische inbreuk zijn op de privacy van mensen. AI kan al die privacygevoelige informatie registreren en filteren, waardoor alleen de beelden overblijven waarvoor een wettelijke grondslag bestaat.’

Ethische en juridische aspecten

Ook in andere gemeenteraden staan de ethische en juridische aspecten van kunstmatige intelligentie inmiddels op de agenda. Het Alphense raadslid Evon Zevenbergen (Nieuw Elan) liet over dit onderwerp een motie schrijven door ChatGPT, compleet met overwegingen en verzoeken aan het college. ‘Die mogelijkheid bestaat’, reageert Harmsen, ‘het is alleen de vraag of het zinnig is.’ Juist door het gemak van ChatGPT vindt ze dat raadsleden terughoudend moeten zijn. ‘Bedenk dat je met zo’n motie ambtenaren veel werk bezorgt.’
Een ander nadeel is dat ChatGPT in tien procent van de gevallen ‘hallucineert’ en complete onzin verkoopt. ‘Het is dus ook in dit geval niet de bedoeling dat je er volledig op vertrouwt.’