De inzet van algoritmes in de toeslagenaffaire deed een landelijke discussie oplaaien over de invloed van technologie op publieke waarden als persoonlijke vrijheden, privacy en gelijke behandeling. Tegelijk wordt ook in gemeenten volop geëxperimenteerd met data en digitale technologie: van slimme deurbellen en scanauto’s tot verboden nepprofielen om inwoners te bespioneren. Deze discussie is daarom ook hard nodig op lokaal niveau, maar te vaak blijft het oorverdovend stil. Daarom roep ik mijn collega-raadsleden op: neem je inwoners écht serieus en stel een ethische commissie in.

Het is cruciaal dat inwoners geen proefkonijnen maar gesprekspartners zijn

Stratumseind is de uitgaansstraat van Eindhoven. Wat veel stappers niet weten, is dat deze straat volhangt met sensoren die meten hoe mensen lopen, praten en wat hun emoties zijn. De reden is dat je zo agressief gedrag kunt voorspellen. Maar welke gegevens leiden precies tot deze voorspelling? Wie krijgt die informatie en welke beslissingen worden op basis hiervan genomen? En aan wat voor veiligheid draagt het eigenlijk bij?

Slimme stad
Door de belofte van de ‘slimme stad’ passen gemeenten steeds vaker data en digitale technologieën toe. Logisch, want technologie biedt kansen: kansen om onze klimaatdoelen te halen, inwoners te empoweren en de kwaliteit van leven te verbeteren.
Naast de kansen, brengen data en digitale technologieën risico’s met zich mee. Ze hebben een grote impact op onze publieke waarden en de manier waarop we samenleven. Voorspellende software zoals die op Stratumseind kan leiden tot minder fysieke agressie en meer efficiëntie, maar ook tot hokjesdenken, discriminatie en zelfcensuur. Technologie is niet neutraal. We hebben een debat nodig waarin we de publieke waarden bij de inzet van technologie afwegen. In de raadzaal én in de stad. 

In het politieke en publieke debat is dit onderwerp onderbelicht. Pilots en projecten worden gestart zonder dat eerst is besproken welk probleem bestuurders eigenlijk willen oplossen. Ook raadsleden krijgen weinig grip op alle data en algoritmes die door de gemeente worden toegepast, wat hun controlerende functie bemoeilijkt. Daarnaast worden inwoners nauwelijks betrokken, terwijl we wél veel waarde hechten aan hun mening bij bijvoorbeeld bouwprojecten in hun buurt. Juist bij een onderwerp dat zo’n fundamentele invloed heeft op hoe wij samenleven, is het cruciaal dat inwoners geen proefkonijnen maar gesprekspartners zijn.

Onafhankelijke experts
Elke gemeente die haar inwoners serieus neemt, moet daarom een ethische commissie instellen. Overweeg je om slimme lantaarnpalen, een mobiliteitsapp of data in te zetten? Laat je als stadsbestuur gevraagd en ongevraagd adviseren door een diverse groep van onafhankelijke experts. Gebruik hun expertise en verbeeldingskracht om een morele afweging te maken en de mogelijke gevolgen voor raadsleden en inwoners tastbaar te maken.

Als raadslid kun je hier een belangrijke rol in spelen. Zo heb ik de afgelopen periode geïnvesteerd om ethiek en digitalisering op de politieke agenda te krijgen. Ik organiseerde discussiebijeenkomsten, stelde raadsvragen over tastbare voorbeelden zoals scanauto’s, en schreef een initiatiefstuk.

Na koploper te zijn geweest met ‘spelregels voor de digitale stad’, is Eindhoven nu ook een van de eerste gemeenten die een ethische commissie instellen. Als eerste opdracht buigt deze zich over het opstellen van een algoritmeregister, om het gebruik van algoritmes door de gemeente te verantwoorden naar het publiek. Zo werken we aan een slimme stad die er is voor iedereen.