‘The powerful watch the powerless’ staat groot te lezen op reclaimyourface.eu. Dat is een Europees burgerinitiatief, een officiële petitie gericht aan de Europese Unie. Steeds harder klinkt de roep om een verbod in te voeren op massasurveillance op basis van biometrische data: data op basis van lichamelijke kenmerken die uniek te linken zijn aan een individu.

Zo is een vingerafdruk een biometrisch gegeven, maar ook oogafstand, lipdikte en jukbeenhoekigheid. Op steeds meer plekken wordt het allemaal vastgelegd door camera’s en toegevoegd aan enorme databases en Artificiële Intelligentiesystemen (AI) die ter beschikking staan van de powerful. In veel gevallen zijn dat overheden en instituten als politie en defensie.

Er zijn veel meer voorbeelden waarin AI grondrechten ondermijnt en bijdraagt aan een steeds verder verstoorde machtsbalans tussen overheid en burger. Tegen surveillancetechnieken zoals gezichtsherkenning kan het individu niets inbrengen. Het systeem pretendeert je steeds beter te leren kennen op basis van data die het heimelijk verzamelt, terwijl jij geen mogelijkheid hebt te weten hoe dat systeem functioneert, laat staan om ertegen bezwaar aan te tekenen.

AI kent ook aspecten die gewoonweg onacceptabel zijn

Tijd voor wetgeving dus. Met het wetsvoorstel voor de Artificial Intelligence Act (AIA) doet de Europese Unie nu een poging om AI te reguleren. Dat AI problematisch is, staat ondertussen wel op veel agenda’s, en het is goed dat de EU nu met deze opzet komt. Maar de wet gaat niet ver genoeg. AI kent ook aspecten die gewoonweg onacceptabel zijn. En aan die aspecten besteedt de wet in de huidige vorm weinig tot geen aandacht.

Het gaat dan bijvoorbeeld over het inzetten van AI voor predictive policing, oftewel het voorspellen van misdaden nog vóór ze hebben plaatsgevonden. Maar ook de inzet van AI om publieke diensten te weigeren aan individuen op basis van uiterlijke kenmerken: het zijn vormen van surveillance die volledig verboden moeten worden. Het ‘voorspellen’ van gevoelige persoonlijke informatie zoals politieke kleur of seksuele geaardheid: je kunt je daarvan de gevolgen voorstellen in landen waar het regime de mensenrechten met een korreltje zout pleegt te nemen.

Al met al is de wet niet precies genoeg geformuleerd, en niet dekkend genoeg, om te garanderen dat er geen grootschalig toezicht op onschuldige burgers zal plaatsvinden. Gelukkig hoeven we niet te wachten op een wet die AI goed reguleert. Er staat overheden niets in de weg om zelf te besluiten bepaalde vormen van AI niet in te zetten en gezichtherkenningssystemen in eigen stad of gemeente te verbieden. Je kunt ook nu al een boete aan de broek krijgen, zoals onlangs de gemeente Enschede overkwam vanwege het volgen van personen met wifitracking. Voorkomen is beter dan genezen.