Menigtes zijn van alle tijden, maar nog steeds gaat het regelmatig mis. Met het project AI Compass wordt daarom onderzocht of kunstmatige intelligentie het gedrag van menigtes kan voorspellen, om zo in te kunnen grijpen voordat het omslaat. ‘Dit gaat om complexe situaties waarin je veel informatie moet combineren’, vertelt projectleider en hoogleraar Tina Comes van de TU Delft. ‘Bij menigtes gaat het meestal heel lang goed, totdat er een tipping point is, en gaat het niet meer goed. Het doel is om dat punt voor te zijn.’ 
Naast de TU Delft werken onder meer de NS, ProRail, Feyenoord en de gemeenten Rotterdam, Sittard-Geleen, Den Haag, Dordrecht en Delft mee aan AI Compass, een initiatief van de NWO.
AI-technologie kan zelfstandig verbanden leggen in verzamelde data, om vervolgens voorspellingen te doen. ‘Er bestaat al veel onderzoek over hoe menigtes zich gedragen’, zegt Comes. ‘Daarnaast verzamelen we data van verschillende bronnen, zoals vervoersbedrijven en camera’s.’ Belangrijk om daarbij te melden is dat de onderzoekers geen toegang krijgen tot camerabeelden, maar enkel de hoeveelheid mensen die via de camera’s wordt geteld.

Wij willen het gebruik van AI weer bespreekbaar maken

Toeslagenaffaire

Toch moet er meer gebeuren dan een systeem bouwen en dat inzetten. In gesprek met partners merkt Comes namelijk hoe aarzelend zij nog zijn over het gebruik van kunstmatige intelligentie in situaties waarin snel beslissingen over mensen worden gemaakt. Zo hebben verschillende gemeenten de toeslagenaffaire nog vers in het geheugen. Duizenden ouders werden onterecht beschuldigd van fraude, doordat algoritmen, de onderliggende wiskundige modellen van AI-systemen, discrimineerden.
Comes: ‘Wij willen het gebruik van AI weer bespreekbaar maken, door te kijken op welke manier AI verantwoord ingezet kan worden.’ Volgens haar wordt er nog weleens te zwart-wit naar de technologie gekeken: of kunstmatige intelligentie gaat alles oplossen, of we gebruiken het helemaal niet. AI Compass is daarom opgedeeld in deelprojecten, legt ze uit, waarin de twijfels die er spelen rond het gebruik van AI worden onderzocht om te ontdekken hoe zo’n AI-systeem ethisch opgezet en gebruikt kan worden.

De mens blijft de baas

Kernprincipe van het project is dat de mens altijd de baas blijft. AI Compass is daarmee een voorbeeld van human centered AI, waarbij AI de mens niet vervangt, maar aanvult. Toch is de kous daarmee niet af. ‘Er is weinig onderzoek naar wat het betekent voor een samenwerking tussen mensen als je daar een AI tussen zet’, stelt Comes. ‘Daarom doen we daar ook onderzoek naar, want hoe kun je AI zo inzetten dat de samenhang en het vertrouwen in het team niet kapotgaan?’
Comes benadrukt dat het daarom belangrijk is dat de technologie niet te snel wordt ontwikkeld en ingezet, maar dat er eerst duidelijke antwoorden komen op de verschillende ethische vraagstukken. Ook belooft de projectmanager dat AI Compass altijd in samenwerking met de verschillende partijen gebeurt: ‘Het is echt een coöperatief proces. Wij zijn met ons team bijvoorbeeld naar De Kuip geweest, toen Feyenoord tegen Sparta speelde. Zo konden we zien wat er met crowdmanagement gebeurt, wat de zorgen en de verwachtingen zijn.’
De deelnemende gemeenten hebben tevens elk hun eigen praktijksituaties waar ze mee aan de slag willen. Zo onderzoekt Rotterdam of de technologie kan worden ingezet om te weten welke inzet op welk moment nodig is tijdens de koopseizoensdrukte aan het eind van het jaar.

Mensen inzetten is kostbaar voor de gemeente en blijkt niet altijd nodig te zijn

Boulevard

De gemeente Den Haag wil via AI Compass graag meer controle krijgen over drukte op de Scheveningse boulevard. Via sensoren in de parkeergarages en telcamera’s is er al veel duidelijk over de hoeveelheden mensen die de kust bezoeken, maar kunstmatige intelligentie kan veel meer factoren meenemen. Zo kan zelfs de windrichting invloed hebben op het ­moment dat mensen naar huis gaan.
‘Door AI kunnen we veel meer factoren bundelen en gerichter keuzes maken’, zegt Jochum Buchener, adviseur digitale innovatie bij de gemeente Den Haag. ‘We zien het afgelopen jaar dat AI het hier en daar al beter doorheeft dan wij in de praktijk.’
Bunchener denkt dat de nieuwe technologie ook kan worden gebruikt om te weten wanneer er juist minder mensen ingezet moeten worden. ‘Mensen inzetten is kostbaar voor de gemeente en blijkt niet altijd nodig te zijn.’

Crisissituaties

Het AI Compass-project loopt tot eind 2028. Comes hoopt dan een crowdmanagementsysteem te hebben dat mensen beter ondersteunt bij het beheren van menigtes en het voorkomen van crisissituaties. Daarnaast moet er in 2028 een duidelijk antwoord zijn over de vragen rond het verantwoord gebruik van kunstmatige intelligentie. 
‘Het doel is dat gemeenten die kennis ook in andere sectoren kunnen inzetten om AI goed te gebruiken, met richtlijnen wanneer het wel en niet kan en welke checklists er nodig zijn’, stelt Comes. Als dit met menigtes werkt, dan werkt het namelijk ook bij andere belangen van gemeenten. Denk aan grote thema’s als veiligheid, klimaatadaptatie en mobiliteitsvraagstukken.’ Later dit jaar worden de eerste resultaten van het project gepresenteerd, waarmee in kaart wordt gebracht wat de verwachtingen en behoeftes van de verschillende partners zijn.
Ook zijn tegen die tijd mogelijk de eerste stappen gezet richting het maken van een game. Om op een verantwoorde manier de AI te trainen en zo het resultaat van interventies te ­onderzoeken, worden in deze simulatiegame echte situaties digitaal nagebootst.
Deze game moet ook helpen om visueel te maken wat het AI Compass doet, voor gesprekken met partners en burgers. ‘We willen een maatschappelijke dialoog aangaan, omdat er zoveel sentiment is over AI’, zegt Comes. ‘We gaan niet iets doen wat we pas ­achteraf ­uitleggen. Ik zie het echt als een open dialoog over hoe we het samen kunnen aanpakken, want ­niemand voelt zich veilig in een omgeving waar ­dingen misgaan.’