Gisteren bepaalde de rechter dat de Systeem Risico Indicatie van tafel moet, omdat SyRI met behulp van algoritmes uw privacy te na komt.

Algoritmes zijn een moderne toverformule om massale hoeveelheden data te doorzoeken. Gebruikers als de Belastingdienst en de overheid moeten we scherp in de gaten houden.

Eén ding lijkt zeker: de Belastingdienst moet in elk geval van algoritmes afblijven. Voor zover bekend ging het tot dusver drie keer gigantisch mis ten koste van honderden miljoenen euro’s aan belastinggeld van burgers. Bijvoorbeeld toen in 2013-2014 bleek dat Bulgaren een goed lopend systeem gebruikten om illegaal uitkeringen en toeslagen in eigen land te ontvangen. Het algoritme had dat niet door. De later gesneuvelde VVD-staatssecretaris Frans Weekers haalde er de bezem doorheen, waarna 177.000 burgers en bedrijven het zonder uitbetalingen moesten stellen en velen in financiële problemen kwamen.

Dat klinkt bekend: in de affaire met de stopgezette toeslagen voor kinderopvang van de afgelopen jaren keken de algoritmes van de Belastingdienst naar mensen met een tweede nationaliteit. Met als resultaat dat vooral mensen met een allochtone achtergrond werden geïdentificeerd als fraudeurs. Met opnieuw financiële drama’s voor mensen en het aftreden van D66-staatssecretaris Snel als gevolg. Zullen ze het ooit leren bij de Belastingdienst?

Tussen de Bulgarenfraude en de Toeslagenaffaire maakten we ook nog de Poolse oplichting mee met WW-uitkeringen. De UWV-algoritmes waren toen zo afgesteld dat tientallen, soms honderden, Polen op hetzelfde adres niet als frauderisico werden aangemerkt, maar genegeerd bleven door de verantwoordelijke ambtenaren. VVD-staatssecretaris Wiebes hoefde hiervoor niet af te treden, maar kon als minister zijn huidige zegenrijke werk in het nieuwe kabinet aanvangen.

Het risico zit dan ook niet in het gebruik van algoritmes op zich, maar in hoe ze worden toegepast. Kijk maar eens naar Google, een van de leidende grootheden op dit terrein. Google Maps, Translate en Search staan bijvoorbeeld bol van de best werkende formules die er op dit moment zijn. Algoritmes om bijvoorbeeld kanker op te sporen staan daarentegen echter nog in de kinderschoenen. En de toverformules om auto’s autonoom te laten rijden zijn – ondanks hoge investeringen en veel mankracht – nog verre van perfect.

Bij verantwoord gebruik kunnen algo’s bij juist heel zinnig zijn. Hoogheemraadschap Delfland gebruikt bijvoorbeeld algoritmes onder meer om inzicht te krijgen hoe invloeden zoals neerslag en verdamping het grondwater beïnvloeden. Data van radarobservaties, satellieten en andere bronnen leveren de informatie om de route van water – in rivieren, boezems, watergangen etc. – te berekenen, zodat ook droogvallen of overstromen gemakkelijker te voorkomen is.

Kunnen algoritmes discrimineren, is een vraag waarover de Tweede Kamer zich onlangs erg druk maakte? Ja, want een algoritme maakt onderscheid op basis van data, daar is het voor gemaakt. Een algoritme geeft bij dezelfde input steeds dezelfde output aan de hand van die data, en daar zit de kneep. De meeste data worden door mensen geproduceerd en wanneer data op een onjuiste of ontoelaatbare manier met elkaar in verband worden gebracht – dat is mensenwerk – of aanleiding geven tot menselijk handelen, dan kan daar ‘bias’ in optreden.

Een treffend voorbeeld hiervoor vormt de uitspraak van de Haagse rechtbank van gisteren (5 februari 2020), die het gebruik van het Systeem Risico Indicatie (SyRI) door de overheid stopte. Het systeem is in strijd met het Europese Verdrag voor de Rechten van de Mens (EVRM) en privacywetgeving. SyRI stamt uit 2014 en de koker van het ministerie van Sociale Zaken en Werkgelegenheid (hallo minister Asscher) en was bedoeld om fraude met sociale voorzieningen en belasting op te sporen.

SyRI koppelt gegevens van burgers uit allerlei overheidsdatabases en produceert risicoprofielen en lijsten van personen met een verhoogd risico op fraude. De Sociale Verzekeringsbank, Belastingdienst, immigratiedienst IND, UWV en de Inspectie SZW zijn op SyRI aangesloten. De politie en het Openbaar Ministerie kunnen toegang tot analyses van de gegevens krijgen. Welke gegevens van burgers dat zijn? Er is nauwelijks één persoonsgegeven te bedenken dat niet in aanmerking komt voor verwerking door SyRI.

Hier wringt de schoen. Dankzij deze Orwelliaanse black box kan iedereen op onbekende gronden door een onbekende procedure als verdachte worden aangemerkt. U geeft deze informatie in goed vertrouwen en mag erop rekenen dat die niet tegen u wordt gebruikt. Wat de overheid met uw privégegevens doet moet duidelijk en kenbaar zijn. Algoritmes op zich zijn niet gevaarlijk voor de burger, maar gebruikers als de overheid wel. De wens van de Tweede Kamer naar transparantie van algoritmes en scherp toezicht op het gebruik blijkt ook vanwege SyRI zeer terecht.