Big Tech eigent zich steeds meer economische, sociale en politieke macht toe. Kunnen soevereine staten hun burgers beschermen, zich daartegen te weer stellen en de verleiding om datamacht te ge/misbruiken weerstaan?

Deze vragen zijn het afgelopen jaar alleen maar prangender geworden nu techgiganten als Google, Facebook, Microsoft, Apple en Amazon met hun geavanceerde algoritmes en grote hoeveelheden verzamelde data een prominente positie in het maatschappelijke netwerk verkrijgen. Steeds vaker stellen zij regels vast die het digitaliserende leven van burgers vormgeven, structureren en voorschrijven. Privacy en vrij de mening uiten worden minder vanzelfsprekend.

Lange tijd vormde de staat het grootste gevaar voor deze en andere rechten van burgers. Daarmee was het niet meer dan logisch dat de rechtsstaat – en het constitutionele recht dat haar in de praktijk moest brengen – zich voornamelijk op het beteugelen van de staat concentreerden. Daarbij: zolang de staat oppermachtig was kon hij, op zijn beurt, met ‘gewoon’ recht de burger tegen andere potentiële bronnen van tirannie beschermen.

Wat voor nieuws burgers lezen, hoeveel privacy zij genieten, hoever hun vrijheid van meningsuiting strekt, hoeveel kans zij maken op bepaalde banen, met welke andere burgers zij in contact komen, met welke ideeën zij in aanraking komen en wat voor politieke advertenties zij te zien krijgen (en dus, wellicht, wat zij stemmen): het wordt in toenemende mate bepaald vanuit Silicon Valley of Seattle. Zeker nu de social media-bedrijven, Google, Amazon en Microsoft (de machtige mediamachine van Bill Gates) daadwerkelijk in de praktijk bepalen van welke meningen de wereld kennis mag nemen.

Strategisch afhankelijk van Big Tech
Wetgevers, regelgevers, toezichthouders en handhavers worstelen dagelijks met de schaal, territoriale grenzeloosheid en snelheid van tech. Voordat instanties weten wat zij überhaupt van grote technologiebedrijven willen en niet willen is hun praktijk alweer jaren verder. Bovendien is de precieze werking van de digitale diensten notoir ondoorzichtig. Grote delen van de Europese economie draaien inmiddels op clouddiensten van Amazon, Google en Microsoft. Onze strategische afhankelijkheid van Big Tech is enorm. Met Corona wordt dat alleen maar erger. De VS en de EU lijken nauwelijks in staat het tegen Big Tech op te nemen.

De individuele burger kan ook allang niet meer om Big Tech heen. Burgers zitten vast aan haar code, haar regels en haar voorwaarden. Het is bijna onmogelijk om te weten waar je mee instemt als je de voorwaarden van Big Tech accepteert. Op het internet actief zijn zonder getrackt te worden door Google, Facebook of Amazon kun je vrijwel vergeten. Je schermtijd (of die van je kinderen) beperken, terwijl aan de andere kant een zelflerende supercomputer er alles aan doet om hun aandacht vast te houden is ook al geen sinecure meer.

En zelfs wanneer je met veel technische handigheid of een hoge mate van digitale discipline aan de directe greep van Big Tech weet te ontsnappen, dan krijg je onherroepelijk alsnog met Big Tech-structuren en hun maatschappelijke gevolgen te maken. Denk aan voorgeprogrammeerde patronen in de Google-zoekmachine, of pogingen tot manipulatie van meningsvorming en verkiezingen via de social media. Ook de waarden die onderwijsinstellingen, gezondheidszorg en vervoersmiddelen belichamen worden in steeds grotere mate bepaald door Microsoft, Apple en anderen.

Trias politica
Big Tech verwerft, kortom, steeds meer eenzijdige macht over burgers en de maatschappij waarin zij leven. Noem dat ‘(semi-)soevereiniteit’. In een lijvig artikel (pdf) in het juridische maandblad Ars Aequi (oktober 2020) beschrijft universitair docent R. Passchier (OU/RU Leiden) hoe digitalisering bovendien ontwrichtend werkt op het evenwicht binnen de trias politica. De rechter en de wetgever blijven achter en vooral het bestuur en de ambtenaren profiteren.

De Nederlandse overheid digitaliseert razendsnel met steeds meer geavanceerde technologie voor het gebruik, de verwerking en de opslag van data in elke denkbare vorm. Met big data en kunstmatige intelligentie worden overheidstaken ondersteund of zelfs volledig geautomatiseerd. Dat maakt de bureaucratie efficiënter en rationeler. Computers slapen nooit en vergissen zich niet. Vooraf ingevulde belastingaangiftes, online opvraagbare overzichten van pensioen of studieschuld en kentekenherkenning hebben zo hun voordelen. De auteur plaatst bij dit al een belangrijke kanttekening:

“Anderzijds brengt digitalisering van de overheid burgerlijke rechten en vrijheden in gevaar. Door de samensmelting van klassiek gezag en de digitale samensmelting neemt haar vermogen om burgers bepaalde gedragingen op te leggen verder toe. Het is verontrustend dat de digitalisering van de overheid in verband wordt gebracht met schendingen van mensenrechten en de erosie van fundamentele waarden.”

Komt dit u met de Toeslagenaffaire in het achterhoofd bekend voor?

Willekeur en onderdrukking
“Hoe zorgen wij ervoor dat de digitaliserende overheid niet te machtig wordt? En dat willekeur en onderdrukking van overheidswege ook in de toekomst effectief worden tegengegaan?”, aldus Passchier in zijn artikel. De datavoorraad van onze overheid is vrijwel ongebreideld en de wijze waarop zij met onze data omgaat moeilijk beheersbaar, controleerbaar noch transparant. Mogelijk zelfs niet legaal, zoals eerder op Veren of Lood geschreven. In een recent advies concludeerde de Raad van State zelfs

“Het is des te verontrustender dat ook de digitalisering van de Nederlandse overheid reeds in verband wordt gebracht met serieuze schendingen van mensenrechten en de erosie van fundamentele waarden voor grote groepen burgers. Hun positie en bescherming zijn bij de digitalisering in het geding.”

Hoe zorgt Nederland ervoor dat willekeur en onderdrukking door de digitaliserende overheid ook in de toekomst effectief wordt tegengegaan? Met andere woorden: hoe houden we de rechtsstaat – die Rutte in Hongarije en Polen zo bekritiseert – in Nederland overeind? Door de overheid te binden aan de regels van het recht en die binding te waarborgen op grond van de grondwet – tegenwoordig het EU-Verdrag – en een samenhangend geheel van juridisch en niet-juridische normen, beginselen en bestendige praktijken, dat de macht van de overheid structureert en limiteert met het oog op de bescherming van fundamentele rechten van burgers.

Daarom moet vooral worden gekeken institutionele verhoudingen binnen de overheid, waar het gevaar van willekeur en ambtsmisbruik op de loer ligt door concentratie van bevoegdheden of het ontbreken van voldoende controle en of te ver opgerekte handhavingsmechanismen. Er moeten binnen de overheid voldoende checks en balances aanwezig zijn op de naleving van een werkelijke machtenscheiding in de trias politica.

Unitas politica
De auteur signaleert dat het voor de rechter en het parlement steeds moeilijker wordt de ambtenarij te controleren, mede vanwege de ondoorzichtigheid van vele digitale toepassingen, die immers in een soort van black box werkzaam zijn.

“Van een daadwerkelijk evenwicht der machten is echter al lang geen sprake meer. In de twintigste eeuw werd het takenpakket van de overheid enorm uitgebreid, met name in het kader van de verzorgingsstaat en de veiligheidsstaat. Ook de omvang, financiële slagkracht, de regelgevende bevoegdheden en het discretionaire handelingsvermogen van van het overheidsbestuur namen daardoor toe.”

Tegelijkertijd werd het voor het parlement moeilijker om de regering te controleren, iets wat overigens ook de rechtspraak heeft gecorrodeerd. De Nationale Ombudsman had het recent zelfs over de ‘unitas politica’.

Vooral de uitvoerende macht vergroot haar greep op de maatschappij. Ambtenaren met bestuurlijk functies en digitale technologie nemen miljoenen besluiten per jaar voor hun rekening in beschikkingsfabrieken als de UWV, CJIB, Parkeerbeheer en bij de fiscus. Ook gebruikt het bestuur algoritmes voor bijvoorbeeld WOZ-waardes, medische screening in asielzaken, kindermishandeling, migratiemotieven, opleidingsniveaus van asielzoekers en om patronen van ondermijnende criminaliteit in kaart te brengen. Politie en inlichtingendiensten verzamelen als een dolle big data. Terwijl binnen de rechtspraak en het parlement digitale technologie slechts zeer mondjesmaat beschikbaar is, en deskundigheid op dit terrein nog minder.

Dat dit tot aanzienlijke complicaties kan leiden moge duidelijk zijn. Wanneer een rechter een besluit van een overheidsinstantie moet beoordelen waarvoor de beslisregels in een complex algoritme zijn vervat kan het eenvoudig mis gaan. De regels zijn voor de rechter niet toegankelijk, niet te begrijpen of letterlijk onnavolgbaar. Hetzelfde probleem doet zich in de praktijk voor in het parlement. De Kamerleden kampen met hetzelfde probleem – ware digibeten die zij gewoonlijk zijn. Zo verwordt de datacratie tot een data-dictatuur.

Onkunde en zelfoverschatting
De digitalisering verandert ook het functioneren van de overheid zelf. Het wordt voor ambtelijke instanties steeds gemakkelijker en aantrekkelijker om data uit te wisselen: met elkaar, met derden en met private partijen als verzekeraars en notarissen. Besluiten, opsporing en vervolging kunnen plaatsvinden zonder dat alle gevolgen kenbaar zijn, laat staan beheersbaar en voorspelbaar. Zo waren de flaters met het fraude-opsporingssysteem SyRI en het stikstofmodel AURIUS van het RIVM direct te relateren aan de onkunde en overschatting van de gebruikers.

Technologie hou je niet tegen, de verdergaande digitalisering van de overheid al evenmin. Het is de hoogste tijd dat de rechtspraak (juristen) en het parlement (politici) zich daarvan bewust worden en fluks wat meer meters maken. En niet weer in dezelfde verkeerde reflex van ‘wij geloven de minister’ vervallen. Ook toevallig: “De Eerste en de Tweede Kamer nemen onvoldoende de tijd om wetten en besluiten van tevoren goed te beoordelen en achteraf ontbreekt het vaak aan reflectie”, zei de president van de Algemene Rekenkamer Arno Visser onlangs in Trouw. Het is trouwens toch aan Oost-Indische dovemansoren van de stokpaardjes berijdende regering en parlementsleden gericht. Helaas.

---

Meer over de invloed van Big Tech op de moderne maatschappij vindt u hier.