DE WERELD NU

Gezichtsherkenning – op weg naar een totalitaire staat?

Artificial Intelligence, Handel en technologie, Gezichtsherkenning 8

Van snelle technologische ontwikkeling profiteert gezichtsherkenning bij uitstek. De kritiek en de weerstand tegen biometrische verificatie zwellen aan. Terecht, want Big Brother wacht om de hoek.

Facial Recognition is een favoriet speeltje van talloze algoritmebrouwers. Voor justitieambtenaren en -ministers, opsporingsdiensten en geheime diensten is het een wensdroom: dan kunnen ze iedereen altijd en overal volgen. Gewoon heel veel camera’s, algoritmes en server warehouses inzetten en klaar is Ferd. En daarmee doet het verdacht veel denken aan een Big Brother samenleving waarin handel en wandel van iedere burger continu in de gaten kan worden gehouden, een surveillancestaat, een bewakingsstaat zoals in Noord-Korea en de DDR.

De Chinese overheid is ook geïnteresseerd. In China hangen 170 miljoen bewakingscamera’s. De computer kan verkeersovertredingen niet alleen vastleggen, maar ook de plegers identificeren, gezochte criminelen herkennen of geautomatiseerd terreurverdachten volgen. Daar zal niemand tegen zijn. Maar een regime kan de techniek ook inzetten om criticasters te volgen en vast te leggen wie zij ontmoeten.

Internetgigant Alibaba experimenteert met zogeheten financiële kredietscores. Klanten die zich netjes gedragen kosten het bedrijf minder dan klanten die dat niet doen. Alibaba geeft een deel van die winst terug in de vorm van kleine voordeeltjes, zoals korting, geen borg betalen bij autohuur of makkelijk een persoonlijke lening verstrekken. De meeste klanten vinden dat fijn en doen hun best een hogere kredietscore te krijgen. Soms zetten Chinese mannen het zelfs in hun datingprofiel: ‘Ik ben betrouwbaar’.

Disproportioneel
De medaille heeft een keerzijde. Het toepassen van gezichtsherkenning (voor identificatiedoeleinden) in openbare ruimten kan leiden tot een verregaande surveillancemaatschappij. De laatste tijd ontstaat er dan ook veel politieke en maatschappelijke discussie over deze toepassing. Niet voor niets zei onlangs Eurocommissaris Reynders (Justitie) op de Artificial Intelligence Summit 2020 (over kunstmatige intelligentie) dat gezichtsherkenning voor massasurveillance nooit aan de maatstaf ‘redenen van zwaarwegend algemeen belang’ voldoet. Met andere woorden, dergelijke inzet van die technologie is altijd disproportioneel.

Ook kunnen biometrische systemen privacy onder druk zetten, onder andere doordat ze kunnen leiden tot een chilling effect. Als systemen perfect in staat zijn mensen in de publieke ruimte te herkennen, kan dat de bewegingsvrijheid van burgers en de vrijheid om te demonstreren inperken. Dit gebeurt al in Rusland en Hongkong, waar gezichtsherkenning werd gebruikt om demonstranten te identificeren. Technieken die ooit bedoeld waren om zware criminaliteit en terrorisme tegen te gaan. Omdat Rusland net als Nederland aangesloten is bij de Raad van Europa, hebben activisten een klacht over de vergaande gezichtsherkenning neergelegd bij het Europees Hof voor de Rechten van de Mens.

Sociale kredietscore
De Europese Commissie heeft nieuwe regels gepresenteerd voor kunstmatige intelligentie en de toepassingen waarvoor de technologie mag worden ingezet. Zo wil Brussel dat AI-systemen die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen, worden verboden. Het gaat dan om systemen of toepassingen die menselijk gedrag manipuleren en systemen die “sociale scoring” door overheden mogelijk maken. Zo wordt in China een sociaal kredietscoresysteem gebruikt dat bijhoudt hoe mensen zich gedragen. Als gevolg van bijvoorbeeld bepaalde overtredingen kunnen mensen een lagere score krijgen, wat weer maatschappelijke gevolgen kan hebben.

Daarnaast wil de EC “strenge verplichtingen” voor AI-systemen waarvan het risico als “hoog” wordt bestempeld. Zo zullen alle systemen voor biometrische identificatie op afstand als risicovol worden beschouwd en aan strikte eisen moeten voldoen. Zo is het gebruik van dergelijke systemen in openbare ruimtes “in beginsel” verboden. Er zijn echter uitzonderingen die het mogelijk maken om deze systemen wel in te zetten, zoals het zoeken naar een vermist kind, opsporen van een dader of verdachte van een ernstig misdrijf en het voorkomen van een aanslag. Er moet dan vooraf toestemming worden gegeven door een rechterlijke of andere onafhankelijke instantie, die slechts geldt voor een beperkte termijn en omgeving en voor specifieke databases.

Dat zeggen niet alleen critici, ook een leverancier als Microsoft waarschuwt hiervoor. ‘Gezichtsherkenning is een hulpmiddel’, zegt men zelfs bij Microsoft. ‘Het kan ongelofelijk efficiënt zijn, maar het is nooit waterdicht.’ Als voorbeeld wordt een Amerikaans politiekorps genoemd dat bodycams wilde uitrusten met live gezichtsherkenning. Niet doen, raadde Microsoft aan: te grote kans op fouten. Verenigde Staten het verzet tegen gelaatsherkenning door camera’s op straat aanzienlijk heftiger is. Er zijn zelfs steden die het systeem helemaal hebben verboden, zoals San Francisco.

Verbod in openbare ruimte
De Europese privacytoezichthouder EDPS wil dat er een verbod komt op gezichtsherkenning en andere vormen van biometrische identificatie in de openbare ruimte. Dat laat de EDPS weten naar aanleiding van een wetsvoorstel van de Europese Commissie om misbruik van kunstmatige intelligentie tegen te gaan. De Europese Toezichthouder voor gegevensbescherming (EDPS) had eerder opgeroepen tot een compleet verbod van biometrische identificatie in openbare ruimtes, waaronder gezichtsherkenning, maar daar is geen gehoor aan gegeven.

De EDPS zegt zich dan ook te zullen blijven inzetten voor een strengere aanpak van technologie waarmee menselijke kenmerken in de openbare ruimte automatisch worden herkend, zoals gezicht, beweging, vingerafdruk en stem. “Een strengere aanpak is noodzakelijk, gegeven dat biometrische identificatie op afstand, waar AI op ongekende wijze aan kan bijdragen, zeer grote risico’s met zich meebrengt wat betreft een vergaande en ondemocratische inbreuk op het privéleven”, aldus de EDPS.

Tandeloze tijger
Europa volgt daarmee dezelfde lijn als de Nederlandse Autoriteit Persoonsgegevens, overigens als toezichthouder een tamelijk onderbezette en tandeloze tijger: De Algemene verordening gegevensbescherming (AVG) regelt de verwerking van biometrische persoonsgegevens. Daarnaast bevat de Uitvoeringswet AVG (UAVG) nadere bepalingen hierover. De AVG bepaalt dat de verwerking van biometrische persoonsgegevens een verwerking van bijzondere persoonsgegevens is. Volgens de AVG is het verwerken van biometrische gegevens om iemand te identificeren in beginsel verboden.

Een verbod zou goed in de huidige tijdsgeest passen. Uit recent onderzoek blijkt dat slechts 6 procent van de Nederlandse ondervraagden bereid is aan private partijen gelaatsgegevens te verstrekken voor identificatiedoeleinden. Slechts 24 procent wilde dat doen als het identificatie door de overheid betrof. Op stedelijk niveau zijn in de Verenigde Staten reeds biometrische toepassingen verboden. San Francisco en Boston hebben met betrekking tot gezichtsherkenning een verbod uitgevaardigd. Portland (Oregon) heeft een verbod ingesteld voor zowel publieke als private toepassingen van gezichtsherkenning in de publieke ruimte, waaronder winkels. In Europa zijn België en Italië eveneens kritisch.

Vergunning verplicht
De vergunningsplicht betekent dat de partijen die biometrische gegevens zouden willen verzamelen en verwerken voor verificatiedoeleinden, vooraf een vergunning moeten aanvragen bij de Autoriteit Persoonsgegevens. Deze plicht geldt al voor bepaalde verwerkingen van strafrechtelijke gegevens. Op deze manier houdt de Autoriteit Persoonsgegevens een vinger aan de pols. Dat geldt bijvoorbeeld ook voor iets als duimafdrukken: uw sportschool heeft geen noodzaak om uw vingerafdruk te verwerken. Uw sportschool mag uw vingerafdruk daarom alleen gebruiken als u hiervoor toestemming geeft. Wie zijn telefoon of tablet via gezichtsherkenning ontgrendelt heeft bijvoorbeeld ook de belofte van Apple of Google dat uw tronie alléén daarvoor wordt gebruikt.

Toch wordt de technologie op sommige plekken al tijden succesvol toegepast. De Koninklijke Marechaussee gebruikt het sinds 2008 op Schiphol: zogenoemde e-gates vergelijken automatisch het gezicht van de passagier (voorlopig alleen EU-burgers) met de foto op het identiteitsbewijs. Als het aan Schiphol ligt, is dit pas het begin. In 2019 was er een proef met gezichtsherkenning tijdens carnaval in Den Bosch met als doel mensen met een straatverbod te identificeren. Er zijn ook casino’s die zo mensen met een verbod, denk aan valsspelers of overlastgevers, eruit vissen. Ook Nederlandse voetbalclubs maken wel gebruik van gezichtsherkenning.

Met live gezichtsherkenning of in een database met een grote verzameling persoonsfoto’s kunnen gebruikers mensen identificeren voor eigen motieven, zoals manipulatie, stalking of opsporing. Dit heet doelverschuiving (function creep). Bovendien is het niet helder wat de aanbieders van de techniek met de verzamelde gegevens doen. Of de afnemers. De Nederlandse overheidsdiensten hebben onstilbare datahonger en lappen de regels wel eens aan hun laars. Zie bijvoorbeeld ook een recent bericht van de NOS Inlichtingendiensten opnieuw niet eerlijk over hacks en taps.

Fluitje van een cent
Enig grasduinen bij het Chinese Tencent  leert overigens dat gezichtsherkenning – in China althans – een fluitje van een cent kost. Een abonnement op hun cloudservice Youtu kost ongeveer 33.150 euro per jaar (255.000 yuan). Maar dan heb je ook wat: 100 miljoen gezichtsvergelijkingen, dus ongeveer 3 Eurocent voor 1000 resultaten! Geen wonder dat onder het bewind van Trump Tencent tot veiligheidsrisico voor de VS werd bestempeld en de wacht werd aangezegd. Stel je voor dat criminele organisaties deze mogelijkheden zouden krijgen, voor een prijsje waartegen Microsoft en anderen nooit kunnen concurreren.

De Tencent Cloud God Map voor gezichtsherkenning is bovendien één van de meest geavanceerde systemen. Het ondersteunt bijvoorbeeld de identificatie van de voor- en achterkant van een ID-kaart, en alle velden zoals ID-nummer, naam en geldige tijd kunnen in één scan worden geretourneerd. De nauwkeurigheid van digitale herkenning is meer dan 99,9%.Het ondersteunt momenteel ook al liplezen.

Gezichtsvergelijking, op basis van gezichtskenmerken, berekent de gelijkenis van twee gezichten en voert automatisch identiteitsverificatie uit. Op basis van de massale gezichtstraining die is verzameld door het sociale gegevensplatform van Tencent, gecombineerd met hoog-dimensionaal en diep neuraal netwerk, was de nauwkeurigheid in 2017 99,80%. Het ondersteunt ook herkenning en verificatie in meerdere scenario’s en heeft een goede ondersteuning voor leeftijd, houding en lichtintensiteit.

Eén gezicht: 90 datapunten
Waar niet-Chinese gezichtsherkenning niet verder komt dan 15 tot 15 gelaatspunten, heeft Tencent een ongekend hoog niveau bereikt van 90 punten (!): wenkbrauwen (8 punten links en rechts), ogen (8 punten links en rechts), neus (13 punten), mond (22 punten) en gezichtscontour (21 punten), oogbol of pupil 2 punten, inclusief het geslacht van de gescande persoon. Bedenk daarbij dat Chinezen (bijna) allemaal zwart haar hebben en donkere spleetvormige ogen. Westerse systemen hebben bijvoorbeeld de grootst mogelijke moeite om niet-blanke of donkerhuidige mensen te herkennen, omdat deze veel meer biometrische overeenkomsten hebben dan bijvoorbeeld blanken.

Hoe gaat dit verder? Burgerrechtenbewegingen, advocaten en juristen staan reeds op de barricaden omdat gezichtsherkenning zonder grenzen voor overheden en bedrijven op een surveillancestaat of een bewakingsstaat uitdraait. Ook Amerikaanse commentatoren hameren erop dat rechten als privacy en je vrij/ongecontroleerd in de publieke ruimte begeven grondwettelijk gewaarborgd zijn. Zij bepleiten strenge toezichtregels en de garantie dat gezichtsherkenning alleen acceptabel is voor het opsporen van criminelen, terroristen en aanverwant gespuis èn wanneer andere middelen hiervoor onvoldoende toereikend zijn (proportionaliteit).

Of dit voldoende zal blijken is zeer de vraag. De Europese Unie is nu eenmaal een moloch met weinig oog voor nationale (grond)rechten van burgers. Dan kan ze wel beloven streng te zijn op gezichtsherkenning, maar er is geen enkele garantie dat dit in de toekomst toch weer verschuift. En niet alleen de Nederlandse inlichtingendiensten en het leger piesen op dit punt geregeld naast de pot. Zie ook hun collega’s in Frankrijk en Duitsland, om nog maar eens wat te noemen. Dat bijvoorbeeld de NSA, CIA en FBI binnen alle regels spelen – en hun Europese collega’s nooit af en toe een handje helpen – daarover zal ook niemand enige illusie hebben. Blijft allen waakzaam!

8 reacties

  1. Youp schreef:

    Dat gaat er allemaal komen. Net als het digitale paspoort wat geen reispas mag heten maar zonder welke je niet kunt reizen.

  2. Grapjas schreef:

    Sloop tegen die tijd allen 1 camera per dag. Men HOEFT geen schaap te zijn.
    Want natuurlijk gaat zo’n systeem fout. Overheden kiezen altijd voor dictatuur indien de kans zich aandient.
    Zie corona.
    En ELKE burger die stelt dat VEILIGHEID boven PRIVACY gaat- rot maar oo naar Noord-Korea.
    Want op dit gebied is het zwart wot- ons leven of dat van een Noors- Koreaan.
    Een ‘beetje’ dictatuur bestaat niet.

  3. Johan P schreef:

    We zijn helemaal niet op weg naar een totalitaire staat, daar zijn we al lang beland.
    Wel zijn we in sneltreinvaart op weg naar de volgende stap; waar de staat als een soort god haar slaven, of vee, op ieder constant digitaal kan volgen en op ieder gewenst moment uit kan schakelen door ‘privileges’ op te schorten. Dan heb ik het over reizen, betalen, een bar of bioscoop bezoeken etc.

  4. Anonymous schreef:

    Wat u toestaat wat een ander maar moet ondergaan, omdat u denkt dat u daar zelf geen last van heeft, is hetgeen dat dubbel zo hard op uw eigen bordje gaat landen. Geef nooit nog meer macht aan hen die met hun huidige macht er al een puinhoop van maken, want wanneer ze die ander hebben leeggeroofd, bent uzelf aan de beurt. Menselijk kapitaal, en ander kapitaal, leegroven is waar deze lieden in gespecialiseerd zijn, uitstel is geen afstel.

  5. Ei schreef:

    Zo iets hebben we toch al? Dacht dat dit al jaren bij de overheid functioneerde. (Daarom zijn petjes zo in) Nas producent Synology maakt reclame voor gezichtsherkenning voor gebieds- en toegangscontrole. In winkelcentra slaan ze je naar wifi zoekende telefoon op. Bijna niemand zet ze wifi en bt uit bij verlaten woning/kantoor.
    Bij de overheid en de private sector hebben ze al meer dan 15 jaar iets wat er op lijkt. De overheid heeft telefoonmast data aangestraald door mobiel e telefoons. De EU wenst dat landen dit 2 jaar bewaren incl gesproken nummers en sms’jes. En bijna iedereen heeft zo’n kekke smartphone. En deelt uit onwetendheid zijn of haar positie met Apple of Google (Android). Die dat al jaren bewaard. Tevens slaat bijna iedereen zijn contacten, agenda, bellijsten, sms, wachtwoorden, bookmarks en andere data “gratis” op in de cloud bij dezelfde firma’s. En in de VS hebben ze een wet die het verplicht op eerste verzoek onder andere deze gegevens te delen met de overheid. En die talloze “gratis” apps doen dit vaak ook. Maar dan bij de makers van die apps. PayPal gebruikt alle data incl de aankopen voor het beter maken van PayPal. Google en Alexa luisteren thuis mee, action Smartlampen/-schakelaars/-camera’s/-deurbel/-enz werken alleen via een server die staat in China. Niet alleen de action bijna alle smart home spullen. Slechts een aantal doen dat niet.. En uw surf en zoekgedrag wordt ook al jaren bijgehouden.
    Banken analyseren uw koopgedrag via uw rekening en hangen daar een krediet score aan. En nog veel meer. Hoezo privacy?
    U kunt vandaag alvast uw telefoon wat beter inrichten door wat vinkjes uit te zetten.
    Maar echt privé bent u nooit meer.

    Nog 1 dan. Vibrator fabrikant zend data door naar haar server. Via de app op de telefoon voor de draadloze bediening van dat ding. Echt gebeurd! En wellicht nog steeds.

  6. Cool Pete schreef:

    Heel belangrijk artikel.

    En goede aanvullingen van reageerders.

Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze website gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.