Gezichtsherkenning in supermarkten; het heeft voordelen, maar er kleven ook nadelen en privacy-risico’s aan. De privacy-toezichthouder tikte een Nederlandse supermarkt op de vingers, vanwege het gebruik van gezichtsherkenning. Wat zijn de voorwaarden om gezichtsherkenning te mogen toepassen? Ligt de lat te hoog voor supermarkten? IT-advocaat I Chu Chao werpt, in twee artikelen, een nadere blik op de zaak.
In deel 1: Wat is gezichtsherkenning en wat zijn de risico’s?
Gezichtsherkenning wordt al veel toegepast
Gezichtsherkenning; het klinkt als science-fiction, maar in de praktijk wordt gezichtsherkenning al vaker gebruikt dan je denkt. Denk hierbij aan de smartphone-gebruikers die hun telefoon ‘met het gezicht’ kunnen ontgrendelen. Of het taggen van vrienden in foto’s op Facebook, of het maken van een ‘face-swap’ via populaire apps als Reface en de ‘gezichtsverouderings-app’ FaceApp.
Gezichtsherkenning is een toepassing van kunstmatige intelligentie (in het Engels ‘artificial intelligence’ of ‘AI’). Het gaat om systemen die ‘intelligent gedrag’ vertonen door hun omgeving te analyseren en acties te ondernemen, om bepaalde doelen te bereiken.
AI-gebaseerde systemen kunnen volledig softwarematig zijn en opereren in de virtuele wereld (denk hierbij aan stemgestuurde assistenten, afbeelding-analyses, zoekmachines, stem- en gezichtsherkenning), of ze zijn verwerkt in hardware (bijvoorbeeld in geavanceerde robots, autonome voertuigen, drones of Internet of Things (IoT) toepassingen).
Toepassingen van gezichtsherkenning
Er bestaan diverse toepassingen van gezichtsherkenning met verschillende doeleinden:
- Identificatie: het identificeren van personen op basis van digitale opnamen uit een bestaande database van gezichtsprofielen;
- Verificatie: het 1-op-1 vergelijken van gezichtsprofielen om te bepalen of een persoon de ‘juiste’ persoon is;
- Matching: het vergelijken van afbeeldingen met andere afbeeldingen om foto’s van personen bij elkaar te zoeken, bijvoorbeeld voor het taggen van personen op sociale media;
- Categorisering: het detecteren van kenmerken om personen te categoriseren, bijvoorbeeld of iemand jong of oud is; en
- Emotie-classificering: het detecteren van emoties, bijvoorbeeld of iemand blij of boos is.
Gezichtsherkenning in retail
Ook in de retailsector staat gezichtsherkenning in de belangstelling. Gezichtsherkenning kan bijvoorbeeld worden gebruikt om winkeldiefstal tegen te gaan, sms’jes te sturen naar winkelbezoekers om aanbiedingen te sturen, of te betalen zonder kassa’s.
In Nederland installeerde een supermarkt een systeem met 80 camera’s waarmee gezichten van bezoekers kunnen worden vastgelegd. Deze afbeeldingen worden ‘gematcht’ met gezichtsafbeeldingen van mensen die een winkelverbod hebben.
De Autoriteit Persoonsgegevens (AP) was hier niet blij me. De AP stuurde een brief naar de branchevereniging voor supermarkten (CBL) met de regels over de toepassing van gezichtsherkenning. Ook stuurde de toezichthouder een formele waarschuwing naar de supermarkt.
Voordelen van gezichtsherkenning in supermarkten
Het gebruik van gezichtsherkenning kan voordelen hebben voor een supermarkt. Het vergt aanvankelijk een grote investering, maar het kan kostenbesparend uitpakken, als er minder winkelpersoneel of bewakers hoeven worden ingeschakeld. Naar eigen zeggen waren de doelstellingen van de supermarkt:
- de bescherming van winkelbezoekers en personeel; en
- het tegengaan van winkeldiefstal.
Nadelen en risico’s van gezichtsherkenning
Er kleven ook nadelen en risico’s aan gezichtsherkenning. Misbruik van gestolen afbeeldingen ligt op de loer. Op het ‘dark web’ kun je al voor 175 euro gezichtsafbeeldingen en locatiegegevens van nietsvermoedende personen kopen.
Het gebruik van ‘onschuldige’ toepassingen van gezichtsherkenning, zoals de ‘face-swap’ app ‘Reface’, kan gevolgen hebben die moeilijk zijn te overzien. Deze app past een ‘machine learning’ technologie toe (generative adversarial network of ‘GAN’) waarmee bestaande afbeeldingen van personen (gedeeltelijk) worden vervangen door andere afbeeldingen van een ander persoon; dit wordt ook wel ‘deep fake AI’ genoemd. Criminologie-experts zien ‘deep fake AI’ nu als een van de grootste technologische bedreigingen voor de mensheid, nog meer zelfs dan ‘killer robots’.
In geval van misbruik kan ‘deep fake AI’ potentieel grote schade aanrichten aan personen, bijvoorbeeld bij de manipulatie van pornografische afbeeldingen. ‘Deep fake AI’ kan zelfs worden toegepast voor de beïnvloeding van verkiezingen, door vervalsing van speeches.
Een ander nadeel van gezichtsherkenningssystemen is dat het eenvoudig om de tuin te leiden is. Een paar voorbeelden zijn: het schijnen van laserstralen (om de camera’s te verblinden), het aanbrengen van asymmetrische make-up op het gezicht, of het dragen van truien met verschillende gezichtspatronen erop afgebeeld.
Waarschuwing aan supermarkten
In Nederland wordt al sinds enkele jaren gebruik gemaakt van gezichtsherkenning-technologie, onder meer op luchthaven Schiphol, of in de gemeente Amsterdam rondom het Johan Cruyff Arena. Deze toepassingen hebben een sterke link met handhaving door de politie in de openbare ruimte.
De toepassing van gezichtsherkenning door het bedrijfsleven (zoals supermarkten) is in opkomst. Deze opmars lijkt niet gewenst, gelet op de waarschuwing van de privacy-toezichthouder aan de supermarktbranche. Dit roept de vraag op: mogen supermarkten nog wel gezichtsherkenning toepassen, of is dit uitgesloten?
Als het aan de privacy-toezichthouder ligt, dan mag gezichtsherkenning alleen worden gebruikt als hiervoor toestemming is gegeven, of voor de beveiliging van kerncentrales.
De lat ligt dus hoog, waarschijnlijk te hoog voor supermarkten. De AP vindt de beveiliging van supermarkten niet zó belangrijk, dat daarvoor biometrische gegevens (voor gezichtsherkenning) mogen worden gebruikt. Hiermee lijkt het uitgesloten dat supermarkten gezichtsherkenning mogen toepassen. De vraag is of dit juridisch gezien wel stand houdt.
Ga naar deel 2: Juridische analyse van gezichtsherkenning in supermarkten.
Wil jij meer weten over de juridische aspecten van gezichtsherkenning? Stuur me dan een bericht via de contactpagina.
