In de vroege ochtend, terwijl de zon opkomt, daalt mist neer over de Middellandse Zee. Een groepje mensen aan boord van een kleine boot probeert ongemerkt de Europese kust te bereiken. Het automatische signaal dat het vaartuig afgeeft over zijn locatie staat uitgeschakeld. In bange afwachting glijdt de boot steeds verder richting de kust. Boven hen komt zacht gezoem dichterbij. Hoewel ze denken dat niemand hen ziet, heeft een drone ze al in de gaten. Van honderden meters afstand nadert het brommende voertuig om te filmen wie er aan boord zit.

Op het vasteland kijkt een grensbewaker naar de live-beelden. Inlichtingen van satellieten, radars, drones, hittecamera’s en het weer zijn met behulp van artificiële intelligentie razendsnel bij elkaar gevoegd om de grensbewaker te helpen. De bewaker moet beslissen over hoe hij moet ingrijpen. De boot is aangemerkt als een mogelijke dreiging. De vraag is: zijn ze te goeder trouw of te slechter trouw?

Dit is geen sciencefiction. Het staat in een sales pitch van het I-Seamore-consortium¹, bestaande uit TNO, Thales Nederland en vijftien andere partners zoals defensiebedrijven, ministeries en kennisinstellingen uit elf verschillende Europese landen². Hun project is bedoeld om de grensbewaking van het continent te versterken en werpt een blik in de toekomst van hoe Europa met technologie haar buitengrens steeds uitvoeriger wil monitoren³. De customer value zit hem in de ‘geavanceerde technologieën’ die ‘zorgen voor effectieve detectie en reactie op irreguliere migratie’⁴. Met die technologie kunnen grenswachters niet alleen migranten tegenhouden, maar ook piraten, drugssmokkelaars en mogelijke terroristen uit Europa weren⁵. Althans, dat is de belofte.

Rol van kunstmatige intelligentie
Met het ingaan van het Migratiepact op 12 juni is de controle aan de Europese buitengrenzen flink strenger geworden. Het pact, waarover jarenlang fel is onderhandeld tussen Europese landen⁶, moet leiden tot ‘grip op migratie’⁷. Migranten van buiten Europa worden nu sneller gefilterd op de kans die ze maken op asiel⁸.

Kunstmatige intelligentie gaat hier een steeds belangrijkere rol in spelen⁹. Vanuit Europa is de wens om zelfs al voordat iemand de grens bereikt in te schatten of die een gevaar vormt voor de Europese veiligheid¹⁰.

Hoewel Nederland niet aan de Middellandse Zee ligt, speelt het een grote rol in het onderzoek en de ontwikkeling van de nieuwste grenstechnologieën. Dat blijkt uit onderzoek van Investico in samenwerking met De Groene Amsterdammer, Trouw en Argos. We bestudeerden 33 projecten van het prestigieuze Europese financieringsprogramma Horizon¹¹, waar Nederlandse bedrijven, overheden, kennisinstellingen en universiteiten aan meewerken.

Het Nederlandse TNO werkte, zo blijkt uit ons onderzoek, aan een omstreden leugendetectiesysteem. De kennisorganisatie experimenteerde met ‘micro-bewegingen’ die bijvoorbeeld een leugenachtige migrant van een ‘good guy’ zouden moeten onderscheiden.

In dit soort onderzoeken blijkt vrijwel alles geoorloofd. Onder het mom van ‘veiligheid’ ontwikkelen nationale overheden databanken en uitgebreide surveillancesystemen die migranten automatisch kunnen opsporen en sneller kunnen tegenhouden nog voor ze Europees grondgebied bereiken¹². Want hoewel er strenge regels zijn voor het gebruik van kunstmatige intelligentie op mensen¹³, werpen die vrijwel geen obstakels op voor experimenten met AI als het gaat om migranten, een uitzondering in de wet die zij delen met criminelen¹⁴. ‘Als je een migrant als veiligheidsrisico kunt neerzetten, verliest die als het ware zijn mensenrechten’, zegt hoogleraar Linnet Taylor.

‘Frictieloze’ buitengrens
Sinds het voorjaar moet iedereen die van buiten de EU naar Europa komt een vingerafdruk en een foto van het gezicht laten registreren in een centrale database¹⁵. Dat is het begin van een jarenlang streven om Europa te voorzien van een ‘frictieloze’ buitengrens. Europese burgers mogen vlot doorlopen. Van vreemdelingen moet volautomatisch en razendsnel worden vastgesteld of ze wel zijn wie ze zeggen te zijn.

Daarvoor kijken wetenschappers momenteel naar een heel scala aan biometrische gegevens¹⁶. Zoals de structuur van de huid op de palm van je hand en je vingers, maar ook de vorm van je wenkbrauwen, de dichtheid van de haartjes, de bloedvaten in het netvlies van je oog, je hartslag en je stemgeluid. Zelfs je manier van lopen. Die is lang niet zo uniek als je vingerafdruk, maar ‘jouw loopje’ kan net dat extra puzzelstukje voor de grenswacht zijn om je te identificeren.

‘Stel, je komt aanvaren op een boot en wordt op zee al herkend, of je hoeft de auto niet uit als je een landsgrens oversteekt omdat je al rijdend wordt herkend’, zegt Luuk Spreeuwers van de Universiteit Twente die zich bezighoudt met 3D-gezichtsherkenning.

De technische universiteit in Twente doet mee aan het zogenoemde Popeye-project¹⁷, waarvoor de Europese Commissie via haar subsidieprogramma Horizon ruim drie miljoen euro beschikbaar heeft gesteld. Met dit project willen ze mensen onderweg naar de grens, en dus op grote afstand, kunnen herkennen.

‘Het menselijk brein kan eigenlijk niet zo goed stilstaande gezichten, op een pasfoto bijvoorbeeld, met elkaar vergelijken. Je kan het wel leren, maar dat blijft een langzaam proces’, zegt Spreeuwers.

En waarom zouden mensen dat leren als computers dat veel sneller kunnen? Kunstmatige intelligentie kan het niet alleen sneller, maar ook beter. Een slim systeem kan meer biometrische eigenschappen zien dan een menselijke grenswacht. Die kijkt bijvoorbeeld niet alleen naar de vorm van de wenkbrauwen en de stand van de mond, maar ook naar eigenschappen die mensen niet zien.

‘Het zijn abstracte gezichtskenmerken,’ zegt Spreeuwers. ‘De wenkbrauwvorm en de dichtheid van de wenkbrauwhaartjes spelen een rol, maar we weten niet heel precies op welke detail AI let. Het systeem slaat als het ware statistische eigenschappen van wenkbrauwen op waarmee het mensen kan onderscheiden.’

Maar daar zit meteen ook het risico, want niemand weet waar de computer precies naar kijkt. Bij de grens schrokken ze zich dan ook ‘het apelazerus’ toen ze tijdens een eerder onderzoek van Spreeuwers zagen dat een vrouw met het paspoort van haar man de grens over kon steken, en de man met het paspoort van zijn vrouw. ‘Een menselijke grenswacht zou meteen het verschil hebben gezien, maar AI dus niet. De kenmerken waar het systeem naar keek, lagen blijkbaar zo dicht bij elkaar dat die geen verschil zag.’

Maar als zelfs wetenschappers niet weten waar de fouten zitten, kunnen er dan niet onopgemerkt allerlei vooroordelen de technologie insluipen? ‘Ja, dat kan voor problemen zorgen’, zegt Spreeuwers. ‘Bijvoorbeeld dat een bepaald type mens veel vaker wordt aangehouden, van iets wordt verdacht.’

Toch doet dat geen afbreuk aan een ideale, frictieloze toekomst. Spreeuwers ziet het wel voor zich: hoe je gezicht al varend, lopend of rijdend wordt gescand. Op die manier krijgt de marechaussee een signaal als er een persoon zonder de juiste documenten wil oversteken, en worden onmiddellijk extra collega’s opgeroepen om zo snel mogelijk in te grijpen.

Één groot model
Naast de kromming van huidplooien en de stand van haarzakjes, zijn er nog veel meer gegevens te verzamelen over mensen die de Europese grens willen oversteken. Met twaalf miljoen euro subsidie van de Europese Commissie gaat het samenwerkingsproject Asgard¹⁸ aan de slag met alle data die onderzoekers online kunnen vinden om ze in één groot model samen te brengen.

Bijvoorbeeld: Twitterdata, zoals pro-IS-tweets¹⁹, maar ook Skype-gesprekken over jihadisme²⁰, de ‘DeepFashion dataset²¹’, die meer dan 800.000 mode-afbeeldingen bevat, variërend van zorgvuldig gestileerde winkelfoto’s tot spontane consumentenfoto’s. Elke afbeelding in deze dataset is gelabeld met duizend beschrijvende kenmerken. Honderd miljoen afbeeldingen van Flickr, inclusief metadata over de tijd en de locatie van een foto. Een darkweb dataset met gegevens van Alphabay, dat was tien jaar geleden de grootste online zwarte marktplaats. Maar ook berichten van Sputnik, een gesanctioneerd Russisch staatsmedium en het neonazi forum Stormfront²².

Op basis van deze data ontwikkelen de Asgard-onderzoekers software om criminelen op te sporen of de routes van migranten naar Europa te traceren. Zo maken ze een sociale media analyse op basis van de Skype-gesprekken over jihadisme. En maken ze een ‘clothes identifier’ op basis van al die mode-foto’s, en willen ze iemands gender en accent kunnen achterhalen met hun innovatieve audio-tool²³.

Maar zijn al deze tools nodig? Wat kunnen grenswachten bijvoorbeeld met een DeepFashion dataset doen? Is het een manier om locaties op te sporen en er binnen te vallen of toont het aan dat migranten met een bepaald T-shirt een groter risico vormen? Dat is niet terug te lezen in de openbare documenten. Zo is voor vrijwel geen enkele van deze Europese projecten duidelijk hoe de ‘dreiging’ wordt vastgesteld.

Hoe groot de hoeveelheden data ook zijn, het krijgen van voldoende betrouwbare data om een algoritme mee te voeden blijft moeilijk, zegt Linnet Taylor, hoogleraar aan de Universiteit Tilburg²⁴. Taylor doet onderzoek naar technologie, AI en migratie. Mensen gaan nu eenmaal niet vertellen welke criminele dingen ze hebben gedaan of waar ze vandaan komen, zegt ze. ‘Een echte terrorist is zo zeldzaam dat je die nooit in een dataset kunt vatten. Je weet niet wat iemand wel of geen terrorist maakt. Hetzelfde geldt voor gevaarlijke migranten. Je moet de waarheid hebben over wie een slecht mens is, maar dat kún je niet weten op basis van data.’

‘Risicosturing’
De heilige graal in al deze projecten is onderscheid maken tussen wie goede en wie slechte intenties heeft. Daar breken onderzoekers bij TNO²⁵ zich al jaren het hoofd over. Het kennisinstituut deed in de afgelopen twee subsidierondes maar liefst acht keer mee in Europese Horizon-projecten over grenstechnologie en ontving hier de afgelopen tien jaar zo’n 4,5 miljoen euro voor²⁶.

Op verzoek²⁷ van de Koninklijke Marechaussee begon het instituut jaren geleden na te denken over ‘risicosturing’²⁸. Zo begint TNO in 2018, samen met onder meer de Koninklijke Marechaussee en de Griekse kustwacht, te experimenteren met risicoscores voor reizigers. Een nieuwe vorm van grenscontroles waarbij grenswachten onderscheid maken tussen ‘bonafide’ en ‘malafide’ reizigers²⁹. In een scenario van het zogenoemde ‘Tresspass-systeem’ legt TNO uit hoe een reiziger constant gevolgd en geanalyseerd wordt. In de folder van TNO staat een voorbeeld van een vrouw die niet uit Europa komt en per vliegtuig naar Nederland reist. Ze wil een lange tijd in de EU gaan werken, maar heeft hiervoor geen ­vergunning: een vorm van irreguliere migratie dus. Ze heeft ‘een dekmantel’ gecreëerd waarmee ze wil doen lijken alsof ze kort op familiebezoek komt en snel weer zal ­vertrekken³⁰.

Al vanaf het moment dat ze een vliegticket koopt, begint de risico-analyse. Omdat de reiziger niet heeft aangegeven wanneer ze terugreist, gaat het eerste rode lampje branden. Vervolgens worden haar sociale mediaberichten automatisch doorzocht. Zegt ze daar iets verdachts? Wanneer de reiziger in Nederland landt, loopt ze vanaf de gate naar de grenspost. Daar start fase twee: de automatische camera’s volgen haar looproute en observeren haar gedrag. Ze bestuderen haar van top tot teen: kleding, tatoeages, haarstijl, het kan allemaal relevant zijn, net zoals informatie over haar bagage en haar opgegeven voedselvoorkeuren onderweg³¹. Camera’s stellen vast dat ze de surveillerende grenswachten ontwijkt. Nu zijn er zoveel rode vlaggetjes, dat de risicoscore richting ‘malafide’ uitslaat. Ze moet mee voor verder onderzoek, en wordt onderworpen aan een uitvoerig interview met een menselijke grenswacht³². In de openbare documenten³³ over Tresspass staat te lezen dat hiervoor een nieuwe tool is ontwikkeld om de grenswacht daarbij te helpen.

Naast de grenswachter zou een laptop staan³⁴. Hierop zou de grenswacht niet alleen haar reisgegevens zien, maar wordt ook minutieus bijgehouden welke micro-bewegingen de reiziger vertoont. Zo slaat een metertje uit wanneer ze knippert, wanneer ze naar voren of achteren leunt en welke kant haar mondhoeken op bewegen. Dit zijn geen willekeurige signalen, maar allemaal bewegingen die iets kunnen zeggen over of de vrouw liegt. En moeten uitwijzen of ze hier echt alleen voor een familiebezoek komt.

Gezichtsspiertjes
Het detecteren van leugens is vrijwel onmogelijk, blijkt telkens weer uit wetenschappelijk onderzoek³⁵. Waarom wilde TNO het nu dan toch weer proberen? ‘Kansen om zoiets uit te vinden komen niet vaak voorbij’, zegt Jeroen van Rest van TNO, technisch coördinator van Tresspass. Het kennisinstituut begon zich tien jaar geleden al te verdiepen in leugendetectie, onder meer vanwege de terroristische aanslagen in Parijs en Zaventem³⁶. ‘Er was wetenschappelijk werk aan het opkomen dat stelde dat je naar gedragskenmerken kan kijken om te zien of mensen de waarheid vertellen of niet’, zegt Van Rest.

Bij het Tresspass-project met de Koninklijke Marechaussee en de Griekse kustwacht sloot ook het Amsterdamse AI-bedrijf Vicarvision zich aan. Directeur Tim den Uyl legt uit hoe hun eigen technologie in gezichtsherkenning werkt. Hij wijst naar zijn computerscherm met daarop het gezicht van een jonge man. Daaromheen staan allerlei balkjes en metertjes die kunnen vollopen. ‘Hiermee analyseren we video’s van gezichten door er een masker overheen te leggen met 500 punten die aangeven welk gezichtsdeel beweegt. Die punten hangen samen met spiergroepen die bepalen welke emotie uitslaat.’ Den Uyl beweegt de cursor over het scherm, de lippen van het gezicht gaan uit elkaar en de kaak zakt naar beneden. ‘Dit is een beweging van de gezichtsspiertjes waarvan het algoritme heeft geleerd dat het overeenkomt met iemand die verrast is.’

Op basis van dit programma ontwikkelden ze een nieuw systeem. Niet om emoties als verbazing te herkennen, maar om signalen te herkennen die kunnen wijzen op een leugen. Dat bleek nog niet zo gemakkelijk, want hoe weet je hoe leugenaars zich gedragen? De onderzoekers vinden in literatuur over leugendetectie een Amerikaanse database met beelden van verdachten en getuigen tijdens rechtszaken. Hiermee kunnen ze misschien wel achterhalen hoe iemand zich gedraagt als die liegt, is de gedachte. De onderzoekers worden teruggefloten door de ethische adviseurs van het project, de mensen op de beelden hebben nooit toestemming gegeven voor het gebruik ervan.

Daarop besluiten de onderzoekers zelf iets te improviseren met behulp van een kaartspel³⁷. ‘Mensen moesten twee verschillende kaartjes trekken’, legt Den Uyl uit. ‘Op een daarvan stond bijvoorbeeld een konijn met een hoed in het bos. Het andere kaartje zei of je moest meewerken of onzin moest verkondigen. Dan zei je iets als: “Ik zie een beer die lekker honing eet’”. Op basis van deze beelden pikten de onderzoekers uit welke signalen bij de liegende groep mensen horen. En zo zouden er uiteindelijk minstens vier signalen op het scherm van de interviewende grenswacht terechtkomen: knipperen, handbewegingen, naar voren en naar achteren leunen en of iemand oprecht lacht - ‘de Duchenne-glimlach’ – een lach met het hele gezicht in plaats van een neppe lach waarbij alleen de mond beweegt.

TNO en Vicarvision ontkennen dat het gaat om een leugendetector. De machine detecteert ‘geen leugens’, schrijft de TNO-woordvoerder in een reactie aan Investico, maar ‘fysieke gedragingen’. Die zouden de grenswacht helpen bij het achterhalen ‘van waarheden, halve waarheden en leugens’. Vicarvision benadrukt in een reactie dat ze naar ‘gedragsindicatoren’ keken die ‘mogelijk behulpzaam konden zijn’, en dat dit slechts ‘ter ondersteuning’ van de interviewende grenswacht was.

Daarnaast is het systeem volgens de TNO-woordvoerder niet enkel gericht tegen irreguliere migranten. Het is bedoeld om ‘reizigers die geen dreiging vormen, zo soepel mogelijk de grens te laten passeren’. Ook schrijft de woordvoerder dat wetenschappelijk is aangetoond dat dit soort technologie ‘kan bijdragen’ aan het detecteren van leugens. Desgevraagd, verwijzen ze naar een eigen studie van tien jaar geleden. Of het nieuw ontwikkelde systeem effectief was, kan de TNO-woordvoerder niet zeggen. De resultaten zijn geheim.

De woordvoerder benadrukt dat het Tresspass-onderzoek is gedaan in een omgeving ‘waar stevige ethische vangrails en transparantie aanwezig zijn’. Het project is in 2021 afgerond. TNO schrijft dat ze het systeem, dat ze zelf MMCAT, en later ISS noemde, niet verder hebben ontwikkeld.

‘Pseudowetenschappelijk beveiligingsgedoe’
Dat TNO samen met Vicarvision een leugendetector bouwden is nog opmerkelijker omdat de voorloper, project iBorderctrl, in 2018 voor veel ophef zorgde onder wetenschappers en politici³⁸. Dit project bouwde een automatische leugendetector. ‘Pseudowetenschappelijk beveiligingsgedoe dat geen enkele terrorist zal opsporen’, vond de Duitse Europarlementariër Patrick Breyer destijds³⁹. ‘Voor mensen die gestrest, nerveus of moe zijn, kan zo’n apparaat dat verdachtmakingen opwekt al snel een nachtmerrie worden.’

Gevraagd naar de onwenselijkheid van leugendetectie zegt TNO dat het project al gestart was toen de ophef in Brussel uitbrak. Ook is het een andere soort technologie, geen ‘automatische’ leugendetectie. Daarnaast, zegt Tresspass-coördinator Van Rest: ‘Ja, er zit iets in van een geloof in technologie. Het is technisch uitdagend en interessant, maar ethisch en juridisch natuurlijk ongelooflijk spannend.’

Opvallend is dat Den Uyl en zijn team een paar jaar later besluiten dat hun technologie niet gebruikt mag worden voor leugendetectie, enige vorm van surveillance of het geven van ‘sociale scores’. Het bedrijf nam dit zelfs op in het eigen reglement⁴⁰.

‘Ik ben heel blij dat wij geen software maken voor grenssystemen en dat overal verkopen. Ik had het heel erg gevonden als bijvoorbeeld ICE in de Verenigde Staten onze technologie zou gebruiken om mensen onterecht uit te zetten’, zegt Den Uyl. Wat de andere 24 projectdeelnemers met de onderzoeksresultaten doen heeft Vicarvision niet in de hand. ‘De techniek is van ons’, zegt Den Uyl. ‘Maar ik heb geen zicht op wat de anderen met de bevindingen doen.’

‘Een beetje experimenteren’
Met behulp van deze innovaties zullen grenswachten in de toekomst mensen eerder kunnen terugsturen aan de grens. Maar wanneer wordt een persoon als gevolg van leugendetectie geweigerd? En wanneer wordt een ‘verdacht’ bootje op weg naar de Europese kust teruggeduwd?

Via een videoverbinding met het hoofdkantoor in Warschau, spreken we Darek Saunders, hoofd van de afdeling Onderzoek, Innovatie en AI van Frontex. De Europese grensbewakingsdienst monitort veel van de Europese experimenten en voorziet ze van feedback over hoe deze innovaties nuttig kunnen zijn aan de grens.

‘Met deze onderzoeken experimenteren ze een beetje voor ons’, zegt Saunders. ‘Criminelen veranderen hun werkwijze constant, dus als je niet innoveert, misbruiken ze onze grens.’ Als we Saunders vragen hoe ze hierbij rekening houden met het risico dat dit soort innovaties ook gebruikt kunnen worden voor pushbacks, reageert hij schamper. Frontex is meermaals beschuldigd van betrokkenheid bij terugduwacties, momenteel loopt er een rechtszaak over hun rol hierbij⁴¹. Toch is het, zegt hij, in de acht jaar dat Saunders bij Frontex werkt tijdens de feedbackrondes nog nooit gegaan over pushbacks. Hij vindt het een ‘zeer hypothetische vraag’.

Op welke manier informatie over ‘verdachte’ bootjes of ‘kwaadwillende’ mensen dan wordt gebruikt, geven onderzoekers zelden prijs. Ook in de openbare documenten over de Europese experimenten staan vrijwel nooit specifieke risico-indicatoren aangegeven.⁴²

Wel zijn alle projecten voorzien van uitgebreide ethische beschouwingen waarin onderzoekers netjes alle risico’s opsommen die de projecten in zich dragen. Maar daar blijft het vaak bij. Zo zien de Tresspass-onderzoekers het risico dat er in het huidige, anti-democratische politieke klimaat misbruik gemaakt kan worden van ‘krachtigere en uitgebreidere surveillance’. Ze verwijzen ook naar de mogelijke terugduwacties door grensbewakers. Maar zelfs al leiden de ethische bespiegelingen tot de conclusie dat invasieve surveillance geen plek heeft in een rechtsstaat, ook niet aan de grenzen van die rechtsstaat, gaat het onderzoek door.⁴³

Alle wetenschappers die wij spraken, stelden we vragen over of deze technologie zich wel verdraagt met mensenrechten. Ze reageerden dat het ‘gewoon interessant is om onderzoek naar te doen’, ‘een kans om iets nieuws uit te vinden’, of ze zeggen het ‘voor de wetenschap’ te doen ‘en wat er in de praktijk mee gebeurt, aan beleidsmakers te laten’.

De Europese Commissie zegt dat de Horizon-onderzoeken belangrijk zijn om nieuwe technologie voor aan de grens te ontwikkelen. Ze geven desgevraagd geen inzicht in specifieke risico-indicatoren vanwege ‘veiligheidsrisico’s’. ‘Transparantie betekent in deze context niet noodzakelijk dat elke technische parameter van een algoritme openbaar moet worden gemaakt.’

De Commissie ontkent ook dat er binnen het project Tresspass een leugendetector is ontwikkeld. De Commissie erkent wel dat ‘systemen die beweren emoties of bedrog af te leiden aanleiding geven tot ernstige wetenschappelijke, ethische en juridische bezwaren’, maar geeft geen antwoord op de vraag of dat in het verleden heeft geleid tot de afwijzing van een project over grenstechnologie.

Dat die ethische bezwaren zo vrijblijvend zijn, heeft een dieperliggende reden. Europese AI-regels vormen weliswaar de strengste wetgeving ter wereld, met talloze gedetailleerde verboden om privacy en andere mensenrechten te beschermen. Voor migranten en operaties in grensbeleid gaan veel van dit soort regels niet op.

In de Europese AI-wet staat dat er ‘serieuze zorgen’ bestaan over de wetenschappelijke basis voor emotieherkenning en dat het tot discriminatie kan leiden. Het is dan ook verboden in het onderwijs of op de werkvloer. Politiediensten of grensbewakers mogen dit soort technologie wel gebruiken.⁴⁴ Hetzelfde geldt voor leugendetectie, dat mag niet zomaar gebruikt worden op burgers, maar wel voor het opsporen van criminaliteit en bij de grensbewaking.⁴⁵

Onbegrijpelijk, vindt Evelien Brouwer. ‘Dit zijn onbetrouwbare technologieën. Van leugendetectie is ook telkens weer door wetenschappers onderstreept, dat het niet werkt. Verschillende mensenrechtenorganisaties, Europese toezichthouders voor databescherming, ook de Nederlandse Autoriteit Persoonsgegevens, en het EU Agentschap voor grondrechten in Wenen hebben vastgesteld: gebruik geen leugendetectors in migratiebeleid. Niet alleen om de mensenrechten van vreemdelingen te beschermen, maar ook om een menselijke behandeling te garanderen. En toch werd leugendetectie toegestaan in de AI-wet.’

‘Migranten worden steeds vaker als een direct veiligheidsrisico beschouwd’, ziet hoogleraar Linnet Taylor. Die verliezen daardoor als het ware hun mensenrechten, waardoor vrijwel alles geoorloofd is aan de grens, zegt Taylor.

Dat maakt de grens tot een gesubsidieerde proeftuin voor defensiebedrijven, universiteiten en kennisinstellingen. Zij krijgen de kans om hun meest verregaande ideeën buiten de vier muren van hun laboratoria te testen. Geautomatiseerde en invasieve surveillance- en risicoprofilerende technologie die omwille van Europa’s lijvige privacy- en mensenrechtenbescherming moeizaam van de grond komt, krijgt zo alsnog een vruchtbare bodem om in te groeien.

Het leeghalen van telefoons, video-surveillance of het gebruik van leugendetectors, volgens migratie-expert Evelien Brouwer laten autoriteiten het op dit moment vooral toe vanuit de wens om mensen uit Europa te weren. Maar het is volgens Brouwer naïef om te geloven dat dit soort technologie aan de grens zal blijven. ‘Daar is al door meerdere wetenschappers en juristen voor gewaarschuwd. Als technologie eenmaal ontwikkeld is, wordt het ingezet. Uiteindelijk op iedereen.’

Deze publicatie is tot stand gekomen met steun van het Fonds Bijzondere Journalistieke Projecten.

Wij blijven onderzoek doen naar grenscontroles, technologie en kunstmatige intelligentie. Tips? Mail naar redactie@platform-investico.nl.